Зондеркоманда состояла из 23 агентов германской разведки, намеченных для активной работы на территории СССР. В конце августа 1943 года Шилов был доставлен в Берлин к оберштурмбаннфюреру (подполковнику) СС Грейфе, который расспрашивал о его прошлом, выяснял причины, побудившие дать согласие на сотрудничество с германской разведкой. Грейфе рассказал о заданиях, которые придется выполнять на территории СССР — разведка, диверсии, террор, — и предложил подумать, что из этого больше устраивает Шилова, заявив, что снова вызовет его из лагеря в Берлин.
Шилов вернулся в Зандберг. Там произошла вторая встреча, окончательно решившая его судьбу. В начале сентября в лагерь приехали Власов и Жиленков, уже ставший его заместителем. Целью приезда была передача немцам отряда, сформированного из белогвардейцев и военнопленных, для участия в боях в Югославии. После «парада» Жиленков бродил по лагерю и беседовал с военнопленными. Шилов подошел к нему и они разговорились. Шилов рассказал, что согласился работать на германскую разведку и зачислен в зондеркоманду. Жиленков одобрил его поведение, заявив: «Наконец-то я увидел тебя там, где ты должен быть давно». В ходе дальнейшего разговора Шилов рассказал о том выборе, который предложил ему Грейфе.
Выслушав Шилова, Жиленков, чуть не брызгая слюной, в самых резких выражениях стал высказываться о советском правительстве и доказывать, что сейчас самой важной задачей является убийство Сталина, так как за этим последует развал Советского государства. Он горячо рекомендовал Шилову принять задание по террору и обещал по прибытии в Берлин принять необходимые меры для переброски Шилова в СССР. Сделав какие-то заметки в записной книжке, он вместе с Власовым уехал.
А вскоре Шилов вновь был вызван к Грейфе. Это было 4 или 5 сентября 1943 года. Грейфе вновь подробно расспрашивал Шилова о прошлом и причинах, по которым он выбрал задание по террору. Шилов сослался на рекомендации Жиленкова. После этого Грейфе предложил Шилову разработать и представить в письменном виде план совершения террористического акта. Для этого Шилова поселили в одной из гостиниц. В тот же день к нему приехал Жиленков, которому Шилов пожаловался на трудности в составлении плана. Жиленков увез Шилова к себе на квартиру и, как опытный аппаратчик, сам быстро составил план и предложил Шилову лишь переписать его. Большая часть плана состояла из антисоветских и антисталинских выпадов, доказывающих необходимость устранения Сталина, затем было указано, что теракт должен быть совершен путем проникновения на какое-либо торжественное заседание. Переписав план, Шилов лишь добавил, что ему нужны 500000 рублей, документы и пистолеты.
На следующий день Шилов вручил план Грейфе. Тот одобрил его и направил Шилова в распоряжение начальника команды «Цеппелин» («Норд») майора Отто Крауса, в город Псков, куда Шилов и прибыл 23 сентября 1943 года. В Пскове он занимался физической подготовкой и тренировался в стрельбе. Там же он использовался как агент-провокатор по выявлению советских партизан и подпольщиков.
6 ноября 1943 года Шилова вновь вызвали в Берлин. Грейфе интересовался, как идет подготовка, и дал указание ускорить ее завершение. Шилову объявили, что из Пскова он будет переведен в Ригу, так как в Пскове якобы слишком много советской агентуры, которая может узнать о подготовке Шилова к переброске за линию фронта. 5 декабря Шилов прибыл в Ригу, куда вскоре в связи с обстановкой на фронте была переброшена вся команда «Цеппелин».
В это время в жизни Шилова произошли два события. Во-первых, у него появилась жена — Шилова (Адамчик) Лидия Яковлевна, двадцатиоднолетняя дамочка неизвестного происхождения и профессии. Она была предложена ему германской разведкой в качестве напарницы-радистки, подготовленной командой «Цеппелин». Агенты понравились друг другу, и у них началась семейная жизнь.
Во-вторых, сразу же по приезде в Ригу Краус заявил Шилову, что он должен быть заброшен под видом инвалида Отечественной войны. В этой связи он потребовал, чтобы Шилов согласился на хирургическую операцию, в результате которой он станет хромать на одну ногу. Краус связал Шилова с немецкими врачами, которые доказывали ему, что после войны сделают еще одну операцию, после чего нога станет нормальной. Шилов категорически отказался от этого, ибо предложение было нелепым хотя бы потому, что хромота — особая примета.
Тогда Краус предложил хирургическим путем сделать на теле следы ранений. Шилов отказывался и от этого, но под давлением Крауса вынужден был согласиться. В рижском госпитале Шилову под наркозом сделали большую рану на животе и две небольшие раны на руках. Он пролежал в госпитале 14 дней. Послеоперационные следы были схожи с зарубцевавшимися ранами. Чтобы скрыть этот факт от жены, Шилов по указанию Крауса сообщил ей, что уезжает в командировку на фронт, а по возвращении из госпиталя рассказал, что был ранен. После 20 января 1944 года подготовка Шилова была продолжена. С ним занимался сам Краус, но, кроме того, у него были три беседы со знаменитым в то время Отто Скорцени. Шилов знал, что Скорцени участвовал в похищении Муссолини, который был арестован после капитуляции Италии. Первая встреча состоялась в ноябре 1943 года в Берлине. Скорцени расспрашивал Шилова о его прошлом. Беседа носила в основном ознакомительный характер.
В январе 1944 года Шилов получил приказ Крауса выехать в Берлин; его сопровождал переводчик СД Делле, который сообщил, что полковник Грейфе погиб в начале января 1944 года в автокатастрофе, а на его место назначен штурмбаннфюрер (майор) СС Хенгельхаут, который хочет познакомиться с Шиловым.
Через два-три дня Делле привез Шилова в служебный кабинет Скорцени, на Потсдамерштрассе, 28. В беседе Скорцени объяснил Шилову, какими личными качествами должен обладать террорист. По ходу он поделился деталями организации похищения Муссолини. При этом подчеркнул, что если Шилов хочет остаться живым, то должен действовать решительно и смело и не бояться смерти, так как малейшее колебание и трусость могут его погубить. Он рассказал, как во время похищения он, перепрыгнув через ограду замка, очутился в двух шагах от стоящего на посту карабинера. «Если бы я тогда хоть на секунду замешкался, — сказал Скорцени, — то погиб бы. Но я без колебаний прикончил карабинера и, как видите, выполнил задание и остался жив».
Весь разговор сводился к тому, чтобы доказать Шилову, что осуществление террористических актов в отношении специально охраняемых лиц вполне реально, что для этого требуются только личная храбрость и решительность и что при этом человек, участвующий в операции, может остаться живым и стать таким же героем, каким стал он, Скорцени. Тогда же, в январе 1944 года, состоялась и третья встреча Шилова со Скорцени. На этот раз он расспрашивал Шилова о Москве и пригородах и прямо поставил вопрос: возможно ли осуществление в СССР такой операции, какую он провел в Италии. У Шилова создалось впечатление, что Скорцени разрабатывает план похищения кого-то из руководителей советского правительства. Он ответил Скорцени, что, по его мнению, проведение такой операции в СССР намного сложнее, чем похищение Муссолини из Италии.
После последнего свидания со Скорцени началась стадия непосредственной подготовки Шиловых к заброске в СССР. В ходе этой подготовки 6 июня их на несколько дней должны были перебросить за линию фронта, так сказать для стажировки. Выполнив несложное задание, Шиловы должны были перейти линию фронта и вернуться в Ригу. Но по техническим причинам операция не состоялась. Теперь подготовка начала наращивать темпы. Шилова ознакомили уже не с тем «стратегическим» планом, который составил Жиленков, а с подробными указаниями о его дальнейших действиях.
Для заброски Шиловых в советский тыл был подготовлен четырехмоторный самолет специальной конструкции. Он имел несколько шасси с каучуковыми гусеницами, что позволяло садиться на неприспособленных площадках. В самолет был помещен мотоцикл с коляской, который выезжал из фюзеляжа по откидной платформе.