На 3 март 1862 г. вечерта напуска Карлово с коня на вуйчо си и отпътува за Пловдив, за да се сдобие с тескере. През София и Ниш се отправя към Белград, където се установява в началото на април.[11] В столицата на Сърбия се включва в Първата българска легия на Георги Раковски в Белград. Запознава се отблизо с бунтовните среди на българската емиграция – Христо Иванов-Големия, Иван Кършовски, Васил Друмев и др. Заради своята ловкост и храброст по време на сраженията с турския гарнизон в Белград от 3 – 5 юни 1862 г. при Варош капия, Сръпска круна и Байраклъ джамия. получава името Левски (според легендата е направил „лъвски“ скок по време на военни упражнения в Сърбия).[12] На този етап изпитва силно влияние от Георги Раковски и възприема идеята за организиране на чети, чрез които да се вдигне народът на въстание. В края на юни 1862 се присъединява и заедно с група легисти, е изпратен в Крагуевац, под ръководството на дядо Ильо войвода. Вместо военно обучение те трябвало да косят трева за сръбската армия, което довежда до конфликт с войводата им.[13] Разтурването на легията през септември 1862 го заварва в Крагуевац, където слугува у богат сърбин. Заедно с Христо Големия заминава за Белград, където до края на 1862 учи абаджийство, а в свободното си време посещава казармата за усвояване на военни знания.[14] В края на 1862 заминава за Влашко, където пребивава в столицата Букурещ до пролетта на 1863 (Според Васил Караиванов Левски заминава за Букурещ едва в ранната пролет на 1863 и не след дълго се завръща в България.[15] ). През пролетта на 1863 се завръща в България и се установява като певец в църквата в Карлово. През лятото същата година е арестуван за три месеца в затвора в Пловдив (според някои източници – за участието му в легията, според друг – по оплакването на вуйчо му за кражбата на коня му).[16] Според Васил Караиванов, и Левски, и вуйчо му, са арестувани в Пловдив, но само за месец.[17] През зимата на 1863 и пролетта на 1864 г. живее в Пловдив и посещава за няколко месеца училището на Йоаким Груев.[18]