W tym czasie klęski ponoszone w Galicji przez armię austriacką doprowadziły do zajęcia przez armię rosyjską Lwowa i całej Galicji wschodniej. Legion musiał ewakuować się w okolice Mszany Dolnej. Jednostka, mimo ostatecznego ukończenia formowania, nie weszła jednak do walki. Na skutek upadku morale wśród żołnierzy i sprzeciwu wobec żądanej przez austriackie dowództwo przysięgi na wierność cesarzowi, legion uległ rozwiązaniu.
Legiony Polskie Józef Haller objął dowództwo nad żołnierzami, którzy chcieli kontynuować walkę z Rosją w Legionach Polskich. Po przeformowaniu i uzupełnieniu szeregów nowymi ochotnikami objął stanowisko dowódcy 3. pułku legionów. W tym czasie awansowany do stopnia podpułkownika. 30 września 1914 wyruszył wraz ze swą jednostką z Krakowa na front w Karpatach Wschodnich. W niezwykle trudnych warunkach terenowych i klimatycznych Brygada wspomagała obronę przełęczy karpackich i broniła wojskom rosyjskim dostępu na Węgry.