W latach 1907–1909 uczestniczył w czterech ekspedycjach na Svalbard.

Podróż na Antarktydę W 1910 roku, na prośbę Nansena, został ponownie zabrany na pokład statku "Fram", przewożącego na Antarktydę ekspedycję Roalda Amundsena na biegun południowy. Początkowo nie znał jednak rzeczywistego celu wyprawy, myśląc – podobnie jak większość załogi – że płynie na biegun północny. O zmianie planów dowiedział się przed wypłynięciem z Madery, ostatniego portu, do którego zawinął "Fram" przed skierowaniem się na Antarktydę. Zaaprobował wówczas decyzję Amundsena i zgodził się podjąć wędrówkę na biegun południowy.

Podczas pobytu w bazie Framheim na Lodowcu Szelfowym Rossa odradzał Amundsenowi wyruszenie na południe natychmiast po zakończeniu nocy polarnej. Nie udało mu się jednak przekonać dowódcy i 8 września 1911 roku wraz z siedmioma towarzyszami rozpoczął marsz w kierunku bieguna południowego. Jego obawy okazały się uzasadnione. W związku z bardzo niskimi temperaturami Amundsen zarządził 12 września powrót do bazy. Podczas drogi powrotnej Amundsen wyruszył przodem na najszybszych saniach, zaś Johansen został w tyle wraz ze znacznie mniej doświadczonym Kristianem Prestrudem. W rezultacie powrócił do bazy po zapadnięciu zmroku, w zamieci śnieżnej, kilkanaście godzin po Amundsenie.