Po mandżursku nazwa Harbin oznacza „miejsce suszenia sieci rybackich”. thumb|left|Budynek dworca kolejowego w Harbinie thumb|left|Urząd Kolei Wschodniochińskich thumb|left|Chińska kawaleria w Harbinie, 1929 Historia miasta Harbin zaczyna się w 1898, kiedy na miejscu wsi powstała osada pomyślana jako stacja Kolei Wschodniochińskiej. W 1896 carska Rosja wykorzystała słabość Chin i narzuciła im traktat umożliwiający budowę linii łączącej najkrótszą drogą Syberię i Władywostok, z odnogą biegnącą do bazy marynarki w mieście Dalnyj (Dalian) i Portu Artur. W budowie tej linii kolejowej wzięło udział wielu Polaków, w tym inż. Adam Szydłowski, założyciel rosyjskiego Harbinu.
Po wojnie rosyjsko-japońskiej (1904–05) pozycja Rosji w regionie osłabła, a Harbin cieszył się statusem miasta handlowego. Mieszkali w nim przedstawiciele 33 narodowości, działały konsulaty sześciu państw. Szybki rozwój miasta w tym okresie sprawia, że niektórzy nazywają go „mandżurskim Hongkongiem”.