Pierwsze plany powstania Muzeum sięgają roku 1975 i obchodów stulecia krakowskiej komunikacji miejskiej. Duży wkład w organizację nowej jednostki muzealnej wniosły osoby zrzeszone w krakowskich instytucjach związanych z techniką, jak np. Sekcja Historyczna przy MPK w Krakowie, Stowarzyszenie Inżynierów i Techników Komunikacji czy Klub Miłośników Komunikacji Miejskiej. Nie sposób przecenić roli powstałego w 1990 roku Krakowskiego Towarzystwa Ochrony Zabytków Techniki, którego działania znacznie przyspieszyły organizację muzeum techniki w Krakowie.
Siedziba instytucji – kompleks przy ulicy św. Wawrzyńca 15 – była przez lata stopniowo remontowana i przystosowywane do potrzeb muzeum: od 2000 roku remont wozowni tramwajów elektrycznych wąskotorowych, warsztatów oraz elektrowni – obecna hala D w latach 2006–2007 remont wozowni tramwaju konnego – obecnie hala E w latach 2007–2008 remont hali z 1912 roku, garażu tramwajów elektrycznych normalnotorowych – obecna hala F.