Ryokichi Endo zaprojektował konwencjonalny dolnopłat ze stałym podwoziem z kołami osłoniętymi dużymi owiewkami. Aby uzyskać wymaganą zwrotność i dobre właściwości pilotażowe przy niskich prędkościach, Endo zaprojektował bardzo lekki samolot z dużymi powierzchniami nośnymi, co dawało bardzo niskie obciążenie skrzydła, a dużą zwrotność osiągnięto dzięki bardzo dużym powierzchniom sterowym. Pomimo że kokpit umieszczono nad skrzydłami, pilot miał bardzo dobrą widoczność w dół dzięki niewielkiemu skosowi krawędzi natarcia skrzydła. Dodatkową widoczność w dół zapewniały obserwatorowi okna w podłodze kadłuba.
Pierwszy prototyp został ukończony w marcu 1938, a pierwszy lot samolotu odbył się 20 kwietnia. Prototyp miał dobre właściwości pilotażowe i dużą zwrotność. Odkryto jednak, że cierpiał na wingtip stall (utrata siły nośnej przez końcówki skrzydła prowadząca do przeciągnięcia) i drugi prototyp otrzymał stałe sloty przy końcówkach skrzydeł, aby poprawić ten problem. We wrześniu 1939 powstał samolot szkolny Tachikawa Ki-55, który był niewiele zmodyfikowanym Ki-36. Samolot został zamówiony do produkcji w listopadzie 1938. Początkowo był produkowany w zakładach Tachikawa, a w 1940 rozpoczęto produkcję także w zakładach Kawasaki Kōkūki Kōgyō.