Jako żołnierza i powstańca polskiego skazano go na karę śmierci przez rozstrzelanie, ale ponieważ Kalinowski podkreślał, że jest przede wszystkim Białorusinem, wyrok ten zamieniono na bardziej hańbiące powieszenie, karę przewidzianą dla chłopów i poddanych cara.
Został stracony 22 marca 1864 na Rynku Łukiskim w Wilnie i pochowany potajemnie na Górze Zamkowej na terenie rosyjskiej twierdzy Wilno w anonimowej mogile zbiorowej straconych powstańców.
Ekshumacja i uroczysty pogrzeb W 2017 podczas prac archeologicznych przypadkowo natknięto się na niezidentyfikowane szczątki ludzkie. Badania genetyczne pozwoliły ustalić ich tożsamość – należały do straconych dowódców powstania styczniowego w Wielkim Księstwie Litewskim, w tym do generała Zygmunta Sierakowskiego i Konstantego Kalinowskiego.
22 listopada 2019 został uroczyście pochowany na Cmentarzu na Rossie (Starej Rossie) w Wilnie wraz z Zygmuntem Sierakowskim i 18 innymi powstańcami styczniowymi.