W latach 80. XX w. Bałka tworzył figuratywne rzeźby kojarzonych z nurtem neoekspresjonizmu. Od początku lat 90. XX w. zwrócił się ku minimalistycznym kompozycjom rzeźbiarskim, których tworzywem są proste materiały, takie jak surowy kamień, drewno, sól, popiół, substancje organiczne. Głównym tematem rzeźb i kompozycji Bałki jest ludzkie ciało i towarzyszące mu „codzienne” przedmioty i substancje, a także związana z ciałem pamięć. W jego twórczości pojawiają się aluzje do przemijania, istotny jest też temat Holokaustu.
Jest autorem pomnika ofiar katastrofy promu „Estonia” w Sztokholmie (1998), a także licznych realizacji przestrzennych, między innymi AUSCHWITZWIELICZKA, Kraków 2010, oraz HEAL, University of California, San Francisco 2009. W 2017 roku stworzył pracę „[(.;:?!–…)]” w Galerii Jednego Dzieła Muzeum Śląskiego w Katowicach.
Stworzył scenografię do utworów Pawła Mykietyna: Czarodziejska Góra (2015) i Herr Thaddäus (2017)Prawykonanie utworu odbyło się 17 grudnia 2017 roku w Filharmonii im. Mieczysława Karłowicza w Szczecinie, z udziałem Łukasza Koniecznego i Barbary Sierosławskiej (glosy z taśmy), Orkiestrą Akademii Beethovenowskiej dyrygował Wiktor Kociuban..