W 1935 otrzymał stypendium rządowe, które umożliwiło mu wyjazd do Francji, z tamtego okresu pochodzi wiele pejzaży. Po powrocie ponownie skupił się na twórczości, wystawiał swoje prace w Warszawie, Krakowie i Lwowie. Był członkiem krakowskiego Towarzystwa Artystów Grafików i Związku Zawodowego Polskich Artystów Plastyków. Latem 1939 we Francji miała miejsce wystawa objazdowa twórczości Kazimierza Dzielińskiego, ale w związku z sytuacją polityczną w sierpniu tego roku artysta powrócił do kraju.
Po mobilizacji brał udział w kampanii wrześniowej w stopniu majora, po jej upadku zaangażował się w walkę w szeregach Związku Walki Zbrojnej, a następnie Armii Krajowej. Aresztowany przez Gestapo został uwięziony w obozie koncentracyjnym w Płaszowie, przeżył katorżniczą pracę ale utracił zdrowie. Cztery lata po zakończeniu wojny krakowskie Towarzystwo Przyjaciół Sztuk Pięknych zorganizowało wystawę sześćdziesięciu obrazów z różnych etapów twórczości. W latach 50. wszedł w skład grupy Nurt. Zmarł w 1955 w Nowym Targu.
Twórczość Kazimierza Dzielińskiego obejmuje malarstwo olejne, akwaforty, akwatinty, przedmiotami które zajmowały artystę była martwa natura, pejzaże, portret.