Miejscowa ludność ceniła go za humanitarne gesty, jakie czynił w stosunku do najuboższych, udzielając bezpłatnych porad, a nawet przekazując pieniądze na zakup najpotrzebniejszych lekarstw.
Wygłaszane przez niego lewicowe poglądy oraz kontakty z działaczami PPS (m.in. ze Stanisławem Dubois) spowodowały, że 2 listopada 1934 został aresztowany pod zarzutem publicznej krytyki władz sanacyjnych i osadzony na Zamku w Kielcach. W więzieniu podjął dwutygodniowy strajk głodowy. Na skutek licznych interwencji opinii publicznej, prasy PPS, protestów komunistów z Francji i innych krajów, a także staraniem żony doktora Kwarty, Marii, która dotarła do prezydenta Ignacego Mościckiego z prośbą o uwolnienie, opuścił więzienie 22 stycznia 1935. Jednocześnie wojewoda kielecki zwolnił go ze stanowiska lekarza powiatowego i zawnioskował o przeniesienie na emeryturę.
W ostatnich latach przed wojną Kwarta pozostawał zaangażowany w lewicową działalność społeczną, przewodniczył oddziałowi TUR w Jędrzejowie, w 1935 uczestniczył w akcji bojkotu wyborów parlamentarnych. Na wiecach propagował ideę utworzenia ludowego frontu antyfaszystowskiego.