Stanisław Wiech, Stan gospodarczy probostwa, [w:] J. Wijaczka (red.), Z dziejów parafii szydłowieckiej, Szydłowiec 1998.. Przy parafii utrzymywał dom z przytułkiem, w którym mieszkało od siedmiu do dwunastu osób. Wikariuszem był przy nim ks. Wawrzyniec Szubartowicz, którego późniejszy biskup Juszyński mianował swoim kapelanem.
16 kwietnia 1859 został mianowany biskupem diecezjalnym diecezji sandomierskiej. Konsekracja odbyła się 10 lipca 1859 w Warszawie. Święceń biskupich udzielił mu arcybiskup Antoni Melchior Fijałkowski. Ingres do katedry sandomierskiej odbył 24 lipca 1859. W czasie 21 lat rządów diecezją sandomierską troszczył się o wzrost pobożności i intelektualną formację prezbiterów, wprowadził nabożeństwa majowe, zbudował dom biskupi.
14 września 1861 w sanktuarium na Świętym Krzyżu brał udział w odpuście, który stał się patriotyczną manifestacją tysięcy Polaków. Do powstania styczniowego odnosił się niezbyt przychylnie, nie uznawał zarządzeń władz narodowych, w 1864 przywrócił dziesięciny od chłopów. Bronił więzionych kapłanów, a wielu skazanych za czynny udział w powstaniu i patriotycznych demonstracjach uratował przed zsyłką, katorgą lub uwolnił z więzienia.