Pierwszego maja 1776 Weishaupt razem z dwoma swoimi studentami założył Związek Perfektibilistów (niem. Bund der Perfektibilisten) (z łacińskiego perfectibilis, „zdolny do doskonalenia”). Jako symbol stowarzyszenia wybrał sowę, atrybut rzymskiej bogini mądrości Minerwy. Weishaupt pragnął chronić swych studentów przed jezuickimi intrygami, które wszędzie podejrzewał, przede wszystkim jednak chciał im zapewnić dostęp do współczesnej, krytycznej wobec Kościoła literatury. W tym celu założył Tajny Związek Mądrości (niem. Geheimer Weisheitsbund), będący początkowo jedynie kółkiem czytelniczym, liczącym nie więcej niż 20 członków.
Weishaupt postrzegał zakon różokrzyżowców jako stale wzmacniające się siły zła, którym należy się przeciwstawić. O tym mistycznym, związanym z wolnomularstwem zakonie pisał w 1790 w swoim dziele Pythagoras oder Betrachtungen über die geheime Welt- und Regierungskunst: