Rodzeństwo rozdzielono, posyłając je do domów dziecka i rodzin zastępczych.
Wychowujący się w domu dziecka Malcolm trafiając do szkoły został umieszczony w klasie, gdzie był jedynym czarnoskórym uczniem. Szkołę ukończył z najlepszymi ocenami w klasie, wówczas wymarzyła mu się kariera prawnika, od czego odwiódł go jego nauczyciel, który zasugerował mu, aby starał się o zawód odpowiedni dla osoby czarnoskórej. Zniechęcony do dalszej edukacji Little zrezygnował z niej i przeniósł się do Bostonu, podejmując się dorywczych prac w różnych branżach.
Z Bostonu trafił do nowojorskiego Harlemu. Tam poznał życie przestępcze. Wkrótce sam zaczął handlować narkotykami oraz dopuszczał się kradzieży.
Naród Islamu Więzienie W 1946 roku został złapany przez policję za kradzieże i skazany na 10 lat więzienia. W trakcie odbywania kary więzienia ponownie zainteresował się nauką. Tam też za namową swojego brata Reginalda, będącego członkiem Narodu Islamu, zainteresował się islamem. Poznając nauki lidera Elijaha Muhammada z Narodu Islamu doszedł do wniosku, że biali wykorzystują czarnych do swoich celów.