Windows CE jest zoptymalizowany dla urządzeń o minimalnej pamięci – jądro Windows CE może być uruchomione nawet w 1 MB pamięci. Urządzenia takie często nie mają dysku twardego, więc system może być konfigurowany jako „zamknięty”, bez obsługi dodatkowych rozszerzeń (np. może być zapisany w pamięci ROM). System obsługuje 256 priorytetów wykonywania i korzysta z dziedziczenia priorytetów w razie, gdyby doszło do ich inwersji. Podstawową jednostką wykonywania jest wątek, co umożliwia prostsze zarządzanie procesami. Oprócz obsługi przenośnych urządzeń, Microsoft oferuje również Windows CE w komputerach pokładowych samochodów wraz z systemem rozpoznawania mowy mającym zapewnić bezdotykową obsługę systemu operacyjnego.
Istnieją również inne systemy przeznaczone specjalnie na rynek PDA np.: Palm OS, Symbian, PVOS.
W większości PDA z systemem Windows CE jest również instalowany pakiet Microsoft Office, który obsługuje pliki tworzone przez pakiet Office z komputera PC.
Kwestia nazewnictwa Microsoft nie wypowiedział się jednoznacznie co oznacza skrót CE, lecz twierdzi, że taka nazwa nie była celowa. Oświadczył jednak, że CE wyrażać może w sobie wiele koncepcji, takich jak Compact (ang. Kompaktowy), Connectable (ang. Łącznościowy), Compatible (ang. Kompatybilny). Inna nazwa to "Compact Embedded" (ang.