W 2004 roku zadebiutował w Niemieckiej Formule BMW. Pierwszy sezon ukończył na 3 miejscu w klasyfikacji generalnej mając 88 punktów. W kolejnym roku startów Buemiego w tej serii, wygrywając 7 wyścigów i jedno pole position zdobył tytuł wicemistrzowski, zdobywając 282 punkty. W tym roku wystartował również w Światowym Finale BMW, gdzie zajął 2. miejsce. Wystąpił też w jednej rundzie Hiszpańskiej Formuły 3, nie ukończył jej. W sezonie 2006 startował w Formule 3 Euroseries w zespole ASI Mücke Motorsport. Zdobywszy 31 punktów, w tym jedno podium ukończył sezon na 11 pozycji. Wystąpił również w prestiżowych zawodach, Grand Prix Makau i Formule 3 Masters at Zolder, gdzie zajął odpowiednio 2 i 4 miejsce. Startował w sześciu eliminacjach w Formule Renault 2.0 NEC i Eurocup w zespole Motopark Academy. Obie serie ukończył odpowiednio na 11 i 7 miejscu wygrywając trzy wyścigi i jedno pole position. Na przełomie 2006 i 2007 roku występował w barwach ekipy Szwajcarii w A1 Grand Prix, gdzie zajął 8. miejsce w generalce z dorobkiem 88 punktów. W 2007 kontynuował starty w F3, ponownie w barwach niemieckiej ekipy. Zdobył wtedy tytuł wicemistrzowski mając 95 punktów i przegrywając z Francuzem Romain Grosjean. Wygrał wówczas 3 wyścigi i zdobył dwa pierwsze pola startowe.