globalne modele parametryczne, gdzie wartości współczynników są takie same dla dowolnych wartości zmiennych objaśniających.
Ogólna postać modelu W zapisie formalnym model przybiera zwykle postać:
gdzie: – wektor zmiennych objaśniających (predyktorów), – zmienna objaśniana, – wektor współczynników regresji (zwykle będących liczbami rzeczywistymi) – funkcja regresji o wartościach w liczbach rzeczywistych, – błąd losowy, o rozkładzie być może zależnym od przy czym oraz Dzięki temu
Niekiedy wprowadza się do modelu także błąd zmiennych objaśniających. Wzór zwykle przybiera wówczas formę:
Miara błędu Celem konstrukcji modelu jest przybliżenie nieznanej funkcji przez jej estymator Sprowadza się to do takiego wyznaczenia wektora współczynników aby zminimalizować w zbiorze uczącym funkcję straty
gdzie jest ustaloną miarą odległościTo nie jest metryka – miara nie musi być symetryczna i może zachodzić między wartościami i (tzw. miara błędu).
Wybór miary bardzo wpływa na algorytm i wyniki regresji. Zwykle jako miarę błędów stosuje się sumę kwadratów różnic (błędów regresji):