Suurten lukujen lain havainnollistus nopanheittojen avulla. Kun heittojen lukumäärä kasvaa, silmälukujen keskiarvo lähestyy arvoa 3,5. Pienellä määrällä heittoja keskiarvo voi poiketa tästä hyvinkin paljon, mutta suurella määrällä heittoja (oikealla) se pysyy yhä lähempänä tätä raja-arvoa.|thumb|right|400px

Suurten lukujen laki on toden­näköisyys­laskennan tulos, joiden mukaan sellaisten satunnais­muuttujien jonon keski­arvo, joilla on sama odotusarvo, voidaan tietyin edellytyksin ja tietyssä mielessä sanoa suppe­ne­van kohti niiden odotus­arvoa, kun satunnais­muuttujien luku­määrä kasvaa rajatta. Erityisesti toisto­kokeessa, jossa tietty tulos saadaan joka kerta yhtä suurella toden­näköisyydellä, tällaisten tulosten suhteellinen osuus kaikista koe­tuloksista lähestyy tämän toden­näköi­syyden osoittamaa lukua, kun toistojen luku­määrä kasvaa.

Suurten lukujen lailla on suuri käytännöllinen merkitys, koska se käytännössä "takaa", että satunnaisten ilmiöiden esiintymis­tiheys pitkällä aikavälillä voidaan ennustaa. Esimerkiksi vaikka pelikasino voikin menettää rahaa jollakin kerralla, kun rulettia pelataan, suurella määrällä pelikertoja sen kokonais­voitto voidaan kutakuinkin varmasti ennustaa. Niinpä jollekulle pelaajalle maksettavan voiton korvaavat kasinon pitäjän kannalta käytännössä varmuudella muiden pelaajien maksamat pelimaksut. Yhdessä keskeisen raja-arvolauseen kanssa suurten lukujen laki muodostaakin perustan koko matemaattiselle tilastotieteelle.

Nimensä mukaisesti suurten lukujen laki kuitenkin pätee vasta, kun käsitellään suurta määrää havaintoja. Ei ole olemassa sellaista säännön­mukaisuutta, jonka mukaan jo pienellä määrällä havaintoja tulosten keskiarvon pitäisi vastata kunkin kerran odotus­arvoa tai että satunnaista poikkeamaa keskiarvosta pitäisi välittömästi seuraavan kerran tuloksen "tasa­painottaa". Virheellistä kuvitelmaa, että sellainen säännön­mukaisuus olisi olemassa, sanotaan pelurin virhepäätelmäksi.

Esimerkkejä Esimerkiksi heitettäessä tavallista kuusisivuista noppaa yhden kerran saadaan jokin luvuista 1, 2, 3, 4, 5 tai 6, jokainen yhtä suurella todennäköisyydellä (edellyttäen ettei noppa ole "painotettu"). Näin ollen nopanheiton tuloksen odotusarvo on

Suurten lukujen laista seuraa, että jos noppaa heitetään hyvin monta kertaa, heittojen tulosten keskiarvo on todennäköisesti lähellä lukua 3,5, sitä tarkemmin, mitä useampia kertoja noppaa heitetään.

Suurten lukujen laista seuraa, että onnistuminen empiirinen todennäköisyys sarjassa Bernoullin kokeita suppenee kohti teoreettista todennäköisyyttä. Bernoullin satunnaismuuttujan odotusarvo on sama kuin onnistuminen teoreettinen todennäköisyys, ja kun sellaisia satunnaismuuttujia on n kappaletta ja ne ovat riippumattomat ja identtisesti jakautuneet, niiden keskiarvo lähestyy tätä arvoa.

Esimerkiksi kolikon heittäminen on Bernoullin koe. Kun "painottamatonta" kolikkoa heitetään kerran, teoreettinen todennäköisyys saada kruuna on 1/2. Niinpä suurten lukujen lain mukaan suuressa määrässä kolikonheittoja kruunien suhteellisuuden osuuden pitäisi olla noin 1/2. Erityisesti kruunien osuus n heiton jälkeen suppenee melkein varmasti kohti arvoa 1/2, kun n kasvaa rajatta.

Vaikka kruunien ja myös klaavojen suhteellinen osuus lähestyy arvoa 1/2, samoin ei ole kruunien ja klaavojen lukumäärän erotuksen laita. Päin vastoin, se kasvaa itseisarvoltaan melkein varmasti. Toisin sanoen todennäköisyys sille, että näiden lukumäärien erotus olisi itseisarvoltaan tietyn rajan alapuolella, lähestyy nollaa heittojen lukumäärän kasvaessa. Melkein varmasti myös tämän erotuksen suhde heittojen lukumäärään lähestyy nollaa. Tämä lukumäärien erotus kasvaa kuitenkin hitaammin kuin kaikkien heittojen lukumäärä.

Historia pienoiskuva|oikea|Diffuusio on esimerkki suurten lukujen lain toteutumisesta kemiallisissa ilmiöissä. Alun perin liuenneen aineen molekyylejä on vain väliseinän (purppuran­värisen viivan) vasemmalla, ei lainkaan oikealla puolella. Kun väli­seinä poistetaan, liuos täyttää pian koko säiliön. Ylhäällä: Yhden molekyylin liike näyttää täysin sattuman­varaiselta. Keskellä: Muutaman molekyylin tapauksessa liuoksella on jo taipumus täyttää koko säiliö vähitellen yhä tasaisemmin, mutta esiintyy myös satunnaisia fluktuaatioita. Alhaalla: Kun liuenneita molekyylejä on hyvin paljon eivätkä ne näy erikseen, satunnaisuutta ei näytä enää esiintyvän, vaan liuennut aine näyttää liikkuvan tasaisesti ja systemaattisesti sieltä, missä sen pitoisuus on suuri, sinne, missä sen pitoisuus ennestään on pieni. Käytännössä diffuusiota voidaankin käsitellä determi­nistisenä makro­skooppisena ilmiönä (Fickin laki), vaikka se molekyylitasolla onkin luonteeltaan satunnaisilmiö.

Italialainen matemaatikko Gerolamo Cardano (1501–1576) väitti ilman todistusta, että empiiristen tilastojen pätevyydellä on taipumus kasvaa otoskoon kasvaessa. Tämä väite muotoiltiin sittemmin suurten lukujen laiksi. Jakob Bernoulli todisti suurten lukujen lain erikois­tapauksessa, joka koskee kaksiarvoisia satunnais­muuttujia. Häneltä kesti yli 20 vuotta kehittää väitteelle riittävän täsmällinen matemaattinen todistus, jonka hän julkaisi teoksessaan Ars Conjectandi vuonna 1713. Hän nimitti sitä "kultaiseksi teoreemaksi", mutta nykyisin se tunnetaan Bernoullin lauseena. (Sitä ei pidä sekoittaa Jakob Bernoullin veljenpojan, Daniel Bernoullin mukaan nimettyyn Bernoullin lakiin fysiikassa.) Vuonna 1837 S. D. Poisson kuvaili tulosta tarkemmin ja antoi sille nimen "suurten lukujen laki" (). Tämän jälkeen tulos tunnettiin molemmilla nimillä, mutta "suurten lukujen laki" on yleisemmin käytetty.

Bernoullin ja Poissonin todistettua tuloksensa muut matemaatikot kuten Pafnuti Tšebyšov , Markov, Borel, Cantelli ja Kolmogorov kehittivät vahvempia tuloksia, kunnes lopulta Aleksandr Khintšin lopulta esitti suurten lukujen laille todistuksen, joka pätee mielivaltaisille satunnaismuuttujille. Nämä myöhemmät tutkimukset ovat johtaneet ennen kaikkea kahteen huomattavaan suurten lukujen lain muotoiluun. Toista sanotaan "heikoksi", toista "vahvaksi" laiksi, mitkä viittaavat kahteen erilaiseen tilastollisen suppenemisen muotoon. Kuten jäljempänä osoitetaan, heikko laki on samalla vahvan lain looginen seuraus.

Muotoilut

Seuraavassa käsitellään lähinnä kahta suurten lukujen lain muotoilua, heikkoa ja vahvaa suurten lukujen lakia, sekä heikon lain erikois­tapauksena myös Bernoullin lausetta. Lisäksi mainitaan uniforminen suurten lukujen laki ja Borelin suurten lukujen laki.

Lain kaikki versiot ilmaisevat matemaattisesti eri tavoin täsmennettynä periaatteen, että otoksen

keskiarvo suppenee suurella toden­näköisyydellä kohti odotusarvoa

kun X1, X2, ... on päättymätön jono riippumattomia ja samoin jakautuneita satunnaismuuttujia, joiden odotusarvo on E(X1 = E(X2) = ...= µ. Oletetaan, että funktiot Xj ovat integroituvia Lebesguen mielessä, jolloin satunnaismuuttujilla on odotusarvo ja se on äärellinen.

Sen sijaan suurten lukujen laki ei välttämättä edellytä, että näillä satunnaismuuttujilla on myös äärellinen varianssi Var(X1) = Var(X2) = ... = σ2 < ∞. Hyvin suuri tai ääretön varianssi tekee suppenemisen hitaaksi, mutta suurten lukujen laki silti pätee. Tämä oletus kuitenkin usein tehdään, koska todistus on silloin helpompi ja lyhempi.

Vahva ja heikko laki eroavat toisistaan siinä, mitä suppenemisen tilastollisessa mielessä katsotaan merkitsevän.

Heikko suurten lukujen laki thumb|Suurten lukujen lakia esittävä simulaatio. Joka kerta heitetään kolikkoa, jonka on toiselta puolelta punainen, toiselta sininen, ja vastaavaan sarakkeeseen tehdään merkintä. Pylväiden korkeus osoittaa tuloksina saatujen punaisten ja sinisten lukumäärät kuhunkin hetkeen mennessä. On huomattava, että suhteellinen osuus saattaa aluksi vaihdella paljonkin, mutta vähitellen se lähestyy 50 prosenttia. Heikko suurten lukujen laki eli Khintšinin laki sanoo, että otoksen keskiarvo konvergoi stokastisesti kohti odotusarvoa. Jos X1, X2, ... Xi on joukko pareittain riippumattomia, samoin jakautuneita satunnaismuuttujia, joilla on sama odotusarvo EXi = μ ja varianssi D2Xi = σ2 ja niiden keskiarvolle käytetään merkintää , niin

Tämä merkitsee, että jokaiselle positiiviselle luvulle ε pätee:

Tulos merkitsee oleellisesti, että valittiinpa mieli­­valtainen kuinka pieni positiivinen reaaliluku tahansa tarpeeksi suurella otoksella todennäköisyys, että havaintojen keskiarvo poikkeaa odotus­arvosta enemmän kuin tämän luvun verran eli jää sen välin ulkopuolelle, joka ulottuu odotus­arvosta kyseisen luvun verran kumpaankin suuntaan, lähestyy nollaa.

Tätä stokastista konvergenssia eli suppenemista in probability (i.p.) sanotaan myös satunnais­muuttujan heikoksi konvergenssiksi. Tätä suurten lukujen lain muotoa sanotaan heikoksi, koska satunnais­muuttujat voivat supeta heikosti (in probability) tässä selitetyllä tavalla, vaikka ne eivät suppenisikaan vahvasti (melkein varmasti) jäljempänä selitetyllä tavalla.

Bernoullin lause Bernoullin lause on suurten lukujen lain kauimmin tunnettu muoto ja itse asiassa heikon suurten lukujen lain erikoistapaus. Se koskee toistokokeita, joissa on vain kaksi mahdollista tulosta: jokin "suotuisa" tulos joko saadaan tai ei. Bernoullin lause sanoo, että jos tällainen koe suoritetaan n kertaa ja joka kerta tämä suotuista tulos tietyllä toden­näköisyydellä p, toistokertojen lukumäärän kasvaessa toden­näköisyys, että sellaisten kertojen suhteellinen osuus, jolloin tämä tulos saadaan, poikkeaa p:stä enemmän kuin annetun vakion ε verran, lähestyy nollaa. Toisin sanoen:

Tällaisen toistokokeen suoritus­kerta voidaan nimittäin käsittää diskreetiksi, Bernoullin jakaumaa noudattavaksi satunnais­muuttujaksi, joka voi saada vain kahta arvoa. Jos toista niistä merkitään luvulla 1, toista luvulla 0, ja arvo 1 saadaan joka kerta toden­näköisyydellä p, tämän satunnais­muuttujan odotus­arvo on p.

Vahva suurten lukujen laki

Vahva suurten lukujen laki sanoo, että samoilla ehdoilla otoksen keskiarvo suppenee melkein varmasti (, lyh. a.s.) kohti odotusarvoa. Jos X1, X2, ... Xi on joukko pareittain riippumattomia, samoin jakautuneita satunnaismuuttujia, joilla on sama odotusarvo EXi = μ ja varianssi D2Xi = σ2 ja niiden keskiarvolle käytetään merkintää , niin

Toisin sanoen jono {Xn} suppenee perusjoukon jokaisella alkeistapauksella lukuun ottamatta mahdollisesti tapahtumaa, jonka todennäköisyys on nolla, eli

Tämän todistus on monimutkaisempi kuin heikon lain. Laki oikeuttaa (Lebesguen mielessä integroituvien) satunnais­muuttujien tapauksessa odotusarvon intuitiivisen tulkinnan "pitkän aikavälin keskiarvona."

Melkein varmaa konvergenssia sanotaan myös satunnais­muuttujan vahvaksi konvergenssiksi. Tätä versiota sanotaan "vahvaksi laiksi", koska jokainen satunnais­muuttujien joukko, joka suppenee vahvasti (melkein varmasti), suppenee myös heikosti (in probablity). Vahvasta laista seuraakin heikko laki, mutta ei päin vastoin. Kun vahvan lain edellytykset täyttyvät, satunnais­muuttuja suppenee sekä vahvasti (melkein varmasti) että heikosti (in probability).

Matemaatikkojen keskuudessa on esitetty näkemyksiä, että molemmat lait olisi yhdistettävä ja että heikolla suurten lukujen lailla sellaisenaan on vain vähän mielenkiintoa. Molemmille laeille on kuitenkin olemassa yleistyksiä, jotka osoittavat niiden pätevän tietyillä edellä esitettyjä yleisemmilläkin edellytyksillä. On sellaisiakin tapauksia, joissa heikon lain tulos pätee, mutta vahvan ei.

Vahvan suurten lukujen lain laajin yleistys on Kolmogorovin lause, joka on samalla välttämätön ehto satunnais­muuttujien keskiarvon melkein varmalle kongervenssille. Jos X1, X2, ... Xi on joukko pareittain riippumattomia, samoin jakautuneita satunnais­muuttujia, joilla on sama odotusarvo EXi = μ, niin

,

jos ja vain jos odotusarvo EXi = μ on olemassa.

Erot vahvan ja heikon lain välillä