Lähdekoodi sivulle Todennäköisyysteoria

{{Lähteetön}}
'''Todennäköisyysteoria''' on [[matematiikka|matematiikan]] osa-alue, joka tutkii [[todennäköisyys|todennäköisyyksiä]] hyödyntäen [[mittateoria|mittateorian]] käsitteitä. Siinä tapahtumat käsitetään mitallisen avaruuden (ns. ''otosavaruus'') mitallisiksi osajoukoiksi, ja annetun tapahtuman todennäköisyys on sitä vastaavan joukon mitta. Koko otosavaruuden tulkitaan tarkoittavan ''varmaa tapausta'' ja sen mitta on 1. Aksiomaattisen pohjan todennäköisyysteorialle loi [[Andrei Kolmogorov]] vuonna 1933 teoksessaan ''Grundbegriffe der Wahrscheinlichkeitsrechnung'' ({{k-fi|Todennäköisyyslaskennan perusteet}})

== Todennäköisyysavaruus ==

{{katso myös|[[Todennäköisyyden aksioomat]]}}
Olkoon <math>\Omega</math> epätyhjä joukko (ns. ''[[perusjoukko (todennäköisyys)|perusjoukko]]'' eli ''otosavaruus'') ja <math>\mathcal{F}</math> [[sigma-algebra]] joukossa <math>\Omega</math>. Nyt kuvaus <math>\mathbb{P} : \mathcal{F} \rightarrow [0,1]</math> on '''todennäköisyysmitta''' (lyh. ''todennäköisyys'') jos se toteuttaa seuraavat kaksi ehtoa

# Kuvaus <math>\mathbb{P}</math> on [[mitta]]
# Otosavaruuden todennäköisyys on 1, eli <math>\mathbb{P}(\Omega)=1</math>.

Kolmikkoa <math>(\Omega,\mathcal{F},\mathbb{P})</math> kutsutaan ''todennäköisyysavaruudeksi'' tai ''todennäköisyyskentäksi''.

Sigma-algebran <math>\mathcal{F}</math> alkioita kutsutaan ''[[tapahtuma (todennäköisyys)|tapahtumiksi]]''. Tulkinnallisesti sigma-algebra on satunnaiskokeesta havaittavissa olevien, tai muuten mielenkiintoisten ja olennaisten lopputulosten joukko. Otosavaruuden alkioita kutsutaan ''[[alkeistapaus|alkeistapauksiksi]]'' tai ''otoksiksi'', ja varsinaisen satunnaisuuden, joka liittyy todennäköisyyteen taustalla olevana ilmiönä, ajatellaan liittyvän alkeistapauksen <math>\omega \in \Omega</math> valintaan todennäköisyysmitan <math>\mathbb{P}</math> määrätessä jakauman.

Tapahtuman <math>A \in \mathcal{F}</math> sanotaan ''sattuvan'', jos <math>\omega \in A</math>. Todennäköisyys, että <math>A</math> sattuu, on sen mitta <math>\mathbb{P}(A)</math>.

Tapahtumiin voi luonnollisesti ajatella liittyvän loogisia operaattoreita, kuten ''ei'', ''ja'' ja ''tai''. Nämä tulkitaan satunnaisilmiön kuvailussa [[Joukko-oppi|joukko-opin]] kielelle joukko-operaatioina. Tapahtuma <math>A</math> ei satu, jos sen [[komplementti]] sattuu: <math>\omega \in A^c</math>. Tapahtumat <math>A</math> ja <math>B</math> sattuvat, jos niiden [[Leikkaus (matematiikka)|leikkaus]] sattuu: <math>\omega \in A \cap B</math>. Tapahtuma <math>A</math> tai tapahtuma <math>B</math> sattuu, jos niiden [[yhdiste (matematiikka)|yhdiste]] sattuu: <math>\omega \in A \cup B</math>.

Tapahtuman <math>A</math> sanotaan sattuvan ''melkein varmasti'', mikäli <math>\mathbb{P}(A) = 1</math>.

=== Klassinen todennäköisyysmalli ===
{{Pääartikkeli|[[Klassinen todennäköisyyden määritelmä]]}}
Yksinkertaisin ja varhaisin todennäköisyysmalli perustuu ''symmetrisiin alkeistapauksiin'', ja sitä kutsutaan myös ''klassiseksi todennäköisyysmalliksi''. Tässä mallissa otosavaruus on
<div class="center"><math>\Omega = \{ \omega_1 , \omega_2 , \ldots , \omega_n \}</math></div>
ja kaikilla <math>i = 1,\ldots,n</math> on
<div class="center"><math>\mathbb{P} \{ \omega_i \} = \frac{1}{n}</math>.</div>
Tämä on erikoistapaus ''äärellisestä todennäköisyysavaruudesta'', joilla jälkimmäistä rajoitusta jakaumalle ei yleisesti ole. Äärellisille todennäköisyysavaruuksille voidaan valita ilman ongelmia sigma-algebraksi [[potenssijoukko]] <math>\mathcal{F} = \mathcal{P}(\Omega)</math>. Tämä merkitsee, että todennäköisyys on määriteltty kaikille perusjoukon osajoukoille.

=== Geometrinen todennäköisyysmalli ===
{{Pääartikkeli|[[Geometrinen todennäköisyys]]}}
Klassinen todennäköisyysmalli on erikoistapaus niin sanotusta geometrisesta todennäköisyysmallista. Geometrisessa todennäköisyysmallissa voimme minkä tahansa äärellismittaisen [[mitta-avaruus|mitta-avaruuden]] pohjalta rakentaa todennäköisyysmitan tähän avaruuteen. Täsmällisemmin jos <math>(X,\mathcal{F},\mu)</math> on mitta-avaruus, jonka perusjoukko on äärellis- ja positiivimittainen eli pätee <math>0 < \mu (X) < +\infty</math>, niin kuvaus <math>\mathbb{P} : \mathcal{F} \rightarrow [0,1]</math>,
<div class="center"><math>\mathbb{P}(A) = \frac{\mu(A)}{\mu(X)},</math></div>
on todennäköisyysmitta.

Esimerkiksi klassinen todennäköisyysmalli saadaan geometrisesta mallista jos mitaksi annetaan [[lukumäärämitta]]. Koulumatematiikassa tunnettu geometrinen todennäköisyys on taasen esimerkiksi lukusuoralla ja tasossa, joissa geometrisen todennäköisyyden mitta on saatu [[Lebesguen mitta|Lebesguen mitasta]].

=== Satunnaismuuttuja ===
{{Pääartikkeli|[[Satunnaismuuttuja]]}}

'''Satunnaismuuttuja''' on <math>\mathcal{F}</math>-mitallinen kuvaus <math>\Omega \rightarrow \mathbb{R}</math>. Se liittää todennäköisyyskentän Ω jokaiseen alkioon eli mahdolliseen alkeistapaukseen jonkin reaalilukuarvon. Jos siis alkeistapaus oletetaan valituksi, on satunnaismuuttujan arvo yksikäsitteisesti määritelty, joten siinä mielessä se ei ole satunnainen eikä muuttuja. Sovelluksissa todennäköisyyskentän alkiot kuitenkin tarkoittavat satunnaisia tapahtumia, jotka tapahtuvat tietyllä todennäköisyydellä, ja näin ollen satunnaismuuttujastakin voidaan käytännön kannalta sanoa, että se saa tiettyjä tai tietyllä välillä olevia arvoja tietyillä todennäköisyyksillä.

Yleisin tapa merkitä satunnaismuuttuja lienee iso kirjain, kuten <math>X</math>. Satunnaismuuttujaa merkitään joskus pienellä kirjaimella. Tällöin se tavataan erottaa vakioista, joita myös merkitään yleensä pienillä kirjaimilla, alleviivauksella, kuten <math>\underline{x}</math>, tai painolaadun salliessa lihavoinnilla, kuten <math>\boldsymbol{x}</math>.

Satunnaismuuttujan '''[[kertymäfunktio]]''' on reaalifunktio 
<div class="center"><math>x \mapsto \mathbb{P} \{ X \le x \}</math>.</div>
Se on kaikille satunnaismuuttujille olemassa ja yksikäsitteinen. 

Satunnaismuuttuja on ''[[Diskreetti satunnaismuuttuja|diskreetti]]'', jos perusjoukko on numeroituva, ja ''jatkuva'', jos sen kertymäfunktio on derivoituva, jolloin kyseistä derivaattaa kutsutaan '''tiheysfunktioksi'''. Satunnaismuuttujat, jotka eivät ole kumpaakaan kutsutaan muun muassa sekatyyppisiksi. Satunnaismuuttujaa sanotaan ''yksinkertaiseksi'', jos se voi saada vain äärellisen määrän eri arvoja. Nopanheitto käy esimerkiksi tällaisesta tilanteesta.

=== Riippumattomuus ===
{{Pääartikkeli|[[Tapahtumien riippuvuus]]|[[Satunnaismuuttujien riippuvuus]]}}

'''Riippumattomuus''' on tärkeä satunnaismuuttujien ja tapahtumien välinen ominaisuus. Satunnaismuuttujat <math>X</math> ja <math>Y</math> ovat riippumattomia, jos tulosääntö 
<div class="center"><math>\mathbb{P} ( \{ X \in B_1 \} \cap \{ Y \in B_2 \} ) = \mathbb{P} \{ X \in B_1 \} \mathbb{P} \{ Y \in B_2 \}</math></div>
pätee kaikilla [[Borel-joukko|Borel-joukoilla]] <math>B_1</math> ja <math>B_2</math>. 

Tapahtumat A ja B ovat riippumattomia, jos B tapahtuu yhtä suurella todennäköisyydellä, olipa A tapahtunut tai ei, ja kääntäen. Matemaattisesti voidaan määritellä, että <math>A</math> ja <math>B</math> ovat riippumattomat, jos satunnaismuuttujat <math>1_A</math> ja <math>1_B</math> ovat riippumattomat, missä <math>1</math> tarkoittaa [[indikaattorifunktio]]ta. Tämä on yhtä kuin ehto
<div class="center"><math>\mathbb{P}(A \cap B) = \mathbb{P}(A) \mathbb{P}(B)</math>.</div>

Vastaavat ehdot useammille satunnaismuuttujille ja tapahtumille on pädettävä kaikkien indeksikombinaatioiden yli. Esimerkiksi, tapahtumat <math>A</math>, <math>B</math> ja <math>C</math> ovat riippumattomat, jos kaikki yhtälöt
{| align="center"
!align=right|<math>\mathbb{P}(A \cap B \cap C)</math>
|<math>=</math> 
|<math>\mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C)</math>, 
|-
!align=right|<math>\mathbb{P}(A \cap B)</math>
|<math>=</math>
|<math>\mathbb{P}(A)\mathbb{P}(B)</math>,
|-
!align=right|<math>\mathbb{P}(A \cap C)</math>
|<math>=</math>
|<math>\mathbb{P}(A)\mathbb{P}(C)</math>,
|-
!align=right|ja <math>\mathbb{P}(B \cap C)</math>
|<math>=</math>
|<math>\mathbb{P}(B)\mathbb{P}(C)</math>
|}
pätevät.  

On mahdollista, että kolme (tai useampi) tapahtuma <math>A</math>, <math>B</math> ja <math>C</math> ovat kaikki '''pareittain riippumattomia''', mutta kokoelma <math>\{A, B, C\}</math> ei ole riippumaton.  Esimerkiksi olkoon kahden reilun kolikon heitossa tapahtuma <math>A</math>="ensimmäinen heitto oli klaava", tapahtuma <math>B</math>="toinen heitto oli klaava" ja tapahtuma <math>C</math>="heitot menivät eri päin".  Tällöin tapahtumat <math>A</math>, <math>B</math> ja <math>C</math> ovat kaikki pareittain riippumattomia: <math>\mathbb{P}(A\cap B)=\mathbb{P}(A\cap C)=\mathbb{P}(B\cap C) = 1/4 = \mathbb{P}(A)\mathbb{P}(B) = \mathbb{P}(A)\mathbb{P}(C) = \mathbb{P}(B)\mathbb{P}(C)</math>, mutta <math>\mathbb{P}(A\cap B \cap C)=0</math> ja <math>\mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C)=1/8</math>.

=== Tunnuslukuja ===

Satunnaismuuttujan <math>X</math> [[odotusarvo]] on sen [[integraali]] yli otosavaruuden, joka on todennäköisyysmitan avulla merkittynä
<div class="center"><math>\int_{\Omega} X \, d\mathbb{P}</math>.</div>
Sille on vakiintunut merkintä <math>\mathbb{E}X</math>. Satunnaismuuttujan <math>X</math> sanotaan olevan ''integroituva'', jos <math>\mathbb{E}|X| < \infty</math>.

Odotusarvo on satunnaismuuttujan tärkein [[tilastollinen tunnusluku|tunnusluku]]. [[Suurten lukujen laki]]en mukaan satunnaismuuttujan keskiarvo toistokokeessa on likimäärin sen odotusarvo.

Satunnaismuuttujan sanotaan olevan ''neliöintegroituva'', jos <math>\mathbb{E}X^2 < \infty</math>. Neliöintegroituvan satunnaismuuttujan <math>X</math> [[varianssi]] on <math>\mathbb{V}\mathrm{ar} X = \mathbb{E} (X-\mathbb{E}X)^2</math>.

=== Satunnaismuuttujajonon konvergenssi ===

Erilaiset konvergenssit ovat tärkeitä satunnaismuuttujien ominaisuuksia. Olkoon <math>(X_n)_{n \in \mathbb{N}}</math> jono satunnaismuuttujia. 
* jono ''suppenee melkein varmasti'', jos  <div class="center"><math>\mathbb{P} \{ \limsup_{n \rightarrow \infty} X_n = \liminf_{n \rightarrow \infty} X_n \} = 1 </math></div>
* jono ''suppenee stokastisesti'' kohti satunnaismuuttujaa <math>X</math>, jos kaikilla <math>\varepsilon > 0</math> pätee <div class="center"><math>\mathbb{P} \{ |X_n - X| > \varepsilon \} \rightarrow 0</math></div>
* jono ''suppenee jakaumaltaan'', jos niiden kertymäfunktioiden jono [[Pisteittäinen suppeneminen|suppenee pisteittäin]] jotakin kertymäfunktiota kohti kaikissa tämän rajakertymäfunktion jatkuvuuspisteissä.
* jos <math>\mathbb{E} X_n^2 < \infty</math> kaikilla <math>n \in \mathbb{N}</math>, niin ''suppenee kvadraattisesti'' kohti satunnaismuuttujaa <math>X</math>, jos <div class="center"><math>\sqrt{ \mathbb{E} (X_n - X)^2 } \rightarrow 0</math></div>

Jos jono suppenee kvadraattisesti tai melkein varmasti, niin se suppenee myös stokastisesti. Jos jono suppenee stokastisesti, niin se suppenee myös jakaumaltaan.

=== Ehdollinen todennäköisyys ja odotusarvo ===
{{Pääartikkeli|[[Ehdollinen todennäköisyys]]|[[Odotusarvo]]}}

Varsinkin koulumatematiikassa käytetään havainnollista ehdollisen todennäköisyyden määritelmää. Jos tapahtumalle <math>B</math> pätee <math>\mathbb{P}(B)>0</math>, niin tapahtuman <math>A</math> todennäköisyys ehdolla <math>B</math> on 
<div class="center"><math>\mathbb{P}(A \, | \, B) = \frac{\mathbb{P}(A \cap B)}{\mathbb{P}(B)}</math>.</div>
Tämä on tulkittava siten, että jos on ikään kuin tieto, että <math>B</math> sattuu eli <math>\omega \in B</math>, niin yllä oleva on todennäköisyys sille, että myös <math>A</math> on sattunut eli <math>\omega \in A \cap B</math>. Tästä lähtökohdasta voidaan todistaa seuraavat ominaisuudet:
* Ehdollinen todennäköisyys toteuttaa todennäköisyysmitan määritelmän. Täten mitalla <math>\mathbb{P}(\cdot \, | \, B)</math> on todennäköisyysmitan <math>\mathbb{P}(\cdot)</math> kaikki ominaisuudet. Esimerkiksi, jos <math>A_1</math> ja <math>A_2</math> ovat tapahtumia, niin yhteenlaskukaava pätee muodossa <math>\mathbb{P}(A_1 \cup A_2 \, | \, B) = \mathbb{P}(A_1 \, | \, B) + \mathbb{P}(A_2 \, | \, B) - \mathbb{P}(A_1 \cap A_2 \, | \, B)</math>
* jos tapahtumat <math>A</math> ja <math>B</math> ovat riippumattomia, niin <math>\mathbb{P}(A \, | \, B)=\mathbb{P}(A)</math>
* ''kertolaskukaava'': <math>\mathbb{P}(A \cap B) = \mathbb{P}(A)\mathbb{P}(B \, | \, A)</math>

Satunnaismuuttujan <math>X</math> '''ehdollinen odotusarvo''' alisigma-algebralla <math>\mathcal{G} \subset \mathcal{F}</math> on <math>\mathcal{G}</math>-mitallinen satunnaismuuttuja <math>\mathbb{E} (X \, | \, \mathcal{G})</math>, jolle yhtälö 
<div class="center"><math>\int_G \mathbb{E} (X \, | \, \mathcal{G}) \, d\mathbb{P} = \int_G X \, d\mathbb{P}</math></div>
pätee kaikilla <math>G \in \mathcal{G}</math>. Satunnaismuuttujan <math>X</math> ehdollinen odotusarvo ehdolla satunnaismuuttuja <math>Y</math> on <math>\mathbb{E}(X \, | \, \sigma(Y))</math>, missä <math>\sigma (Y)</math> tarkoittaa satunnaismuuttujan <math>Y</math> virittämää sigma-algebraa.

On huomattava, että ehdollinen odotusarvo on satunnaismuuttuja, eli funktio, eikä [[reaaliluku]]. Ehdollinen odotusarvo ehdolla <math>G \in \mathcal{G}</math> on <math>\mathbb{E} (X \, | \, \mathcal{G}) (\omega)</math>, missä <math>\omega \in G</math>, on reaaliluku.

Ehdollisen odotusarvon ominaisuuksia:
* jos <math>X \geq 0</math>, niin <math>\mathbb{E}(X \, | \, \mathcal{G}) \geq 0</math>
* <math>\mathbb{E}(\mathbb{E}(X \, | \, \mathcal{G})) = \mathbb{E}X</math>
* ''karkeus voittaa aina'' eli ''iteratiivisuus'': jos <math>\mathcal{G} \subset \mathcal{H}</math>, niin <math>\mathbb{E}(\mathbb{E}(X \, | \, \mathcal{G}) \, | \, \mathcal{H}) = \mathbb{E}(\mathbb{E}(X \, | \, \mathcal{H}) \,| \, \mathcal{G}) = \mathbb{E}(X \, | \, \mathcal{G})</math>
* lineaarisuus: jos <math>c_1 \in \mathbb{R}</math> ja <math>c_2 \in \mathbb{R}</math>, niin  <math>\mathbb{E} (c_1 X + c_2 Y \, | \, \mathcal{G} ) = c_1 \mathbb{E} (X \, | \, \mathcal{G} ) + c_2 \mathbb{E} (Y \, | \, \mathcal{G} )</math>
* jos <math>X</math> on <math>\mathcal{G}</math>-mitallinen, niin <math>\mathbb{E}(X \, | \, \mathcal{G}) = X</math>
* jos <math>X</math> on <math>\mathcal{G}</math>-mitallinen ja rajoitettu, niin <math>\mathbb{E}(XY \,| \, \mathcal{G}) = X \mathbb{E}(Y \, | \, \mathcal{G})</math>

Alisigma-algebran <math>\mathcal{G}</math> tulkinta on ikään kuin etukäteen havaittavissa oleva tieto satunnaismuuttujan arvosta. Triviaali sigma-algebra vastaa täydellistä epätietoisuutta, <math>\mathbb{E}(X \, | \, \{ \varnothing , \Omega \} ) = \mathbb{E}X</math>, ja satunnaismuuttujan virittämä sigma-algebra vastaa tarkkaa tietoa sen arvosta, <math> \mathbb{E} (X \, | \, \sigma(X)) = X </math>. 

Joukon <math>A</math> '''ehdollinen todennäköisyys''' on <math>\mathbb{P}(A \, | \, \mathcal{B}) = \mathbb{E} (1_A \,| \, \mathcal{B})</math>. Tämä yhtenee koulumatematiikan ehdollisen todennäköisyyden kanssa siten, että jos <math>\omega \in B</math>, niin <math>\mathbb{E}(1_A \, | \, \sigma(1_B)) (\omega) = \mathbb{P}(A \, | \, B)</math>.

== Todennäköisyyslaskennan kaavoja ==

Tapahtuma <math>A</math> ei satu todennäköisyydellä <math>\mathbb{P}(A^c) = 1-\mathbb{P}(A)</math>. Tapahtuma <math>A</math> sattuu, mutta <math>B</math> ei, todennäköisyydellä <math>\mathbb{P}(A \setminus B) = \mathbb{P}(A) - \mathbb{P}(A \cap B)</math>. Jos <math>A</math> ja <math>B</math> ovat toisensa poissulkevia, niin <math>\mathbb{P} (A \cup B) = \mathbb{P} (A) + \mathbb{P} (B)</math>. Jos <math>A</math> sattuu aina kun <math>B</math> sattuu, niin <math>\mathbb{P}(A) \geq \mathbb{P}(B)</math>.

=== Yhteenlaskukaava ===

Tapahtuma <math>A</math> tai  <math>B</math> sattuu todennäköisyydellä <math>\mathbb{P}(A \cup B) = \mathbb{P}(A) + \mathbb{P}(B) - \mathbb{P}(A \cap B)</math>. Yhteenlaskukaavan yleinen muoto: jos <math>A_1, \ldots , A_n</math> ovat tapahtumia, niin
{| align="center"
!align=right|<math>\mathbb{P} \left( \bigcup_{i=1}^n A_i \right)</math>
!align="center"|<math>=</math>
!align=left|<math>\sum_i \mathbb{P} (A_i) - \sum_{i<j} \mathbb{P} (A_i \cap A_j) + \sum_{i_1<i_2<i_3} \mathbb{P} \left( \bigcap_{j=1}^3 A_{i_j} \right)</math>
|-
|
|
!align=left|<math>- \ldots + (-1)^{k-1} \sum_{i_1 < \ldots < i_k} \mathbb{P} \left( \bigcap_{j=1}^k A_{i_j} \right) + \ldots + \mathbb{P} \left( \bigcap_{j=1}^n A_{i_j} \right)</math>
|-
|
!align="center"|<math>=</math>
!align=left|<math>\sum_{k=1}^n \left[ (-1)^{k-1} \sum_{i_1 < \ldots < i_k} \mathbb{P} \left( \bigcap_{j=1}^k A_{i_j} \right) \right]</math>
|}

=== Kokonaistodennäköisyyden kaava ===

Olkoon <math>B</math> tapahtuma ja tapahtumat <math>A_1, A_2, \ldots , A_n</math> perusjoukon [[ositus]]. Kokonaistodennäköisyyden kaava: 
<div class="center"><math>\mathbb{P}(B) = \sum_{i=1}^n \mathbb{P}(A_i )\mathbb{P}(B \, | \, A_i )</math>.</div>

=== Bayesin kaava ===

Olkoon <math>B</math> tapahtuma ja tapahtumat <math>A_1, A_2, \ldots , A_n</math> perusjoukon ositus. Bayesin kaava:
<div class="center">kaikilla <math>k=1,\ldots n</math> pätee <math>\mathbb{P}(A_k \, | \, B) = \frac{\mathbb{P}(A_k)\mathbb{P}(B \, | \, A_k)}{\sum_{i=1}^n \mathbb{P}(A_i)\mathbb{P}(B \, | \, A_i)}</math></div>
Lukua <math>\mathbb{P}(A_k)</math> kutsutaan ''prioritodennäköisyydeksi'' ja lukua <math>\mathbb{P}(A_k \, | \, B)</math> ''posterioritodennäköisyydeksi''.

=== Tuloperiaate ja summaperiaate ===

''Tuloperiaate'': jos satunnaiskoe koostuu <math>k</math>:sta kappaleesta riippumattomia vaiheita siten, että ensimmäisellä vaiheella on <math>n_1</math> eri tulosvaihtoehtoa, toisella vaiheella <math>n_2</math> tulosvaihtoehtoa, ja niin edelleen niin että viimeisellä vaiheella on <math>n_k</math> tulosvaihtoehtoa, niin koko kokeella on <math>n_1 \cdot n_2 \cdot \ldots \cdot n_k</math> tulosvaihtoehtoa.<sup>[[:en:Rule of product|(en)]]</sup>

''Summaperiaate'': jos satunnaiskoe koostuu <math>k</math>:sta kappaleesta toisensa poissulkevia ryhmiä lopputuloksia siten, että ensimmäisessä ryhmässä on <math>n_1</math> tulosvaihtoehtoa, toisessa ryhmässä <math>n_2</math> tulosvaihtoehtoa, ja niin edelleen niin että viimeisessä ryhmässä on <math>n_k</math> tulosvaihtoehtoa, niin kokeella on <math>n_1 + n_2 + \ldots + n_k</math> tulosvaihtoehtoa.<sup>[[:en:Rule of sum|(en)]]</sup>

== Todennäköisyysteorian lauseita ==

=== Konvergenssilauseet ===

Olkoon <math>(X_n)_{n \in \mathbb{N}}</math> jono satunnaismuuttujia, jonka raja-arvo
<div class="center"><math>\lim_{n \rightarrow \infty} X_n</math></div>
on melkein varmasti olemassa. 

[[Mittateoria#Konvergenssilauseet|Mittateorian konvergenssilauseet]] pätevät todennäköisyyden mittateoreettisen määrittelyn vuoksi sellaisenaan, kun integraali korvataan odotusarvolla ja mitallinen funktio satunnaismuuttujalla. Ne voidaan kuitenkin yleistää ehdolliselle odotusarvolle siten, että jonon raja-arvon oton ja ehdollisen odotusarvon oton järjestyksen voi vaihtaa:
<div class="center"><math>\lim_{n \rightarrow \infty} \mathbb{E} (X_n \, | \, \mathcal{G}) = \mathbb{E} (\lim_{n \rightarrow \infty} X_n \, | \, \mathcal{G})</math>melkein varmasti,</div>
missä <math>\mathcal{G}</math> on sigma-algebra.

==== Monotonisen konvergenssin lause ====

Oletetaan, että toinen alla olevista ehdoista on voimassa:
*<math>X_n \leq X_{n+1}</math> on melkein varmasti kaikilla <math>n \in \mathbb{N}</math> ja jollakin <math>n \in \mathbb{N}</math> pätee melkein varmasti <math>\mathbb{E}(X_n \, | \, \mathcal{G}) > -\infty</math>
*<math>X_n \geq X_{n+1}</math> on melkein varmasti kaikilla <math>n \in \mathbb{N}</math> ja jollakin <math>n \in \mathbb{N}</math> pätee melkein varmasti <math>\mathbb{E}(X_n \, | \, \mathcal{G}) < \infty</math>
Tällöin raja-arvon ja ehdollisen odotusarvon järjestyksen voi vaihtaa.

==== Dominoidun konvergenssin lause ====

Jos on olemassa integroituva satunnaismuuttuja <math>Y</math> siten, että <math>|X_n| \leq Y</math> melkein varmasti kaikilla <math>n \in \mathbb{N}</math>, niin raja-arvon ja ehdollisen odotusarvon järjestyksen voi vaihtaa.

=== Fatoun lemma ===

Olkoon <math>(X_n)_{n \in \mathbb{N}}</math> jono satunnaismuuttujia. Myös [[Mittateoria#Fatoun lemma|mittateorian Fatoun lemma]] voidaan yleistää ehdolliselle odotusarvolle:
<div class="center"><math>\mathbb{E} (\liminf_{n \rightarrow \infty} X_n \, | \, \mathcal{G}) \leq \liminf_{n \rightarrow \infty} \mathbb{E} ( X_n \, | \, \mathcal{G})</math></div>
ja
<div class="center"><math>\mathbb{E} (\limsup_{n \rightarrow \infty} X_n \, | \, \mathcal{G}) \geq \limsup_{n \rightarrow \infty} \mathbb{E} ( X_n \, | \, \mathcal{G})</math>,</div>
missä <math>\mathcal{G}</math> on sigma-algebra.

=== Suurten lukujen lait === 
[[File:Lawoflargenumbersanimation.gif|thumb|"Suurten lukujen lakia" kuvaava simulaatio. Joka kerta kun kolikkoa heitetään, laitetaan punainen tai sininen piste vastaavaan pylvääseen. Alussa ero voi olla suurikin, mutta lähenee lopulta arvoa 50 %.]]
Todennäköisyyslaskennassa [[suurten lukujen laki|suurten lukujen laeiksi]] kutsutaan riittäviä ehtoja sille, että satunnaismuuttujajonon keskiarvo suppenee (jollakin tavalla) kohti sen keskiarvon odotusarvoa. 
Jos kyseessä on erityisesti toistokoe, niin suurten lukujen lain voidaan tulkita ehdoksi sille, että kokeiden tulosten keskiarvo lähestyy kokeen odotusarvoa. 

Suurten lukujen laista on olemassa useita matemaattisina teoreemoina todistettuja muunnelmia. Niistä vanhin on toistokokeita koskeva, [[Jakob Bernoulli]]n todistama ''Bernoullin lause'': Oletetaan, että jos jokin toistokoe suoritetaan n kertaa ja joka kerta toisistaan riippumatta tietty tulos X saavutetaan tietyllä vakinaisella todennäköisyydellä P<sub>0</sub>.  Silloin jos ε on kuinka pieni positiivinen luku tahansa, niin todennäköisyys sille, että sellaisten kertojen suhteellinen osuus, joilla tulos X on saavutettu, poikkeaa P<sub>0</sub>:stä enemmän kuin ε:n verran, lähestyy nollaa, kun n kasvaa rajatta. Toisin sanoen jos n on kaikkien toistokertojen lukumäärä ja x sellaisten, joilla tämä tulos on saatu, niin

<div class="center"><math>\mathbb{P}\left (\frac{x}{n}\ - P_0 > \epsilon\right ) \rightarrow \ 0</math>,</div>
kun <math>n \rightarrow \infty</math>.


Esimerkiksi rahan heitossa kruunien ja klaavojen suhteelliset frekvenssit lähestyvät todennäköisesti puolikasta ja toisiaan, kun rahan heittämistä jatketaan. Tosin heitettiinpä rahaa kuinka monta kertaa tahansa, aina on mahdollista sekin, että kaikilla kerroilla tulee kruuna tai kaikilla klaava; tällainen sattuma vain käy sitä epätodennäköisemmäksi, mitä useampia kertoja heitto toistetaan.  Suurten lukujen laki ei myöskään tarkoita, että kruunien ja klaavojen lukumääräfrekvenssit lähestyisivät toisiaan. Suhteellisten frekvenssien lähestyminen ei edellytä tätä.

==== Kolmogorovin vahva suurten lukujen laki ==== 

Jos satunnaismuuttujat <math>X_n</math>, <math>n \in \mathbb{N}</math>, ovat riippumattomia, samoin jakautuneita ja <math>\mathbb{E} |X_1| < \infty</math>, niin jonon keskiarvo suppenee melkein varmasti kohti satunnaismuuttujien odotusarvoa, toisin sanoen 
<div class="center"><math>\frac{1}{n}\sum_{i=1}^n X_i \rightarrow \mathbb{E} X_1</math></div>
melkein varmasti kun <math>n \rightarrow \infty</math>.

=== Keskeinen raja-arvolause === 
{{pääartikkeli|[[Keskeinen raja-arvolause]]}}
Olkoot satunnaismuuttujat <math>X_n</math>, <math>n \in \mathbb{N}</math>, ovat riippumattomia, samoin jakautuneita, <math>\mathbb{E}X_i=\mu<\infty,\operatorname{Var}(X_i)=\sigma^2>0</math> ja <math>S_n=\sum_{i=1}^nX_i</math>. Tällöin
<div class="center"><math>\lim_{n\to\infty}</math><math>P\left (\frac{S_n-n\mu}{\sigma\sqrt{n}}\leq x\right )=\Phi(x)</math></div>
heikon konvergenssin mielessä. Tässä siis <math>\Phi</math> on [[Normaalijakauma|standardinormaalijakauman]] kertymäfunktio. Tulos pätee myös lievemmällä oletuksella, jota kutsutaan ''Lindebergin ehdoksi'', nimetty suomalaisen matemaatikko [[Jarl_Waldemar_Lindeberg|J.W. Lindebergin]] mukaan. Hän todisti ehdon riittävyyden, mikä on kenties merkittävin yksittäinen suomalaisen matemaatikon tulos - kyseinen ehto on nimittäin myös 
(tietyn tasapainoehdon vallitessa)
välttämätön ehto lauseen pätemiselle, ja siten ratkaisu [[1900-luku|1900-luvun]] alkupuolella vaikuttaneeseen keskeiseen raja-arvoprobleemaan.

=== Kolmogorovin 0–1-laki ===

Olkoon <math>(X_n)_{n \in \mathbb{N}}</math> jono riippumattomia satunnaismuuttujia. Merkitään äärettömän kaukaisista jonon <math>(X_n)_{n \in \mathbb{N}}</math> arvoista riippuvien tapahtumien sigma-algebraa symbolilla
<div class="center"><math>\mathcal{F} = \bigcap_{n \in \mathbb{N}} \sigma (X_n, X_{n+1}, \ldots)</math>.</div>

Jos tapahtuma <math>F \in \mathcal{F}</math>, niin
<div class="center"><math>\mathbb{P}(F)=0</math> tai <math>\mathbb{P}(F)=1</math>.</div>

Borelin–Cantellin lemma on erikoistapaus Kolmogorovin 0–1-laista.

==== Borelin–Cantellin lemma ====

Olkoon <math>(A_n)_{n \in \mathbb{N}}</math> jono riippumattomia tapahtumia. Tällöin
<div class="center"><math>\mathbb{P} (\limsup_{n \rightarrow \infty} A_n) = 0</math> tai <math>\mathbb{P} (\limsup_{n \rightarrow \infty} A_n) = 1</math>.</div>

Borelin–Cantellin lemmalla voidaan todistaa väite: "Jos apina paukuttaa kirjoituskoneella umpimähkäisesti äärettömän pitkään, kirjoittaa se lopulta kaikki [[William Shakespeare|Shakespearen]] teokset."

== Kirjallisuutta ==

* Pekka Tuominen: ''Todennäköisyyslaskenta I''. Limes ry (1996).
* Gustav Elfving ja Pekka Tuominen: ''Todennäköisyyslaskenta II''. Limes ry (1990).
* Kolmogorov: ''Foundations of the Theory of Probability'', (1933).
* Pertti Laininen: ''Todennäköisyys ja sen tilastollinen soveltaminen'', Otatieto (1998).
* Tommi Sottinen: [http://lipas.uwasa.fi/~tsottine/lecture_notes/tnt.pdf ''Todennäköisyysteoria''], (2006)

== Aiheesta muualla ==
{{commonscat}}
* [http://mathworld.wolfram.com/Probability.html MathWorld. Probability]
* [http://mathworld.wolfram.com/ProbabilityMeasure.html MathWorld. Probability Measure]
* [http://mathworld.wolfram.com/ProbabilityFunction.html MathWorld. Probability Function] {{Wayback|1=http://mathworld.wolfram.com/ProbabilityFunction.html |päiväys=20110815205500 }}
* [http://mathworld.wolfram.com/ConditionalProbability.html MathWorld. Conditional Probability]
* [http://mathworld.wolfram.com/BayesTheorem.html MathWorld. Bayes' Theorem]

[[Luokka:Todennäköisyyslaskenta]]
[[Luokka:Mittateoria]]
[[Luokka:Seulonnan keskeiset artikkelit]]

[[id:Peluang (matematika)]]