Fisher-informaatio

Kohteesta Wikipedia
Loikkaa: valikkoon, hakuun

Matemaattisessa tilastotieteessä ja informaatioteoriassa Fisher-informaatio voidaan määritellä pistemääräfunktion varianssina, tai havaitun informaation odotusarvona. Bayesilaisessä tilastotieteessä posteriorin asymptoottinen jakauma riippuu Fisher-informaatiosta, eikä priorista. Fisher-informaatiota käytetään Bayesiläisessä tilastotieteessä myös Jeffreysin priorin laskemiseen

Määritelmä[muokkaa | muokkaa wikitekstiä]

Fisher-informaatiota merkitään ja sen tarkoitus on mitata kuinka paljon informaatiota havaittu aineisto sisältää parametrista . Koska pistemääräfunktion ensimmäinen momentti, eli odotusarvo on nolla niin sen varianssiksi, eli Fisher-informaatioksi, saadaan sen toinen momentti:

Mikäli log f(x; θ) on mahdollista derivoida kahdesti, voidaan Fisher-informaatio esittää myös muodossa:

Fisher-informaation voidaankin katsoa mittaavaan kaarevuutta suurimman uskottavuuden estimaatin lähellä. Itseisarvoltaan pienen Fisher-informaation omaavien uskottavuusfunktioiden kuvaajat ovat tasaisia ja sisältävät vähän informaatiota, kun taas paljon informaatiota sisältävien kuvaajat ovat kaarevampia ja Fisher-informaatio itseisarvoltaan suurempia.

Ominaisuuksia[muokkaa | muokkaa wikitekstiä]

Additiivisuus[muokkaa | muokkaa wikitekstiä]

Fisher-informaatio on additiivista. Toisistaan riippumattomien otosten sisältämän informaation määrä on otosten Fisher-informaatioiden summa.

Tyhjentävyys[muokkaa | muokkaa wikitekstiä]

Tyhjentävän tunnusluvun sisältämä Fisher-informaatio on sama kuin otoksen . Jos on tyhjentävä tunnusluku parametrille , niin silloin

joillekin funktioille g ja h.

Matriisimuoto[muokkaa | muokkaa wikitekstiä]

Olkoon N parametria siten, että on N × 1 vektori niin Fisher-informaatiomatriisi on N × N matriisi:

Fisher-informatiomatriisi on N × N positiivisesti semidefiniitti symmetrinen matriisi. Tietyin oletuksin tämä matriisi voidaan esittää muodossa:

Katso myös[muokkaa | muokkaa wikitekstiä]

Lähteet[muokkaa | muokkaa wikitekstiä]

  • Frieden, B. Roy (2004) Science from Fisher Information: A Unification. Cambridge Univ. Press. ISBN 0-521-00911-1.
  • Schervish, Mark J. (1995) Theory of Statistics, New York, Springer, kappale 2.3.1, ISBN 0-387-94546-6