Pieņemsim, ka mums ir izlases paraugs no interesējošās populācijas. Mums var būt teorētisks modelis tam, kā populācija tiek izplatīts. Tomēr var būt vairāki iedzīvotāji parametri no kuriem mēs nezinām vērtības. Maksimālās varbūtības novērtēšana ir viens no veidiem, kā noteikt šos nezināmos parametrus.
Maksimālās iespējamības novērtēšanas pamatideja ir, ka mēs nosakām šo nezināmo parametru vērtības. Mēs to darām tādā veidā, lai maksimizētu saistīto locītavas varbūtības blīvuma funkciju vai varbūtības masas funkcija. Mēs to redzēsim sīkāk turpmākajā tekstā. Tad mēs aprēķināsim dažus maksimālās iespējamības novērtēšanas piemērus.
Maksimālās iespējamības novērtēšanas soļi
Iepriekš minēto diskusiju var apkopot šādi:
- Sāciet ar neatkarīgu izlases lielumu X paraugu1, X2,... Xn no kopīga sadalījuma, katram ar varbūtības blīvuma funkciju f (x; θ1,.. .θk). Thetas nav zināmi parametri.
- Tā kā mūsu izlase ir neatkarīga, varbūtība iegūt konkrētu paraugu, ko novērojam, tiek iegūta, reizinot mūsu varbūtības. Tas dod mums varbūtības funkciju L (θ 1,.. .θk) = f (x1 ;θ1,.. .θk) f (x2 ;θ1,.. .θk)... f (xn ;θ1,.. .θk) = Π f (xi ;θ1,.. .θk).
- Tālāk mēs izmantojam Aprēķins atrast teta vērtības, kas maksimāli palielina mūsu varbūtības funkciju L.
- Precīzāk, mēs diferencējam varbūtības funkciju L attiecībā pret θ, ja ir viens parametrs. Ja ir vairāki parametri, mēs aprēķinām L daļējos atvasinājumus attiecībā uz katru no teta parametriem.
- Lai turpinātu maksimizācijas procesu, iestatiet L atvasinājumu (vai daļējus atvasinājumus) vienādu ar nulli un risiniet teta gadījumā.
- Pēc tam mēs varam izmantot citas metodes (piemēram, otro atvasinājumu testu), lai pārbaudītu, vai esam atraduši maksimumu savai varbūtības funkcijai.
Piemērs
Pieņemsim, ka mums ir sēklu pakete, no kurām katrai ir pastāvīga varbūtība lpp dīgtspējas panākumi. Mēs stādām n no tiem un saskaitiet to skaitu, kas sadīgst. Pieņemsim, ka katra sēkla dīgst neatkarīgi no pārējām. Kā mēs nosakām parametra maksimālo varbūtības novērtētāju lpp?
Sākumā atzīmējam, ka katra sēkla ir veidota pēc Bernulli sadalījuma ar panākumiem lpp. Mēs ļāvāmies X ir 0 vai 1, un masas varbūtības funkcija vienai sēklai ir f(x; lpp ) = lppx(1 - lpp)1 - x.
Mūsu izlase sastāv no n savādāk Xi, katram no tiem ir Bernoulli sadalījums. Sēklām, kas dīgst, ir Xi = 1 un sēklām, kuras neizdīgst, ir Xi = 0.
Varbūtības funkciju piešķir:
L ( lpp ) = Π lppxi(1 - lpp)1 - xi
Mēs redzam, ka varbūtības funkciju ir iespējams pārrakstīt, izmantojot eksponentu likumus.
L ( lpp ) = lppΣ xi(1 - lpp)n - Σ xi
Tālāk mēs atšķir šo funkciju attiecībā uz lpp. Mēs pieņemam, ka vērtības visiem Xi ir zināmi, un līdz ar to ir nemainīgi. Lai atšķirtu varbūtības funkciju, mums jāizmanto produkta likums kopā ar jaudas likumu:
L '( lpp ) = Σ xilpp-1 + Σ xi (1 - lpp)n - Σ xi- (n - Σ xi ) lppΣ xi(1 - lpp)n-1 - Σ xi
Mēs pārrakstām dažus negatīvos eksponentus un esam:
L '( lpp ) = (1/lpp) Σ xilppΣ xi (1 - lpp)n - Σ xi- 1/(1 - lpp) (n - Σ xi ) lppΣ xi(1 - lpp)n - Σ xi
= [(1/lpp) Σ xi - 1/(1 - lpp) (n - Σ xi)]ilppΣ xi (1 - lpp)n - Σ xi
Tagad, lai turpinātu maksimizācijas procesu, mēs šo atvasinājumu iestatījām vienādu ar nulli un atrisinām p:
0 = [(1/lpp) Σ xi - 1/(1 - lpp) (n - Σ xi)]ilppΣ xi (1 - lpp)n - Σ xi
Kopš lpp un (1- lpp) ir tādi, kas mums nav nulles
0 = (1/lpp) Σ xi - 1/(1 - lpp) (n - Σ xi).
Reizinot abas vienādojuma puses ar lpp(1- lpp) dod mums:
0 = (1 - lpp) Σ xi - lpp (n - Σ xi).
Mēs paplašinām labo pusi un redzam:
0 = Σ xi - lpp Σ xi - lppn + pΣ xi = Σ xi - lppn.
Tādējādi Σ xi = lppn un (1 / n) Σ xi = p. Tas nozīmē, ka maksimālās iespējamības novērtētājs ir lpp ir vidējais paraugs. Konkrētāk, tā ir diedzēto sēklu paraugu proporcija. Tas pilnīgi saskan ar to, ko mums pateiktu intuīcija. Lai noteiktu sēklu proporciju, kas dīgst, vispirms apsveriet paraugu no interesējošās populācijas.
Soļu modifikācijas
Iepriekšminētajā darbību sarakstā ir dažas modifikācijas. Piemēram, kā mēs redzējām iepriekš, parasti ir vērts veltīt laiku, izmantojot kādu algebru, lai vienkāršotu varbūtības funkcijas izteikšanu. Iemesls tam ir diferenciācijas atvieglošana.
Citas izmaiņas iepriekšminētajā darbību sarakstā ir dabisko logaritmu ņemšana vērā. Funkcijas L maksimums notiks tajā pašā punktā kā dabiskā L logaritma gadījumā. Tādējādi ln L maksimizēšana ir līdzvērtīga L funkcijas maksimizēšanai.
Daudzas reizes, ņemot vērā eksponenciālo funkciju klātbūtni L, dabiskā L logaritma ņemšana ievērojami vienkāršos dažus mūsu darbus.
Piemērs
Mēs redzam, kā izmantot dabisko logaritmu, pārskatot piemēru no augšas. Mēs sākam ar varbūtības funkciju:
L ( lpp ) = lppΣ xi(1 - lpp)n - Σ xi .
Pēc tam mēs izmantojam savus logaritma likumus un redzam, ka:
R ( lpp ) = ln L ( lpp ) = Σ xi ln p + (n - Σ xi) ln (1 - lpp).
Mēs jau redzam, ka atvasinājumu ir daudz vieglāk aprēķināt:
R '( lpp ) = (1/lpp) Σ xi - 1/(1 - lpp)(n - Σ xi) .
Tagad, tāpat kā iepriekš, mēs šo atvasinājumu iestatījām vienādu ar nulli un abas puses reizinām ar lpp (1 - lpp):
0 = (1- lpp ) Σ xi - lpp(n - Σ xi) .
Mēs risinām lpp un atrodiet tādu pašu rezultātu kā iepriekš.
L (p) dabiskā logaritma izmantošana ir noderīga citā veidā. Daudz vieglāk ir aprēķināt otro R (p) atvasinājumu, lai pārbaudītu, vai mums tiešām ir maksimums punktā (1 / n) Σ xi = p.
Piemērs
Cits piemērs: pieņemsim, ka mums ir izlases veida X paraugs1, X2,... Xn no populācijas, kuru mēs modelējam ar eksponenciālu sadalījumu. Varbūtības blīvuma funkcija vienam izlases veida mainīgajam ir šāda veida f( x ) = θ-1e -x/θ
Varbūtības funkciju piešķir locītavas varbūtības blīvuma funkcija. Tas ir vairāku šo blīvuma funkciju produkts:
L (θ) = Π θ-1e -xi/θ = θ-ne -Σxi/θ
Vēlreiz ir noderīgi apsvērt varbūtības funkcijas dabisko logaritmu. Lai to diferencētu, būs nepieciešams mazāks darbs nekā varbūtības funkcijas diferencēšanai:
R (θ) = ln L (θ) = ln [θ-ne -Σxi/θ]
Mēs izmantojam savus logaritmu likumus un iegūstam:
R (θ) = ln L (θ) = - n ln + -Σxi/θ
Mēs atšķiramies attiecībā uz θ un:
R '(θ) = - n / θ + Σxi/θ2
Iestatiet šo atvasinājumu vienādu ar nulli un redzam, ka:
0 = - n / θ + Σxi/θ2.
Reiziniet abas puses ar θ2 un rezultāts ir šāds:
0 = - n θ + Σxi.
Tagad izmantojiet algebru, lai atrisinātu θ:
θ = (1 / n) Σxi.
No tā mēs redzam, ka izlases vidējais ir tas, kas palielina varbūtības funkciju. Parametam θ, kas piemērots mūsu modelim, vienkārši vajadzētu būt visu mūsu novērojumu vidējam.
Savienojumi
Ir arī citi novērtētāju veidi. Vienu alternatīvu novērtējuma veidu sauc par objektīvs novērtētājs. Šim tipam mums jāaprēķina mūsu statistikas paredzamā vērtība un jānosaka, vai tā atbilst attiecīgajam parametram.