Empirisk sannolikhet

Empirisk sannolikhet (EL) är en icke-parametrisk metod som kräver färre antaganden om felfördelningen samtidigt som man behåller några av fördelarna med sannolikhetsbaserad slutledning. Uppskattningsmetoden kräver att data är oberoende och identiskt fördelade (iid). Det fungerar bra även när distributionen är asymmetrisk eller censurerad. EL-metoder kan också hantera begränsningar och tidigare information om parametrar. Art Owen var pionjär inom detta område med sitt papper från 1988.

Uppskattningsförfarande

EL-uppskattningar beräknas genom att maximera den empiriska sannolikhetsfunktionen med förbehåll för begränsningar baserat på skattningsfunktionen och det triviala antagandet att sannolikhetsvikterna för sannolikhetsfunktionen summerar till 1. Denna procedur representeras som:

\max _{\pi _{i},\theta }\summa _{i=1}^{n}\ln \pi _{i }

omfattas av begränsningarna

{\displaystyle st\sum _{i=1}^{n}\pi _{i}=1,\sum _{i=1}^{n}\pi _{i}h(y_{i}; \theta )=0,\forall i\in [n]\quad 0\leq \pi _{i}.} [

^{förtydligande behövs ]}

Värdet på theta-parametern kan hittas genom att lösa Lagrangian-funktionen

{\mathcal {L}}=\sum _{i=1}^{n}\ln \pi _{i}+\mu (1-\summa _{i=1}^{n}\ pi _{i})-n\tau '\sum _{i=1}^{n}\pi _{i}h(y_{i};\theta ).

Det finns en tydlig analogi mellan detta maximeringsproblem och det som lösts för maximal entropi .

Den empiriska sannolikhetsmetoden kan också användas för diskreta distributioner :

F(x_{i})=\ p_{i},\ i=1,...,n

var

\ p_{i}\geq 0,\sum _{i=1}^{n}\ p_{i}=1.

Då är sannolikheten $L(p_{1},...,p_{n})=\prod _{i=1 }^{n}\ p_{i}$ kallas en empirisk sannolikhet.

Empiriskt sannolikhetsförhållande (ELR)

En empirisk sannolikhetskvotsfunktion definieras och används för att erhålla konfidensintervallparameter av intresse θ som liknar parametriska sannolikhetskvotskonfidensintervall. Låt L(F) vara den empiriska sannolikheten för funktionen $F$ , då skulle ELR vara:

${\displaystyle R(F)=L(F)/L(F_{n})$ .

Överväg uppsättningar av formuläret

$C=\{T(F)|R(F)\geq r\}$ .

Under sådana förhållanden förkastar ett test av $T(F)=t$ när t inte tillhör $C$ , det vill säga när ingen fördelning F med $T(F)=t$ har sannolikhet $L(F)\geq rL(F_{n})$ .

Det centrala resultatet är för medelvärdet av X. Det är uppenbart att vissa begränsningar för $F$ behövs, annars behövs $C=\mathbb {R} ^{p}$ närhelst $r<1$ . För att se detta, låt:

$F=\epsilon \delta _{x}+(1-\epsilon )F_{n}$

Om $\epsilon$ är tillräckligt liten och $\epsilon >0$ , då är $R(F)\geq r$ .

Men då, eftersom $x$ sträcker sig genom $\mathbb {R} ^{p}$ , så gör också medelvärdet av ${\displaystyle F} ,$ och spårar ut $C =\mathbb {R} ^{p}$ . Problemet kan lösas genom att begränsa till distributioner F som stöds i en begränsad uppsättning. Det visar sig vara möjligt att begränsa uppmärksamheten t distributioner med stöd i urvalet, med andra ord till fördelningen $F\ll F_{n}$ . En sådan metod är bekväm eftersom statistikern kanske inte är villig att specificera ett begränsat stöd för ${\displaystyle F} ,$ och eftersom $t$ omvandlar konstruktionen av $C$ till ett ändligt dimensionellt problem.

Andra applikationer

Användningen av empirisk sannolikhet är inte begränsad till konfidensintervall. Vid kvantiluppskattning hjälper en EL-baserad kategoriseringsprocedur att bestämma formen på den sanna diskreta fördelningen på nivå p, och ger också ett sätt att formulera en konsekvent skattare. Dessutom kan EL användas i stället för parametrisk sannolikhet för att bilda modellvalskriterier .

Se även