Förtroendefördelning

Ej att förväxla med konfidensintervall .

I statistisk slutledning har begreppet en konfidensfördelning ( CD ) ofta löst refererat till som en fördelningsfunktion på parameterutrymmet som kan representera konfidensintervall för alla nivåer för en parameter av intresse. Historiskt sett har det vanligtvis konstruerats genom att invertera de övre gränserna för nedre sidors konfidensintervall på alla nivåer, och det var också vanligt förknippat med en trovärdig tolkning ( fiducial distribution ), även om det är ett rent frekventistiskt koncept. En konfidensfördelning är INTE en sannolikhetsfördelningsfunktion för parametern av intresse, men kan ändå vara en funktion användbar för att dra slutsatser.

Under de senaste åren har det skett ett förnyat intresse för förtroendefördelningar. I den senare utvecklingen har begreppet förtroendefördelning dykt upp som ett rent frekventistiskt begrepp, utan någon trovärdig tolkning eller resonemang. Begreppsmässigt skiljer sig en konfidensfördelning inte från en punktskattare eller en intervalluppskattare ( konfidensintervall ), men den använder en urvalsberoende fördelningsfunktion på parameterutrymmet (istället för en punkt eller ett intervall) för att uppskatta parametern av intresse.

Ett enkelt exempel på en konfidensfördelning, som har använts i stor utsträckning i statistisk praxis, är en bootstrap- fördelning. Utvecklingen och tolkningen av en bootstrap-distribution involverar inte något förtroendeingivande resonemang; detsamma gäller begreppet förtroendefördelning. Men begreppet förtroendefördelning är mycket bredare än för en bootstrap-distribution. I synnerhet tyder nyare forskning på att den omfattar och förenar ett brett spektrum av exempel, från vanliga parametriska fall (inklusive de flesta exempel på den klassiska utvecklingen av Fishers fiducial distribution) till bootstrap-fördelningar, p-värdesfunktioner, normaliserade sannolikhetsfunktioner och i vissa fall . fall, Bayesian priors och Bayesian posteriors .

Precis som en Bayesiansk bakre fördelning innehåller en mängd information för alla typer av Bayesiansk slutledning , innehåller en konfidensfördelning en mängd information för att konstruera nästan alla typer av frekventistiska slutledningar, inklusive punktuppskattningar , konfidensintervall , kritiska värden, statistisk styrka och p- värderingar, bland annat. Vissa nya utvecklingar har lyft fram de lovande potentialerna hos CD-konceptet, som ett effektivt slutledningsverktyg.

Historia

Neyman (1937) introducerade idén om "förtroende" i sin uppsats om konfidensintervall som klargjorde den frekventistiska upprepningsegenskapen. Enligt Fraser kan fröet (idén) till förtroendefördelning till och med spåras tillbaka till Bayes (1763) och Fisher (1930). Även om frasen verkar användas först i Cox (1958). Vissa forskare ser på förtroendefördelningen som "den neymanska tolkningen av Fishers trovärdiga fördelningar", som "rasande ifrågasattes av Fisher". Man tror också att dessa "improduktiva tvister" och Fishers "envisa envishet" kan vara orsaken till att begreppet förtroendefördelning länge har misstolkats som ett förtroendebegrepp och inte utvecklats fullt ut under det frekventistiska ramverket. I själva verket är förtroendefördelningen ett rent frekventistiskt begrepp med en rent frekventistisk tolkning, och det har också kopplingar till Bayesianska slutledningsbegrepp och de fiduciala argumenten.

Definition

Klassisk definition

Klassiskt definieras en konfidensfördelning genom att invertera de övre gränserna för en serie konfidensintervall på lägre sidor. Särskilt,

För varje α i (0, 1), låt (−∞, ξ _n ( α )] vara ett 100α % konfidensintervall på lägre sida för θ , där ξ _n ( α ) = ξ _n ( X _n , α) är kontinuerlig och ökande i α för varje prov X _n . Då är H _n (•) = ξ _n ⁻¹ (•) en konfidensfördelning för θ .

Efron uppgav att denna fördelning "tilldelar sannolikheten 0,05 till θ som ligger mellan de övre ändpunkterna för 0,90 och 0,95 konfidensintervall, etc ." och "den har en kraftfull intuitiv överklagande". I den klassiska litteraturen tolkas konfidensfördelningsfunktionen som en fördelningsfunktion av parametern θ , vilket är omöjligt om inte tillförlitliga resonemang är inblandade eftersom parametrarna i en frekventistisk miljö är fasta och icke-slumpmässiga.

Att tolka CD-funktionen helt ur en frekventistisk synvinkel och inte tolka den som en fördelningsfunktion av en (fixerad/icke-slumpmässig) parameter är en av de stora avvikelserna från den senaste utvecklingen i förhållande till det klassiska tillvägagångssättet. Det fina med att behandla konfidensfördelningar som ett rent frekventistiskt koncept (liknande en punktskattare) är att det nu är fritt från de restriktiva, om inte kontroversiella, begränsningar som Fisher har angett för tilltroendefördelningar.

Den moderna definitionen

Följande definition gäller; Θ är parameterutrymmet för den okända parametern av intresse θ _, och χ är sampelutrymmet som motsvarar data Xn ={ X ₁ , ..., X _n }:

En funktion H _n (•) = H _n ( X _n , •) på χ × Θ → [0, 1] kallas en konfidensfördelning (CD) för en parameter θ , om den följer två krav:

• (R1) För varje given X _n ∈ χ , är H _n (•) = H _n ( X _n , •) en kontinuerlig kumulativ fördelningsfunktion på Θ ;
• ₀₀₀ (R2) Vid det sanna parametervärdet θ = θ , H _n ( θ ) ≡ H _n ( X _n , θ ), som en funktion av provet X _n , följer den enhetliga fördelningen U [0, 1].

Funktionen H är också en asymptotisk CD ( aCD ), om U [0, 1]-kravet endast är sant asymptotiskt och kontinuitetskravet på H _n (•) tas bort.

I icke-tekniska termer är en konfidensfördelning en funktion av både parametern och slumpmässigt urval, med två krav. Det första kravet (R1) kräver helt enkelt att en CD ska vara en distribution på parameterutrymmet. Det andra kravet (R2) sätter en begränsning på funktionen så att slutledningar (punktuppskattare, konfidensintervall och hypotestestning etc.) baserade på konfidensfördelningen har önskade frekventistiska egenskaper. Detta liknar begränsningarna i punktuppskattning för att säkerställa vissa önskade egenskaper, såsom opartiskhet, konsekvens, effektivitet, etc.

En konfidensfördelning härledd genom att invertera de övre gränserna för konfidensintervall (klassisk definition) uppfyller också kraven i ovanstående definition och denna version av definitionen överensstämmer med den klassiska definitionen.

Till skillnad från den klassiska konfidensinferensen kan mer än en konfidensfördelning vara tillgänglig för att uppskatta en parameter under någon specifik inställning. Till skillnad från den klassiska fiduciala slutledningen är optimalitet inte en del av kravet. Beroende på inställningen och det kriterium som används finns det ibland en unik "bästa" (i termer av optimalitet) förtroendefördelning. Men ibland finns det ingen optimal förtroendefördelning tillgänglig eller, i vissa extrema fall, kanske vi inte ens kan hitta en meningsfull förtroendefördelning. Detta skiljer sig inte från praxis med poänguppskattning.

En definition med mätbara utrymmen

En konfidensfördelning $C$ för en $}$ ) $p {$ \ displaystyle C ( A_ för en familj av konfidensregioner $A_{p}$ för $\gamma$ med nivå $p$ för alla nivåer $0<p<1$ . Familjen av förtroenderegioner är inte unik. Om $A_{p}$ endast finns för $\displaystyle p\in I\subset (0,1)}$ , så är $C$ en konfidensfördelning med nivåuppsättning $I$ . Både $C$ och alla $A_{p}$ är mätbara funktioner för data. Detta innebär att $C$ är ett slumpmässigt mått och $A_{p}$ är en slumpmässig mängd. Om det definierande kravet ${\displaystyle P(\gamma \in A_{p})\geq p} gäller med$ , så är konfidensfördelningen per definition exakt. Om dessutom $\gamma$ är en reell parameter, så sammanfaller den måttteoretiska definitionen med ovanstående klassiska definition.

Exempel

Exempel 1: Normalt medelvärde och varians

Antag att ett normalt prov X _i ~ N ( μ , σ ² ), i = 1, 2, ..., n ges.

(1) Varians σ ² är känd

Låt, Φ vara den kumulativa fördelningsfunktionen för standardnormalfördelningen, och $F_{t_{n-1}}$ den kumulativa fördelningsfunktionen för Student $t_{n -1}$ distribution. Både funktionerna $H_{\mathit {\Phi }}(\mu )$ och $H_{t}(\mu )$ ges av

$H_{\Phi }( \mu )={\mathit {\Phi }}\left({\frac {{\sqrt {n}}(\mu -{\bar {X}})}{\sigma }}\right),\quad {\text{and}}\quad H_{t}(\mu )=F_{t_{n-1}}\left({\frac {{\sqrt {n}}(\mu -{\bar {X }})}{s}}\höger),$

uppfyller de två kraven i CD-definitionen, och de är konfidensfördelningsfunktioner för μ . Dessutom,

$H_{A}(\mu )={\mathit {\Phi }}\left({\frac {{\sqrt {n} }(\mu -{\bar {X}})}{s}}\right)$

uppfyller definitionen av en asymptotisk konfidensfördelning när n →∞, och det är en asymptotisk konfidensfördelning för μ . Användningarna av $H_{t}(\mu )$ och $H_{A}(\mu )$ ekvivalenta med att säga att vi använder $N({\bar {X}},\sigma ^{2})$ och $N({\bar {X}},s^{2 })$ för att uppskatta ${\displaystyle \mu } ,$ respektive.

(2) Varians σ ² är okänd

För parametern μ , eftersom $H_{\mathit {\Phi }}(\mu )$ involverar den okända parametern σ och den bryter mot de två kraven i CD-definitionen, är den inte längre en " distribution estimator" eller en konfidensfördelning för μ . ${\displaystyle H_{t}(\mu )} är$ dock fortfarande en CD för μ och $H_{A}(\mu )$ är en aCD för μ .

För parametern σ ² , den sampelberoende kumulativa fördelningsfunktionen

$H_{\chi ^{2}}(\theta )=1-F_{\chi _ {n-1}^{2}}((n-1)s^{2}/\theta )$

är en konfidensfördelningsfunktion för σ ² . Här $F_{\chi _{n-1}^{2}}$ den kumulativa fördelningsfunktionen för $\chi _{n-1} ^{2}$ distribution .

I fallet då variansen σ ² är känd, ${\displaystyle H_{\mathit {\Phi }}(\mu )={\mathit {\ Phi }}\left({\frac {{\sqrt {n}}(\mu -{\bar {X}})}{\sigma }}\right)} är optimal när det gäller att producera de kortaste konfidensintervallen$ vid vilken nivå som helst. I fallet då variansen σ ² är okänd, ${\displaystyle H_{t}(\mu )=F_{t_{n- 1}}\left({\frac {{\sqrt {n}}(\mu -{\bar {X}})}{s}}\right)} är en optimal konfidensfördelning$ för μ .

Exempel 2: Bivariat normalkorrelation

Låt ρ beteckna korrelationskoefficienten för en bivariat normalpopulation. Det är välkänt att Fishers z definierad av Fisher-transformationen :

$z={1 \over 2}\ln {1+r \over 1-r}$

har den begränsande fördelningen $N({1 \over 2}\ln {{1+\rho } \over {1-\rho } },{1 \över n-3})$ med en snabb konvergenshastighet, där r är urvalskorrelationen och n är urvalsstorleken.

Funktionen

$H_{n}(\rho )=1 -{\mathit {\Phi }}\left({\sqrt {n-3}}\left({1 \over 2}\ln {1+r \over 1-r}-{1 \over 2}\ ln {{1+\rho } \över {1-\rho }}\right)\right)$

är en asymptotisk konfidensfördelning för ρ .

En exakt konfidensdensitet för ρ är

$\pi (\rho |r)={\frac {\nu ( \nu -1)\Gamma (\nu -1)}{{\sqrt {2\pi }}\Gamma (\nu +{\frac {1}{2}})}}(1-r^{2 })^{\frac {\nu -1}{2}}\cdot (1-\rho ^{2})^{\frac {\nu -2}{2}}\cdot (1-r\rho )^{\frac {1-2\nu }{2}}F({\frac {3}{2}},-{\frac {1}{2}};\nu +{\frac {1} {2}};{\frac {1+r\rho }{2}})$

där $F$ är den Gaussiska hypergeometriska funktionen och $\nu =n-1>1$ . Detta är också den bakre densiteten för en Bayes-matchning före de fem parametrarna i den binormala fördelningen.

Den allra sista formeln i den klassiska boken av Fisher ger

$\pi (\rho |r)={\frac {(1-r^{2})^{\frac { \nu -1}{2}}\cdot (1-\rho ^{2})^{\frac {\nu -2}{2}}}{\pi (\nu -2)!}}\partial _{\rho r}^{\nu -2}\left\{{\frac {\theta -{\frac {1}{2}}\sin 2\theta }{\sin ^{3}\theta } }\höger\}$

där $\cos \theta =-\rho r$ och $0<\theta <\pi$ . Denna formel härleddes av CR Rao .

Exempel 3: Binormalt medelvärde

Låt data genereras av $Y=\gamma +U$ där $\gamma$ är en okänd vektor i planet och $U$ har en binormal och känd fördelning i plan. Fördelningen av $\Gamma ^{y}=yU$ definierar en konfidensfördelning för $\gamma$ . Konfidensregionerna $A_{p}$ kan väljas som det inre av ellipser centrerade vid $\gamma$ och axlar som ges av egenvektorerna för kovariansmatrisen för $\Gamma ^{ y}$ . Konfidensfördelningen är i detta fall binormal med medelvärde $\gamma$ , och konfidensregionerna kan väljas på många andra sätt. Förtroendefördelningen sammanfaller i detta fall med den Bayesianska posterioren med den högra Haar prior. Argumentet generaliserar till fallet med ett okänt medelvärde $\gamma$ i ett oändligt dimensionellt Hilbert-rum , men i det här fallet är inte konfidensfördelningen en Bayesiansk posterior.

Använda konfidensfördelningar för slutledning

Konfidensintervall

Från CD-definitionen är det uppenbart att intervallet $(-\infty ,H_{n}^ {-1}(1-\alpha )],[H_{n}^{-1}(\alpha ),\infty )$ och ${\displaystyle [H_{n}^{-1}(\alpha /2),H_{n}^{-1}(1-\alpha /2)]} ger 100(1$ − α )%-nivå konfidensintervall av olika slag, för θ , för alla α ∈ (0, 1). Även $[H_{n}^{-1}(\alpha _{1}),H_{n}^{ -1}(1-\alpha _{2})]$ är en nivå 100(1 − α ₁ − α ₂ )% konfidensintervall för parametern θ för alla α ₁ > 0, α ₂ > 0 och α ₁ + α ₂ < 1. Här är ${\displaystyle H_{n}^{-1}(\beta )} kvantilen på$ 100 β % av $H_{n} (\theta )$ eller så löser den för θ i ekvation $H_{n}(\theta )=\beta$ . Detsamma gäller för en CD, där konfidensnivån uppnås i limit. Vissa författare har föreslagit att de ska användas för att grafiskt se vilka parametervärden som överensstämmer med data, istället för täckning eller prestanda.

Poänguppskattning

Punktuppskattare kan också konstrueras givet en konfidensfördelningsuppskattare för parametern av intresse. Till exempel, givet H _n ( θ ) CD för en parameter θ , inkluderar naturliga val av punktuppskattare medianen M _n = H _n ⁻¹ (1/2), medelvärdet ${\bar {\theta }}_{n}=\int _{-\infty }^{\infty }t\,\mathrm {d} H_{n}(t)$ , och maxpunkten för CD-densiteten

${\widehat {\theta }}_{n}=\arg \max _{\theta }h_{n}(\theta ),h_{n}(\theta )=H'_{n}( \theta ).$

Under vissa blygsamma förhållanden, bland andra egenskaper, kan man bevisa att dessa punktuppskattare alla är konsekventa. Vissa konfidensfördelningar kan ge optimala frekventistskattare.

Hypotestestning

Man kan härleda ett p-värde för ett test, antingen ensidigt eller dubbelsidigt, avseende parametern θ ur dess konfidensfördelning H _n ( θ ). Beteckna med sannolikhetsmassan för en mängd C under konfidensfördelningsfunktionen ${\displaystyle p_{s}(C)=H_{n}(C)=\int _{C}\mathrm {d} H(\theta ).} Denna$ p s ₍ C) kallas "support" i CD-inferens och även känd som "tro" i den förtroendelitteraturen. Vi har

₀ (1) För det ensidiga testet K : θ ∈ C vs. K ₁ : θ ∈ C ^c , där C är av typen (−∞, b ] eller [ b , ∞), kan man visa från CD:n definition att sup _{θ ∈ C} P _θ ( p _s ( C ) ≤ α ) = α . Således p _s ( C ) = H _n ( C ) motsvarande p-värde för testet.

₀ (2) För singeltestet K : θ = b vs. K ₁ : θ ≠ b , P _{0 { K : θ = b }} (2 min{ p _s ( C _lo ), kan man från CD-definitionen visa att p _s ( C _up )} ≤ α ) = α . Således är 2 min{ p _s ( Clo ), p _s ( C _up )} = 2 min { H n ( b ), 1 − H n ( b ₎ } motsvarande p - _{värde för} testet . Här är C _lo = (−∞, b ] och C _up = [ b , ∞).

Se figur 1 från Xie och Singh (2011) för en grafisk illustration av CD-inferensen.

Genomföranden

Ett fåtal statistiska program har implementerat förmågan att konstruera och rita konfidensfördelningar.

R , via paketen concurve , pvaluefunctions och episheet

Excel , via episheet

Stata , via konkurva

Se även

• Täckningssannolikhet

Bibliografi

• Xie, M. och Singh, K. (2013). [1] "Konfidensfördelning, den frekventistiska distributionsuppskattaren av en parameter: En recension". International Statistical Review , 81 , 3–39.
•   Schweder, T och Hjort, NL (2016). [2] Förtroende, sannolikhet, sannolikhet: Statistisk slutledning med konfidensfördelningar . London: Cambridge University Press. ISBN 9781139046671
•   Fisher, RA (1956). Statistiska metoder och vetenskaplig slutledning . New York: Hafner. ISBN 0-02-844740-9 .
• Fisher, RA (1955). "Statistiska metoder och vetenskaplig induktion" J. Roy. Statistik. Soc. Ser. F. 17, 69—78. (kritik av statistiska teorier om Jerzy Neyman och Abraham Wald ur ett fiducialt perspektiv)
• Hannig, J. (2009). " Om generaliserad förtroendeinferens ". Statistica Sinica , 19 , 491–544.
• Lawless, F. och Fredette, M. (2005). " Frekventistiska prediktionsintervall och prediktiva distributioner ." Biometrika. 92(3) 529–542.
• Lehmann, EL (1993). " The Fisher, Neyman-Pearson teorier om att testa hypoteser: en teori eller två?" Journal of the American Statistical Association 88 1242–1249.
•   Neyman, Jerzy (1956). "Anteckning om en artikel av Sir Ronald Fisher". Journal of the Royal Statistical Society . Serie B (metodologisk) 18 (2): 288–294. JSTOR 2983716 . (svar till Fisher 1955, som diagnostiserar en felaktighet av "troende slutledning")
• Schweder T., Sadykova D., Rugh D. och Koski W. (2010) " Populationsuppskattningar från flygfotografiska undersökningar av naturligt och variabelt markerade grenvalar " Journal of Agricultural Biological and Environmental Statistics 2010 15: 1–19
• Bityukov S., Krasnikov N., Nadarajah S. och Smirnova V. (2010) " Confidens distributions in statistical inference" . AIP Conference Proceedings, 1305 , 346-353.
• Singh, K. och Xie, M. (2012). "CD-posterior --- kombinerar tidigare och data genom konfidensfördelningar." Contemporary Developments in Bayesian Analysis and Statistical Decision Theory: A Festschrift for William E. Strawderman. (D. Fourdrinier, et al., red.). IMS Collection, volym 8, 200 -214.