Delta metod

I statistik är deltametoden ett resultat av den ungefärliga sannolikhetsfördelningen för en funktion av en asymptotiskt normal statistisk estimator från kunskap om den begränsande variansen för den estimatorn.

Historia

Deltametoden härleddes från spridning av fel , och tanken bakom var känd i början av 1800-talet. Dess statistiska tillämpning kan spåras så långt tillbaka som 1928 av TL Kelley . En formell beskrivning av metoden presenterades av JL Doob 1935. Robert Dorfman beskrev också en version av den 1938.

Univariat deltametod

Medan deltametoden lätt generaliserar till en multivariat miljö, demonstreras noggrann motivering av tekniken lättare i univariata termer. Ungefär, om det finns en sekvens av slumpvariabler X _n tillfredsställande

${{\sqrt {n}}[X_{n}-\theta ]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2})},$

där θ och σ ² är ändliga värdekonstanter och ${\xrightarrow {D}}$ anger konvergens i distribution , då

${{\sqrt {n}}[g(X_{n})- g(\theta )]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2}\cdot [g'(\theta )]^{2})}$

för vilken funktion g som helst som uppfyller egenskapen att g′ ( θ ) existerar och värderas från noll.

Bevis i det univariata fallet

Demonstration av detta resultat är ganska enkel under antagandet att g′ ( θ ) är kontinuerlig . Till att börja med använder vi medelvärdessatsen (dvs: första ordningens approximation av en Taylor-serie med Taylors sats ):

$g(X_{n})=g(\theta )+g'({\tilde {\theta }})(X_{n}-\theta ),$

där ${\tilde {\theta }}$ ligger mellan X _n och θ . Observera att eftersom $X_{n}\,{\xrightarrow {P}}\,\theta$ och ${\displaystyle |{\tilde {\theta }}-\theta |<|X_{n}-\theta |} , det måste vara att θ ~ →$ P $\tilde {\theta }}\, {\xrightarrow {P}}\,\theta }$ och eftersom g′ ( θ ) är kontinuerlig, ger användning av den kontinuerliga mappningssatsen avkastning

$g'({\tilde {\theta }})\,{\xrightarrow {P}}\,g'(\theta ),$

där ${\xrightarrow {P}}$ anger konvergens i sannolikhet .

Att ordna om termerna och multiplicera med ${\sqrt {n}}$ ger

${\sqrt {n}}[g(X_{n})-g(\theta )]=g'\left({\tilde {\theta }}\right){\sqrt {n}}[ X_{n}-\theta ].$

Eftersom

${{\sqrt {n}}[X_{n}-\theta ]{\xrightarrow {D}}{\mathcal {N}}( 0,\sigma ^{2})}$

genom antagande följer det omedelbart av vädjan till Slutskys sats att

${{\sqrt {n}}[g(X_{n})-g(\theta )]{\xrightarrow {D}}{\mathcal {N}}(0,\sigma ^{2}[ g'(\theta )]^{2})}.$

Detta avslutar beviset.

Bevis med en uttrycklig ordningsföljd

Alternativt kan man lägga till ytterligare ett steg i slutet för att få ungefärlig ordning :

${\begin{aligned$

Detta antyder att felet i approximationen konvergerar till 0 i sannolikhet.

Multivariat deltametod

Per definition konvergerar en konsekvent estimator B i sannolikhet till dess sanna värde β , och ofta kan en central gränssats tillämpas för att erhålla asymptotisk normalitet :

${\sqrt {n}}\left(B-\beta \right)\,{\xrightarrow {D}}\,N\left(0 ,\Sigma \right),$

där n är antalet observationer och Σ är en (symmetrisk positiv semidefinitiv) kovariansmatris. Antag att vi vill uppskatta variansen för en skalärvärderad funktion h för estimatorn B . Genom att bara behålla de två första termerna i Taylor-serien och använda vektornotation för gradienten kan vi uppskatta h(B) som

$h(B)\approx h(\beta )+\nabla h(\beta )^{T}\cdot (B-\beta )$

vilket innebär att variansen för h(B) är ungefär

${\begin{aligned}\operatörsnamn {Var} \left(h(B)\right)&\approx \operatörsnamn {Var} \left(h(\beta )+\nabla h( \beta )^{T}\cdot (B-\beta )\right)\\&=\operatörsnamn {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot B -\nabla h(\beta )^{T}\cdot \beta \right)\\&=\operatörsnamn {Var} \left(\nabla h(\beta )^{T}\cdot B\right)\\ &=\nabla h(\beta )^{T}\cdot \operatörsnamn {Cov} (B)\cdot \nabla h(\beta )\\&=\nabla h(\beta )^{T}\cdot { \frac {\Sigma }{n}}\cdot \nabla h(\beta )\end{aligned}}$

Man kan använda medelvärdessatsen (för verkligt värderade funktioner för många variabler) för att se att detta inte är beroende av att ta första ordningens approximation.

Deltametoden innebär därför det

${\sqrt {n}}\left(h(B)- h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\nabla h(\beta )^{T}\cdot \Sigma \cdot \nabla h(\beta )\ höger)$

eller i univariata termer,

${\sqrt {n}}\left(h(B)-h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\sigma ^{2}\ cdot \left(h^{\prime }(\beta )\right)^{2}\right).$

Exempel: binomial proportion

Antag att X _n är binomial med parametrarna $p\in (0,1]$ och n .

${{\sqrt {n}}\left[{\frac {X_{n}}{n}}-p \right]\,{\xrightarrow {D}}\,N(0,p(1-p))},$

vi kan tillämpa Delta-metoden med g ( θ ) = log( θ ) för att se

${{\sqrt {n}}\left[\log \left({\frac {X_{n}}{n}}\right)-\log(p)\right]\,{\xrightarrow {D}}\,N(0,p(1-p)[ 1/p]^{2})}$

Följaktligen, även om variansen för ${\displaystyle \log \left({\frac {X_{n}}{n}}\right)} faktiskt existerar för varje ändligt$ n , existerar inte (eftersom X _n kan vara noll), den asymptotiska variansen av $\log \left({\frac {X_{n}}{n}}\right)$ finns och är lika med

${\frac {1-p}{np}}.$

Observera att eftersom p>0 , $\Pr \left({\frac {X_{n}}{n}}>0\right)\rightarrow 1$ som $n\rightarrow \infty$ , så med sannolikhet som konvergerar till ett, $\log \left({\frac {X_{n}}{n}}\right)$ är finit för stort n .

Dessutom, om ${\hat {p}}$ och ${\hat {q}}$ är uppskattningar av olika grupphastigheter från oberoende urval av storlekarna n respektive m , då logaritmen för den uppskattade relativa risken ${\frac {\hat {p}}{\hat {q}}}$ har asymptotisk varians lika med

${\frac {1-p}{p\,n}}+{\frac {1-q}{q\,m}}.$

Detta är användbart för att konstruera ett hypotestest eller för att göra ett konfidensintervall för den relativa risken.

Alternativ form

Deltametoden används ofta i en form som är väsentligen identisk med den ovan, men utan antagandet att X _n eller B är asymptotiskt normala. Ofta är det enda sammanhanget att variansen är "liten". Resultaten ger då bara approximationer till medelvärden och kovarianser för de transformerade storheterna. Till exempel är formlerna som presenteras i Klein (1953, s. 258):

${\begin{aligned}\operatörsnamn {Var} \left(h_{r}\right)=&\summa _{i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)^{2}\operatörsnamn {Var} \left(B_{i}\right)+ \sum _{i}\summa _{j\neq i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{r}}{\partial B_{j}}}\right)\operatörsnamn {Cov} \left(B_{i},B_{j}\right)\\\operatörsnamn {Cov} \left(h_{r },h_{s}\right)=&\summa _{i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac { \partial h_{s}}{\partial B_{i}}}\right)\operatörsnamn {Var} \left(B_{i}\right)+\summa _{i}\summa _{j\neq i} \left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{s}}{\partial B_{j}}}\ höger)\operatörsnamn {Cov} \left(B_{i},B_{j}\right)\end{aligned}}$

där h _r är det r: te elementet av h ( B ) och Bi _te är det i : elementet av B.

Andra ordningens deltametod

När g′ ( θ ) = 0 kan deltametoden inte tillämpas. Men om g′′ ( θ ) existerar och inte är noll, kan andra ordningens deltametoden tillämpas. Genom Taylor-expansionen, ${\displaystyle {\sqrt {n }}[g(X_{n})-g(\theta )]={\frac {1}{2}}{\sqrt {n}}[X_{n}-\theta ]^{2}\left [g''(\theta )\right]+o_{p}(1)} ,$ så att variansen av $g\left(X_{n}\right)$ förlitar sig på upp till det fjärde momentet av $X_{n}$ .

Den andra ordningens deltametoden är också användbar för att utföra en mer exakt approximation av $g\left(X_{n}\right)$ s fördelning när urvalsstorleken är liten. ${\ displaystyle {\sqrt {n}}[g(X_{n})-g(\theta )]={\sqrt {n}}[X_{n}-\theta ]g'(\theta )+{\frac {1}{2}}{\sqrt {n}}[X_{n}-\theta ]^{2}g''(\theta )+o_{p}(1)}$ . Till exempel, när $X_{n}$ följer standardnormalfördelningen, kan $g\left(X_{n}\right)$ approximeras som den viktade summan av en standard normal och en chi-kvadrat med frihetsgraden 1.

Icke-parametrisk deltametod

En version av deltametoden finns i icke-parametrisk statistik . Låt $X_{i}\sim F$ vara en oberoende och identiskt fördelad slumpvariabel med ett urval av storlek $n$ med en empirisk fördelningsfunktion ${\hat { F}}_{n}$ , och låt $T$ vara en funktion. Om $T$ är Hadamard differentierbar med avseende på Chebyshev-metriken , då

${\frac {T({\hat {F}}_{n})-T(F)}{\ bredhatt {\mathit {se}}}}\xrightarrow {D} ​​N(0,1)$

där ${\widehat {\mathit {se}}}={\frac {\hat {\tau }}{\sqrt {n}}}$ och ${\hat {\tau }}^{2}={\frac {1}{n}}\summa _{i=1}^{n} {\hat {L}}^{2}(X_{i})$ , med ${\hat {L}}(x)=L_{ {\hat {F}}_{n}}(\delta _{x})$ som anger den empiriska påverkansfunktionen för $T$ . Ett icke-parametriskt $(1-\alpha )$ punktvis asymptotiskt konfidensintervall för $T(F)$ ges därför av

$T({\hat {F}}_{n})\pm z_{\alpha /2}{\widehat {\mathit {se}} }$

där $z_{q}$ betecknar $q$ -kvantilen för standardnormalen. Se Wasserman (2006) sid. 19f. för detaljer och exempel.

Se även

• Taylor-expansioner för momenten av funktioner för slumpvariabler
• Variansstabiliserande transformation

Vidare läsning

•   Oehlert, GW (1992). "En anteckning om deltametoden". Den amerikanska statistikern . 46 (1): 27–29. doi : 10.1080/00031305.1992.10475842 . JSTOR 2684406 .
•   Wolter, Kirk M. (1985). "Taylor-seriens metoder" . Introduktion till variansskattning . New York: Springer. s. 221–247. ISBN 0-387-96119-4 .
•   Wasserman, Larry (2006). All icke-parametrisk statistik . New York: Springer. s. 19–20. ISBN 0-387-25145-6 .

externa länkar

• Asmussen, Søren (2005). "Några tillämpningar av deltametoden" (PDF) . Föreläsningsanteckningar . Århus universitet. Arkiverad från originalet (PDF) den 25 maj 2015.
• Feiveson, Alan H. "Förklaring av deltametoden" . Stata Corp.
• Xu, Jun; Long, J. Scott (22 augusti 2005). "Att använda Delta-metoden för att konstruera konfidensintervall för förutspådda sannolikheter, priser och diskreta förändringar" ( PDF) . Föreläsningsanteckningar . Indiana University.