Edgeworth-serien

Gram –Charlier A-serien (uppkallad för att hedra Jørgen Pedersen Gram och Carl Charlier ), och Edgeworth-serien (uppkallad för att hedra Francis Ysidro Edgeworth ) är serier som approximerar en sannolikhetsfördelning i termer av dess kumulanter . Serierna är desamma; men arrangemanget av termer (och därmed noggrannheten vid trunkering av serien) skiljer sig åt. Nyckelidén med dessa expansioner är att skriva den karakteristiska funktionen för fördelningen vars sannolikhetstäthetsfunktion f ska approximeras i termer av den karakteristiska funktionen för en fördelning med kända och lämpliga egenskaper, och att återvinna f genom den inversa Fouriertransformen .

Gram–Charlier A-serien

Vi undersöker en kontinuerlig stokastisk variabel. Låt ${\hat {f}}$ vara den karakteristiska funktionen för dess fördelning vars densitetsfunktion är f , och $\kappa _{r}$ dess kumulanter . Vi expanderar i termer av en känd fördelning med sannolikhetstäthetsfunktion ψ , karakteristisk funktion ${\hat {\psi }}$ och kumulanter $\gamma _{r}$ . Tätheten ψ väljs i allmänhet för att vara normalfördelningen, men andra val är också möjliga. Enligt definitionen av kumulanterna har vi (se Wallace, 1958)

${\hat {f}}(t)=\exp \left[\sum _{r=1}^{\infty }\kappa _{r}{\frac {(it)^{r} }{r!}}\right]$ och

${\hat {\psi }}(t)=\exp \left[\sum _{r=1}^{\infty }\gamma _{r}{\frac {(it)^{ r}}{r!}}\höger],$

som ger följande formella identitet:

${\hat {f}}(t)=\exp \left[\sum _{r=1}^{\infty }(\kappa _{r}-\gamma _{r}){\frac {(it)^{r}}{r!}}\right]{\hat {\psi }}(t)\,.$

Med Fouriertransformens egenskaper, $(it)^{r}{\hat {\psi }}(t)$ är Fouriertransformen av ${\displaystyle (-1)^{r}[D^{r}\psi ](-x)} ,$ där D är differentialoperatorn med avseende på x . Sålunda, efter att ha ändrat $x$ med $-x$ på båda sidor av ekvationen, finner vi för f den formella expansionen

$f(x)=\exp \left[\sum _{r=1}^{\infty }(\kappa _{r}-\gamma _{r}){\frac {(-D)^ {r}}{r!}}\höger]\psi (x)\,.$

Om ψ väljs som normal densitet

$\phi (x)={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left[-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right]$

med medelvärde och varians enligt f , det vill säga medelvärde $\mu =\kappa _{1}$ och varians $\sigma ^{2}=\kappa _ {2}$ blir expansionen

$f(x)=\exp \left[\sum _{r=3}^{\infty }\kappa _{r}{\frac {(-D)^{r} }{r!}}\right]\phi (x),$

eftersom $\gamma _{r}=0$ för alla r > 2, eftersom högre kumulanter av normalfördelningen är 0. Genom att expandera exponentialen och samla termer enligt ordningen på derivatorna kommer vi fram till Gram–Charlier A-serien. En sådan expansion kan skrivas kompakt i termer av Bell polynom som

$\exp \left[\sum _{r=3}^{\infty }\kappa _{r}{\frac {(-D)^{r}}{r!}}\right]=\ summa _{n=0}^{\infty }B_{n}(0,0,\kappa _{3},\ldots ,\kappa _{n}){\frac {(-D)^{n} }{n!}}.$

Eftersom den n:te derivatan av Gaussfunktionen $\phi$ ges i termer av hermitpolynom som

$\phi ^{(n)}(x)={\frac {(- 1)^{n}}{\sigma ^{n}}}He_{n}\left({\frac {x-\mu }{\sigma }}\right)\phi (x),$

detta ger oss det slutliga uttrycket för Gram–Charlier A-serien som

$f(x)=\phi (x)\sum _{n=0}^{\infty }{\frac {1}{n!\sigma ^{n}}}B_{n}(0, 0,\kappa _{3},\ldots ,\kappa _{n})He_{n}\left({\frac {x-\mu }{\sigma }}\right).$

Att integrera serien ger oss den kumulativa distributionsfunktionen

$F(x)=\int _{-\infty }^{x}f (u)du=\Phi (x)-\phi (x)\sum _{n=3}^{\infty }{\frac {1}{n!\sigma ^{n-1}}}B_{ n}(0,0,\kappa _{3},\ldots ,\kappa _{n})He_{n-1}\left({\frac {x-\mu }{\sigma }}\right) ,$

där $\Phi$ är CDF för normalfördelningen.

Om vi ​​bara inkluderar de två första korrigeringstermerna till normalfördelningen får vi

$f(x)\approx {\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left[-{\ frac {(x-\mu )^{2}}{2\sigma ^{2}}}\höger]\vänster[1+{\frac {\kappa _{3}}{3!\sigma ^{3 }}}He_{3}\left({\frac {x-\mu }{\sigma }}\right)+{\frac {\kappa _{4}}{4!\sigma ^{4}}} He_{4}\left({\frac {x-\mu }{\sigma }}\right)\right]\,,$

med $He_{3}(x)=x^{3}-3x$ och ${\ displaystil He_{4}(x)=x^{4}-6x^{2}+3}$ .

Observera att detta uttryck inte garanteras vara positivt och därför inte är en giltig sannolikhetsfördelning. Gram–Charlier A-serien divergerar i många fall av intresse – den konvergerar endast om $f(x)$ faller av snabbare än $\exp( -(x^{2})/4)$ i oändligheten (Cramér 1957). När den inte konvergerar är serien inte heller en sann asymptotisk expansion , eftersom det inte är möjligt att uppskatta expansionsfelet. Av denna anledning är Edgeworth-serien (se nästa avsnitt) generellt att föredra framför Gram–Charlier A-serien.

Edgeworth-serien

Edgeworth utvecklade en liknande expansion som en förbättring av den centrala gränssatsen . Fördelen med Edgeworth-serien är att felet kontrolleras, så att det är en sann asymptotisk expansion .

Låt $\{Z_{i}\}$ vara en sekvens av oberoende och identiskt fördelade slumpvariabler med ändligt medelvärde $\mu$ och varians $\sigma ^{2}$ , och låt $X_{n}$ vara deras standardiserade summor:

$X_{n}={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}{\frac {Z_{i}-\mu }{\sigma } }.$

Låt $F_{n}$ beteckna de kumulativa fördelningsfunktionerna för variablerna $X_{n}$ . Sedan genom den centrala gränssatsen,

$\lim _{n\to \infty }F_{n}(x) =\Phi (x)\equiv \int _{-\infty }^{x}{\tfrac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}} q^{2}}dq$

för varje $x$ , så länge medelvärdet och variansen är ändliga.

Standardiseringen av $\{Z_{i}\}$ säkerställer att de två första kumulanterna av $X_{n}$ är $\kappa _{1 }^{F_{n}}=0$ och $\kappa _{2}^{F_{n}}=1.$ Antag nu att, förutom att ha medelvärdet ${ \displaystyle \mu }$ och varians $\sigma ^{2}$ , de iid slumpvariablerna $Z_{i}$ har högre kumulanter $\kappa _{r}$ . Från additivitets- och homogenitetsegenskaperna för kumulanter är kumulanterna för $X_{n}$ i termer av kumulanterna för $Z_{i}$ för $r\geq 2$ ,

$\kappa _{r}^{F_{n}}={\frac {n\kappa _{r}}{\sigma ^{r}n^{r/2}}}={\frac { \lambda _{r}}{n^{r/2-1}}}\quad \mathrm {där} \quad \lambda _{r}={\frac {\kappa _{r}}{\sigma ^ {r}}}.$

Om vi ​​utökar det formella uttrycket för den karakteristiska funktionen ${\hat {f}}_{n}(t)$ av $F_{n}$ i termer av standarden normalfördelning, det vill säga om vi sätter

$\phi (x)={\frac {1}{\sqrt {2\pi }}}\exp(-{\tfrac {1}{2}}x^{2}),$

då är de kumulanta skillnaderna i expansionen

$\kappa _{1}^{F_{n}}-\gamma _{1}=0,$

$\kappa _{2}^{F_{n}}-\gamma _{2}=0,$

$\kappa _{r}^{F_{n}}-\gamma _{r}={\frac {\lambda _{r}}{n^{r/2-1}} };\qquad r\geq 3.$

Gram–Charlier A-serien för densitetsfunktionen för $X_{n}$ är nu

$f_{n}(x)=\phi (x)\sum _{r=0}^{\infty }{\frac {1}{r!}}B_{r}\left(0,0 ,{\frac {\lambda _{3}}{n^{1/2}}},\ldots ,{\frac {\lambda _{r}}{n^{r/2-1}}}\ höger)He_{r}(x).$

Edgeworth-serien är utvecklad på samma sätt som Gram–Charlier A-serien, bara att nu termer samlas in enligt potenserna $n$ . Koefficienterna för n ^-m/2 term kan erhållas genom att samla monomialerna för Bell-polynomen som motsvarar heltalspartitionerna för m . Således har vi den karakteristiska funktionen som

${\hat {f}}_{n} (t)=\left[1+\summa _{j=1}^{\infty }{\frac {P_{j}(it)}{n^{j/2}}}\right]\exp( -t^{2}/2)\,,$

där $P_{j}(x)$ är ett polynom med grad $3j$ . Återigen, efter invers Fouriertransform, följer densitetsfunktionen ${\displaystyle f_{n}} som$

$f_{n}(x)=\phi (x)+\sum _{j=1}^{\infty }{\frac {P_{j}(-D)}{n^{j/2 }}}\phi (x)\,.$

På samma sätt, genom att integrera serien, får vi distributionsfunktionen

$F_{n}(x)=\Phi (x)+\sum _{j=1}^{\infty }{\frac {1}{n^{j/2}}}{\frac { P_{j}(-D)}{D}}\phi (x)\,.$

Vi kan uttryckligen skriva polynomet $P_{m}(-D)$ som

$P_{m}(-D)=\sum \prod _{i}{\frac {1}{k_{i}!}} \left({\frac {\lambda _{l_{i}}}{l_{i}!}}\right)^{k_{i}}(-D)^{s},$

där summeringen är över alla heltalspartitioner av m så att $\sum _{i}ik_{i}=m$ och $l_{i} =i+2$ och $s=\sum _{i}k_{i}l_{i}.$

Till exempel, om m = 3, så finns det tre sätt att partitionera detta nummer: 1 + 1 + 1 = 2 + 1 = 3. Som sådan måste vi undersöka tre fall:

• 1 + 1 + 1 = 1 · k ₁ , så vi har k ₁ = 3, l ₁ = 3 och s = 9.
• 1 + 2 = 1 · k ₁ + 2 · k ₂ , så vi har k ₁ = 1, k ₂ = 1, l ₁ = 3, l ₂ = 4 och s = 7.
• 3 = 3 · k ₃ , så vi har k ₃ = 1, l ₃ = 5 och s = 5.

Det erforderliga polynomet är alltså

${\begin{aligned}P_{3}(-D)&={\frac {1}{3!}}\left({\frac {\lambda _{3}}{3!}}\ höger)^{3}(-D)^{9}+{\frac {1}{1!1!}}\left({\frac {\lambda _{3}}{3!}}\right) \left({\frac {\lambda _{4}}{4!}}\right)(-D)^{7}+{\frac {1}{1!}}\left({\frac {\ lambda _{5}}{5!}}\right)(-D)^{5}\\&={\frac {\lambda _{3}^{3}}{1296}}(-D)^ {9}+{\frac {\lambda _{3}\lambda _{4}}{144}}(-D)^{7}+{\frac {\lambda _{5}}{120}}( -D)^{5}.\end{aligned}}$

De första fem terminerna av expansionen är

${\begin{aligned}f_{n}(x)&=\phi (x)\\&\quad -{\frac {1}{n^{\frac {1}{2}}}} \left({\tfrac {1}{6}}\lambda _{3}\,\phi ^{(3)}(x)\right)\\&\quad +{\frac {1}{n} }\left({\tfrac {1}{24}}\lambda _{4}\,\phi ^{(4)}(x)+{\tfrac {1}{72}}\lambda _{3} ^{2}\,\phi ^{(6)}(x)\höger)\\&\quad -{\frac {1}{n^{\frac {3}{2}}}}\left( {\tfrac {1}{120}}\lambda _{5}\,\phi ^{(5)}(x)+{\tfrac {1}{144}}\lambda _{3}\lambda _{ 4}\,\phi ^{(7)}(x)+{\tfrac {1}{1296}}\lambda _{3}^{3}\,\phi ^{(9)}(x)\ höger)\\&\quad +{\frac {1}{n^{2}}}\left({\tfrac {1}{720}}\lambda _{6}\,\phi ^{(6) }(x)+\left({\tfrac {1}{1152}}\lambda _{4}^{2}+{\tfrac {1}{720}}\lambda _{3}\lambda _{5 }\right)\phi ^{(8)}(x)+{\tfrac {1}{1728}}\lambda _{3}^{2}\lambda _{4}\,\phi ^{(10 )}(x)+{\tfrac {1}{31104}}\lambda _{3}^{4}\,\phi ^{(12)}(x)\right)\\&\quad +O\ vänster(n^{-{\frac {5}{2}}}\höger).\end{aligned}}$

Här är φ ^{( j )} ( x ) den j -te derivatan av φ(·) vid punkt x . Kom ihåg att derivatorna av densiteten för normalfördelningen är relaterade till normaldensiteten med ${\displaystyle \phi ^{(n )}(x)=(-1)^{n}He_{n}(x)\phi (x)} , (där$ H $\displaystyle He_{n}}$ är hermitpolynomet av ordningen n ), detta förklarar de alternativa representationerna i termer av densitetsfunktionen. Binnikov och Moessner (1998) har gett en enkel algoritm för att beräkna termer av högre ordning för expansionen.

Observera att i fallet med en gitterfördelning (som har diskreta värden), måste Edgeworth-expansionen justeras för att ta hänsyn till de diskontinuerliga hoppen mellan gitterpunkterna.

Illustration: densiteten för provmedelvärdet av tre χ²-fördelningar

Densiteten för provmedelvärdet för tre chi2-variabler. Diagrammet jämför den sanna densiteten, den normala approximationen och två Edgeworth-expansioner.

Ta $X_{i}\sim \chi ^{2}(k=2),\,i=1 ,2,3\,(n=3)$ och urvalets medelvärde ${\bar {X}}={\frac {1}{3}}\ summa _{i=1}^{3}X_{i}$ .

Vi kan använda flera distributioner för ${\bar {X}}$ :

• Den exakta fördelningen, som följer en gammafördelning : ${\bar {X}}\sim \mathrm {Gamma} \left(\alpha =n\cdot k/2,\theta =2/n\right)=\mathrm {Gamma} \left(\alpha =3,\theta =2/3\right)$ .
• Den asymptotiska normalfördelningen: ${\bar {X}}{\xrightarrow {n\to \infty } }N(k,2\cdot k/n)=N(2,4/3)$ .
• Två Edgeworth-expansioner, grader 2 och 3.

Diskussion om resultat

• $[0,1]$ expansion inte garanterad att vara en korrekt sannolikhetsfördelning eftersom CDF-värdena vid vissa punkter kan gå längre än .
• De garanterar (asymptotiskt) absoluta fel , men relativa fel kan enkelt bedömas genom att jämföra den ledande Edgeworth-termen i resten med den övergripande ledande termen.

Se även

• Cornish–Fisher expansion
• Edgeworth binomialträd

Vidare läsning

• H. Cramér . (1957). Matematiska metoder för statistik . Princeton University Press, Princeton.
• Wallace, DL (1958). "Asymptotiska approximationer till distributioner" . Annals of Mathematical Statistics . 29 (3): 635–654. doi : 10.1214/aoms/1177706528 .
• M. Kendall & A. Stuart. (1977), The advanced theory of statistics , Vol 1: Distribution theory, 4th Edition, Macmillan, New York.
• P. McCulagh (1987). Tensormetoder i statistik . Chapman och Hall, London.
• DR Cox och OE Barndorff-Nielsen (1989). Asymptotiska tekniker för användning i statistik . Chapman och Hall, London.
• P. Hall (1992). Bootstrap och Edgeworth Expansion . Springer, New York.
• "Edgeworth-serien" , Encyclopedia of Mathematics , EMS Press , 2001 [1994]
• Binnikov, S.; Moessner, R. (1998). "Utökningar för nästan Gaussiska distributioner" (PDF) . Astronomy and Astrophysics Supplement Series . 130 : 193–205. arXiv : astro-ph/9711239 . Bibcode : 1998A&AS..130..193B . doi : 10.1051/aas:1998221 .
• Martin, Douglas; Arora, Rohit (2017). "Ineffektivitet och partiskhet av modifierat värde-at-risk och förväntat underskott". Journal of Risk . 19 (6): 59–84. doi : 10.21314/JOR.2017.365 .
• JE Kolassa (2006). Series Approximation Methods in Statistics (3:e upplagan). (Föreläsningsanteckningar i statistik #88). Springer, New York.