Itererad filtrering

Itererade filtreringsalgoritmer är ett verktyg för maximal sannolikhetsinferens på delvis observerade dynamiska system . Stokastiska störningar av okända parametrar används för att utforska parameterutrymmet. Att tillämpa sekventiell Monte Carlo ( partikelfiltret ) på denna utökade modell resulterar i valet av parametervärden som är mer överensstämmande med data. Lämpligt konstruerade procedurer, itererande med successivt minskade störningar, konvergerar till maximal sannolikhetsuppskattning. Itererade filtreringsmetoder har hittills använts mest för att studera överföringsdynamik för infektionssjukdomar. Fallstudier inkluderar kolera , ebolavirus , influensa , malaria , HIV , pertussis , poliovirus och mässling . Andra områden som har föreslagits vara lämpliga för dessa metoder inkluderar ekologisk dynamik och ekonomi .

Störningarna i parameterrummet spelar flera olika roller. För det första jämnar de ut sannolikhetsytan, vilket gör det möjligt för algoritmen att övervinna småskaliga egenskaper hos sannolikheten under tidiga skeden av den globala sökningen. För det andra tillåter Monte Carlo-variation sökningen att fly från lokala minima. För det tredje använder den itererade filtreringsuppdateringen de störda parametervärdena för att konstruera en approximation till derivatan av loggsannolikheten även om denna kvantitet vanligtvis inte är tillgänglig i sluten form. För det fjärde hjälper parametern störningar till att övervinna numeriska svårigheter som kan uppstå under sekventiell Monte Carlo.

Översikt

Data är en tidsserie $y_{1},\dots ,y_{N}$ insamlade vid tidpunkter $t_{1}< t_{2}<\dots <t_{N}$ . Det dynamiska systemet modelleras av en Markov-process $X(t)$ som genereras av en funktion $f(x,s,t, \theta ,W)$ i betydelsen att

$X(t_{n}^{})=f(X(t_{n- 1}^{}),t_{n-1}^{},t_{n}^{},\theta ,W)$

där $\theta$ är en vektor med okända parametrar och $W$ är någon slumpmässig storhet som ritas oberoende varje gång $f(.)$ utvärderas. Ett initialvillkor $X(t_{0})$ någon gång $t_{0}<t_{1}$ specificeras av en initialiseringsfunktion, $X(t_{0})=h(\theta )$ . En mättäthet $g(y_{n}|X_{n},t_{n},\theta )$ fullbordar specifikationen av en delvis observerad Markov-process. Vi presenterar en grundläggande itererad filtreringsalgoritm (IF1) följt av en itererad filtreringsalgoritm som implementerar en itererad, störd Bayes-karta (IF2).

Procedur: Itererad filtrering (IF1)

Ingång: En delvis observerad Markov-modell specificerad enligt ovan; Monte Carlo provstorlek $J$ ; antal iterationer $M$ ; kylningsparametrar $0<a<1$ och $b$ ; kovariansmatris $\Phi$ ; initial parametervektor $\theta ^{(1)}$

för $m_{}^{}=1$ till $M_{}^{}$

rita $\Theta _{F}(t_{0}^{},j)\sim \mathrm { Normal} (\theta ^{(m)},ba^{m-1}\Phi )$ för $j=1,\dots ,J$

set $X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{ },j){\big )}$ för $j=1,\dots ,J$

set ${\bar {\theta }}(t_{0}^{})=\theta ^{(m)}$

för $n_{}^{}=1$ till $N_{}^{}$

rit $\Theta _{P}(t_{n}^{} ,j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},j),a^{m-1}\Phi )$ för $j=1,\dots ,J$

set $X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^ {},t_{n},\Theta _{P}(t_{n},j),W)$ för $j=1,\dots ,J$

set $w(n,j)=g(y_{n}|X_{P}(t_{n}^{} ,j),t_{n}^{},\Theta _{P}(t_{n},j))$ för $j=1,\dots ,J$

rita $k_{1}^{},\dots ,k_{J}^{}$ så att $P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )$

set $X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{ j}^{})$ och $\Theta _{F}(t_{n}^{},j)=\Theta _ {P}(t_{n}^{},k_{j}^{})$ för $j=1,\dots ,J$

set ${ \displaystyle {\bar {\theta }}_{i}^{}(t_{n}^{})}$ till sampelmedelvärdet av ${\displaystyle \{\Theta _{F,i}^{}(t_{n}^{},j),j=1,\dots ,J\}} , där vektorn Θ$ F $displaystyle \Theta _{F}^{}}$ har komponenter $\{\Theta _{F,i}^{}\}$

set $V_{i }^{}(t_{n}^{})$ till provvariansen för $\{\Theta _{P, i}^{}(t_{n}^{},j),j=1,\dots ,J\}$

set ${\displaystyle \theta _{i}^{(m+1)}=\ theta _{i}^{(m)}+V_{i}(t_{1})\summa _{n=1}^{N}V_{i}^{-1}(t_{n})( {\bar {\theta }}_{i}(t_{n})-{\bar {\theta }}_{i}(t_{n-1}))} Utdata: Maximal$

sannolikhetsuppskattning ${\hat {\theta }}=\theta ^{(M+1)}$

Variationer

1. För IF1, kräver parametrar som kommer in i modellen endast i specifikationen av det initiala tillståndet, ${\displaystyle X(t_{0})} ,$ viss speciell algoritmisk uppmärksamhet eftersom information om dem i data kan vara koncentrerad i en liten del av tidsserien.
2. Teoretiskt sett kan vilken fördelning som helst med erforderligt medelvärde och varians användas istället för normalfördelningen . Det är standard att använda normalfördelningen och att omparameterisera för att ta bort begränsningar på parametrarnas möjliga värden.
3. Modifieringar av IF1-algoritmen har föreslagits för att ge överlägsen asymptotisk prestanda.

Procedur: Itererad filtrering (IF2)

Ingång: En delvis observerad Markov-modell specificerad enligt ovan; Monte Carlo provstorlek $J$ ; antal iterationer $M$ ; kylningsparameter $0<a<1$ ; kovariansmatris $\Phi$ ; initiala parametervektorer $\{\Theta _{j},j=1,\dots ,J\}$

för $m_{}^{ }=1$ till $M_{}^{}$

sätt ${\displaystyle \Theta _{F} (t_{0}^{},j)\sim \mathrm {Normal} (\Theta _{j},a^{m-1}\Phi )} för$ j $\displaystyle j= 1,\dots ,J}$

set $X_{F}(t_{0}^{},j)=h{\big ( }\Theta _{F}(t_{0}^{},j){\big )}$ för $j=1,\dots ,J$

för ${\ displaystyle n_{}^{}=1}$ till $N_{}^{}$

rita $\Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{ },k_{j}^{}),a^{m-1}\Phi )$ för $j=1,\dots ,J$

set $X_{P}(t_{n}^{}, j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n}, j),W)$ för $j=1,\dots ,J$

set $w(n,j)=g(y_{n}|X_{P}(t_{n}^{} ,j),t_{n}^{},\Theta _{P}(t_{n},j))$ för $j=1,\dots ,J$

rita $k_{1}^{},\dots ,k_{J}^{}$ så att $P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )$

set $X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{ j}^{})$ och $\Theta _{F}(t_{n}^{},j)=\Theta _ {P}(t_{n}^{},k_{j}^{})$ för $j=1,\dots ,J$

set $\Theta _{j}=\Theta _{F}(t_{N}^{},j)$ för $j=1,\dots ,J$

Utdata: Parametervektorer som approximerar maximal sannolikhetsuppskattning, $\{\Theta _{j},j=1,\dots ,J\}$

programvara

"pompa: statistisk slutledning för delvis observerade Markov-processer" : R-paket.