Empirisk dynamisk modellering

Empirisk dynamisk modellering (EDM) är ett ramverk för analys och förutsägelse av icke-linjära dynamiska system . Tillämpningar inkluderar befolkningsdynamik , ekosystemtjänster , medicin , neurovetenskap , dynamiska system , geofysik och interaktion mellan människa och dator . EDM utvecklades ursprungligen av Robert May och George Sugihara . Det kan betraktas som en metod för datamodellering , prediktiv analys , dynamisk systemanalys, maskininlärning och tidsserieanalys .

Beskrivning

Matematiska modeller har en enorm kraft att beskriva observationer av verkliga system. De används rutinmässigt för att testa hypoteser , förklara mekanismer och förutsäga framtida utfall. Men verkliga system är ofta olinjära och flerdimensionella, vilket i vissa fall gör explicit ekvationsbaserad modellering problematisk. Empiriska modeller, som härleder mönster och associationer från data istället för att använda hypotesiska ekvationer, representerar ett naturligt och flexibelt ramverk för att modellera komplex dynamik.

Donald DeAngelis och Simeon Yurek illustrerade att kanoniska statistiska modeller är dåligt ställda när de tillämpas på olinjära dynamiska system. Ett kännetecken för icke-linjär dynamik är tillståndsberoende: systemtillstånd är relaterade till tidigare tillstånd som styr övergången från ett tillstånd till ett annat. EDM verkar i detta utrymme, det flerdimensionella tillståndsutrymmet av systemdynamik snarare än i endimensionella observationstidsserier. EDM förutsätter inte relationer mellan stater, till exempel ett funktionellt beroende, utan projicerar framtida stater från lokaliserade, angränsande stater. EDM är alltså ett för tillstånd-rum , närmaste grannar där systemdynamik härleds från tillstånd härledda från observationstidsserier. Detta ger en modellfri representation av systemet som naturligt omfattar olinjär dynamik.

En hörnsten i EDM är insikten om att tidsserier som observeras från ett dynamiskt system kan omvandlas till högre dimensionella tillståndsrum genom tidsfördröjningsinbäddning med Takens teorem . Tillstånd-rymd-modellerna utvärderas baserat på observationstrohet i urvalet, konventionellt med Pearson-korrelation mellan förutsägelser och observationer.

Metoder

EDM fortsätter att utvecklas. Från och med 2022 är huvudalgoritmerna enkel projektion, sekventiell lokalt viktad global linjär kartprojektion (S-Map), Multivariat inbäddning i Simplex eller S-Map, Konvergent korsmapping (CCM) och Multiview Embeding, som beskrivs nedan.

Nomenklatur

Parameter	Beskrivning
$E$	inbäddningsdimension
$k$	antal närmaste grannar
$T_{p}$	prediktionsintervall
$X\in \mathbb {R}$	observerade tidsserier
$y\in \mathbb {R} ^{E}$	vektor av fördröjda observationer
$\theta \geq 0$	S-Map lokalisering
$X_{t}^{E}=(X_{t},X_{t-1}, \dots ,X_{t-E+1})\in \mathbb {R} ^{E}$	fördröjda inbäddningsvektorer
$\|v\|$	norm av v
$N=\{N_{1},\dots ,N_{k}\}$	lista över närmaste grannar

Närmaste grannar finns enligt: ${\text{NN} }(y,X,k)=\|X_{N_{i}}^{E}-y\|\leq \|X_{N_{j}}^{E}-y\|{\text{ if }}1\leq i\leq j\leq k$

Simplex

Simplex projektion är en närmaste grannprojektion. Den lokaliserar $k$ närmaste grannar till platsen i tillståndsutrymmet från vilket en förutsägelse önskas. För att minimera antalet fria parametrar $k$ typiskt satt till $E+1$ som definierar ett $E+1$ dimensionellt simplex i tillståndsutrymmet. Förutsägelsen beräknas som medelvärdet av de viktade fas-rymdsimplexet projicerade $Tp$ -punkterna framåt. Varje granne viktas proportionellt mot deras avstånd till projektionsursprungsvektorn i tillståndsutrymmet.

1. Hitta $k$ närmaste granne: $N_{k}\gets {\text{NN}}(y,X,k)$
2. Definiera avståndsskalan: $d\gets \|X_{N_{1}}^{E}-y\|$
3. Beräkna vikter: För{ $i=1,\dots ,k$ } : $w_{i }\får \exp(-\|X_{N_{i}}^{E}-y\|/d)$
4. Genomsnitt av tillståndsrymds simplex: ${\hat {y}}\gets \summa _{i =1}^{k}\left(w_{i}X_{N_{i}+T_{p}}\right)/\sum _{i=1}^{k}w_{i}$

S-karta

S-Map utökar tillståndsrymdsförutsägelsen i Simplex från ett genomsnitt av $E+1$ närmaste grannar till en linjär regression som passar alla grannar, men lokaliserad med en exponentiell sönderfallskärna . Den exponentiella lokaliseringsfunktionen är ${\displaystyle F(\theta )={\text{exp}}(-\theta d/D)} ,$ där $d$ är grannavståndet och $D$ medelavståndet. På detta sätt, beroende på värdet på ${\displaystyle \theta },$ har grannar nära prediktionsursprungspunkten en högre vikt än de längre bort från den, så att en lokal linjär approximation till det olinjära systemet är rimlig. Denna lokaliseringsförmåga tillåter en att identifiera en optimal lokal skala, vilket i praktiken kvantifierar graden av tillståndsberoende och därmed systemets olinjäritet.

En annan egenskap hos S-Map är att för en korrekt passande modell har regressionskoefficienterna mellan variabler visats approximera gradienten ( riktningsderivatan ) av variabler längs grenröret. Dessa Jacobians representerar de tidsvarierande interaktionsstyrkorna mellan systemvariabler.

1. Hitta $k$ närmaste granne: $N\får {\text{NN}}(y,X,k)$
2. Summa av avstånd: $D\gets {\frac {1}{k}}\summa _{i=1}^{k}\ |X_{N_{i}}^{E}-y\|$
3. $) {\displaystyle w_{ i}\får \exp(-\theta \|X_{N_{i}}^{E}-y\|/D)}$ vikter: För{ $i=1,\dots ,k$ } :
4. Omviktningsmatris: $W\gets {\text{diag}}(w_{i})$
5. Designmatris: $A\gets {\begin{bmatrix}1&X_{N_{1}}&X_{N_{1}-1}&\dots &X_{N_{1} -E+1}\\1&X_{N_{2}}&X_{N_{2}-1}&\dots &X_{N_{2}-E+1}\\\vdots &\vdots &\vdots &\ddots &\vdots \\1&X_{N_{k}}&X_{N_{k}-1}&\dots &X_{N_{k}-E+1}\end{bmatrix}}$
6. Viktad designmatris: $A\gets WA$
7. Svarsvektor vid $Tp$ : $b\gets {\begin{bmatrix}X_{N_{ 1}+T_{p}}\\X_{N_{2}+T_{p}}\\\vdots \\X_{N_{k}+T_{p}}\end{bmatrix}}$
8. Viktad svarsvektor: $b\gets Wb$
9. Minsta kvadraters lösning (SVD): ${\hat {c}}\gets {\text{argmin}}_{c}\|Ac-b\| _{2}^{2}$
10. Lokal linjär modell ${\hat {c}}$ är förutsägelse: ${\hat {y}}\gets {\hat {c}}_{0}+\sum _{i=1}^{E}{\hat {c}}_{i}y_{i}$

Multivariat inbäddning

Multivariate Embedding inser att tidsfördröjda inbäddningar inte är den enda giltiga tillståndsrymdkonstruktionen. I Simplex och S-Map kan man generera ett tillståndsrum från observationsvektorer, eller tidsfördröjningsinbäddningar av en enskild observationstidsserie, eller båda.

Konvergent korsmapping

Convergent cross mapping (CCM) utnyttjar en följd av Generalized Takens Theorem att det ska vara möjligt att korsförutsäga eller korsa kartan mellan variabler som observerats från samma system. Antag att i något dynamiskt system som involverar variablerna $X$ och $Y$ orsakar $X}$ displaystyle $Y$ . Eftersom $X$ och $Y$ tillhör samma dynamiska system, deras rekonstruktioner (via inbäddningar) $M_{x}$ och $M_{y}$ , även mappa till samma system.

Orsaksvariabeln $X$ lämnar en signatur på den påverkade variabeln ${\displaystyle Y} ,$ och följaktligen kan de rekonstruerade tillstånden baserade på $Y$ användas för att korsprediktera värden på $X$ . CCM utnyttjar den här egenskapen för att härleda kausalitet genom att förutsäga $X$ med hjälp av ${\displaystyle M_{y}}-$ biblioteket med punkter (eller vice versa för den andra kausalitetsriktningen), samtidigt som man bedömer förbättringar i korskartans förutsägbarhet som större och större slumpmässiga urval av $M_{y}$ används. Om prediktionsförmågan för $X$ ökar och mättas när hela $M_{y}$ används, ger detta bevis på att $X$ tillfälligt påverkar $Y$ .

Multiview-inbäddning

Multiview Embedding är en dimensionsreduktionsteknik där ett stort antal tillstånd-rum-tidsserievektorer bedöms kombitoriskt mot maximal modellförutsägbarhet.

Tillägg

Tillägg till EDM-tekniker inkluderar:

• Generaliserade satser för icke-linjär tillståndsrekonstruktion
• Utökad konvergent korsmapping
• Dynamisk stabilitet
• S-Map-regularisering
• Visuell analys med EDM
• Konvergent korssortering
• Expertsystem med EDM hybrid
• Skjutbara fönster baserade på den utökade konvergenta korsmappingen
• Empirisk lägesmodellering
• Varierande stegstorlekar med buntinbäddning
• Multiview avstånd regularized S-map

Se även

• Systemdynamik
• Komplex dynamik
• Reduktion av icke-linjär dimensionalitet

Vidare läsning

•   Chang, CW., Ushio, M. & Hsieh, Ch. (2017). "Empirisk dynamisk modellering för nybörjare" . Ecol Res . 32 (6): 785–796. doi : 10.1007/s11284-017-1469-9 . S2CID 4641225 . {{ citera tidskrift }} : CS1 underhåll: flera namn: lista över författare ( länk )
• Stephan B Munch, Antoine Brias, George Sugihara , Tanya L Rogers (2020). "Vanliga frågor om olinjär dynamik och empirisk dynamisk modellering" . ICES Journal of Marine Science . 77 (4): 1463–1479. doi : 10.1093/icesjms/fsz209 . {{ citera tidskrift }} : CS1 underhåll: flera namn: lista över författare ( länk )
•    Donald L. DeAngelis, Simeon Yurek (2015). "Ekvationsfri modellering avslöjar beteendet hos komplexa ekologiska system" . Proceedings of the National Academy of Sciences . 112 (13): 3856–3857. doi : 10.1073/pnas.1503154112 . PMC 4386356 . PMID 25829536 .

externa länkar

• Arxiv preprint server har dagliga inlämningar av (icke refererade) manuskript i dynamiska system.

Onlineböcker eller föreläsningsanteckningar

• EDM Introduktion . Introduktion med video, exempel och referenser.
• Geometrisk teori för dynamiska system . Nils Berglunds föreläsningsanteckningar för en kurs på ETH på avancerad grundnivå.

Forskargrupper

• Sugihara Lab , Scripps Institution of Oceanography, University of California San Diego.