Ramverk för minnesprediktion
Minnesförutsägelseramverket är en teori om hjärnans funktion skapad av Jeff Hawkins och beskrivs i hans 2004 bok On Intelligence . Denna teori berör rollen av däggdjursneocortex och dess associationer med hippocampi och thalamus i att matcha sensoriska input till lagrade minnesmönster och hur denna process leder till förutsägelser om vad som kommer att hända i framtiden.
Översikt
Teorin motiveras av de observerade likheterna mellan hjärnstrukturerna (särskilt neokortikal vävnad) som används för ett brett spektrum av beteenden som är tillgängliga för däggdjur. Teorin hävdar att det anmärkningsvärt enhetliga fysiska arrangemanget av kortikal vävnad återspeglar en enda princip eller algoritm som ligger till grund för all kortikal informationsbehandling. Den grundläggande bearbetningsprincipen antas vara en återkopplings-/återställningsslinga som involverar både kortikalt och extrakortikalt deltagande (det senare från i synnerhet thalamus och hippocampi ).
Grundteorin: igenkänning och förutsägelse i dubbelriktade hierarkier
Det centrala konceptet för ramverket för minnesförutsägelse är att indata från nerifrån och upp matchas i en hierarki av igenkänning och framkallar en serie uppifrån och ner förväntningar kodade som potentieringar. Dessa förväntningar samverkar med bottom-up-signalerna för att både analysera dessa indata och generera förutsägelser om efterföljande förväntade indata. Varje hierarkinivå kommer ihåg ofta observerade tidssekvenser av inmatningsmönster och genererar etiketter eller "namn" för dessa sekvenser. När en inmatningssekvens matchar en memorerad sekvens på en given nivå i hierarkin, sprids en etikett eller "namn" upp i hierarkin – vilket eliminerar detaljer på högre nivåer och gör det möjligt för dem att lära sig högre ordningssekvenser. Denna process ger ökad invarians på högre nivåer. Högre nivåer förutsäger framtida input genom att matcha delsekvenser och projicera deras förväntningar till de lägre nivåerna. Men när en oöverensstämmelse mellan indata och memorerade/förutspådda sekvenser inträffar, fortplantar sig en mer komplett representation uppåt. Detta gör att alternativa "tolkningar" aktiveras på högre nivåer, vilket i sin tur genererar andra förutsägelser på lägre nivåer.
Tänk till exempel på synprocessen . Bottom-up-information börjar som näthinnesignaler på låg nivå (som indikerar närvaron av enkla visuella element och kontraster). På högre nivåer i hierarkin extraheras allt mer meningsfull information om förekomsten av linjer , regioner , rörelser etc. Även längre upp i hierarkin motsvarar aktiviteten närvaron av specifika objekt – och sedan till beteendet hos dessa objekt. Top-down information fyller i detaljer om de igenkända objekten, och även om deras förväntade beteende allt eftersom.
Den sensoriska hierarkin inducerar ett antal skillnader mellan de olika nivåerna. När man går uppåt i hierarkin representationerna ökat:
- Omfattning – till exempel större områden av synfältet eller mer omfattande taktila områden.
- Temporell stabilitet – enheter på lägre nivå förändras snabbt, medan uppfattningar på högre nivå tenderar att vara mer stabila.
- Abstraktion – genom processen med successiv extraktion av invarianta egenskaper, erkänns allt mer abstrakta enheter.
Relationen mellan sensorisk och motorisk bearbetning är en viktig aspekt av den grundläggande teorin. Det föreslås att de motoriska områdena i cortex består av en beteendehierarki som liknar den sensoriska hierarkin, där de lägsta nivåerna består av explicita motoriska kommandon till muskulaturen och de högsta nivåerna motsvarar abstrakta recept (t.ex. 'ändra storlek på webbläsaren'). De sensoriska och motoriska hierarkierna är tätt kopplade, med beteende som ger upphov till sensoriska förväntningar och sensoriska uppfattningar som driver motoriska processer.
Slutligen är det viktigt att notera att alla minnen i den kortikala hierarkin måste läras in – denna information är inte förinkopplad i hjärnan. Därför teoretiseras processen att extrahera denna representation från flödet av input och beteenden som en process som sker kontinuerligt under kognition .
Andra villkor
Hawkins har en omfattande utbildning som elektroingenjör. Ett annat sätt att beskriva teorin (antydd i hans bok) är som en inlärningshierarki av frammatningsstokastiska tillståndsmaskiner . I detta synsätt analyseras hjärnan som ett kodningsproblem, inte alltför olikt framtidsförutsägande felkorrigeringskoder. Hierarkin är en abstraktionshierarki , där maskinernas tillstånd på högre nivå representerar mer abstrakta förhållanden eller händelser, och dessa tillstånd predisponerar maskiner på lägre nivå att utföra vissa övergångar. Maskinerna på lägre nivå modellerar begränsade erfarenhetsdomäner eller styr eller tolkar sensorer eller effektorer. Hela systemet styr faktiskt organismens beteende. Eftersom tillståndsmaskinen är "matning framåt", reagerar organismen på framtida händelser som förutspås från tidigare data. Eftersom det är hierarkiskt uppvisar systemet beteendeflexibilitet, vilket enkelt producerar nya beteendesekvenser som svar på nya sensoriska data. Eftersom systemet lär sig, anpassar sig det nya beteendet till förändrade förhållanden.
Det vill säga, hjärnans evolutionära syfte är att förutsäga framtiden, på visserligen begränsade sätt, för att förändra den.
Neurofysiologisk implementering
De ovan beskrivna hierarkierna är teoretiserade att förekomma primärt i däggdjurs neocortex. I synnerhet antas neocortex bestå av ett stort antal kolonner (vilket också antas av Vernon Benjamin Mountcastle utifrån anatomiska och teoretiska överväganden). Varje kolumn är anpassad till en viss funktion på en given nivå i en hierarki. Den tar emot bottom-up-ingångar från lägre nivåer och top-down-ingångar från högre nivåer. (Andra kolumner på samma nivå matas också in i en given kolumn, och tjänar mestadels till att hämma aktiveringsexklusiva representationer.) När en indata identifieras – det vill säga acceptabel överensstämmelse erhålls mellan bottom-up- och top-down-källorna – en kolumnen genererar utdata som i sin tur sprider sig till både lägre och högre nivåer.
Bark
Dessa processer kartläggs väl till specifika lager i däggdjursbarken. (De kortikala skikten ska inte förväxlas med olika nivåer i bearbetningshierarkin: alla skikt i en enda kolumn deltar som ett element i en enda hierarkisk nivå). Bottom-up-ingång kommer till lager 4 (L4), varifrån den fortplantar sig till L2 och L3 för igenkänning av det invarianta innehållet. Top-down-aktivering kommer till L2 och L3 via L1 (det mestadels axonala lagret som distribuerar aktivering lokalt över kolumner). L2 och L3 jämför bottom-up- och top-down-information och genererar antingen de invarianta "namnen" när tillräcklig matchning uppnås, eller de mer variabla signalerna som uppstår när detta misslyckas. Dessa signaler sprids upp i hierarkin (via L5) och även ner i hierarkin (via L6 och L1).
Thalamus
För att ta hänsyn till lagring och igenkänning av sekvenser av mönster, föreslås en kombination av två processer. Den ospecifika talamusen fungerar som en "fördröjningslinje" – det vill säga L5 aktiverar detta hjärnområde, vilket återaktiverar L1 efter en liten fördröjning. Sålunda genererar utsignalen från en kolumn L1-aktivitet, som kommer att sammanfalla med inmatningen till en kolumn som är temporärt efterföljande i en sekvens. Denna tidsordning fungerar i samband med identifieringen på högre nivå av sekvensen, som inte ändras med tiden; följaktligen gör aktivering av sekvensrepresentationen att komponenterna på lägre nivå förutsägs efter varandra. (Förutom denna roll i sekvensering är thalamus också aktiv som sensorisk waystation - dessa roller involverar tydligen distinkta regioner av denna anatomiskt olikformiga struktur.)
Hippocampus
En annan anatomiskt olika hjärnstruktur som antas spela en viktig roll i hierarkisk kognition är hippocampus . Det är välkänt att skador på båda hippocampi försämrar bildandet av långtidsdeklarativt minne ; individer med sådan skada kan inte bilda nya minnen av episodisk karaktär, även om de kan återkalla tidigare minnen utan svårigheter och kan också lära sig nya färdigheter. I den nuvarande teorin anses hippocampi vara den översta nivån i den kortikala hierarkin; de är specialiserade på att behålla minnen av händelser som sprider sig hela vägen till toppen. Eftersom sådana händelser passar in i förutsägbara mönster, blir de memorerbara på lägre nivåer i hierarkin. (En sådan förflyttning av minnen ner i hierarkin är för övrigt en allmän förutsägelse av teorin.) Således memorerar hippocampi ständigt "oväntade" händelser (det vill säga de som inte förutspås på lägre nivåer); om de är skadade, äventyras hela processen för memorering genom hierarkin.
2016 antog Jeff Hawkins att kortikala kolonner inte bara fångade en känsla, utan också den relativa platsen för den känslan, i tre dimensioner snarare än två ( placerad infångning ), i förhållande till vad som fanns runt den. "När hjärnan bygger en modell av världen har allt en plats i förhållande till allt annat" - Jeff Hawkins.
Förklarande framgångar och förutsägelser
Ramverket för minnesprediktion förklarar ett antal psykologiskt framträdande aspekter av kognition. Till exempel är förmågan hos experter inom vilket område som helst att utan ansträngning analysera och komma ihåg komplexa problem inom sitt område en naturlig följd av deras bildande av allt mer förfinade konceptuella hierarkier. Processionen från " uppfattning " till " förståelse " är också lätt att förstå som ett resultat av matchningen av förväntningar uppifrån och ner och nerifrån och upp . Missmatchningar, däremot, genererar den utsökta förmågan hos biologisk kognition att upptäcka oväntade uppfattningar och situationer. (Brister i detta avseende är ett vanligt kännetecken för nuvarande tillvägagångssätt för artificiell intelligens.)
Förutom dessa subjektivt tillfredsställande förklaringar gör ramverket också ett antal testbara förutsägelser . Till exempel kräver den viktiga roll som förutsägelse spelar genom de sensoriska hierarkierna för förväntad neural aktivitet i vissa celler i hela sensoriska cortex. Dessutom bör celler som "namnger" vissa invarianter förbli aktiva under hela närvaron av dessa invarianter, även om de underliggande indata ändras. De förutspådda mönstren för aktivitet nerifrån och upp och uppifrån och ned – där de tidigare är mer komplexa när förväntningarna inte uppfylls – kan vara detekterbara, till exempel genom funktionell magnetisk resonanstomografi (fMRI ) .
Även om dessa förutsägelser inte är särskilt specifika för den föreslagna teorin, är de tillräckligt entydiga för att möjliggöra verifiering eller förkastande av dess centrala grundsatser. Se On Intelligence för detaljer om förutsägelser och fynd.
Bidrag och begränsningar
Genom designen bygger den nuvarande teorin på arbetet från många neurobiologer, och det kan hävdas att de flesta av dessa idéer redan har föreslagits av forskare som Grossberg och Mountcastle . Å andra sidan lägger den nya separationen av den konceptuella mekanismen (dvs. dubbelriktad bearbetning och invariant igenkänning) från de biologiska detaljerna (dvs. neurala skikt, kolumner och strukturer) grunden för abstrakt tänkande om ett brett spektrum av kognitiva processer.
Den viktigaste begränsningen för denna teori är dess nuvarande brist på detaljer. Till exempel spelar begreppet invarians en avgörande roll; Hawkins anger " namnceller " för åtminstone några av dessa invarianter. (Se även Neural ensemble#Kodning för mormorsneuroner som utför denna typ av funktion och spegelneuroner för ett somatosensoriskt system. ) Men det är långt ifrån självklart hur man utvecklar en matematiskt rigorös definition, som kommer att bära den erforderliga begreppsbelastningen över hela domäner som presenteras av Hawkins. På samma sätt kommer en komplett teori att kräva trovärdiga detaljer om både den kortsiktiga dynamiken och inlärningsprocesserna som gör det möjligt för de kortikala skikten att bete sig som annonserat.
IBM implementerar Hawkins modell.
Maskininlärningsmodeller
Minnesprediktionsteorin hävdar att en gemensam algoritm används av alla regioner i neocortex. Teorin har gett upphov till ett antal mjukvarumodeller som syftar till att simulera denna vanliga algoritm med hjälp av en hierarkisk minnesstruktur. Årtalet i listan nedan anger när modellen senast uppdaterades.
Modeller baserade på Bayesianska nätverk
Följande modeller använder trospridning eller trosrevision i enkelkopplade Bayesianska nätverk .
- Hierarchical Temporal Memory (HTM), en modell, en relaterad utvecklingsplattform och källkod av Numenta, Inc. (2008).
- HtmLib [ död länk ] , en alternativ implementering av HTM-algoritmer av Greg Kochaniak med ett antal modifieringar för att förbättra igenkänningsnoggrannheten och hastigheten (2008).
-
Project Neocortex , ett projekt med öppen källkod för modellering av ramverk för minnesprediktion (2008).
- Saulius Garalevicius forskningssida , forskningsartiklar och program som presenterar experimentella resultat med en modell av ramverket för minnesprediktion, en grund för Neocortex-projektet (2007).
-
George, Dileep (2005). "En hierarkisk Bayesiansk modell av invariant mönsterigenkänning i den visuella cortexen": 1812–1817. CiteSeerX 10.1.1.132.6744 .
{{ citera journal }}
: Citera journal kräver|journal=
( hjälp ) en artikel som beskriver tidigare pre-HTM Bayesiansk modell av medgrundaren av Numenta. Detta är den första modellen av ramverk för minnesprediktion som använder Bayesianska nätverk och alla ovanstående modeller är baserade på dessa initiala idéer. Matlabs källkod för denna modell hade varit fritt tillgänglig för nedladdning i ett antal år.
Andra modeller
- Implementering av MPF , en artikel av Saulius Garalevicius som beskriver en metod för klassificering och förutsägelse i en modell som lagrar tidssekvenser och använder oövervakad inlärning (2005).
- M5 , en mönstermaskin för Palm OS som lagrar mönstersekvenser och återkallar de mönster som är relevanta för dess nuvarande miljö (2007).
- BrainGame , öppen källkodsprediktorklass som lär sig mönster och kan kopplas till andra prediktorer (2005).
Se även
- Vernon Mountcastle , neuroforskaren som upptäckte och karakteriserade den kolumnära organisationen av hjärnbarken.
- Adaptiv resonansteori , en neural nätverksarkitektur utvecklad av Stephen Grossberg .
- Beräkningsneurovetenskap
- Neural Darwinism
- Prediktiv kodning
- Prediktivt lärande
- Sparsamt distribuerat minne
Vidare läsning
- Jeff Hawkins (2004), On Intelligence , New York: Henry Holt. Bibliografi, Index, 251 sidor. ISBN 0-8050-7456-2
externa länkar
-
Hierarkisk visionalgoritms källkod och data – liknande Memory-Prediction Framework (från MIT Center for Biological & Computational Learning ) -
Grupp av artiklar om neurovetenskap och AI – Grupp av artiklar och papper som stödjer Jeffs MPF-teori. - MIT Technology Review Måndagen den 12 februari 2007: Bygger Cortex i Silicon