Alexey Ivakhnenko

Alexey Ivakhnenko
Född	Oleksiy Hryhorovych Ivakhnenko ( 1913-03-30 ) 30 mars 1913 Kobelyaky , Poltava Governorate , Ryska imperiet
dog	16 oktober 2007 (2007-10-16) (94 år) Kiev , Ukraina
Nationalitet	ukrainska
Alma mater	Leningrad Electrotechnical Institute ( M.Sc )
Känd för	Gruppmetod för datahantering , djupinlärning , induktiv modellering
Utmärkelser	Honorary Scientist of the USSR Two State Prizes of the USSR
Vetenskaplig karriär
Fält	Artificiell intelligens , maskininlärning , datavetenskap
institutioner	Glushkov Institute of Cybernetics uk , Kyiv Electrotechnical Institute , Kyiv Polytechnic Institute ( D.Sc )
Avhandling	Teori om kombinerade system för automatisk styrning av elmotorer ( 1954)
Anmärkningsvärda studenter	VM Kuntsevich, VI Kostiuk VI Ivanenko, VI Vasylyev OA Pavlov

Alexey Grigoryevich Ivakhnenko ( ukrainska : Олексíй Григо́рович Іва́хненко ; 30 mars 1913 – 16 oktober 2007) var en sovjetisk och ukrainsk matematiker som var mest känd för att utveckla gruppmetoden för statistisk inlärning, som ibland är en metod för datahantering för GM (DH). kallad "Fader till djupinlärning ".

tidigt liv och utbildning

Aleksey föddes i Kobelyaky , Poltava Governorate i en familj av lärare. 1932 tog han examen från Elektroteknisk högskola i Kiev och arbetade i två år som ingenjör på byggandet av ett stort kraftverk i Berezniki . Sedan 1938, efter examen från Leningrad Electrotechnical Institute , arbetade Ivakhnenko i All-Union Electrotechnical Institute i Moskva under krigstid . Där undersökte han problemen med automatisk kontroll i laboratoriet, ledd av Sergey Lebedev .

Han fortsatte forskningen vid andra institutioner i Ukraina efter att ha återvänt till Kiev 1944. Det året fick han doktorsexamen. examen och senare, 1954 hade erhållit D.Sc. grad. 1964 utsågs han till chef för avdelningen för kombinerade styrsystem vid Institutet för cybernetik. Samtidigt arbetade först som föreläsare och från 1961 som professor i automatisk styrning och teknisk cybernetik vid Kiev Polytechnic Institute .

Forskning

Ivakhnenko är känd för att vara grundaren av induktiv modellering, ett vetenskapligt tillvägagångssätt som används för mönsterigenkänning och komplexa systemprognoser. Han hade använt detta tillvägagångssätt under utvecklingen av gruppmetoden för datahantering ( GMDH). 1968 hade tidskriften "Avtomatika" publicerat hans artikel "Group Method of Data Handling – en rival av metoden för stokastisk approximation", vilket markerar början på ett nytt steg i hans vetenskapliga arbete. Han ledde utvecklingen av detta tillvägagångssätt, med ett professionellt team av matematiker och ingenjörer vid Institute of Cybernetics.

Gruppmetod för datahantering

GMDH - metoden presenterar ett unikt förhållningssätt till lösningen av artificiell intelligensproblem och till och med en ny filosofi för vetenskaplig forskning , som blev möjlig med hjälp av moderna datorer. En forskare kanske inte följer det traditionella deduktiva sättet att bygga modeller "från allmän teori - till en viss modell": övervaka ett objekt, studera dess struktur, förstå principerna för dess funktion, utveckla teori och testa modellen för ett objekt. Istället föreslås det nya tillvägagångssättet "från specificerad data - till en generell modell": efter inmatning av data väljer en forskare en klass av modeller, typen av modell-varianter generering och ställer in kriteriet för modellval . Eftersom det mesta rutinarbetet överförs till en dator minimeras påverkan av mänsklig påverkan på det objektiva resultatet. I själva verket kan detta tillvägagångssätt betraktas som en av implementeringarna av avhandlingen om artificiell intelligens, som säger att en dator kan fungera som en kraftfull rådgivare till människor.

Utvecklingen av GMDH består av en syntes av idéer från olika vetenskapsområden: det cybernetiska konceptet " svarta lådan " och principen om successivt genetiskt urval av parvisa egenskaper , Godels ofullständighetsteorem och Gabors princip om "valfrihet för beslut", Adhémarens felaktighet och Ölens princip om yttre tillägg .

GMDH är den ursprungliga metoden för att lösa problem för strukturell-parametrisk identifiering av modeller för experimentell data under osäkerhet . Ett sådant problem uppstår vid konstruktionen av en matematisk modell som approximerar det okända mönstret för undersökt objekt eller process. Den använder information om det som implicit finns i data. GMDH skiljer sig från andra modelleringsmetoder genom aktiv tillämpning av följande principer : automatisk modellgenerering, ofullständiga beslut och konsekvent urval utifrån externa kriterier för att hitta modeller med optimal komplexitet. Den hade ett original flerskiktsförfarande för automatisk modellstrukturgenerering, som imiterar den evolutionära processen för biologiskt urval med beaktande av parvisa successiva egenskaper. Sådan procedur används för närvarande i nätverk för djupinlärning . För att jämföra och välja optimala modeller används två eller flera delmängder av ett dataprov. Detta gör det möjligt att undvika preliminära antaganden, eftersom provdelning implicit erkänner olika typer av osäkerhet under den automatiska konstruktionen av den optimala modellen.

I början av 1980-talet hade Ivakhnenko etablerat en organisk analogi mellan problemet med att konstruera modeller för bullriga data och signaler som passerar genom kanalen med brus . Detta gjorde det möjligt att lägga grunden till teorin om buller-immun modellering. Huvudresultatet av denna teori är att komplexiteten hos optimal prediktiv modell beror på graden av osäkerhet i data: ju högre denna nivå (t.ex. på grund av brus) - desto enklare måste den optimala modellen vara (med mindre uppskattade parametrar). Detta initierade utvecklingen av GMDH-teorin som en induktiv metod för automatisk anpassning av optimal modellkomplexitet till informationsnivån i fuzzy data . Därför anses GMDH ofta vara den ursprungliga informationsteknologin för kunskapsutvinning från experimentella data .

Resultat

Vid sidan av GMDH hade Ivakhnenko utvecklat följande uppsättning resultat:

• Nya principer för automatisk styrning av varvtal för AC och asynkrona elmotorer .
• Teori om invarianta system för adaptiv styrning med kompensation av uppmätta störningar. Han hade utvecklat principen om indirekt mätning av störningar, kallad "differentialgaffel" som användes senare i praktiken.
• Principen för kombinerad kontroll (med negativ återkoppling för de kontrollerade variablerna och positiv återkoppling för de kontrollerade störningarna). Ett antal sådana system för varvtalsreglering av elmotorer hade implementerats i praktiken. Det bevisade den praktiska genomförbarheten av oföränderliga förhållanden i ett kombinerat styrsystem som förenar fördelarna med slutna system för styrning genom avvikelse (hög precision) och öppna system (prestanda).
• De icke-sökande extrema regulatorer på grundval av situationer erkännande.
• Principen för självlärande mönsterigenkänning. Det demonstrerades först i det kognitiva systemet "Alpha", skapat under hans ledning.
• Grund för konstruktion av cybernetiska prediktionsenheter.
• Teori om modellers självorganisering enligt experimentella data.
• Styrmetod med prognosoptimering.
• Brusimmuna principer för robust modellering för data med brus.
• Princip för konstruktion av självorganiserande nätverk för djupinlärning.
• Design av flerskiktiga neurala nätverk med aktiva neuroner, där varje neuron är en algoritm.

Ivakhnenko är välkänd för sina prestationer inom teorin om invarians och teorin om kombinerade automatiska styrsystem, som fungerar på principen om uppmätta störningskompensation. Han hade utvecklat apparater och metoder för adaptiv styrning av system med magnetiska förstärkare och motorer.

Han är författare till den första ukrainska monografin om teknisk kybernetik, som publicerades över hela världen på sju språk. I hans studie var en vidareutveckling av principerna för kombinerad kontroll kopplad till implementeringen av metoder för evolutionär självorganisering , mönsterigenkänning och prognoser i kontrollsystem .

Under de senaste åren har hans främsta innovation - GMDH-metoden utvecklats som en metod för induktiv modellering, komplexa processer och systemprognoser . Hans idéer används nu i nätverken för djupinlärning . Metodens effektivitet bekräftades upprepade gånger under lösningen av verkliga komplexa problem inom ekologi , meteorologi , ekonomi och teknik , vilket bidrog till att öka dess popularitet bland det internationella forskarsamhället. Parallellt genomfördes utvecklingar av evolutionära självorganiserande algoritmer inom ett relaterat område - klustringsproblem med mönsterigenkänning. Framsteg i modelleringen av miljöprocesser återspeglas i monografierna, ekonomiska processer - i böckerna. Resultaten av utforskning av återkommande flerskiktiga GMDH-algoritmer beskrivs i böckerna.

Vetenskaplig skola

Från 1963 till 1989 var Ivakhnenko redaktör för den specialiserade vetenskapliga tidskriften "Avtomatika" (senare "Problem of management and data science"), som spelade en avgörande roll i bildandet och utvecklingen av den ukrainska skolan för induktiv modellering. Under dessa år översattes tidskriften och trycktes om i USA som "Sovjet Automatic Control" (senare "Journal of Automation and Information Sciences").

Vid sidan av ständig innovation inom sitt område sedan 1945 upprätthöll Ivakhnenko en aktiv lärarkarriär, först som biträdande professor vid institutionen för teoretisk mekanik och sedan vid fakulteten för styrsystem. Sedan 1960 som professor vid avdelningen för teknisk cybernetik vid Kyiv Polytechnic Institute, bidrog han med föreläsningar för universitetet och studentkåren, samt övervakade arbetet för många doktorander. 1958-1964 var han arrangör av All-Union Conferences of Invariance i Kiev, där utvecklingen av teorin om invarianta styrsystem återställdes efter förbud.

Hans outtömliga entusiasm hjälpte mer än 220 unga forskare att förbereda och framgångsrikt försvara sin doktorsexamen. avhandlingar under hans ledning i KPI och Institute of Cybernetics och nästan 30 av hans studenter försvarade sina postdoktorala avhandlingar. Ivakhnenkos vetenskapliga skola var och är en riktig vagga för högt kvalificerade vetenskapliga yrkesverksamma. Dessutom hade hans elever VMKuntsevych, VIKostyuk, VIIvanenko, VIVasiliev, AAPavlov och andra skapat sina egna respekterade vetenskapliga skolor. Ivakhnenko var ett lysande exempel på en vetenskapsman, med en stark känsla för ny och anmärkningsvärd vetenskaplig intuition. Fram till sina sista dagar fortsatte han att arbeta aktivt och generöst genererade originella vetenskapliga idéer och resultat.

Utmärkelser och utmärkelser

Ivakhnenko är Sovjetunionens hedersforskare (1972), tvåfaldig vinnare av statspriset (1991, 1997) för sina arbeten om teorin om invarianta automatiska system och uppsättning publikationer om informationsteknologi inom området artificiell intelligens. Författare till 40 böcker och över 500 vetenskapliga artiklar. Hedersdoktor vid National Technical University "KPI" (2003) och Lviv Polytechnic (2005). Han var korresponderande medlem av vetenskapsakademien USSR (1961) och akademiker vid NAS i Ukraina (2003).

Utvalda verk

• Ivakhnenko AG Heuristic Self-Organization in Problems of Engineering Cybernetics , Automatica, vol. 6, 1970 — sid. 207-219.
• Ivakhnenko AG Polynomial Theory of Complex Systems , IEEE Transactions on Systems Man and Cybernetics, 4, 1971 — sid. 364-378.
•   Ivakhnenko, AG; Ivakhnenko, GA (1995). "Översikten av problem som kan lösas med algoritmer för gruppens metod för datahantering (GMDH)" ( PDF) . Mönsterigenkänning och bildanalys . 5 (4): 527–535. CiteSeerX 10.1.1.19.2971 .
•   Ivakhnenko, AG; Müller, J.-A. (1997). "Senaste utvecklingen av självorganiserande modellering i förutsägelse och analys av aktiemarknaden" ( PDF) . Microelectron.Reliab . 37 : 1053-1072. CiteSeerX 10.1.1.19.4973 .

externa länkar

• Gruppens metod för datahantering
• Bibliotek med GMDH-böcker och artiklar
• GMDH:Om författaren — Biografi och presentationer om Aleksey Ivakhnenko.