Singularitarism

Singularitarism är en rörelse som definieras av tron att en teknisk singularitet - skapandet av superintelligens - sannolikt kommer att ske inom en medellång framtid, och att medvetna åtgärder bör vidtas för att säkerställa att singulariteten gynnar människor .

Singularitärer skiljer sig från andra futurister som spekulerar i en teknisk singularitet genom sin tro att singulariteten inte bara är möjlig, utan också önskvärd om den vägleds försiktigt. Följaktligen kan de ibland ägna sina liv åt att agera på ett sätt som de tror kommer att bidra till dess snabba men säkra förverkligande.

Time beskriver Singularitarians världsbild genom att säga att "även om det låter som science fiction så är det inte det, inte mer än att en väderprognos är science fiction. Det är ingen fransidé; det är en seriös hypotes om livets framtid. Jorden. Det finns en intellektuell gag-reflex som slår in varje gång du försöker svälja en idé som involverar superintelligenta odödliga cyborgs, men... medan Singularity verkar vara, på ytan, absurd, är det en idé som belönar nykter , noggrann utvärdering".

Definition

Termen "singularitär" definierades ursprungligen av den extropiska tänkaren Mark Plus (Mark Potts) 1991 för att betyda "en som tror på begreppet en singularitet". ^{[ citat behövs ]} Denna term har sedan dess omdefinierats till att betyda "Singularitetsaktivist" eller "Singularitetens vän"; det vill säga en som agerar för att åstadkomma singulariteten.

Singularitarism kan också ses som en orientering eller en syn som föredrar förbättring av mänsklig intelligens som ett specifikt transhumanistiskt mål istället för att fokusera på specifika teknologier som AI. Det finns också definitioner som identifierar en singularitär som en aktivist eller en vän till konceptet av singularitet, det vill säga en som agerar för att åstadkomma en singularitet. Vissa källor beskrev det som en moralfilosofi som förespråkar medvetet agerande för att åstadkomma och styra utvecklingen av en superintelligens som kommer att leda till en teoretisk framtidspunkt som dyker upp under en tid av accelererad förändring.

Uppfinnaren och futuristen Ray Kurzweil , författare till 2005 års bok The Singularity Is Near: When Humans Transcend Biology, definierar en singularitär som någon "som förstår singulariteten och som har reflekterat över dess konsekvenser för sitt eget liv" och uppskattar singulariteten kommer att inträffa omkring 2045 .

Historia

År 1993 antog matematikern , datavetaren och science fiction -författaren Vernor Vinge att ögonblicket kan komma när teknologin kommer att tillåta "skapande av enheter med större intelligens än mänsklig intelligens" och använde termen "singulariteten" för att beskriva detta ögonblick. Han föreslog att singulariteten kan utgöra en existentiell risk för mänskligheten, och att det kan ske på ett av fyra sätt:

Utvecklingen av datorer som är "vakna" och övermänskligt intelligenta.
Stora datornätverk (och deras associerade användare) kan "vakna upp" som en övermänskligt intelligent enhet.
Dator/mänskliga gränssnitt kan bli så intima att användare rimligen kan anses vara övermänskligt intelligenta.
Biologisk vetenskap kan hitta sätt att förbättra det naturliga mänskliga intellektet.

Singularitarianism smälte samman till en sammanhängande ideologi år 2000 när artificiell intelligens (AI)-forskaren Eliezer Yudkowsky skrev The Singularitarian Principles , där han uttalade att en Singularitarian tror att singulariteten är en sekulär, icke-mystisk händelse som är möjlig och fördelaktig för världen. bearbetas av dess anhängare. Yudkowskys konceptualisering av singularitet erbjöd en bred definition utvecklad för att inkludera olika tolkningar. Det finns teoretiker som Michael Anissimov som argumenterade för en strikt definition, en som endast hänvisar till förespråkandet av utvecklingen av posthuman (större än mänsklig) intelligens.

I juni 2000 grundade Yudkowsky, med stöd av internetentreprenörerna Brian Atkins och Sabine Atkins, Machine Intelligence Research Institute för att arbeta för att skapa självförbättrande Friendly AI . MIRIs skrifter argumenterar för idén att en AI med förmågan att förbättra sin egen design ( Seed AI ) snabbt skulle leda till superintelligens . Dessa singularitärer tror att att nå singulariteten snabbt och säkert är det bästa möjliga sättet att minimera den existentiella nettorisken .

Många människor tror att en teknisk singularitet är möjlig utan att anta Singularitarianism som en moralisk filosofi. Även om de exakta siffrorna är svåra att kvantifiera, är Singularitarianism en liten rörelse, som inkluderar transhumanistiska filosofen Nick Bostrom . Uppfinnaren och framtidsforskaren Ray Kurzweil , som förutspår att singulariteten kommer att inträffa omkring 2045, bidrog i hög grad till att popularisera singularitarianism med sin bok från 2005 The Singularity Is Near: When Humans Transcend Biology .

Vad är då Singulariteten? Det är en framtida period under vilken takten i den tekniska förändringen kommer att vara så snabb, dess inverkan så djup att mänskligt liv kommer att omvandlas oåterkalleligt. Även om den varken är utopisk eller dystopisk, kommer denna epok att förändra de begrepp vi litar på för att ge mening åt våra liv, från våra affärsmodeller till det mänskliga livets cykel, inklusive döden själv. Att förstå Singulariteten kommer att förändra vårt perspektiv på betydelsen av vårt förflutna och konsekvenserna för vår framtid. Att verkligen förstå det förändrar ens syn på livet i allmänhet och ens speciella liv. Jag betraktar någon som förstår singulariteten och som har reflekterat över dess konsekvenser för sitt eget liv som en "singularitär".

Med stöd av NASA , Google och ett brett utbud av teknikprognosmakare och teknokapitalister öppnade Singularity University i juni 2009 på NASA Research Park i Silicon Valley med målet att förbereda nästa generations ledare för att möta utmaningarna med att accelerera förändringar .

I juli 2009 deltog många framstående singularitärer i en konferens anordnad av Association for the Advancement of Artificial Intelligence ( AAAI) för att diskutera den potentiella effekten av robotar och datorer och effekten av den hypotetiska möjligheten att de skulle kunna bli självförsörjande och kunna fatta sina egna beslut. De diskuterade möjligheten och i vilken utsträckning datorer och robotar skulle kunna förvärva någon nivå av autonomi, och i vilken grad de kunde använda sådana förmågor för att eventuellt utgöra något hot eller fara (dvs cybernetisk revolt ) . De noterade att vissa maskiner har fått olika former av semi-autonomi, inklusive att kunna hitta kraftkällor på egen hand och att självständigt kunna välja mål att attackera med vapen. De varnade för att vissa datavirus kan undvika eliminering och har uppnått "kackerlackaintelligens". De hävdade att självmedvetenhet som avbildas i science fiction förmodligen är osannolik, men att det fanns andra potentiella faror och fallgropar. Vissa experter och akademiker har ifrågasatt användningen av robotar för militär strid , särskilt när sådana robotar ges en viss grad av autonoma funktioner. Ordföranden för AAAI har beställt en studie för att titta på denna fråga.

Reception

Det finns flera invändningar mot Kurzweils singularitarism och dessa inkluderar till och med kritik från optimister inom AI-området. Till exempel Pulitzerprisvinnande författaren Douglas Hofstadter att Kurzweils förutspådda prestation av AI på mänsklig nivå år 2045 inte är lönsamt. Till och med Gordon Moore , som är krediterad för att ha introducerat Moores lag som predikerade begreppet singularitet, hävdade att det aldrig kommer att inträffa. Enligt vissa observatörer minskar inte denna kritik entusiasmen för singularitet eftersom den har antagit ett kvasi-religiöst svar på rädslan för döden, vilket tillåter dess anhängare att njuta av religionens fördelar utan dess ontologiska bördor. Vetenskapsjournalisten John Horgan gav fler insikter i denna uppfattning när han liknade singularitarism med en religion:

Låt möta det. Singulariteten är en religiös snarare än en vetenskaplig vision. Science-fiction-författaren Ken MacLeod har kallat det för "hänryckandet för nördar", en anspelning på yttertiden, när Jesus för de troende till himlen och lämnar oss syndare bakom sig. En sådan längtan efter transcendens, vare sig den är andlig eller teknisk, är alltför förståelig. Både som individer och som art står vi inför dödligt allvarliga problem, inklusive terrorism, kärnvapenspridning, överbefolkning, fattigdom, svält, miljöförstöring , klimatförändringar , resursutarmning och AIDS . Ingenjörer och vetenskapsmän borde hjälpa oss att möta världens problem och hitta lösningar på dem, snarare än att hänge oss åt eskapistiska, pseudovetenskapliga fantasier som singulariteten.

Kurzweil avvisar denna kategorisering och säger att hans förutsägelser om singulariteten drivs av data som ökar i beräkningsteknologi har varit exponentiella tidigare. Han betonade också att kritiker som utmanar hans syn av misstag tar en intuitiv linjär syn på tekniska framsteg.

Se även

externa länkar

Ethical Issues in Advanced Artificial Intelligence av Nick Bostrom , 2003
"The Consciousness Conundrum" , en kritik av singularitarians av John Horgan