Moralisk maskin
Moral Machine är en onlineplattform, utvecklad av Iyad Rahwans Scalable Cooperation-grupp vid Massachusetts Institute of Technology , som genererar moraliska dilemman och samlar in information om de beslut som människor fattar mellan två destruktiva utfall. Plattformen är idén från Iyad Rahwan och socialpsykologerna Azim Shariff och Jean-François Bonnefon, som kom på idén inför publiceringen av deras artikel om etiken i självkörande bilar. De viktigaste bidragsgivarna till att bygga plattformen var MIT Media Labs doktorander Edmond Awad och Sohan Dsouza.
De presenterade scenarierna är ofta varianter av vagnproblemet , och den information som samlas in skulle användas för vidare forskning angående de beslut som maskinintelligens måste fatta i framtiden. Till exempel, eftersom artificiell intelligens spelar en allt viktigare roll inom autonom körteknik , hjälper forskningsprojekt som Moral Machine till att hitta lösningar för utmanande beslut på liv och död som kommer att möta självkörande fordon.
Moral Machine var aktiv från januari 2016 till juli 2020. The Moral Machine fortsätter att finnas tillgänglig på deras hemsida för människor att uppleva.
Experimentet
The Moral Machine var ett ambitiöst projekt; det var det första försöket att använda en sådan experimentell design för att testa ett stort antal människor i över 200 länder över hela världen. Studien godkändes av Institute Review Board (IRB) vid Massachusetts Institute of Technology (MIT).
Upplägget av experimentet ber tittaren att fatta ett beslut om ett enskilt scenario där en självkörande bil är på väg att träffa fotgängare. Användaren kan välja att låta bilen antingen svänga för att undvika att träffa fotgängare eller fortsätta rakt för att bevara de liv den transporterar.
Deltagarna kan genomföra så många scenarier de vill, men själva scenarierna genereras i grupper om tretton. Inom dessa tretton är ett enda scenario helt slumpmässigt medan de andra tolv genereras från ett utrymme i en databas med 26 miljoner olika möjligheter. De är valda med två dilemman fokuserade på var och en av sex dimensioner av moraliska preferenser: karaktärens kön, karaktärens ålder, karaktärens fysiska kondition, karaktärens sociala status, karaktärens art och karaktärens antal.
Experimentuppsättningen förblir densamma genom flera scenarier men varje scenario testar olika faktorer. Framför allt är karaktärerna inblandade i scenariot olika i var och en. Karaktärer kan inkludera sådana som: barnvagn, flicka, pojke, gravid, manlig läkare, kvinnlig läkare, kvinnlig idrottsman, verkställande kvinna, manlig idrottsman, verkställande man, stor kvinna, stor man, hemlös, gammal man, gammal kvinna, hund, brottsling , och en katt.
Genom dessa olika karaktärer kunde forskare förstå hur en mängd olika människor kommer att bedöma scenarier utifrån de inblandade.
Analys
Analys av data som samlats in genom Moral Machine visade stora skillnader i relativa preferenser mellan olika länder, och korrelationer mellan dessa preferenser och olika nationella mått.
Data syntetiserades genom en gemensam analys för att beräkna den genomsnittliga marginalkomponenteffekten (AMCE) för varje attribut som Moral Machine testade. Dessa attribut testade nio faktorer: skona människor (mot husdjur), hålla sig på rätt kurs (mot att svänga), skona passagerare (mot fotgängare), skona fler liv (mot färre liv), skona män (mot kvinnor), skona de unga (mot de äldre), skona fotgängare som korsar lagligt (mot jaywalking), skona de vältränade (mot de mindre vältränade) och skona de med högre social status (mot lägre social status). Vissa karaktärer hade andra egenskaper (som graviditet, läkare, brottslingar, etc.) som inte föll in i dessa testade faktorer.
Globalt sett gynnade deltagarna människoliv framför livet för djur som hundar och katter. De ville skona fler liv än mindre och ville också skona yngre liv jämfört med äldre. Bebisar var oftast skonade med katter som var minst skonade. När det gäller könsvariationer var manliga läkare och gubbar mer förskonade än kvinnliga läkare och gamla kvinnor. Medan kvinnliga idrottare och större kvinnor skonades mer än manliga idrottare och större män. Alla tre klustren delade preferensen att skona fotgängare framför passagerare och lagliga människor framför olagliga.
Kulturkluster
Eftersom experimentet kördes i global skala kunde forskarna dela upp data ytterligare för att se vad separata kulturer och regioner värdesätter. För att genomföra denna detaljerade analys tittade forskare på 130 länder med minst 100 personer som gav data till Moral Machine.
Forskare kunde separera liknande fynd i flera grupper av regioner på jorden som de kallar "kulturella kluster".
Det första klustret, som forskare kallade det västerländska klustret, innehåller Nordamerika och europeiska länder med protestantiska, katolska och ortodoxa kristna kulturella grupper. Det andra klustret, kallat det östra klustret, innehåller östliga länder som Japan och Taiwan samt islamiska länder som Indonesien, Pakistan och Saudiarabien. Det tredje klustret, som kallas det södra klustret, består av de latinamerikanska länderna i Central- och Sydamerika samt några länder med franskt inflytande som franska utomeuropeiska territorier, och de som någon gång stod under franskt ledarskap.
Att kunna visa kulturella kluster av information tyder på att det finns regionala och kulturella specifika moraliska mönster som kan tillåta grupper av territorier att ha en delad etisk standard när det kommer till maskiner.
Kluster efter region
Forskare fann att kulturkluster varierade på några sätt. Det östra klustret, till exempel, hade inte lika mycket preferens att skona yngre människor jämfört med de andra två klustren och hade en högre preferens för att skona lagliga människor. Det västra klustret hade en högre preferens för passivitet från förarens sida och hade därför mindre preferens för att skona fotgängare jämfört med andra kluster. Det södra klustret hade en högre preferens för att skona honor, ungar och de med högre status. De i det södra klustret hade en mycket högre preferens för att skona människor framför husdjur eller andra djur. De föredrog också starkt att skona kvinnor framför män, såväl som personer som ansågs vara mer "passade" i motsats till de som är "olämpliga" (till exempel idrottare framför "stora" individer").
Individuella vs kollektivistiska kulturer
Deltagare från individualistiska kulturer hade en högre preferens för att skona det större antalet människor. Detta kan bero på ett individualistiskt samhälles betoning av varje individs värde. Å andra sidan hade respondenter från kulturer som är mer kollektivistiska en starkare preferens att skona gamla liv framför yngre. Detta förklaras sannolikt av kollektivismens prioritering av gruppens välbefinnande framför individuellt värde, samt den kollektivistiska kulturens tradition att värdera och respektera den äldre befolkningen. Till exempel rankades Kina långt under världsgenomsnittet för att föredra att skona de yngre framför äldre, samt att skona fler liv framför mindre. Å andra sidan uppvisade den genomsnittliga respondenten från USA en mycket högre tendens att rädda yngre liv och större grupper.
Utvecklade vs outvecklade länder
Deltagare från länder som är mindre rika och har svagare institutioner visade en högre tendens att skona fotgängare som passerade illegalt jämfört med de från mer rika och utvecklade länder. Detta beror med största sannolikhet på deras erfarenhet av att leva i ett samhälle där individer är mer benägna att avvika från regler på grund av mindre strikt efterlevnad av lagar.
Ekonomisk ojämlikhet
Omfattningen av ekonomisk jämlikhet i ett land är en korrekt förutsägelse om huruvida de är mer benägna att föredra att skona de med hög respektive låg status. Länder med en högre Gini-koefficient – som används av Världsbanken för att mäta ekonomisk ojämlikhet i ett land – är mer benägna att skona individer av högre klass. Med andra ord skulle en individ från ett land med högre ekonomisk ojämlikhet vara mer benägna att skona en chef framför en hemlös person. Samma förhållande kan observeras för preferensen att skona rika liv framför mindre rika - länder med högre ekonomisk ojämlikhet föredrar överväldigande att rädda rikare liv framför fattigare.
Källdata och kod för att reproducera resultaten av analysen finns på den befintliga Morale Machine-webbplatsen. Data kan användas av andra forskare för att dra olika slutsatser och analyser. Var noga med att kontrollera källan för licensproblem.
Tillämpningar av data
Fynden från den moraliska maskinen kan hjälpa beslutsfattare när de designar självkörande bilsystem. Designers måste se till att dessa fordon kan lösa problem på vägen som överensstämmer med de moraliska värderingarna hos människor runt den.
Detta är en utmaning på grund av den komplexa naturen hos människor som alla kan fatta olika beslut baserat på sina personliga värderingar. Men genom att samla in en stor mängd beslut från människor över hela världen kan forskare börja förstå mönster i samband med en viss kultur, gemenskap och människor.
Andra funktioner
The Moral Machine lanserades i juni 2016. I oktober 2016 lades en funktion till som erbjöd användare att fylla i en undersökning om deras demografi, politiska åsikter och religiösa övertygelser. Mellan november 2016 och mars 2017 översattes webbplatsen gradvis till nio språk utöver engelska (arabiska, kinesiska, franska, tyska, japanska, koreanska, portugisiska, ryska och spanska).
Sammantaget erbjuder Moral Machine fyra olika lägen (se kompletterande information), med fokus på webbplatsens datainsamlingsfunktion, kallat Judge-läget.
Detta innebär att Moral Machine, förutom att tillhandahålla sina egna scenarier för användare att bedöma, även inbjuder användare att skapa sina egna scenarier som ska skickas in och godkännas så att andra personer också kan bedöma dessa scenarier. Data är också öppen källkod för alla att utforska via en interaktiv karta som finns på Moral Machine-webbplatsen.