Toronto-deklarationen

Toronto -deklarationen: Protecting the Rights to Equality and Non-Discrimination in Machine Learning Systems är en deklaration som förespråkar ansvarsfull praxis för maskininlärningsutövare och styrande organ. Det är ett gemensamt uttalande utfärdat av grupper inklusive Amnesty International och Access Now , med andra anmärkningsvärda undertecknare inklusive Human Rights Watch och Wikimedia Foundation . Den publicerades på RightsCon den 16 maj 2018.

Deklarationen fokuserar på farhågor om algoritmiska fördomar och potentialen för diskriminering som uppstår från användningen av maskininlärning och artificiell intelligens i applikationer som kan påverka människors liv, "från polisarbete, till välfärdssystem, till hälso- och sjukvård, till plattformar för online-diskurs. " En sekundär oro för dokumentet är risken för kränkningar av informationsintegriteten .

Målet med deklarationen är att skissera "påtagliga och genomförbara standarder för stater och den privata sektorn." Deklarationen kräver konkreta lösningar, såsom skadestånd till offren för algoritmisk diskriminering.

Innehåll

Torontodeklarationen består av 59 artiklar, uppdelade i sex sektioner, som rör internationell människorättslagstiftning , staters skyldigheter , privata aktörers ansvar och rätten till ett effektivt rättsmedel .

Inledning

Dokumentet börjar med att ställa frågan: "I en värld av maskininlärningssystem, vem kommer att bära ansvar för att skada mänskliga rättigheter ?" Den hävdar att alla utövare, oavsett om de är inom den offentliga eller privata sektorn, bör vara medvetna om riskerna för mänskliga rättigheter och närma sig sitt arbete med mänskliga rättigheter i åtanke – medvetna om befintliga internationella lagar, standarder och principer. Dokumentet definierar mänskliga rättigheter till att omfatta "rätten till integritet och dataskydd, rätten till yttrande- och föreningsfrihet, till deltagande i kulturlivet, likhet inför lagen och tillgång till effektiva rättsmedel"; men den säger att deklarationen är mest angelägen om jämlikhet och icke-diskriminering.

Att använda ramarna för internationell lag om mänskliga rättigheter

Ramen för internationell lag om mänskliga rättigheter räknar upp olika rättigheter, tillhandahåller mekanismer för att ställa överträdare till svars och säkerställer bot för de kränkta. Dokumentet citerar FN:s kommitté för mänskliga rättigheter: s definition av diskriminering som "varje skillnad, uteslutning, begränsning eller preferens som är baserad på någon grund [inklusive men inte begränsat till] ras, hudfärg, kön, språk, religion, politisk eller annan åsikt, nationellt eller socialt ursprung, egendom, födelse eller annan status, och som har till syfte eller effekt att omintetgöra eller försämra alla personers erkännande, åtnjutande eller utövande på lika villkor av alla rättigheter och friheter."

Regeringar bör proaktivt skapa bindande åtgärder, och privata enheter bör skapa interna policyer för att skydda mot diskriminering. Åtgärder kan innefatta skydd för känsliga uppgifter, särskilt för utsatta befolkningsgrupper. System bör utformas i samarbete med en mångfaldig gemenskap för att förhindra diskriminering i design.

Staters skyldigheter: skyldigheter för mänskliga rättigheter

Regeringar använder idag maskininlärningssystem, ofta i samarbete med privata enheter. Även när utveckling kontrakteras till sådana tredje parter, behåller regeringar sin skyldighet att skydda mänskliga rättigheter. Innan implementeringen, och fortlöpande därefter, bör de identifiera risker och genomföra regelbundna revisioner och sedan vidta alla nödvändiga åtgärder för att mildra dessa risker. De bör vara transparenta om hur maskininlärning implementeras och används, och undvika black box-system vars logik inte lätt kan förklaras. System bör vara föremål för strikt tillsyn från olika interna kommittéer och oberoende rättsliga myndigheter.

Regeringar måste också skydda medborgarna från diskriminering från privata enheter. Förutom tillsyn bör de anta bindande lagar mot diskriminering, såväl som för dataskydd och integritet, och de bör tillhandahålla effektiva medel för att bota drabbade individer. Det är viktigt för nationella och regionala myndigheter att utvidga och kontextualisera internationell rätt.

Ansvar för aktörer inom den privata sektorn: due diligence för mänskliga rättigheter

Privata enheter är ansvariga för att genomföra "mänskliga rättigheter due diligence". Precis som regeringar bör privata enheter identifiera risker före utveckling genom att överväga gemensamma risker och rådfråga intressenter, "inklusive berörda grupper, organisationer som arbetar med mänskliga rättigheter, jämlikhet och diskriminering, såväl som oberoende experter på mänskliga rättigheter och maskininlärning." De bör utforma system som minskar risker, utsätta system för regelbundna revisioner och avstå från projekt som medför för höga risker. De bör vara transparenta om antagna risker, inklusive detaljer om den tekniska implementeringen där så är nödvändigt, och bör tillhandahålla en mekanism för berörda individer att bestrida alla beslut som påverkar dem.

Rätten till ett effektivt rättsmedel

"Rätten till rättvisa är en viktig del av internationell människorättslagstiftning." Privata enheter bör skapa processer för drabbade individer att söka rättelse, och de bör utse roller för vem som ska övervaka dessa processer. Regeringar måste vara särskilt försiktiga när de använder system för maskininlärning inom rättssektorn. Öppenhet, ansvarsskyldighet och åtgärdande kan hjälpa.