Deborah Raji

Inioluwa Deborah Raji
Inioluwa Deborah Raji
Född	Port Harcourt , Nigeria
Nationalitet	kanadensisk
Alma mater	University of Toronto
Känd för	; ; Algoritmisk bias Rättvisa (maskininlärning) Algoritmisk revision och utvärdering
	Vetenskaplig karriär
Fält	Datavetenskap
institutioner	; ; ; ; Mozilla Foundation Partnership on AI AI Now Institute Google MIT Media Lab

Inioluwa Deborah Raji är en nigeriansk-kanadensisk datavetare och aktivist som arbetar med algoritmisk bias , AI-ansvarighet och algoritmisk revision. Raji har tidigare arbetat med Joy Buolamwini , Timnit Gebru och Algorithmic Justice League om att undersöka genus och rasfördomar inom ansiktsigenkänningsteknik. Hon har också arbetat med Googles etiska AI-team och varit forskare vid Partnership on AI and AI Now Institute vid New York University och arbetat med hur man operationaliserar etiska överväganden i maskininlärningsteknik. Som nuvarande Mozilla- stipendiat har hon erkänts av MIT Technology Review och Forbes som en av världens främsta unga innovatörer.

tidigt liv och utbildning

Raji föddes i Port Harcourt , Nigeria och flyttade till Mississauga , Ontario när hon var fyra år gammal. Så småningom flyttade hennes familj till Ottawa , Kanada. Hon studerade ingenjörsvetenskap vid University of Toronto och tog examen 2019. 2015 grundade hon Project Include, en ideell organisation som ger ökad tillgång till ingenjörsutbildning, mentorskap och resurser i låginkomst- och invandrarsamhällen i Toronto-området.

Karriär och forskning

Raji arbetade med Joy Buolamwini på MIT Media Lab och Algorithmic Justice League , där hon granskade kommersiella ansiktsigenkänningstekniker från Microsoft, Amazon, IBM, Face++ och Kairos. De fann att dessa tekniker var betydligt mindre exakta för mörkhyade kvinnor än för vita män. Med stöd från andra toppforskare inom AI och ökat tryck från allmänheten och kampanjer ledde deras arbete till att IBM och Amazon gick med på att stödja reglering av ansiktsigenkänning och senare stoppa försäljningen av deras produkt till polisen i minst ett år. Raji arbetade också på maskininlärningsstarten Clarifai , där hon arbetade på en datorseendemodell för att flagga bilder.

Hon deltog i ett forskningsmentorskapsprogram på Google och arbetade med deras etiska AI-team på att skapa modellkort, ett dokumentationsramverk för mer transparent maskininlärningsmodellrapportering. Hon var också med och ledde utvecklingen av internrevisionspraxis hos Google. Hennes bidrag på Google presenterades och publicerades separat på AAAI- konferensen och ACM-konferensen om rättvisa, ansvarsskyldighet och transparens .

2019 var Raji en sommarforskare vid The Partnership on AI och arbetade med att sätta standarder för maskininlärning för transparens och benchmarkingnormer. Raji var en Tech Fellow vid AI Now Institute och arbetade med algoritmisk och AI-revision. För närvarande är hon stipendiat vid Mozilla Foundation och forskar om algoritmisk revision och utvärdering.

Rajis arbete med partiskhet i ansiktsigenkänningssystem har lyfts fram i dokumentären Coded Bias från 2020 i regi av Shalini Kantayya .

Utvalda priser

2019 Venture Beat AI Innovations Award i kategorin AI for Good (mottagen med Joy Buolamwini och Timnit Gebru )
2020 MIT Technology Review 35 Under 35 Innovator Award
2020 EFF Pioneer Award (mottagen med Buolamwini och Gebru)
2021 Forbes 30 Under 30 Award in Enterprise Technology
2021 100 briljanta kvinnor i AI Ethics Hall of Fame utmärkelse