Digital redlining

Digital redlining är metoden att skapa och vidmakthålla ojämlikheter mellan redan marginaliserade grupper, särskilt genom användning av digital teknik, digitalt innehåll och internet. Begreppet digital redlining är en förlängning av bruket av redlining i bostadsdiskriminering, en historisk juridisk praxis i USA och Kanada som går tillbaka till 1930-talet där röda linjer ritades på kartor för att indikera fattiga och främst svarta stadsdelar som ansågs olämpliga för lån eller vidareutveckling, vilket skapade stora ekonomiska skillnader mellan stadsdelar. Termen populariserades av Dr Chris Gilliard, en integritetsforskare, som definierar digital redlining som "skapandet och underhållet av teknisk praxis, policyer, pedagogik och investeringsbeslut som upprätthåller klassgränser och diskriminerar specifika grupper".

Även om digital redlining är relaterad till den digitala klyftan och tekniker som webblining och personalisering , skiljer den sig från dessa koncept som en del av större komplexa systemfrågor. Det kan hänvisa till praxis som skapar ojämlik tillgång till tekniska tjänster i geografiska områden, till exempel när internetleverantörer beslutar sig för att inte betjäna specifika geografiska områden eftersom de uppfattas som inte lika lönsamma och därmed minskar tillgången till avgörande tjänster och medborgardeltagande. Det kan också användas för att hänvisa till orättvisor som orsakas av politik och praxis för digital teknik. Till exempel, med dessa metoder åstadkoms orättvisor genom divisioner som skapas via algoritmer som är dolda för teknikanvändaren; Användningen av big data och analys möjliggör en mycket mer nyanserad form av diskriminering som kan rikta sig mot specifika utsatta befolkningsgrupper. Dessa algoritmiska metoder är möjliga genom användning av oreglerad datateknik som tillämpar en poäng på individer som statistiskt kategoriserar personlighetsdrag eller tendenser som liknar en kreditpoäng men som ägs av teknikföretagen och inte står under extern tillsyn.

Digital redlining och geografi

Medan rötter till redlining ligger i att utesluta populationer baserat på geografi, förekommer digital redlining i både geografiska och icke-geografiska sammanhang. Ett exempel på båda sammanhangen finns i anklagelserna mot Facebook den 28 mars 2019, av United States Department of Housing and Urban Development (HUD) . HUD anklagade Facebook för att ha brutit mot Fair Housing Act från 1968 genom att "uppmuntra, möjliggöra och orsaka bostadsdiskriminering genom företagets reklamplattform." HUD uppgav att Facebook tillät annonsörer att "utesluta människor som bor i ett specifikt område från att se en annons genom att dra en röd linje runt det området." Den diskriminering som HUD utropade inkluderade de som var rasistiska, homofobiska, kompetenta och klassistiska. Förutom detta exempel på geografiskt baserad digital redlining, anklagade HUD också att Facebook använde profilinformation och beteckningar för att utesluta klasser av människor. Av anklagelserna stod det: "Facebook gjorde det möjligt för annonsörer att utesluta personer som Facebook klassificerade som föräldrar; icke-amerikanskt födda; icke-kristna; intresserade av tillgänglighet; intresserade av latinamerikansk kultur; eller en mängd andra intressen som ligger nära Fair Housing Lagens skyddade klasser" Flera medier påpekade HUDs egen historia av bostadsdiskriminering genom redlining, inrättandet av Fair Housing Act för att bekämpa redlining och hur den digitala plattformen återskapade denna diskriminerande praxis.

Digital redlining i ett geografiskt sammanhang

Även om digital redlining hänvisar till en komplex och varierad uppsättning metoder, har det oftast tillämpats på metoder med en geografisk dimension. Vanliga exempel är när en internetleverantör beslutar sig för att inte betjäna specifika geografiska områden eftersom dessa områden inte anses vara lika lönsamma, vilket resulterar i diskriminering av låginkomstsamhällen, med åtföljande effekter på tillgången till viktiga tjänster och medborgardeltagande. AT&T har ställts inför specifik granskning för denna form av digital redlining, det har rapporterats att AT&T har varit klassist i sina utbud av bredbandstjänster för internet i områden som är mer fattiga.

Geografiskt baserad digital redlining kan även gälla digitalt innehåll eller distribution av varor som säljs online. Geografiskt baserade spel som Pokémon Go har visat sig erbjuda fler virtuella stopp och belöningar i geografiska områden som är mindre etniskt och rasmässigt. Under 2016 tillrättavisades Amazon för att inte erbjuda sin Prime samma dag leveranstjänst till många samhällen som till stor del var afroamerikanska och hade inkomster som låg under det nationella genomsnittet. Även tjänster som e-post kan påverkas, med många e-postadministratörer som skapar filter för att flagga särskilda e-postmeddelanden som skräppost baserat på meddelandets geografiska ursprung.

Digital redlining utanför ett geografiskt sammanhang

Även om det ofta är i linje med diskriminering som faller in i ett geografiskt baserat sammanhang; inte all digital redlining är geografiskt baserad. Digital redlining hänvisar också till när utsatta befolkningsgrupper riktas mot eller utesluts från specifikt innehåll eller tillgång till internet på ett sätt som skadar dem. Handelsskolor och community colleges, som vanligtvis har en mer arbetarklass studentkår, har visat sig blockera offentligt internetinnehåll från sina studenter där elitforskningsinstitutioner inte gör det. Användningen av big data och analyser möjliggör en mycket mer nyanserad form av diskriminering som kan rikta sig mot specifika utsatta befolkningsgrupper. Till exempel har Facebook kritiserats för att tillhandahålla verktyg som gör det möjligt för annonsörer att rikta annonser efter etnisk tillhörighet och kön, vilket effektivt blockerar minoriteter från att se specifika annonser för bostäder och sysselsättning. I oktober 2019 ingavs en stor grupptalan mot Facebook med påstående om köns- och åldersdiskriminering i finansiell reklam. Ett brett spektrum av konsumenter kan vara särskilt sårbara för digital redlining när den används utanför ett geografiskt sammanhang. Förutom att rikta in sig på utsatta befolkningsgrupper baserat på traditionella och juridiskt erkända klassificeringar som ras, kön, ålder etc., har det visat sig att personuppgifter som utvinns och sedan säljs vidare av mäklare kan användas för att rikta in sig på dem som har identifierats som lidande av Alzheimers eller demens, eller helt enkelt identifierad som impulsköpare eller godtrogen.

Term distinktioner

Skillnader mellan webblining och digital redlining

Tidigare distinktioner har gjorts mellan weblining – processen att debitera kunderna olika priser baserat på profilinformation --- och internet eller digital redlining, där digital redlining inte fokuserar på prissättning utan åtkomst. Så tidigt som 2002 Gale Encyclopedia of E-Commerce distinktionen som är mer i bruk idag: webblining är den genomgripande och allmänt accepterade (eller åtminstone tolererade) praxisen att anpassa tillgången till produkter och tjänster på sätt som är osynliga för användaren; digital redlining är när sådana personliga, datadrivna system upprätthåller traditionella fördelar med privilegierad demografi. I takt med att webblining har blivit mer allmänt förekommande har termen fallit ur bruk till förmån för den mer allmänna termen personalisering.

Skillnader mellan den digitala klyftan och digital redlining

Forskare har ofta dragit samband mellan den digitala klyftan och digital redlining. I praktiken ses den digitala klyftan som en av ett antal effekter av digital redlining, och digital redlining är ett av ett antal sätt på vilka klyftan upprätthålls eller förlängs.

Kritik

En rapport från 2001 undersökte om orsaken till bristande tillgång till bredbandsinternet för låginkomst- och minoritetsbefolkningar berodde på bristande tillgänglighet eller på andra faktorer. Rapporten fann att det fanns "lite bevis för digital redlining baserat på inkomst eller svarta eller latinamerikanska koncentrationer" men att det fanns blandade bevis för redlining baserat på områden där indianer eller asiatiska befolkningar var större.