Fawkes (programvara för bildcloaking)
Fawkes är en mjukvara för maskering av ansiktsbilder skapad av SAND (Security, Algorithms, Networking and Data) Laboratory vid University of Chicago . Det är ett gratis verktyg som är tillgängligt som en fristående körbar fil. Programvaran skapar små ändringar i bilder med hjälp av artificiell intelligens för att skydda bilderna från att kännas igen och matchas av mjukvara för ansiktsigenkänning . Målet med Fawkes-programmet är att göra det möjligt för individer att skydda sin egen integritet från stor datainsamling. I maj 2022 har Fawkes v1.0 överträffat 840 000 nedladdningar. Så småningom hoppas SAND Laboratory kunna implementera programvaran i större skala för att bekämpa omotiverad mjukvara för ansiktsigenkänning.
Historia
Fawkes-programmet har fått sitt namn efter den fiktiva huvudpersonen från filmen och serien V för Vendetta , som hämtade inspiration från den historiska figuren Guy Fawkes . Fawkes förslag presenterades ursprungligen på en USENIX Security- konferens i augusti 2020 där det fick godkännande och lanserades kort därefter. Den senaste versionen som är tillgänglig för nedladdning, Fawkes v1.0, släpptes i april 2021 och uppdateras fortfarande 2022. Grundarteamet leds av Emily Wenger och Shawn Shan, doktorander vid University of Chicago . Ytterligare stöd från Jiayun Zhang och Huiying Li, med fakultetsrådgivarna Ben Zhao och Heather Zheng, bidrog till skapandet av programvaran. Teamet nämner datainsamling utan samtycke, specifikt gjord av sådana företag som Clearwater AI , som den främsta inspirationen bakom skapandet av Fawkes.
Tekniker
Metoderna som Fawkes använder kan identifieras som liknande motstridig maskininlärning . Denna metod tränar ett ansiktsigenkänningsprogram med hjälp av redan ändrade bilder. Detta resulterar i att programvaran inte kan matcha den ändrade bilden med den faktiska bilden eftersom den inte känner igen dem som samma bild. Fawkes använder också dataförgiftningsattacker , som ändrar datauppsättningen som används för att träna vissa modeller för djupinlärning. Fawkes använder två typer av dataförgiftningstekniker: clean label-attacker och modellkorruptionsattacker. Skaparna av Fawkes identifierar att användning av sybil-bilder kan öka effektiviteten hos deras programvara mot igenkänningsprogram. Sybil-bilder är bilder som inte stämmer överens med personen de tillskrivs. Detta förvirrar mjukvaran för ansiktsigenkänning och leder till felorientering, vilket också bidrar till effektiviteten av bildmaskering. Sekretessbevarande maskininlärning använder tekniker som liknar Fawkes-programvaran men väljer differentiellt privat modellträning som hjälper till att hålla informationen i datamängden privat.
Ansökningar
Fawkes bildcloaking kan användas på bilder och appar som vi använder varje dag. Effektiviteten av programvaran avtar dock om det finns cloaked och uncloaked bilder som ansiktsigenkänningsprogramvaran kan använda. Programvaran för att maskera bilder har testats på kraftfull mjukvara för ansiktsigenkänning med varierande resultat. En liknande mjukvara för ansiktsmaskering som Fawkes kallas LowKey . LowKey ändrar också bilder på en visuell nivå, men dessa förändringar är mycket mer märkbara jämfört med Fawkes programvara.