Coded Bias (2020)

Eén van de vele onafhankelijk gemaakte documentaires over bestaande en potentiële invloed van Big Data en de problemen die dat met zich meebrengt. Als student werkte Joy Buolamwini aan een reflectiespiegel waarmee je je eigen gezicht met behulp van gezichtherkenningstechniek kunt laten morphen in dat van bijvoorbeeld Serena Williams. Joy stuitte meteen op een probleem: de gezichtherkenningsoftware herkende haar gezicht niet als gezicht. De reden? Joy heeft een zwarte huidskleur. Met een wit masker kreeg ze het wel voor elkaar! Het is één opmerkelijk voorbeeld van hoe de basiscode voor AI al discrimineert op basis van huidskleur, maar dat is niet alles. Vervalt niet in technisch jargon en is daardoor niet alleen relevant, maar ook toegankelijk.

Interessante Black Mirror documentaire over drie belangrijke onderwerpen: ongecontroleerde kunstmatige intelligentie, de doorgeslagen surveillance staat en onvoldoende privacybescherming die hierbij komt kijken.

Ik hoop van harte dat het grote publiek zich van de gevaren en excessen bewust is, maar ik vrees dat de meeste mensen hier gelaten over zijn en zich hier niet in willen verdiepen.

Deze documentaire is dus zeer welkom, om bewustwording te creëren en politici en beleidsmakers aan te spreken.

Coded Bias stelt misstanden aan de kaak, die echt niet beperkt zijn tot de landen die het behandelt, ook in Nederland zijn er trieste voorbeelden te noemen van doorgeslagen inbreuk maken op de privacy van burgers en het volgen van die burgers. Ik schrok van het optreden van de Londense politie, die een man om zijn ID vroeg toen hij enkel zijn kraag omhoog had gedaan omdat hij tegen permanente gezichtsherkenning op straat is via camera's.

Ik moet altijd denken aan mijn favoriete Black Mirror aflevering Nosedive. Een maatschappij die mensen rangschikt en beoordeelt op sociale puntenscores. In feite zijn we daar niet ver van verwijderd, omdat dit nu eigenlijk al gebeurt, maar dan onzichtbaar.

Er zit wel een erg grote woke saus over heen. Blanke mannen worden hier weer op een sneue manier neergezet. Het is misschien ook wel zo dat gezichtsherkenning moeilijker te programmeren is voor mensen met een tint. Doelbewuste discriminatie op dit vlak lijkt me puur speculatief.

Ik vind de twee personen waar de documentaire op focust wel wat vol van zichzelf en ijdel, maar dat terzijde.

Wat je hierover leest in de media zal slechts het topje van de ijsberg zijn:

Tienduizenden gezichten wellicht ten onrechte in database politie - Radar

Gemeente Enschede krijgt AVG-boete van 600.000 euro wegens wifi-tracking - Tweakers

Herkend door de camera en niemand die het ziet - NRC

Een uitkering gehad? Het Inlichtingenbureau ziet álles | Trouw

Amazon’s Rekognition toont zijn ware gezicht – Bits of Freedom

Energieverkopers wisselen op grote schaal persoonsgegevens uit - Opgelicht?!

Gemeenten kijken op grote schaal en in het geheim mee met burgers op sociale media | De Volkskrant

Forse kritiek op 'controversieel' wetsvoorstel over online volgen van burgers - Radar

Made for China - Onderzoek Chinese drones halen data binnen - De Groene Amsterdammer

'Omdat je toch op de kleintjes blijft letten': camera AH-handscanner wel degelijk aan volgens consument - Radar

Rotterdam schond privacy burgers met camera-auto’s - NRC

De antispieksoftware herkende haar niet als mens omdat ze zwart is, maar bij de VU vond ze geen gehoor

Op zich had ik hier wel interesse in omdat ik er beroepshalve ook al mee in aanraking ben gekomen.

Jammer genoeg is het een redelijk typische docu geworden. Dat wil zeggen dat men zich moeilijk aan het onderwerp zelf weet te houden, dat het allemaal nogal op de vlakte blijft en dat men er ook nog één of ander monter narratiefje in probeert te steken dat compleet niet overtuigt.

Bij dit soort docus mis ik toch vooral context hoe erg het probleem nu werkelijk is. Eerder dan wat voorbeeldjes ben ik meer geïnteresseerd hoe dekkend het gebruik van AI & machine learning nu is en hoe het zich verhoudt tegenover de alternatieven. Dat vereist een stuk meer inzichten van de makers zelf uiteraard.

Maar ach, leuk dat ze over dit onderwerp een docu gemaakt hebben. En positief dat ze tussen de soep en de patatten komaf maken met het oubollige killer AI cliché.

Ik zou de docu nog een keertje kijken dan, want dit wordt zelfs expliciet ontkracht. Het is niet de code die discrimineert, het is het "lesmateriaal" van de AI die zorgt voor de bias.

In potentie was dit een goede documentaire, ware het niet dat het "donkere mensen" aspect de overhand heeft en zo weer meer een politiek statement is, waar de donkere mensen onderdrukt zouden zijn. Jammer omdat dit thema iedereen raakt, of je nu blank, donker, geel of wat dan ook bent. Big tech en overheid verzamelen van alles en experimenteren erop los. Ondertussen hebben ze van alles van je. Zijn jouw iPhone foto's in te zien door de overheid, of de amerikaanse overheid? Kan apple ze inzien? Worden ze echt verwijderd als je ze weggooit? Bijna niemand die ik spreek weet hier de echte antwoorden op.