Big Brother kijkt opnieuw om de hoek

Door: Matthijs van Dijk

Technologische ontwikkelingen op het gebied van opsporing gaan vrijwel altijd gepaard met een discussie of de betreffende techniek niet te ingrijpend is of teveel afbreuk doet aan het recht op privacy. Gezichtsherkenningstechnologie is opnieuw het actuele onderwerp. De discussie laaide in de afgelopen maand weer op door de activiteiten van een ambitieus bedrijf, Clearview AI. In een artikel, gepubliceerd door New York Times op 18 januari 2020, werd de jonge startup flink aan de tand gevoeld.[1] Door gebruik te maken van een techniek genaamd scraping wist dit bedrijf een database van meer dan 3 miljard foto’s, afkomstig van miljoenen verschillende websites, op te bouwen.

 “Gezichtsherkenning moet worden verboden.” Dit was de reactie die bijna universeel werd gedeeld door mensen die, zij het zonder enige verdere kennis van de technologie, net de publicatie hadden gelezen. Een week hierna stuurde Twitter een cease & desist letter, met het verzoek geen gebruik meer te maken van hun data. Niet heel veel later volgden Google, YouTube en nu ook LinkedIn het voorbeeld van Twitter.[2] Een van de oprichters, mr. Ton-That, is uit de schaduw gestapt en doet zijn best om het product dat Clearview aanbiedt, te verdedigen. Door te praten met de media wil hij transparant zijn in wat het bedrijf doet en hoe, om zodoende het vertrouwen van de burger te winnen en eventuele angst voor de software weg te nemen.

Gezichtsherkenningssoftware is niks nieuws, in 1960 werd door Woodrow Wilson Bledsoe -Door velen erkent als de vader van gezichtsherkenning- al een database van gezichten samengesteld waar nieuwe foto’s aan werden gekoppeld als er genoeg overeenkomende kwaliteiten waren, denk aan neus, mond, ogen en haarlijn. Hoewel dit een de mogelijkheid van systeem van gezichtsherkenning uit de sciencefiction verhalen trok en de realiteit in lanceerde, werden verschillende implementaties hiervan nog ernstig gehinderd door de technologie van de tijd.

De eerste echte sprongen werden gemaakt in de 80 en 90 waar de basis voor Deep learning algorithms werd gevormd. In de jaren hierna zagen we vooral voortgang door het steeds meer werken met behulp van deze zelflerende programma’s en steeds minder gebruik te maken van menselijke codering technieken. Dit alles heeft ertoe geleid dat we op dit moment gezichtsherkenningssoftware kunnen ontwikkelen die accurater is dan men tot voor kort mogelijk achtten. Clearview maakt dankbaar gebruik van al het gedane werk in de laatste 60 jaar omtrent gezichtsherkenning.

De database die Clearview in de afgelopen vier jaar heeft weten op te bouwen is werkelijk ongeëvenaard. De FBI, wie tot nu toe de grootste database voor gezichtsherkenning heeft, kan slechts door een 'luttele' 411 miljoen foto’s zoeken voor een match. Vergeleken met de 3 miljard foto’s die tot de beschikking van Clearview staan, is direct duidelijk wie de wedstrijd ‘spaar ze allemaal’ heeft gewonnen. De manier waarop ze dit hebben gedaan is echter iets waar een groot taboe op lag: het gebruik maken van scraping.[3] Hiermee wordt data op sites als facebook, twitter, LinkedIn etc. verzameld en opgeslagen. De informatie die hiermee wordt vergaard is publiek toegankelijk en dus in principe voor iedereen vindbaar. Door het opslaan van al deze data en het gebruiken van deze data om gezichtsherkenningssoftware te ontwikkelen is echter een dusdanige inbreuk van privacy dat zelfs de Siliconvalley giganten destijds het gebruik hiervan hebben vermeden. In 2011 heeft Google gezegd deze technologie niet te ontwikkelen omdat het “op hele slechte manieren gebruikt kon worden[4]. Clearview is de eerste die het taboe doorbreekt en van de invasieve methodes gebruik maakt.

Hoe heftig het ook indruist tegen het recht op privacy, de effectiviteit van de app die op basis van de software is ontwikkelt, is niet te ontkennen. Op dit moment heeft alleen de politie en hogere opsporingsdiensten in Amerika toegang tot het gebruik van de app. Sinds het gebruik van deze nieuwe software heeft de politie daar veel zaken weten op te lossen die onoplosbaar bleken. In een video van kindermisbruik was een man voor slechts een paar seconden te zien, de politie kreeg na het uitputten van de ‘standaard’ middelen geen resultaten en liep vast. Toen zij echter de foto van de man in de app uploaden, kon hij worden geïdentificeerd. Dit werd gedaan aan de hand van een foto die iemand had genomen in een sportschool waar in de spiegel een reflectie van de man te zien was. Hierdoor wist de politie de zaak uiteindelijk op te lossen, iets wat zonder de Clearview app niet mogelijk was.[5] Zo zijn er nog een grote hoeveelheid aan zaken die met behulp van Clearview zijn opgelost.

Voor gebruik door opsporingsdiensten blijkt Clearview een revolutionaire uitvinding. De vraag blijft echter wel tegen welke prijs. Zou deze app publiek toegankelijk worden, betekent dit het einde voor anonimiteit op straat. Iemand die een foto van je maakten deze door de database haalt, krijgt toegang tot je gehele online personalia. Hieronder valt in veel gevallen: naam, adres, leeftijd, vrienden en familie en in sommige gevallen zelfs informatie als inkomen. Ton-That beweert echter dat zolang hij aan het hoofd van het bedrijf staat, de app nooit publiek toegankelijk zal worden en slechts voor overheids- en politiegebruik zal worden ingezet.[6] Erg veel comfort biedt dit niet, nu de sleutel tot het verdwijnen van onze anonimiteit berust op de integriteit van een klein bedrijfje wiens eerste prioriteit geld verdienen is. Vooralsnog behalen ze die prioritiet door het verkopen van het product aan overheidsinstanties. Dat roept nog een andere vraag op: aan welke overheden wordt deze app ter beschikking gesteld? In een interview gaf Ton-That een antwoord wat verre van geruststellend antwoord was. Hij gaf aan alleen aan landen met een ‘goede’ democratie te verkopen, zoals de VS en bondgenoten hiervan “maar zeker niet aan landen als Rusland of China”. Dit gaf geen blijk van enig systeem van regulering om tot de beslissing te komen aan wie wel en wie niet te verkopen. Ton-That lijkt geen duidelijk afgebakende criteria te hebben voor wie onder zijn mogelijke klanten kunnen vallen.

Het ontbreken van die regulering is wat veel mensen zorgwekkend vinden. Er is nog veel onduidelijk over hoe het bedrijf werkt. In een onderzoek naar Clearview vorig jaar, kwam aan het licht dat Clearview niet alleen kan meekijken welke foto’s worden gezocht in de app, wat op zichzelf al een zorgwekkende kwestie kan vormen, maar ook zoekresultaten kan beïnvloeden. Toen een journalist haar foto aan de politie gaf om te zien welke informatie naar boven zou komen, gaf de app geen resultaten. Enkele minuten later werd de desbetreffende politieambtenaar opgebeld met de vraag waarom er werd gezocht naar een journalist. Dit bevestigt dat clearview de mogelijkheid heeft mee te kijken met de opsporingsdienst en hier ook gebruik van maakt. Ton-That beweerde echter dat de zoekactie door het systeem als ‘opmerkelijk’ werd aangemerkt en dat ze daarom de aard van de zoekopdracht onderzochten, om eventueel misbruik van de app te voorkomen. [7]

Los van het algemene taboe dat op het ontwikkelen van deze software ligt en de manier waarop, is het de vraag of het überhaupt wel als legaal kan worden beschouwd. De grootste bijdragers van data die Clearview gebruikt (Twitter, Facebook, Vimeo etc.) hebben ieder een cease & desist letter gestuurd omdat zij van mening zijn dat dit geen legaal gebruik is van de data die zij ter beschikking stellen. Een algemeen verbod op scraping is er echter niet. Clearview is dan ook van mening dat wat zij doen compleet legaal is. Op de website van Clearview doen ze dan ook hun uiterste best om elke bezoeker ervan te overtuigen dat ze legaal bezig zijn en het beste met de wereld voor hebben. Op Homepage is de lijst met Clearview facts niet te missen. De punten die hierin zijn opgenomen beargumenteren dat door het publiek toegankelijke karakter dat de gebruikte data draagt, het scrapen hiervan legaal is.[8] Daarnaast claimen ze door onafhankelijke instanties te zijn onderzocht en gecertificeerd. Verder hameren ze vooral op de potentie criminelen te stoppen en dat ze “de onschuldigen verdedigd”.

Hoewel het voor de meeste mensen verontrustend voelt dat iemand achter een computer zomaar even een kijkje in je leven kan nemen, heeft Clearview wel een punt. De data die ze gebruiken is immers publiek toegankelijk en wij zijn, uiteindelijk, toch zelf verantwoordelijk voor wat we online van onszelf laten zien. Deze redenering is mij inziens echter toch iets te kortzichtig. Neem het voorbeeld van de man die door de foto in de sportschool was opgespoord, dit was niet zijn foto. Iemand anders had, waarschijnlijk zonder er bij stil te staan, iemand anders ook gefotografeerd en zonder die persoons weet, laat staan toestemming, deze online geplaatst en zichtbaar voor de wereld gemaakt. In dit specifieke geval zullen niet heel veel mensen hier een probleem van maken, maar dit ziet wel op een groter probleem. Je kunt immers niet altijd controleren wat er precies van jou online wordt gezegd, denk aan een demonstratie waar je deel aan neemt wat door de media wordt vastgelegd, iemand maakt een vakantiefoto waar jij toevallig op de achtergrond te zien bent. Naast dat je hierdoor onvrijwillig bijdraagt aan het vergroten van de database kan dit ook serieuzere gevolgen hebben. De app van Clearview is accuraat, heel accuraat, maar niet honderd procent waterdicht. Gevolg is dat je op basis van een onjuiste match ineens als verdachte in de schijnwerpers van een politieonderzoek komt te staan.

Voorlopig blijft het nog afwachten hoe Clearview zal reageren op de verzoeken van Twitter en dergelijke. Wanneer ze hier niet aan ingeven zullen we het oordeel van de rechter moeten afwachten. Clearview doet tot nu toe zijn best om transparant te blijven en lijkt daadwerkelijk te proberen de privacybelangen van burgers te behartigen. Maar wat ze hebben ontwikkeld is een gevaarlijk wapen, en vaak is het slechts een kwestie van tijd voordat de vijand deze ook in handen heeft. Zelfs als uiteindelijk wordt besloten dat gebruik van deze app onrechtmatig is, is het nog maar de vraag in hoeverre de schade al is gedaan. Een van de eerste investeerders in Clearview zei “Wetten bepalen wat legaal is, maar je kan technologie niet verbieden. Het leidt wellicht tot een dystopie, maar je kunt het niet verbieden.”

 

[1] Kashmir Hill,18 januari 2020, ‘The secretive company that might end privacy as we know it´ The New York Times (www.nytimes.com)

[2] Aaron Mak, 6 febuari 2020, ‘Clearview’s terrifying facial recognition cant’t go back in the bottle’ Slate (www.slate.com)

[3] LawFox, ‘Scraping´, Lexicon LawFox (www.lawfox.nl)

[4] James Vincent, 21 januari 2020, ‘Google favors temporary facial recognition ban as Microsoft pushes back’ The Verge (www.theverge.com)

[5] Michael Barbora, 10 februari 2020, ‘The end of privacy as we know it?’ The Daily Podcast (www.nytimes.com)

[6] Kashmir Hill,18 januari 2020, ‘The secretive company that might end privacy as we know it´ The New York Times (www.nytimes.com)

[7] Michael Barbora, 10 februari 2020, ‘The end of privacy as we know it?’ The Daily Podcast (www.nytimes.com)

[8] Clearview AI, ‘Clearview Facts´ (www.clearview.ai)

 


Discussie