Opinie&Analyse

Digitaal mensenrecht

Mag een inspectiedienst van de overheid een risicoprofiel van groepen burgers opstellen en op basis daarvan extra rechercheren?

De Volkskrant meldde eind augustus dat Translink 377 keer reisgegevens van ov-studentenkaarthouders aan de Dienst Uitvoering Onderwijs (DUO) heeft doorgegeven, die op haar beurt fraudegevallen probeert op te sporen van thuiswonende studenten die een uitwonenden beurs ontvangen.

Totdat een van fraude betichte student naar de rechter stapte omdat gegevens die zijn frauderen aantoonde onrechtmatig verkregen waren, zonder tussenkomst van de officier van justitie. De student kreeg gelijk en kwam onder de straf voor frauderen uit. DUO verdedigt zich door te stellen dat ze de reis­gegevens bij Translink opvroegen na een nauwkeurig opgesteld risicoprofiel. Hoe dat profiel wordt opgesteld werd niet gezegd, maar studenten met een ouderlijke huis dichtbij de onderwijsinstelling zullen al hoog op het risicoprofiel scoren.

Criminaliteit voorspellen

Dit geval staat niet op zich, zo viel te lezen in de Groene Amsterdammer van 10 augustus. De gemeente Den Haag maakt bij het bestrijden van fraude betreffende de wet werk en bijstand gebruik van een Smartbox die overal gegevens over haar uitkeringsontvangers vandaan trekt. In het artikel Is het einde van het individu in zicht? meldt het opinieblad dat een hoog waterverbruik een illegale kapperszaak aan huis kan betekenen, dat veel vakantie in het buitenland kan duiden op zwart geld aldaar en dat inspecteurs zich afvragen waar potentiële fraudeurs toch die hondenbelasting en zorg voor een huisdier van betalen. Naar aanleiding van deze risicoprofielen, wordt die doelgroep extra in de gaten gehouden op fraude.

Verder maakt de landelijke politie dit voorjaar bekend te willen gaan werken met het Criminaliteits Anticipatie Systeem (CAS) waarmee criminaliteit wordt voorspeld. Dat moet deze maanden uitgerold worden en dan is Nederland het eerste land wereldwijd waar de politie predictive policing in alle regio’s toepast. CAS gebruikt data van onder meer het CBS over het aantal uitkeringen per wijk, leeftijden, geslacht en de gezinssamenstellingen. Algoritmen bepalen vervolgens waar en wanneer de politie een verhoogde kans op criminaliteit kan verwachten. De politie speelt daarop in door extra te surveilleren in die wijken.

Vals positieven

Wat moeten we hier van vinden? Wie niets te verbergen heeft, loopt ook niet tegen de lamp. Maar als ik in een wijk met hoog risico op criminaliteit woon, wordt er meer gesurveilleerd en loop ik grotere kans op onschuldige verkeersboetes dan iemand uit een gegoede wijk in Wassenaar. Een risicoprofiel kan in veel gevallen goed uitpakken, maar je hebt altijd vals positieven - die feitelijk gediscrimineerd worden.

Inspiratie om bij onvermijdelijke en waardevolle voortschrijdende technologie niet bij deze doemscenario’s terecht te komen, vinden we in het rapport Human rights in the robot age van het Rathenau Instituut. Het is tijd voor een nieuw mensenrecht, het recht om niet gemeten en geanalyseerd te worden. 

Deel deze pagina
Abonnement

Bestel nu GRATIS 2 proefnummers TW


Wilt u lid worden, een los nummer aanvragen of een adreswijziging doorgeven? Neem dan contact op met MijnTijdschrift (088-2266622). 

Of bekijk ons aanbod van abonnementen.

Ontvang de nieuwsbrief, binnenkort 2 keer per week!

Meld je nu aan!

Naar boven