De gevaren van data-gestuurde criminaliteitsvoorspellingen.
In de luwte van de technologische vooruitgang zet de Britse politie een gewaagde stap: het voorspellen van criminaliteit op basis van data en algoritmes. Wat ooit begon als een experiment in het gebruik van cijfers om misdaden te voorspellen, heeft zich nu ontwikkeld tot een potentieel verontrustend programma. Het zogenaamde “homicide prediction project” draait al op volle toeren, in de hoop dat wiskundige formules de Britse autoriteiten kunnen helpen bij het identificeren van mogelijke daders nog voordat de misdaad is gepleegd.
Van data naar dader: hoe het systeem werkt
Het idee achter dit project is in theorie heel simpel: de politie verzamelt een enorme hoeveelheid persoonlijke gegevens van mensen die al op de radar staan bij de autoriteiten, waaronder zowel daders als slachtoffers van misdrijven. Deze gegevens worden vervolgens geanalyseerd met behulp van complexe algoritmes, die patronen zoeken die mogelijk aanwijzingen kunnen geven voor toekomstige misdrijven. Wanneer een moord wordt gepleegd, kunnen de onderzoekers deze informatie gebruiken om de lijst van potentiële verdachten te verkleinen.
Stel je voor: een moord wordt gepleegd, en in de nabije omgeving wonen drie mensen die door het algoritme als potentiële moordenaars zijn gemarkeerd. In theorie zou de politie zich kunnen richten op deze drie individuen. Klinkt eenvoudig, maar het is uiteraard veel complexer. Wat het algoritme voorspelt, is slechts een kansberekening, geen zekerheid. De aanwezigheid van een "potentiële moordenaar" in de buurt betekent niet automatisch dat hij of zij de dader is. Je kan je terecht vragen stellen over de betrouwbaarheid van het systeem dat vernietigende gevolgen kan hebben voor de betrokkenen.
Van “homicide prediction project” naar “risk assessment”: het veranderende taalgebruik
Oorspronkelijk kreeg het project de naam “homicide prediction project”, maar de naam werd al snel gewijzigd naar “sharing data to improve risk assessment” – een benaming die meer de nadruk legt op risicobeoordeling dan op daadwerkelijke voorspellingen. Dat lijkt een subtiele poging om zand in de ogen van Jan met de pet te gooien. Het Ministerie van Justitie hoopt dat het gebruik van dit systeem zal bijdragen aan de verbetering van de openbare veiligheid, maar de zorgen van tegenstanders zijn allesbehalve weggenomen. Velen beschouwen het project als "huiveringwekkend", omdat het impliciet een stempel drukt op mensen, zelfs als hun enige misdrijf een klein incident is, of als ze helemaal niet veroordeeld zijn.
De onthulling: statewatch en de zorgen over data
Het bestaan van dit controversiële project werd pas ontdekt door de belangenorganisatie Statewatch, die opmerkte dat de overheid het project in stilte had uitgevoerd, zonder er openlijk over te communiceren. Volgens Statewatch worden gegevens van mensen die nog nooit veroordeeld zijn voor een misdrijf ook gebruikt voor het project. Dit betekent dat zelfs gegevens van mensen die betrokken zijn bij zaken als huiselijk geweld, maar zonder veroordeling, worden meegenomen. Hoewel de overheid dit officieel ontkent – ze stelt dat alleen gegevens van mensen met een strafblad worden gebruikt – roept dit alsnog zorgen op over de reikwijdte van de verzamelde gegevens en het risico van oneerlijke vooringenomenheid.
De gevaren van voorspellende algoritmes: discriminatie en informatiebeveiliging
Critici, waaronder de onderzoeker Sofia Lyall van Statewatch, wijzen erop dat eerdere pogingen om criminaliteit te voorspellen met algoritmes vaak gebrekkig en onbetrouwbaar zijn. In plaats van objectief te zijn, versterken dergelijke systemen vaak bestaande vooroordelen en discriminatie, vooral tegen minderheidsgroepen en sociaal-economisch kwetsbare individuen. Door persoonlijke gegevens zoals etniciteit, geslacht en eerdere contacten met de politie te gebruiken, kan het systeem onterecht bepaalde bevolkingsgroepen in een kwaad daglicht stellen en hen als “risicovoller” bestempelen dan anderen.
Daarnaast is er de bezorgdheid over privacy en gegevensbeveiliging. Het systeem verwerkt persoonlijke informatie zoals gezondheidstoestand, verslavingen, geestelijke gezondheid en zelfs zelfbeschadiging. Dit opent de deur naar misbruik van gevoelige gegevens die zonder duidelijke toestemming of toezicht worden verzameld. En dat roept vragen op over de ethiek van het verzamelen en delen van zulke privé-informatie.
Het potentieel voor toekomstige misbruiken: hoe ver diept de staat zijn macht?
Het project - dat op verzoek van voormalig premier Rishi Sunak werd gestart - maakt gebruik van gegevens uit verschillende officiële bronnen, waaronder strafrechtelijke veroordelingen, geslacht, etniciteit en zelfs de leeftijd waarop iemand voor het eerst in aanraking kwam met de politie. De vraag is echter: waar ligt de grens? Wat begint als een poging om criminaliteit te voorspellen, kan snel uitmonden in een alomvattend toezichtapparaat waarin elke burger wordt geclassificeerd op basis van vermoedelijke risico’s.
Hoewel de overheid stelt dat het project momenteel alleen voor onderzoeksdoeleinden is, vrezen activisten dat de gebruikte gegevens vooroordelen kunnen versterken en resulteren in systematische ongelijke behandeling. Bovendien kan het systeem - zodra het wordt geoperationaliseerd - mogelijk worden ingezet voor bredere controlemechanismen die de individuele vrijheid aantasten. In een wereld waarin technologie steeds meer aspecten van het dagelijks leven bepaalt, is het cruciaal om de balans tussen veiligheid en privacy te heroverwegen.
(Foto: Pixabay)
