Het Europees Parlement vindt dat er grote risico’s kleven aan het gebruik van kunstmatige intelligentie (AI) bij rechtshandhaving en grenscontrole. In een resolutie, die gisteren werd aangenomen, staat dat AI-toepassingen een vertekend beeld kunnen geven of zelfs discriminatie in de hand werken.
Wat waren de afwegingen van het Parlement?
Nieuwe technologie
Kunstmatige intelligentie kan gebruikt worden voor geautomatiseerde herkenning van personen in openbare ruimtes. Daarnaast is er ook de mogelijkheid om mensen van veraf te identificeren aan grenscontroleposten. Dat gebeurt nu al aan de buitengrenzen van de EU met het iBorderCtrl-project, een soort slim leugendetectiesysteem voor inkomende reizigers.
Om de privacy van mensen te beschermen wil het Parlement dat de Europese Commissie dit project verbiedt. Daarnaast stelt de resolutie dat het monitoren van mensen alleen mag gebeuren als ze worden verdacht van een misdrijf. Zo’n verbod zou ook het einde betekenen van ‘voorspellend politiewerk’, waarbij op basis van gedragsmatige gegevens wordt gekeken wie een potentiëel gevaar zou kunnen opleveren.
Digitale discriminatie
Er zijn ook twijfels over de werking van kunstmatige intelligentie. Zo worden etnische minderheden, LGBTI-erts, ouderen en vrouwen op grote schaal verkeerd beoordeeld door de nieuwe technieken.
Om te garanderen dat er geen fouten worden gemaakt, en er dus geen fundamentele rechten worden geschonden, moeten de algoritmes – een reeks instructies voor de computer – beter worden gecontroleerd. Ook wil de meerderheid van het Parlement dat er menselijk toezicht en strikte wettelijke bevoegdheden komen om discriminatie bij kunstmatige intelligentie te voorkomen.
Weerstand in Nederland
Het gebruik van gezichtsherkenningssoftware door politie en justitie zorgde eind augustus ook voor controverse in Nederland. Toen bleek dat de Nederlandse politie meermaals had gewerkt met Clearview, een softwareprogramma dat op dubieuze wijze foto’s van mensen verzamelt.
D66-europarlementariër Samira Rafaela gaf in het NPO Radio1-programma Dit is de Dag haar visie op het gebruik van kunstmatige intelligentie om criminelen op te sporen:
