r google-plus facebook twitter linkedin2 nujij M Monitor Nieuwsbrief pdclogo man met tas twitter boek

Gebruik van kunstmatige intelligentie bij de politie: EP tegen massasurveillance

Met dank overgenomen van Europees Parlement (EP), gepubliceerd op woensdag 6 oktober 2021.

Om discriminatie tegen te gaan en het recht op privacy te verzekeren, eisen de EP-leden sterke waarborgen wanneer kunstmatige intelligentie (AI) wordt gebruikt bij rechtshandhaving.

In een resolutie die werd aangenomen met 377 stemmen voor, 248 tegen en 62 onthoudingen, wijzen de parlementsleden op het risico van algoritmische vertekening in AI-toepassingen en benadrukken dat menselijk toezicht en sterke wettelijke bevoegdheden nodig zijn om discriminatie bij het gebruik van AI te voorkomen, in het bijzonder in het geval van rechtshandhaving of grenscontroles. De eindbeslissing moet altijd door menselijk handelen worden genomen en mensen die onder toezicht staan van door AI aangedreven systemen moeten altijd toegang hebben tot de rechtsgang, aldus de EP-leden.

Zorgen over discrminiatie

Volgens de tekst worden etnische minderheidsgroepen, LGBTI-ers, senioren en vrouwen op grotere schaal verkeerd ingeschat door op grond van algoritmen gestuurde identificatietechnologieën, hetgeen vooral verontrustend is in de context van rechtshandhaving en binnen de rechterlijke macht. Om te verzekeren dat fundamentele rechten worden gerespecteerd tijdens het gebruik van deze technologieën, moeten algoritmen transparant, traceerbaar en voldoende gedocumenteerd worden, aldus de Europarlementariërs. Indien mogelijk moeten openbare instanties opensourcesoftware gebruiken ten bate van de transparantie.

Controversiële technologieën.

Uit respect voor privacy en menselijke waardigheid vragen de EP-leden om een permanent verbod op geautomatiseerde herkenning van individuen in openbare ruimtes, daarbij opmerkend dat burgers alleen gemonitord zouden moeten worden als ze worden verdacht van een misdrijf. Het Parlement roept op om het gebruik van particuliere gezichtsherkenningsdatabanken (zoals het AI-systeem Clearview, dat al in gebruik is) en voorspellend politiewerk op basis van gedragsmatige gegevens, te verbieden.

De EP-leden willen ook het gebruik verbieden van social-scoringsystemen die burgers een beoordeling geven op het gebied van betrouwbaarheid op basis van hun gedrag of persoonlijkheid.

Tot slot is het Parlement bezorgd over het gebruik van biometrische data om mensen op afstand te identificeren. Bijvoorbeeld grenscontrolepoorten die gebruik maken van geautomatiseerde herkenning en het iBorderCtrl-project (een “slim leugendetectiesysteem” voor inkomende reizigers naar de EU) zouden niet meer moeten worden gebruikt, aldus de EP-leden die de Commissie aansporen om indien noodzakelijk desnoods een inbreukprocedure te starten tegen lidstaten.

Citaat

Rapporteur Petar Vitanov (S&D, BG) zei na afloop van de stemming: “Fundamentele rechten zijn onvoorwaardelijk. Voor de eerste keer ooit roepen we op tot een moratorium op de inzet van gezichtsherkenningssystemen in rechtshandhaving, omdat de technologie bewezen ineffectief is en leidt tot discriminatoire uitkomsten. We nemen duidelijk stelling tegen voorspellend politiewerk gebaseerd op het gebruik van AI en het verwerken van biometrische data die leiden tot massasurveillance. Dit is grote winst voor alle Europese burgers.”


1.

Relevante EU dossiers

Terug naar boven