Het Europees Parlement heeft een aanbeveling gedaan dat EU-wetgevers automatische gezichtsherkenning op openbare plaatsen verbieden. Ze eisen ook dat er strikte regels worden ingevoerd om ervoor te zorgen dat het gebruik van kunstmatige intelligentie door de politie gerechtvaardigd is. De oproepen volgen op een stemming voor een niet-bindende resolutie over de kwestie.
Met 377-248 en 62 onthoudingen werd de niet-bindende resolutie aangenomen. Nu is het aan de EU-wetgevers om deze verordeningen al dan niet in de wet om te zetten. In april bracht de Europese Commissie haar wetsvoorstel inzake kunstmatige intelligentie uit, dat nu de steun heeft van het Europees Parlement en kan doorgaan.
Geen gezichtsherkenning door AI en geen privédatabases
Volgens de leden van het Europees Parlement mogen individuen niet worden geobserveerd op openbare plaatsen. Dit komt door zorgen over de fouten die kunstmatige intelligentie kan hebben als het gaat om het herkennen van mensen. Volgens het Europees Parlement zijn de leden van het Europees Parlement van mening dat zij etnische minderheden, ouderen en vrouwen identificeren met een hoger foutenpercentage.
Zij adviseren dat algoritmen die worden gebruikt door kunstmatige intelligentie door publieke organisaties “transparant, traceerbaar en voldoende gedocumenteerd” moeten zijn. En gebruik indien mogelijk open source software.
Een ander probleem dat ze hebben benadrukt, is het gebruik van privédatabases (hoe “privé” ze ook zijn). Sommige openbare instanties gebruiken kunstmatige intelligentie om burgers te identificeren met behulp van particuliere gezichtsherkenningsdatabases. Een van de meest populaire en controversiële is Clearview AI.
Ten slotte stellen ze voor om te stoppen met het gebruik van geautomatiseerde systemen om individuen te identificeren of misdaden te voorspellen. Ze stellen echter dat het in extreme omstandigheden en ernstige misdrijven zoals terrorisme of ontvoeringen nuttig en belangrijk kan zijn.
Het Europees Parlement besluit is in ieder geval niet bindend. Dit impliceert dat het een ondersteunende functie heeft in vergelijking met de wetgevers van de Europese Commissie, in plaats van een actieve rol bij het beïnvloeden van de toepassing van de regels. Margrethe Vestager geeft al enige tijd aan dat deze praktijken niet voldoen aan de AVG. Drie jaar nadat het van toepassing is geworden, moet het al worden verlengd.