Het gebruik van AI komt steeds vaker voor en daarom stelt de EU nieuwe en strengere regels voor. De EU heeft besloten een stap voorwaarts te zetten met de publicatie van haar eerste regelgevingsvoorstel, met strengere regels om het gebruik van AI te reguleren.
De ontwerpregels beschrijven hoe bedrijven en regeringen in alle lidstaten deze technologie zullen kunnen gebruiken, door grenzen te stellen aan het gebruik van AI bij een verscheidenheid aan activiteiten, van autonome auto’s tot aanwervingsbeslissingen, bankleningen, selectie van schoolgeld of examencijfers, en zelfs het gebruik ervan door wetshandhavings- en gerechtelijke systemen, en andere gebieden die de veiligheid of fundamentele rechten van mensen bedreigen.
De EU toont haar benadering van AI met de nieuwe regelvoorstellen
De Europese Commissie richt zich op risicovolle toepassingen van AI en biedt garanties voor de veiligheid van individuen, hun rechten en belangen, zonder grote obstakels op te werpen voor bedrijven die op AI gebaseerde producten en diensten op de markt willen brengen.
Het voorstel wordt gepresenteerd onder een “risicogebaseerde benadering rond bepaalde vormen van gebruik van AI op basis van de potentiële impact op mensen, onderverdeeld in vier verschillende niveaus, waarvan alleen militaire toepassingen zijn uitgesloten.”
Beginnend met het minimale risico, vinden we banale toepassingen zoals vrijetijdsbesteding en kunstmatige intelligentie die bijvoorbeeld zijn opgenomen in sommige speelgoed- of videogames, of toepassingen voor onder meer muziekcreatie of beeldbewerking, waarvoor de verordening de toepassing van enige beperkende maatregel.
Maatregelen die beginnen met ‘beperkt risico’, waaronder gesloten AI-systemen waarmee gebruikers contact kunnen opnemen, zoals chatbots, die nu moeten voldoen aan een minimum aan transparantie, naast te allen tijde gewaarschuwd worden als niet-menselijk contact .
Een tweede punt van “hoog risico” omvat systemen die een negatieve impact hebben op de veiligheid van mensen of hun grondrechten, toepassingen in kritieke infrastructuren die van invloed kunnen zijn op de gezondheid, het onderwijs, personeelswervingssystemen, openbare diensten, wetgeving of justitie.
Er is een categorie met de naam ‘onaanvaardbaar’
Bovendien zullen biometrische identificatiesystemen op afstand ook als risicovol worden beschouwd en zullen er nieuwe, strengere eisen voor gelden. Hoewel de Europese Commissie niet heeft besloten om ze rechtstreeks te verbieden, stelt zij vast dat gezichtsherkenning verboden zal worden voor gebruik in openbare en woonruimtes. Hoewel er enkele uitzonderingen zullen zijn, zoals het zoeken naar afhankelijke of vermiste personen, het voorkomen van een specifieke en onmiddellijke terroristische dreiging of het identificeren van een dader of verdachte van een ernstig misdrijf.
Op het hoogste niveau vinden we de sectie ‘onaanvaardbaar risico’, die het gebruik omvat dat wordt beschouwd als een bedreiging voor de ‘sociale score door regeringen, uitbuiting van kwetsbaarheden van kinderen, gebruik van subliminale technieken, en – behoudens beperkte uitzonderingen – live biometrische identificatiesystemen op afstand in openbaar toegankelijke ruimtes die worden gebruikt voor wetshandhavingsdoeleinden. “
Ten slotte werd nogmaals de noodzaak van menselijke interactie en controle benadrukt, aangezien kunstmatige intelligentie mensen nooit mag vervangen of ontslaan van hun verantwoordelijkheid.
De Europese Commissie moet deze nieuwe verordening echter nog goedkeuren, een proces dat de uitvoering van deze maatregelen met meer dan een jaar zou kunnen verlengen. Hoewel al duidelijk is gemaakt dat, hoewel voorlopig alleen bepaalde toepassingen van kunstmatige intelligentie gereguleerd zullen worden, deze regelgeving een “marge voor innovatie” zal hebben, en reeds in de regulering van andere nieuwe hot topics zoals robotica of 3D-printers ingaat.
