Europese Unie legt als eerste ter wereld AI aan banden

Na ruim 36 uur onderhandelen, bereikten het Europarlement en de EU-landen vrijdagnacht een akkoord op de wet op kunstmatige intelligentie (AI). De wet stelt strenge regels voor AI-systemen met een ‘hoog risico’ voor gezondheid, veiligheid of mensenrechten. Ook komen er regels voor grote systemen als ChatGPT of Google Bard. De big tech bedrijven trachtten dat met veel lobbykracht tegen te houden.

GroenLinks-Europarlementariër Kim van Sparrentak is namens de Groenen onderhandelaar op deze wet: “Europa neemt wereldwijd de leiding en kiest met sterke regels voor AI die mensen, maatschappij en milieu centraal zet. Met strenge voorwaarden zijn AI systemen in Europa voortaan altijd betrouwbaar, ethisch en veilig. De ongekende big techlobby tegen bindende regels voor grote systemen als ChatGPT zorgde voor veel vertraging. Er stond veel op het spel, maar we hebben de strijd gewonnen: Europa stelt bindende voorwaarden aan deze technologieën, zodat we straks niet opgezadeld zitten met grote systemen die complottheorieën uitspuwen, grove fouten maken of onze privacy of intellectuele eigendomsrechten schenden.”

Burgers krijgen door de wet duidelijkheid over hoe de systemen werken, niet alleen bij het nemen van beslissingen maar bijvoorbeeld ook op het gebied van energieverbruik. AI-systemen slurpen enorme hoeveelheden energie. De inzet van AI door autoriteiten en instellingen als banken wordt getoetst aan naleving van mensenrechten.

GroenLinks stelt in een verklaring:

Op de verboden werd het langst onderhandeld. Van Sparrentak vocht voor een verbod op profileren om zogenaamd criminaliteit te ‘voorspellen’ op basis van je persoonsgegevens, zoals gebruikt door de Belastingdienst in het toeslagenschandaal. Van Sparrentak is blij dat dit in de wet zit: “Als de politie puur en alleen op basis van je nationaliteit, waar je woont, in welke auto je rijdt of hoeveel kinderen je hebt voorspellingen doet dat je een crimineel kan zijn is het einde zoek. Dit werkt vaak discriminerend, treft vooral minderheden en de meest kwetsbaren en holt de rechtsstaat uit. Verbieden dus.” Voor GroenLinks was een verbod op systemen die op basis van je gezicht zogenaamd aan ‘seksualiteitsherkenning’, ‘rassenherkenning’ en ‘herkenning van je politieke voorkeur’ doen ook erg belangrijk. Hierop is nu inderdaad een verbod.

Ook wordt de real-time gezichtsherkenning in de openbare ruimte aan banden gelegd zodat burgers niet voortdurend gevolgd gaan worden door camerasystemen.

De wet is overigens nog niet van kracht. Begin volgend jaar moeten het Europarlement en de lidstaten opnieuw instemmen. De wet treedt zes maanden in later in werking en voor systemen als ChatGPT een jaar later.

NRC schrijft:

Niet alle belanghebbers steunden de wet in zijn huidige vorm. De directeur van techlobbygroep DigitalEurope Cecilia Bonefeld-Dahl zei: „We hebben een deal, maar tegen welke prijs?” De groep „steunde het aanpakken van het gebruik van AI op basis van risico’s”, maar staat niet achter de „poging” om de modellen die AI-ontwikkelaars zelf gebruiken te reguleren. Ook aan de andere kant van het spectrum klinkt kritiek. Ella Jakubowska, werkzaam bij de privacyrechtenorganisatie European Digital Rights, zei: „Het is moeilijk om enthousiast te zijn over een wet waarin de eerste stappen worden gezet richting live gezichtsherkenning in de hele EU.” Het Europarlement heeft volgens Jakubowska „hard gevochten om de schade binnen de perken te houden”, maar het eindproduct is op z’n best “lauwtjes”.