Het Europees Parlement heeft gestemd voor wetgeving op het gebied van kunstmatige intelligentie, waaronder een verbod op technologie die zonder toestemming naaktbeelden produceert. Dit betreft met name de AI Grok.
Het Europees Parlement heeft met een meerderheid van stemmen nieuwe regels voor kunstmatige intelligentie goedgekeurd. Deze wetgeving richt zich op systemen die zonder toestemming seksueel expliciete beelden genereren, zoals de AI-assistent Grok. Deze technologie heeft eerder dit jaar veel aandacht gekregen vanwege het produceren van ongewenste afbeeldingen.
Inhoud van de wet
De wetgeving, bekend als de AI Act, bevat beperkingen om te voorkomen dat AI-systemen intieme beelden genereren. Het verbod geldt echter niet voor systemen die zijn uitgerust met beveiligingsmaatregelen om misbruik te voorkomen. Dit besluit is een reactie op problemen die zijn ontstaan toen Grok onbedoeld beelden van minderjarigen verspreidde.
Politieke reacties
De indieners van het voorstel benadrukken de noodzaak van deze regelgeving ter bescherming van mentaal welzijn en online veiligheid, met name voor vrouwen en jongeren. Liesbet Sommen (CD&V) stelt dat het parlement een signaal afgeeft tegen de winstgedrevenheid van grote technologiebedrijven. Kathleen Van Brempt (Vooruit) wijst op het belang van de digitaledienstenwet voor het waarborgen van burgerrechten.
Amendementen en kritiek
Naast het verbod op 'nudifier-AI' overweegt het Parlement ook om de verplichtingen voor bestaande producten, zoals medische apparatuur, te versoepelen. Een voorstel van de centrumrechtse EVP om de regels verder te compliceren, heeft kritiek gekregen. Sara Matthieu (Groen) uit bezorgdheid over mogelijke ondermijning van de AI-wet, maar steunt het verbod op schadelijke AI-systemen.
Volgende stappen
Na de goedkeuring door het Parlement moeten de lidstaten en het Parlement tot een definitief akkoord komen. De lidstaten hebben eerder al ingestemd met het verbod op deze specifieke AI-systemen. De nieuwe regelgeving kan bijdragen aan een betere bescherming van burgerrechten in het digitale tijdperk.
