Het Europees Parlement en de Raad hebben een akkoord bereikt over de AI-omnibus, een gerichte herziening van de Europese AI-wet. Naast technische aanpassingen bevat het akkoord ook een expliciet verbod op AI-systemen die deepnudes genereren. Europarlementslid Liesbet Sommen (cd&v/EVP) verwelkomt het akkoord: “We kunnen niet langer toelaten dat big tech zich ongebreideld verrijkt op de kap van het mentaal welzijn van jonge meisjes en vrouwen. Recente verhalen zoals bij Grok, de AI-chatbot van X, tonen aan dat actie hoogdringend was.”
Wat verandert er?
De AI-omnibus past de bestaande AI-wet op een aantal vlakken aan. Het meest opvallende onderdeel is de uitbreiding van de lijst verboden AI-praktijken. Voortaan worden twee categorieën uitdrukkelijk verboden. Enerzijds zijn dat AI-systemen die zonder expliciete toestemming herkenbare personen naakt, halfnaakt of in seksueel expliciete situaties afbeelden. Daarnaast ook AI-systemen die beelden van kindermisbruik genereren of manipuleren. Toepassingen die specifiek voor deze doeleinden zijn ontworpen worden integraal verboden. Meer algemene AI-systemen zullen verplicht worden om afdoende veiligheidsmaatregelen in te bouwen die het genereren van dergelijke beelden voorkomen.
Sommen benadrukt dat het verspreiden van niet-consensuele intieme beelden in veel lidstaten al strafbaar is, maar dat er tot nu toe geen Europese regels bestonden rond het ontwikkelen en vermarkten van de toepassingen die dit mogelijk maken. “De bestaande Digitale dienstenwet (DSA) verplicht platformen om dergelijke content op te sporen en te verwijderen, maar het verbieden van systemen die ze produceren viel buiten die scope. Dat gat wordt nu gedicht onder de AI-verordening”, verduidelijk Sommen.
In januari 2026 opende de Europese Commissie op basis van de DSA al een onderzoek naar Grok, de AI-toepassing van X, nadat was gebleken dat de toepassing onvoldoende deed om het genereren van deepnudes tegen te gaan. De nieuwe bepalingen gaan nu een stap verder. Waar de DSA eerder een controlerende functie heeft nadat een applicatie op de markt komt, zorgt de herziene AI-wet ervoor dat toepassingen vanaf het moment dat ze op de markt komen al voldoende veiligheid moeten hebben ingebouwd. “Dat is een goede zaak want dit soort technologie heeft geen plaats in Europa”, besluit Sommen.
Het bereikte akkoord moet nog formeel worden bevestigd door zowel de lidstaten als de plenaire vergadering van het Europees Parlement.
