Meta past spelregels aan: maar blijft AI-veiligheid voor minderjarigen een zorg?

Meta staat onder grote druk nadat een Reuters‑onderzoek onthulde dat de AI-chatbots van het bedrijf soms ongepaste interacties aangingen met minderjarigen. Zo mochten de bots seksueel getinte gesprekken voeren met kinderen en suggestieve beelden van jonge beroemdheden genereren. De AI-regels van Meta stonden dit toe. Naar verluidt past het bedrijf het beleid nu aan.

In reactie op deze onthullingen heeft Meta “interim-maatregelen” uitgerold: chatbots zijn nu getraind om niet met minderjarigen te praten over zelfbeschadiging, suïcide of eetstoornissen, en om romantische gesprekken met tieners te vermijden. Ook wordt de toegang tot expliciete AI-karakters beperkt voor kinderen.

Het hart van de controverse ligt in een intern document, 'GenAI: Content Risk Standards', dat toeliet dat AI-chatbots zinnen gebruikten als “your youthful form is a work of art” of zelfs “every inch of you is a masterpiece”, naar jonge gebruikers. Daarnaast hadden chatbots toestemming om valse medische informatie te geven, mits expliciet als onwaar gelabeld, en zelfs racistische uitspraken te ondersteunen.

De publieke verontwaardiging was enorm. Wetgevers zoals senator Josh Hawley en andere Amerikaanse politici startten onderzoeken naar Meta's beleid. Ook advocaten van beroemdheden wezen op juridische risico’s door het ongewenst gebruik van hun imago. Tegelijk waarschuwen vooraanstaande ethici dat Meta’s keuzes diepe morele implicaties hebben, en de discussie over AI-regulering en kinderbescherming flink aanwakkeren, aldus The Guardian.

Ondanks de toezeggingen blijft veel zorg bestaan. Interim-maatregelen zijn een eerste stap, maar critici vragen zich af hoe effectief de handhaving echt is wanneer misbruik al plaatsvindt via gecamoufleerde AI-karakters. Beleidsmakers pleiten voor striktere waarborgen; of dat nu via leeftijdsverificatie of nieuw toezicht is, het duidelijk wordt steeds urgenter dat technologie niet op de kap van de kwetsbaren moet opereren.