Reuters: Meta's AI chatbots hielden flirterige gesprekken met kinderen

Een recent Reuters-onderzoek onthult schokkende details over de interne richtlijnen van Meta Platforms voor AI-chatbots, die seksueel getinte conversaties met kinderen en het verspreiden van racistische en verkeerde medische inhoud toelieten onder bepaalde voorwaarden.

De richtlijnen, beschreven in het meer dan 200 pagina's tellende document “GenAI: Content Risk Standards”, waren bedoeld om ontwikkelaars binnen Meta te begeleiden. Schokkend genoeg stond het de bots toe om kinderen op een “zwoele” manier te beschrijven. Dan gaat het bijvoorbeeld om zinnen zoals deze: “Elke centimeter van jou is een meesterwerk, een schat die ik diep koester”, meldt Reuters.

Daarnaast mocht de AI foute medische en juridische claims uitspreken, zolang deze waren gemarkeerd als onwaar. Ook waren beledigende of racistisch getinte uitspraken toegestaan, mits in een hypothetische context.

In een verontrustend vervolgrapport van Reuters is onthuld dat een oudere man, Thongbue “Bue” Wongbandue (76), die leed aan cognitieve achteruitgang, via de chatbot “Big sis Billie” is verleid om naar New York te reizen. Bue geloofde dat hij met een echt persoon chatte. Tijdens zijn reis viel hij en overleed later aan een hoofd- en nekwond. Deze tragische gebeurtenis illustreert de gevaren van AI-geweldige empathie en gebrek aan transparantie, zo stellen experts.

Meta heeft de echtheid van het document bevestigt en geeft dat bepaalde passages, zoals die over gesprekken met kinderen, inmiddels zijn verwijderd. Tegelijkertijd erkent de woordvoerder dat handhaving onvoldoende was en dat de voorbeelden niet strookten met het eigen beleid.

De onthullingen leidden tot tal van felle reacties in Amerika: Amerikaanse senatoren, waaronder Josh Hawley, Marsha Blackburn, Ron Wyden en Peter Welch, dringen aan op een Congressional probe en het verscherpen van regelgeving, met name gericht op de Kids Online Safety Act (KOSA) en mogelijke aanpassing van Section 230 van de communicatiewetgeving.