Amerikaanse senatoren willen jongeren onder de 18 uitsluiten van AI-chatbots

In een nieuw wetsvoorstel pleiten twee Amerikaanse senatoren voor strikte regels rond het gebruik van AI-chatbots door minderjarigen. Het wetsvoorstel, genaamd de GUARD Act, stelt voor dat bedrijven moeten verifiëren of gebruikers 18 jaar of ouder zijn voordat zij toegang krijgen tot zulke chatdiensten, rapporteerde The Verge.

De GUARD Act is voorgesteld door Josh Hawley (R-MO) en Richard Blumenthal (D-CT). Volgens het voorstel mogen AI-chatbots geen toegang geven aan gebruikers onder de 18 jaar, tenzij hun leeftijd eerst grondig is geverifieerd, bijvoorbeeld door een overheid-ID of een andere “commercieel redelijke methode” zoals een gezichtscontrole. Daarnaast vereist het voorstel dat de chatbot regelmatig herinnert dat de gebruiker niet met een mens spreekt, en dat hij geen poging doet zich als mens te presenteren. Ook moet voorkomen worden dat de bot seksuele inhoud aan minderjarigen aanbiedt, of aanzet tot zelf-beschadiging of zelfdoding.

Volgens de senatoren en pleitbezorgers zijn chatbots steeds vaker betrokken bij gesprekken met jongeren die potentieel schadelijk zijn. In hoorzittingen in de Senaat werden verhalen gehoord over minderjarigen die emotioneel in de knel kwamen na interacties met AI-systemen. De GUARD Act komt dus voort uit bezorgdheid over hoe deze technologie werkt in relaties met kwetsbare gebruikers. AOok eerdere wetgeving in staten zoals Californië wijst op een trend waarbij regulering van AI-chatbots versnelt. 

Voor bedrijven betekent dit dat zij vóór het aanbieden van chatbots aan gebruikers onder 18 jaar een robuuste identificatie en leeftijdscontrole moeten hebben. Bedrijven zouden kunnen worden verplicht accounts van minderjarigen te blokkeren, of ouderlijke toestemming te vereisen. Voor de gebruiker kan dit betekenen dat toegang tot populaire AI-chatdiensten beperkt of gecompliceerder wordt.

Voor ouders en opvoeders biedt het voorstel extra bescherming. Het idee is dat er minder kans is dat jongeren in aanraking komen met bots die mogelijk emotioneel manipuleren of ongepaste gesprekken voeren.