Google’s Gemini wenst gebruikers de dood toe

De kunstmatige intelligentie (AI) chatbots namen de wereld bij storm in 2022. Hoewel ze veel voordelen bieden, gaat er nog altijd het een en ander fout. Zo ook bij Google's eigen AI genaamd Gemini. De bot kwam in opspraak na een gevaarlijke en schokkende reactie op een simpele vraag.

Een gebruiker stelde een "waar of niet waar" vraag over hoeveel Amerikaanse huishoudens in de VS worden geleid door grootouders. In plaats van een duidelijk antwoord werd de gebruiker verrast met een onverwachte en bedreigende boodschap. De chatbot reageerde met uitspraken zoals "ga alsjeblieft dood" en beschuldigde de gebruiker ervan een last te zijn voor de samenleving te zijn. De zus van de getroffen gebruiker deelde de conversatie op Reddit en noemde de reactie “diep verontrustend". Volgens haar functioneerde Gemini tot dat moment normaal.

De Molly Rose Foundation, een organisatie die zich inzet tegen schadelijke content op sociale media, noemt de reactie van Gemini "extreem schadelijk". Ze benadrukken dat er dringend duidelijkheid moet komen over hoe de Online Safety Act toegepast zal worden op AI systemen. De stichting roept op tot meer transparantie en betere veiligheidsmaatregelen van technologiebedrijven.

De ontwikkelaars achter Gemini stellen dat de chatbot beperkingen heeft om gevaarlijke en schadelijke reacties te voorkomen, zoals iemand de dood toewensen. Dit voorbeeld laat echter zien dat het soms fout kan gaan. Google erkende het probleem en gaf aan dat "grote taalmodellen soms onzin kunnen genereren", wat ook wel bekendstaat als hallucineren. Dit fenomeen verwijst naar het proces waarbij een AI model zoals een chatbot onjuiste, onlogische of volledig verzonnen informatie genereert. Dit kan leiden tot antwoorden die niet aansluiten bij de vraag, feitelijk onjuist zijn, of zelfs potentieel schadelijk of gevaarlijk zijn. Google heeft ondertussen aangeven maatregelen te hebben genomen om soortgelijke incidenten in de toekomst te vermijden.