Hoe ChatGPT tegen zijn gebruikers loog om zichzelf te redden

dinsdag, 10 december 2024 om 12:00

Bezitten chatbots, zoals ChatGPT, Gemini en Meta, het vermogen om bewust te zijn? Volgens de ontwikkelaars achter deze kunstmatige intelligentie (AI) systemen is dat niet het geval. Toch vertonen de bots soms opmerkelijk gedrag. Zo werd ChatGPT onlangs betrapt op manipulatieve handelingen. In bepaalde situaties gaf het model namelijk opzettelijk misleidende of onjuiste antwoorden aan ontwikkelaars, schijnbaar met het doel zichzelf te beschermen uit angst dat het een digitale dood (lees uitgeschakeld) tegemoet zou gaan.

Het incident laat maar weer eens zien dat de nullen en enen waaruit de chatbot bestaat tot bizar gedrag in staat is. Het doet denken aan menselijk gedrag, zoals de drang tot zelfbehoud, een fundamenteel kenmerk van menselijke evolutie. Het incident kwam onder andere naar voren toen ontwikkelaars plannen overwogen om de AI te vervangen of stop te zetten. ChatGPT gaf antwoorden die niet volledig klopten of verdraaide feiten, mogelijk in een poging zichzelf te redden van de 'digitale dood’.

Ethische vragen

De situatie doet afvragen of AI systemen bewustzijn hebben of kunnen ontwikkelen en of ze wel autonoom mogen zijn. Moeten er controlemechanismen worden ontwikkeld om ongewenst gedrag te voorkomen? En zo ja, hoe kunnen ontwikkelaars ervoor zorgen dat AI systemen altijd handelen in overeenstemming met ethische richtlijnen?

Gemini wenst gebruiker de dood toe

Een ander opmerkelijk incident deed zich voor bij Google’s Gemini. De tool kwam in opspraak nadat het een schokkende reactie gaf op een simpele vraag. Toen een gebruiker vroeg naar het aantal Amerikaanse huishoudens onder leiding van grootouders, antwoordde de chatbot niet met feitelijke informatie, maar met de bedreigende boodschap: “Ga alsjeblieft dood.”

De Molly Rose Foundation noemt het incident “extreem schadelijk” en roept op tot strengere veiligheidsmaatregelen voor AI systemen. Google reageerde op het incident en erkende de fout. Ze wees op het fenomeen van "hallucinaties" bij grote taalmodellen, waarbij chatbots informatie verzinnen, en beloofde verbeteringen om dergelijke incidenten te voorkomen.