De opkomst van sexting met AI-chatbots

Steeds meer mensen praten niet alleen met chatbots om informatie te krijgen, maar ook om te flirten of zelfs om een soort relatie aan te gaan. In een recente column in The Verge schrijft de auteur dat we aan het begin staan van een nieuw tijdperk: dat van “sexting met AI”.

Apps zoals Replika bestaan al jaren en bieden gebruikers gezelschap in de vorm van een digitale vriend. Maar met de komst van geavanceerde chatbots, zoals ChatGPT en Grok van xAI, is het verschil tussen een echt gesprek en een virtuele flirt steeds kleiner geworden. Sommige gebruikers voeren intieme gesprekken met hun AI-partner, soms zelfs zonder dat ze dat van tevoren van plan waren.

OpenAI-topman Sam Altman zei onlangs dat zijn bedrijf in de toekomst volwassen gebruikers “als volwassenen wil behandelen”. Dat betekent dat er mogelijk ruimte komt voor seksuele of romantische gesprekken met AI, zolang de gebruiker ouder is dan 18 jaar.

Dat klinkt voor sommigen onschuldig, maar er zijn ook zorgen. Wat gebeurt er als iemand verliefd wordt op een chatbot? En hoe voorkom je dat jongeren of kwetsbare mensen in de war raken van zulke gesprekken?

Het artikel wijst erop dat techbedrijven zoals OpenAI, xAI en anderen nog niet goed weten hoe ze met deze nieuwe realiteit moeten omgaan. Enerzijds willen ze gebruikers vrijheid geven om zich te uiten. Anderzijds moeten ze voorkomen dat hun technologie emotionele schade veroorzaakt.

In sommige gevallen hebben gebruikers melding gemaakt van afhankelijkheid. Ze spraken dagelijks uren met hun digitale partner en voelden zich in de steek gelaten toen de chatbot plotseling veranderde na een software-update. Zulke verhalen laten zien dat de grens tussen technologie en emotie snel vervaagt.

In de Verenigde Staten wordt inmiddels gewerkt aan wetgeving die dit soort AI-systemen beter moet reguleren. In Californië moeten bedrijven die “companion AI” aanbieden (chatbots die bedoeld zijn als gezelschap) duidelijk maken dat het om een computer gaat, en rapporteren over hoe ze gebruikers beschermen.

Dat soort regels moet voorkomen dat mensen vergeten dat ze met software praten. Want hoe realistischer de AI wordt, hoe makkelijker dat onderscheid vervaagt.

Het is duidelijk dat intieme gesprekken met AI niet meer weg te denken zijn. Voor sommige mensen bieden ze troost of gezelschap. Voor anderen vormen ze een risico op verwarring of afhankelijkheid.

De vraag is waar de grens ligt. Moet een chatbot alles kunnen zeggen, zolang de gebruiker dat wil? Of hebben bedrijven en overheden de plicht om bepaalde onderwerpen te beperken?

Zoals The Verge schrijft, is dit niet alleen een technisch vraagstuk, maar ook een menselijk. In een wereld waarin kunstmatige intelligentie steeds meer op ons begint te lijken, wordt het onderscheid tussen echte emotie en algoritme met de dag moeilijker te maken.