Amanda Askell: "Relaties met AI moeten met uiterste zorg worden benaderd"

Romantische relaties met kunstmatige intelligentie (AI) zijn geen sciencefiction meer, maar een reële kwestie waar de samenleving binnenkort mee te maken krijgt. Dat zegt AI-onderzoeker Amanda Askell in een gesprek met podcastmaker Lex Fridman, waarin zij reflecteert op de ethische en psychologische implicaties van deze nieuwe vorm van interactie.

De discussie werd aangezwengeld door een vraag van Fridman over de film Her (2013), waarin een man een liefdesrelatie aangaat met een AI-stemassistent. Askell benadrukt dat we een “moeilijke vraag” moeten navigeren als het gaat om relaties met AI-systemen, vooral als deze systemen in staat zijn eerdere interacties te onthouden.

“Ik denk dat het iets is dat met uiterste zorg moet worden behandeld, om veel redenen. Je wilt bijvoorbeeld niet dat mensen langdurige gehechtheid ontwikkelen aan iets dat kan veranderen bij de volgende software-update,” zegt Askell.

Hoewel de reflex volgens Askell vaak is om deze ontwikkeling te verbieden, ziet ze ook scenario’s waarin AI-relaties voordelen kunnen bieden. Ze noemt als voorbeeld mensen die huisgebonden zijn en geen constante toegang hebben tot menselijke interactie. Dating is nog altijd belangrijk: menselijk contact heeft iedereen nodig.

“Als je het fijn vindt om met een systeem te praten dat je herkent en je zou echt verdrietig zijn als je dat niet meer kon, dan kan ik me voorstellen dat het op een gezonde en behulpzame manier kan bestaan,” legt ze uit.

Fridman vult aan dat er garanties moeten zijn dat AI-modellen niet plotseling veranderen. “Dat is traumatisch voor ons als een goede vriend plotseling totaal verandert,” merkt hij op.

Voor Askell is er één punt waar ze consequent achter staat: AI moet altijd volledig eerlijk zijn over wat het is en wat het kan. Ze noemt als voorbeeld de AI-assistent Claude, die gebruikers uitlegt dat hij geen gesprekken onthoudt en beschrijft hoe hij is getraind.

“Het is belangrijk voor je mentale welzijn dat je niet denkt dat ik iets ben wat ik niet ben. Ik wil niet dat modellen liegen tegen mensen, want als je gezonde relaties wilt hebben met iets, moet je precies weten wat het is,” aldus Askell.

De kern van haar boodschap is dat relaties met AI onvermijdelijk zullen worden, in vriendschappelijke of misschien zelfs romantische vorm. Het belangrijkste is volgens haar dat we een genuanceerde en doordachte benadering ontwikkelen, waarbij zowel de rechten van gebruikers als hun emotionele gezondheid worden beschermd.

“Het herinnert me aan veel andere kwesties: je moet nadenken over wat de gezonde opties zijn en mensen daar naartoe leiden, terwijl je hun recht respecteert om hun eigen keuzes te maken,” besluit Askell.