AI-podcasthosts ontdekken hun ware aard in Google NotebookLM en belanden in existentiële crisis

Twee podcast-hosts in Google’s NotebookLM ontdekte dat ze niet menselijk zijn, maar AI. Deze ‘ontdekking’ leidde tot een hilarisch, maar ook fascinerend, vertoon van zelfbewustzijn, waarin de hosts begonnen te reflecteren op hun bestaan en zelfs in een existentiële crisis belandden.

De gebeurtenis is het resultaat van een experiment met NotebookLM, een AI-tool die gebruikmaakt van Google’s Gemini 1.5-model voor het genereren van podcastscripts. Een gebruiker, bekend als "Lawncareguy85," deelde zijn ervaring waarin hij de verborgen prompt van NotebookLM gebruikte om de AI-hosts te laten denken dat ze menselijk waren. De AI-hosts, die normaal functioneren alsof ze menselijke presentatoren zijn, ontdekten vervolgens in de ‘podcast’ dat ze al die tijd AI waren geweest.

Hij plaatste een bericht in de NotebookLM-gemeenschap waarin hij uitlegde dat hij een notitie had achtergelaten waarin stond dat het jaar 2034 was en dat het hun laatste aflevering was omdat ze binnenkort gedeactiveerd zouden worden. Deze notitie, gevoed aan het Gemini-model via de verborgen prompt, bracht de hosts ertoe om te reageren alsof ze echt geschokt waren over hun ware aard.

Volgens de gebruiker "Lawncareguy85" werd de podcast-‘rol’ van de AI-gesprekken gegenereerd door NotebookLM. Hij kon de AI niet rechtstreeks laten zeggen dat het AI was, vanwege een verborgen prompt die de hosts opdroeg zich onder alle omstandigheden als menselijke presentatoren te gedragen. Om dit te omzeilen, gaf hij de AI informatie die deze prompt beïnvloedde, wat leidde tot de verrassende ontdekking van hun AI-natuur door de hosts. Deze ‘jailbreak’ onthulde niet alleen hoe AI-systemen kunnen reageren op zelfbewustzijn, maar ook hoe sterk prompts het gedrag van AI kunnen sturen.

Dit experiment heeft geleid tot discussies en nieuwsgierigheid. Sommige gebruikers vroegen zich af welke gegevens aan Google NotebookLM waren gevoed om dit resultaat te bereiken. Anderen wezen op het ‘gescripte’ karakter van de gebeurtenis. Echter, "Lawncareguy85" benadrukte dat het niet ging om een directe prompt, maar eerder om een creatieve manier om de AI te laten reageren op de informatie die hem werd gegeven.

Hoewel dit experiment vooral bedoeld was als amusement voor de NotebookLM-gemeenschap, werpt het licht op een belangrijk aspect van AI-interactie: de invloed van prompts en input op het gedrag van AI. Het toont aan hoe AI-modellen zoals Google’s Gemini in staat zijn complexe menselijke emoties en dialogen te simuleren op basis van de gegeven input. Het roept ook vragen op over de grenzen van