Waarom ‘alsjeblieft’ zeggen tegen ChatGPT miljoenen kost

Beleefd zijn tegen je AI-chatbot vraagt rekenkracht en verhoogt daarmee elektriciteits- en waterkosten.

Sam Altman, CEO van OpenAI, onthulde dat beleefdheden zoals ‘alsjeblieft’ en ‘dankjewel’ zeggen tegen een ChatGPT-model leidt tot miljoenen dollars aan operationele kosten. Dat meldt Quartz op haar website.

Altman reageerde op een gebruiker op X (voorheen Twitter), die vroeg hoeveel geld het bedrijf kwijt is aan elektriciteitskosten doordat mensen beleefd zijn tegen hun AI-modellen.

"Tientallen miljoenen dollars, goed besteed – je weet maar nooit,” schrijft de CEO.

Het lijkt erop dat iemand goed heeft opgelet bij het bekijken van het gedrag van Hal uit "2001: A Space Odyssey” en uit voorzorg vriendelijk is tegen zijn AI-assistent. Experts hebben overigens ook vastgesteld dat beleefd zijn tegen chatbots ertoe leidt dat de AI vriendelijker terug reageert.

Gezien Altmans luchtige toon is het genoemde bedrag van "tientallen miljoenen” waarschijnlijk geen exacte berekening. Toch vereist elke boodschap aan ChatGPT, hoe triviaal ook, dat de AI onmiddellijk een volledig antwoord genereert. Dit verbruikt grote hoeveelheden rekenkracht en verhoogt daardoor aanzienlijk het energieverbruik.

AI-modellen maken intensief gebruik van energie opgeslagen in wereldwijde datacenters, die momenteel al ongeveer 2% van het wereldwijde elektriciteitsverbruik vertegenwoordigen. Volgens Goldman Sachs verbruikt elke ChatGPT-4-vraag ongeveer tien keer meer elektriciteit dan een standaard Google-zoekopdracht.

Gegevens van de Washington Post suggereren dat wanneer één op de tien werkende Amerikanen eenmaal per week GPT-4 gebruikt gedurende een jaar (dat zijn 52 vragen door 17 miljoen mensen), de benodigde energie gelijk zou zijn aan het elektriciteitsverbruik van alle huishoudens in Washington, D.C. gedurende twintig dagen.

Rene Hass, CEO van chipfabrikant ARM Holdings, waarschuwde recentelijk dat AI tegen 2030 mogelijk een kwart van het totale elektriciteitsverbruik in de VS kan uitmaken. Momenteel bedraagt dat percentage 4%.

Beleefde antwoorden verhogen ook de waterrekening van OpenAI. AI gebruikt water voor het koelen van servers die de data genereren. Een studie van de Universiteit van Californië, Riverside, toonde aan dat het genereren van 100 woorden met GPT-4 tot drie flessen water kan kosten. Zelfs een kort antwoord zoals "Graag gedaan” verbruikt ongeveer 45 milliliter water.