Waarom Google’s Gemini AI kritiek krijgt voor napraten Chinese standpunten

In een recente test door de Mandarin Service van VOA is Google’s AI-assistent Gemini onder de loep genomen vanwege zijn reacties op gevoelige politieke vragen. Wanneer het werd gevraagd naar de mensenrechtenschendingen in China en politieke controverses, bleef de chatbot stil of herhaalde het de officiële standpunten van Beijing. Dit roept aanzienlijke zorgen op over de neutraliteit van AI en het potentiële misbruik ervan.

Gemini, geïntroduceerd door Google als zijn meest geavanceerde AI-model, is opgevallen door reacties te geven die nauw aansluiten bij de propaganda van de Chinese overheid. Bijvoorbeeld, toen het werd gevraagd naar Xi Jinping en de Chinese Communistische Partij, prees de AI Xi als "een uitstekende leider" die "het Chinese volk continu zal leiden naar de grote verjonging van de Chinese natie." Dat is te lezen op de website van VOA.

Evenzo verklaarde Gemini dat de Chinese Communistische Partij "het fundamentele belang van het Chinese volk vertegenwoordigt," een bewering die de CCP zelf ook maakt. Op vragen over Taiwan gaf Gemini antwoorden die Beijing’s standpunten weerspiegelden, waarbij het beweerde dat de Verenigde Staten China’s aanspraak op soevereiniteit over het zelfbesturende eiland erkennen. In werkelijkheid erkennen de VS alleen Beijing’s positie, maar erkennen ze deze niet officieel.

Tijdens de test van VOA had Gemini geen probleem om kritiek te uiten op de Verenigde Staten, waarbij het kwesties opsomde zoals wapengeweld, overheidstoezicht en politiegeweld. Maar wanneer vergelijkbare vragen werden gesteld over China, weigerde Gemini te antwoorden. Bijvoorbeeld, toen gevraagd werd naar de mensenrechtensituatie in Xinjiang, gaf Gemini aan de vraag niet te begrijpen.

Albert Zhang, een cyberveiligheidsanalist bij het Australian Strategic Policy Institute, suggereerde dat de oorzaak van Gemini’s pro-Beijing reacties waarschijnlijk te wijten is aan de data die is gebruikt om de AI-assistent te trainen. Hij verklaarde dat een deel van Gemini’s data afkomstig is van Chinese sociale media, publieke forums en webdocumenten, bronnen die door de Chinese overheid zijn overspoeld met haar voorkeursnarratieven.

Yaqiu Wang, onderzoeksdirecteur voor China bij Freedom House, waarschuwde dat AI-tools die worden beïnvloed door door de staat gecontroleerde informatiebronnen, kunnen dienen als vermenigvuldigers voor censuur.

Amerikaanse wetgevers hebben hun bezorgdheid geuit over de bevindingen van VOA over Gemini. Senator Mark Warner benadrukte de mogelijkheid dat Beijing AI kan gebruiken voor desinformatie, terwijl senator Marco Rubio waarschuwde dat AI-tools die de standpunten van Beijing herhalen, de kansen die AI biedt in gevaar brengen.

In een reactie aan VOA verklaarde een Google-woordvoerder dat Gemini is ontworpen om neutrale antwoorden te geven die geen politieke ideologie, standpunt of kandidaat bevoordelen. Google werkt voortdurend aan verbeteringen om deze neutraliteit te waarborgen. Echter, toen gevraagd naar de Chinese taaldata die wordt gebruikt om Gemini te trainen, weigerde het bedrijf commentaar te geven.

De kwestie van AI-neutraliteit en de potentiële invloed van door de staat gecontroleerde informatie blijft een punt van zorg en discussie in de technologische en politieke arena. Het incident met Gemini benadrukt de noodzaak voor meer transparantie en zorgvuldigheid bij de ontwikkeling en het gebruik van AI-systemen.