Google stopt plots met AI-advies over gezondheid

Google heeft een omstreden AI-functionaliteit uit zijn zoekmachine verwijderd. De functie, genaamd ‘What People Suggest’, gaf gebruikers samenvattingen van medisch advies op basis van berichten van platforms als Reddit, Quora en X.

De beslissing volgt na groeiende zorgen over de betrouwbaarheid van deze informatie en de mogelijke risico’s voor gebruikers, meldt The Guardian.

De functie werd in maart vorig jaar gelanceerd in de Verenigde Staten en was vooral gericht op mobiele gebruikers. Google gebruikte kunstmatige intelligentie om antwoorden te genereren op medische vragen, gebaseerd op discussies van andere gebruikers online.

Dat betekende dat ervaringen en adviezen van onbekende personen werden samengevat en gepresenteerd als ogenschijnlijk betrouwbare informatie.

Volgens Google zelf moest de functie laten zien hoe AI de gezondheidszorg wereldwijd kon verbeteren. In de praktijk bleek dat echter lastiger.

Al snel ontstond kritiek op de kwaliteit van de antwoorden. AI-modellen bleken in sommige gevallen onnauwkeurige of zelfs schadelijke medische adviezen te geven.

Het probleem zit deels in de bron: platforms als Reddit en X bevatten veel persoonlijke ervaringen, maar weinig gecontroleerde medische expertise. Wanneer AI deze informatie samenvat, kan dat leiden tot een vertekend of onjuist beeld.

Omdat Google wereldwijd een dominante positie heeft als zoekmachine, vergroot dit risico. Gebruikers kunnen de informatie als betrouwbaar beschouwen, simpelweg omdat deze via Google wordt gepresenteerd.

Opvallend is dat Google zelf niet aangeeft dat veiligheid of kwaliteit de doorslag gaf. Volgens een woordvoerder is het schrappen van de functie onderdeel van een bredere vereenvoudiging van de zoekresultatenpagina.

Die verklaring roept vragen op, aangezien juist deze AI-functionaliteit onder een vergrootglas lag. Critici zien de stap dan ook als een impliciete erkenning dat het combineren van AI en medische informatie extra gevoelig ligt.

De beslissing past in een bredere ontwikkeling waarbij techbedrijven voorzichtiger worden met AI-toepassingen in de gezondheidszorg.

Hoewel AI grote potentie heeft, bijvoorbeeld bij diagnoses of het analyseren van medische data, blijkt het gebruik voor direct consumentenadvies riskant. Zeker wanneer de onderliggende data niet afkomstig is van medische professionals.

Voor Google betekent dit mogelijk een heroverweging van hoe AI is in te zetten binnen Search, vooral op gevoelige onderwerpen zoals gezondheid, financiën en veiligheid.