Google haalt AI-samenvattingen weg voor medische vragen

Google heeft besloten om bepaalde AI-samenvattingfuncties te verwijderen bij medische zoekopdrachten. Deze samenvattingen, onderdeel van de AI-hulpmiddelen in zoekresultaten en andere diensten, waren bedoeld om gebruikers een overzicht te geven van wat er in meerdere bronnen staat. Na feedback van artsen, onderzoekers en medische organisaties heeft Google zijn aanpak aangepast omdat de AI-samenvattingen bij sommige gezondheidsvragen onvolledige of onjuiste informatie konden geven. Over deze verandering bericht TechCrunch.

Google bood AI-samenvattingen aan die automatisch meerdere artikelen en bronnen combineerden tot een kort overzicht. Dit kon handig lijken bij vragen over bijvoorbeeld symptomen, behandelingen of gezondheidstips. Het doel was om gebruikers sneller inzicht te geven in wat er in verschillende artikelen staat, zonder dat ze zelf alle teksten hoefden te lezen.

In de praktijk bleek dit lastiger dan gedacht bij medische onderwerpen. Bij enkele zoekopdrachten kon de AI-samenvatting verkeerde aannames maken, belangrijke nuances weglaten of suggesties geven die niet goed onderbouwd waren. Sommige gebruikers en deskundigen zagen daardoor risico’s ontstaan, vooral omdat mensen medische informatie vaak gebruiken om belangrijke beslissingen te nemen over hun gezondheid.

Als reactie daarop heeft Google besloten bepaalde AI-samenvattingen uit te schakelen bij medische zoekopdrachten. Wanneer iemand nu zoekt naar medische informatie, verschijnt geen automatisch overzicht meer voor die specifieke onderwerpen. In plaats daarvan moet de gebruiker zelf de originele artikelen en bronnen lezen via de reguliere zoekresultaten.

Medische informatie is complex. Artsen en wetenschappers besteden jaren aan het leren hoe verschillende factoren, diagnoses en behandelingen samenhangen. Een AI-systeem dat tekst samenvat, kan moeite hebben om die complexiteit goed te vatten. Kleinere verschillen in interpretatie of nuance kunnen grote gevolgen hebben als iemand die informatie gebruikt om zelf keuzes te maken.

Deskundigen uit de medische wereld gaven aan dat de risico’s te groot waren om de functie ongewijzigd te laten draaien. Zij benadrukten dat zoekmachines, en al helemaal automatische AI-samenvattingen, geen vervanging mogen zijn voor professioneel medisch advies.

Google heeft verklaard dat het besluit voortkomt uit de wens om de kwaliteit en betrouwbaarheid van informatie te behouden, vooral zodra het over gezondheid gaat. Het bedrijf zegt te blijven kijken naar manieren om AI-hulpmiddelen veilig te gebruiken zonder dat ze misleidende suggesties geven.

Voor veel mensen verandert er weinig. Zoekresultaten blijven bestaan zoals voorheen, met links naar artikelen van nieuwsmedia, medische instellingen, overheidswebsites en wetenschappelijke publicaties. Wat verdwijnt, zijn de AI-overzichten bovenaan de pagina die in één oogopslag een samenvatting gaven van meerdere bronnen. Voor gebruikers die daar op vertrouwden, kan dit een stap terug lijken. Tegelijkertijd kan het ook voorkomen dat onjuiste conclusies worden getrokken op basis van een te simplistische samenvatting.

Niet alle AI-functionaliteit wordt verwijderd bij gezondheidsinformatie. Functies zoals zoekfilters en de gewone zoekresultaten blijven werken. De wijziging geldt specifiek voor automatische samenvattingen die de inhoud van meerdere medische bronnen combineren.

De aanpassing bij Google sluit aan bij bredere vragen over wat AI-systemen wel en niet moeten doen met gevoelige informatie. Naast gezondheid zijn er andere onderwerpen waarbij nuance en context cruciaal zijn, zoals juridische informatie, psychologische ondersteuning en financiële beslissingen. Wanneer AI-systemen informatie samenvatten of interpreteren, kan de technologie fouten maken die grote gevolgen hebben voor de gebruiker.

Steeds vaker wordt daarom gekeken naar regels en richtlijnen voor hoe AI ingezet mag worden in domeinen waar verkeerde of onvolledige informatie ernstige gevolgen kan hebben. Deze verandering toont dat techbedrijven soms moeten terugkrabbelen of bijstellen wanneer de toepassingen van AI verder gaan dan eenvoudig gebruik.

Voor nu blijft het advies voor gebruikers die medische vragen hebben om hun informatie rechtstreeks te halen uit betrouwbare en erkende medische bronnen en bij twijfel contact op te nemen met een zorgprofessional. Google zegt dat het de impact van de wijziging blijft monitoren en eventuele verdere aanpassingen blijft onderzoeken.