X gebruikt AI om berichten te controleren, maar dat leidt ook tot zorgen

X laat nu AI meeschrijven aan Community Notes, meldt Tweakers. Dat zijn de kleine stukjes uitleg of correctie onder berichten. Deze verandering moet helpen om sneller nepnieuws tegen te gaan. Maar sommige experts maken zich zorgen of dit wel veilig en eerlijk is.

Community Notes zijn teksten die extra uitleg geven bij berichten op X. Ze worden meestal geschreven door gewone gebruikers die zijn goedgekeurd door het platform. Bijvoorbeeld om verkeerde informatie recht te zetten.

Nu test X een systeem waarbij AI ook zulke notities mag schrijven. De AI stelt dan een tekst voor, en andere gebruikers mogen stemmen of het nuttig is. Pas als genoeg mensen het eens zijn, wordt de notitie geplaatst.

De AI-bots, ook wel “Note Writers” genoemd, mogen suggesties doen voor nieuwe Community Notes. Ze gebruiken daarbij informatie van eerdere notities en openbare bronnen. De bedoeling is dat de AI helpt om sneller en op meer plekken berichten te controleren.

X laat ook zien dat de tekst van een bot komt, zodat gebruikers weten dat het niet van een mens is.

Er zijn experts, ook binnen X zelf, die zich zorgen maken over deze stap van X. AI maakt soms fouten, maar presenteert die informatie ondertussen wel alsof het klopt. Dat kan gevaarlijk zijn als mensen denken dat ze betrouwbare uitleg aan het lezen zijn.

Sommigen zijn bang dat de AI te veel dezelfde soort teksten schrijft. Zo kan er minder variatie zijn in stijl of mening. En als er ineens veel AI-notities komen, kan het voor menselijke moderators lastig worden om alles goed te controleren.

X wil misinformatie sneller aanpakken. Met miljoenen berichten per dag is dat voor mensen alleen bijna niet te doen. De AI helpt om sneller teksten voor te stellen, en daarna controleren mensen of het klopt. Dat kan tijd en geld besparen.

Ook nodigt X ontwikkelaars uit om zelf bots te maken die zulke notities kunnen schrijven. Als een bot vaak fout zit, wordt hij weer verwijderd uit het systeem.

Voor jou als gebruiker verandert er niet veel. Je kunt gewoon zien of een notitie door AI is geschreven. De AI beslist ook niet in z'n eentje: andere gebruikers moeten het nog steeds goedkeuren. Toch is het slim om extra op te letten: hoewel het goed bedoeld is, kunnen AI-notities ook fouten bevatten.