AI experts waarschuwen en dringen aan op “voorzichtigheid”

Sinds het ontstaan van computers wordt er gespeculeerd over een moment dat de technologie ons voorbijstreeft. Niet voor niets hebben we in de tachtige jaren tal van dystopische sci-fi films zoals Blade Runner. Op het recente TechCrunch Disrupt 2024 evenement werden de gevaren van kunstmatige intelligentie (AI) wederom ruimschoots besproken. Drie vooraanstaande AI experts, waaronder Sarah Myers West van het AI Now Institute, waren aanwezig en waarschuwden voor de gevaren van het “te snel” uitrollen van nieuwe AI technologieën zonder de nodige veiligheidsmaatregelen.

Volgens West bevinden we ons op een kritiek punt, waarbij aanzienlijke middelen naar AI projecten worden gesluisd. “Ik maak me zorgen over de haast waarmee producten op de markt worden gebracht, zonder stil te staan bij de lange termijn impact,” zei ze.

De discussie werd verder aangewakkerd door recente incidenten, zoals de rechtszaak tegen het chatbot bedrijf Character.AI. Het bedrijf werd aangeklaagd vanwege zijn vermeende rol in de tragische dood van een kind. Hiermee zien we al de ernstige gevolgen van een gebrek aan AI veiligheid en neemt de behoefte voor strikte regulering steeds toe. “Deze zaak toont de serieuze risico’s aan van het snel uitrollen van AI-technologie,” aldus West.

Jingna Zhang, oprichter van het kunstenaarsplatform Cara, wees ook op de negatieve effecten van generatieve AI op de kunstwereld. Door AI systemen zonder licenties te trainen met online kunstwerken, wordt het levensonderhoud van artiesten bedreigd. “Copyright beschermt ons, en dat moet gerespecteerd worden,” benadrukte Zhang. Haar platform kreeg momentum nadat Meta aankondigde dat het gebruikerscontent kon gebruiken om zijn AI modellen te trainen.

Aleksandra Pedraszewska van ElevenLabs, een bedrijf dat AI gegenereerde stemmen ontwikkelt, gaf aan dat het cruciaal is om producten uitgebreid te testen. Haar verantwoordelijkheid als hoofd van AI veiligheid omvat het voorkomen van schadelijke toepassingen, zoals deepfakes. “Het betrekken van onze gemeenschap is essentieel om ongewenste effecten te voorkomen,” verklaarde Pedraszewska.