OpenAI en Anthropic sluiten unieke overeenkomst met Amerikaanse overheid

Twee van de voorlopers als het op kunstmatige intelligentie (AI) komt, OpenAI en Anthropic, hebben onlangs overeenkomsten getekend met de Amerikaanse overheid. Het doel van de samenwerking met de U.S. Artificial Intelligence Safety Institute is om de AI modellen grondig te laten onderzoeken, testen en evalueren. De samenwerking is de eerste in zijn soort en moet een stap maken richting het veilig en ethisch verantwoord ontwikkelen van AI modellen.

Binnen de overeenkomst krijgt het U.S. AI Safety Institute toegang tot de nieuwste AI modellen van zowel OpenAI als Anthropic, zowel voor als na hun publieke release. Dit stelt het instituut in staat om de capaciteiten en risico's van deze modellen grondig te evalueren voordat ze op de markt komen. Daarnaast is er sprake van internationale samenwerking en werkt de overheidsinstantie nauw samen met zijn Britse tegenhanger om feedback te leveren en verbeteringen voor te stellen.

Het U.S. AI Safety Institute bestaat pas sinds kort. Het werd opgericht in 2023 door de regering Biden, als reactie op de groeiende zorgen over de potentiële risico's en ethische vraagstukken die samenhangen met de snelle ontwikkeling van AI technologieën. Het instituut is onderdeel van het National Institute of Standards and Technology (NIST), een wetenschappelijke instelling die onder het Amerikaanse ministerie van Handel valt.

Ook verschillende religieuze leiders maken zich zorgen over de opkomst van AI. Om die reden zijn leiders van verschillende wereldreligies in juli bijeen gekomen in Hiroshima, Japan, om de “Rome Call for AI Ethics” te ondertekenen. Het document werd geïnitieerd door de Pauselijke Academie voor het Leven in 2020 en gaat in op het belang van ethische richtlijnen bij de ontwikkeling van AI.

Tijdens het evenement werd de nadruk gelegd op de gezamenlijke verantwoordelijkheid van religies om AI te ontwikkelen waarbij er rekening wordt gehouden met de bescherming van de rechten, autonomie, en integriteit van mensen.