OpenAI introduceert nieuwe techniek voor transparantere AI

OpenAI, de maker van de bekende chatbot ChatGPT, heeft een nieuwe techniek onthuld die de transparantie van kunstmatige intelligentie (AI) systemen moet verbeteren. Het systeem maakt dit mogelijk door AI modellen met elkaar te laten communiceren om zo hun redeneerprocessen inzichtelijker te maken. De ontwikkeling is een reactie op de toenemende roep om meer veiligheid en toezicht in de snel evoluerende industrie.

Het onderzoek naar mogelijkheden om de transparantie te verbeteren richtte zich meer op een AI model dat eenvoudige wiskundige problemen kon oplossen. Dit model werd vervolgens gevraagd om zijn redeneerproces te verwoorden terwijl het vragen beantwoordde of problemen oploste. Een tweede AI model, dat was getraind om de correctheid van deze antwoorden te beoordelen, moedigde het eerste model aan om eerlijker en transparanter te zijn in zijn redenering. De dialoog tussen de modellen bleek uiteindelijk effectief in het verhogen van de transparantie.

OpenAI heeft een wetenschappelijk artikel gepubliceerd over het onderzoek, waarin de aanpak gedetailleerd beschreven wordt. Het bedrijf hoopt dat andere onderzoekers op deze techniek voortbouwen en nieuwe algoritmen ontwikkelen die de transparantie verder vergroten.

OpenAI werd initieel opgericht, onder andere door Elon Musk, met de belofte om AI systemen transparanter en veiliger te maken. Echter, na het succes van ChatGPT en de toenemende concurrentie, lijkt het bedrijf een heel ander pad te bewandelen. Sommige bedrijven hebben het ervan beschuldigd meer de focus te leggen op de snelle vooruitgang en marktaandeel dan op veiligheid.

Daarnaast hebben ook klokkenluiders van het bedrijf een klacht ingediend bij de Amerikaanse Securities and Exchange Commission (SEC), waarin ze beweren dat het bedrijf werknemers illegaal heeft verhinderd veiligheidsrisico's te melden aan regelgevende instanties. Volgens de klacht moesten werknemers toestemming vragen aan OpenAI voordat ze informatie met federale autoriteiten konden delen. De restrictieve overeenkomsten zouden de federale klokkenluiders wetten schenden.