OpenAI financiert onderzoek naar morele AI beslissingen

Met de opkomst van kunstmatige intelligentie (AI) komen ook vragen naar boven over ethiek en de rol van technologie in het nemen van morele beslissingen. Hoe kunnen we ervoor zorgen dat AI systemen eerlijk, inclusief en verantwoord handelen in complexe situaties? OpenAI, het bedrijf achter de bekende chatbot ChatGPT, probeert hier stappen in te maken en heeft een subsidie van $1 miljoen toegekend aan onderzoekers van Duke University.

Dit project, genaamd "Research AI Morality," wordt geleid door professor Walter Sinnott-Armstrong en loopt tot 2025. Het doel is om AI systemen te trainen die complexe morele keuzes kunnen maken in situaties binnen geneeskunde, recht en bedrijfsleven.

De onderzoekers van Duke hebben eerder algoritmen ontwikkeld om te bepalen wie een niertransplantatie zou moeten ontvangen, en bestudeerden in welke gevallen mensen de voorkeur geven aan AI beslissingen boven menselijke oordelen. Ondanks deze vooruitgang staat het ontwikkelen van "morele AI" voor grote uitdagingen.

Moderne AI modellen, zoals machine learning systemen, missen een diepgaand begrip van ethische waarden en emoties. Ze baseren hun voorspellingen op enorme datasets van het internet, wat vaak leidt tot vooringenomen uitkomsten. Zo bleek een eerder AI model, Ask Delphi van het Allen Institute, inconsistent en soms zelfs onethisch te reageren op morele vragen.

Daarnaast weerspiegelen veel AI systemen voornamelijk Westerse waarden, wat kan leiden tot exclusieve en bevooroordeelde conclusies. Dit betekent dat bepaalde culturele of maatschappelijke normen en waarden onvoldoende worden meegenomen, wat de betrouwbaarheid en toepasbaarheid van zulke systemen wereldwijd beperkt.

Het project waar OpenAI zich aan waagt is uiterst complex. Morele concepten zijn subjectief en filosofen hebben eeuwenlang gediscussieerd zonder universele overeenstemming te bereiken. Hierdoor blijft het een uitdaging om een AI systeem te ontwikkelen dat recht doet aan de diversiteit van menselijke overtuigingen en morele kaders. Of OpenAI erin slaagt een "moreel kompas" te creëren, blijft afwachten, maar kan een enorme impact hebben op ons leven.