Lloyd’s of London biedt verzekering tegen AI-fouten

Lloyd’s of London introduceert een nieuwe verzekering die bedrijven beschermt tegen schade veroorzaakt door fouten in kunstmatige intelligentie (AI). Deze polis, ontwikkeld door de Canadese start-up Armilla en ondersteund door verzekeraars binnen de Lloyd’s-markt, dekt juridische kosten en schadevergoedingen wanneer AI-systemen, zoals chatbots, ondermaats presteren en daardoor schade veroorzaken.

De verzekering richt zich specifiek op situaties waarin AI-systemen slechter functioneren dan vooraf is verwacht. Een voorbeeld hiervan is een chatbot die aanvankelijk in 95% van de gevallen correcte antwoorden gaf, maar dit percentage ziet dalen naar 85%. In dergelijke gevallen kan de verzekering in werking treden, mits er vooraf een audit van het AI-model heeft plaatsgevonden.

Deze nieuwe polis onderscheidt zich van bestaande technologieverzekeringen door een ruimere dekking te bieden voor AI-gerelateerde risico's. Traditionele verzekeringen hebben vaak lage limieten voor AI-gerelateerde schade, terwijl deze nieuwe verzekering specifiek is ontworpen om bedrijven te beschermen tegen de unieke risico's van AI-systemen.

Voorbeelden van incidenten die onder deze verzekering zouden vallen, zijn onder andere een chatbot van pakketbezorger DPD die het eigen bedrijf uitschold en een AI-systeem van Air Canada dat onjuiste informatie gaf, wat leidde tot financiële schade. Maar denk ook bijvoorbeeld aan fouten in de chatbot van Google. In dergelijke gevallen kan de verzekering bedrijven helpen de kosten te dekken die voortvloeien uit juridische claims en reputatieschade.

Het is belangrijk op te merken dat niet alle AI-fouten automatisch onder de dekking vallen. De verzekeraar moet vaststellen dat de AI slechter presteerde dan verwacht. Modellen die structureel gebrekkig zijn of schade veroorzaken door zogenaamde AI-hallucinaties worden in veel gevallen juist niet vergoed.

Deze ontwikkeling komt op een moment waarop bedrijven steeds vaker AI inzetten in hun bedrijfsvoering. De nieuwe verzekering kan bedrijven het vertrouwen geven om AI-technologieën te implementeren, wetende dat ze beschermd zijn tegen bepaalde risico's. Het benadrukt ook het belang van het zorgvuldig monitoren en auditen van AI-systemen om ervoor te zorgen dat ze betrouwbaar blijven functioneren.

In een tijd waarin AI een steeds grotere rol speelt in diverse sectoren, biedt deze verzekering een innovatieve oplossing om bedrijven te beschermen tegen de potentiële risico's van AI-fouten. Het stelt bedrijven in staat om met meer vertrouwen te innoveren en AI te integreren in hun processen, terwijl ze tegelijkertijd voorbereid zijn op mogelijke uitdagingen die kunnen ontstaan door de complexiteit van AI-systemen.