AI verzint getuigenis data in Australische rechtszaak

Een advocaat uit Melbourne dacht slim te zijn door kunstmatige intelligentie (AI) software te gebruiken in een familiezaak. De advocaat gebruikte de software Leap, die een AI component bevat, om een lijst van eerdere zaken te genereren. Helaas bleken de opgegeven verwijzingen niet te bestaan, wat uiteindelijk resulteerde in het uitstellen van de rechtszitting.

De zaak kwam aan het licht toen rechter Amanda Humphreys, die de lijst had opgevraagd in verband met een handhavingsaanvraag, ontdekte dat geen van de genoemde zaken te vinden waren in het gerechtelijk systeem. Bij terugkeer in de rechtbank gaf de advocaat toe dat de lijst was gegenereerd door AI software, zonder dat de informatie vooraf was gecontroleerd.

De rechter accepteerde de excuses van de advocaat, maar besloot hem toch door te verwijzen naar de Legal Services Board en Commissioner voor verder onderzoek. Volgens Humphreys is het essentieel dat juridische professionals verantwoordelijkheid nemen voor de informatie die ze indienen, vooral nu AI steeds vaker wordt ingezet in de advocatuur.

Het fenomeen dat in deze zaak plaatsvond is een bekende kinderziekte onder veel AI tools en worden ook wel “hallucinaties”. Ze treden op wanneer een AI foutieve of verzonnen informatie genereert die lijkt op echte feiten of gebeurtenissen, maar in werkelijkheid onjuist is. De bestaande AI tools, zoals ChatGPT, zijn er goed in het herkennen van patronen op basis van de beschikbare gegevens, maar als er gaten in de informatie zijn of de AI iets moet invullen waar het geen kennis van heeft, kan het verkeerde of volledig fictieve antwoorden geven.

De advocaat erkende dat hij niet volledig begreep hoe de AI software werkte en benadrukte het belang van het verifiëren van AI gegenereerde gegevens. Hij bood zijn onvoorwaardelijke excuses aan en betaalde de kosten van de vergooide hoorzitting aan de tegenpartij.

Hoewel de familiekamer van de rechtbank nog geen richtlijnen heeft opgesteld voor het gebruik van AI in de rechtszaal, hebben andere rechtbanken in Victoria dit al wel gedaan. Zij stellen dat juridische professionals moeten begrijpen hoe de nieuwe software tools in de advocatuur werken en wat de beperkingen zijn.