Amerikaanse advocaat krijgt boete vanwege AI-hallucinaties

Het gebruik van kunstmatige intelligentie in de juridische sector groeit gestaag, maar recente incidenten benadrukken de noodzaak voor advocaten om uiterst voorzichtig te zijn bij het inzetten van AI-tools. Een sprekend voorbeeld hiervan is de zaak waarbij advocaten van het Amerikaanse kantoor Morgan & Morgan werden gesanctioneerd voor het indienen van documenten met niet-bestaande jurisprudentie, gegenereerd door een intern AI-programma. ​

De zaak tegen Walmart

In deze specifieke zaak, aangespannen tegen Walmart vanwege een defecte hoverboard, gebruikte advocaat Rudwin Ayala het interne AI-platform MX2.law voor juridisch onderzoek. Het programma genereerde acht fictieve rechtspraak die zonder verificatie in de documenten werden opgenomen. De rechtbank ontdekte deze fouten, wat resulteerde in een boete van $3.000 voor Ayala en de intrekking van zijn toelating tot de zaak. Daarnaast kregen mede-advocaten T. Michael Morgan en Taly Goody elk een boete van $1.000 voor het niet adequaat controleren van de ingediende documenten. ​

Eerdere incidenten

Dit incident staat niet op zichzelf. In juni 2023 werden twee New Yorkse advocaten beboet met $5.000 voor het indienen van door ChatGPT gegenereerde, niet-bestaande jurisprudentie in een letselschadezaak tegen een luchtvaartmaatschappij. De rechter benadrukte dat, hoewel technologische vooruitgang gebruikelijk is, advocaten de verantwoordelijkheid hebben om de nauwkeurigheid van hun indieningen te waarborgen. ​

Eveneens werd in november 2024 een Texaanse advocaat gesanctioneerd voor het gebruik van AI-tools die fictieve citaten en uitspraken produceerden. Dit resulteerde in een boete van $2.000 en de verplichting tot het volgen van een cursus over generatieve AI in de juridische sector. ​

Reactie uit de juridische sector

Deze gevallen hebben geleid tot een bredere discussie binnen de juridische gemeenschap over het gebruik van AI. Sommige rechters en rechtbanken hebben richtlijnen uitgevaardigd over hoe advocaten AI-tools mogen gebruiken, terwijl organisaties zoals de American Bar Association benadrukken dat advocaten verplicht zijn om de informatie in hun indieningen te verifiëren. ​

Afsluiting

Deze incidenten onderstrepen het belang voor juridische professionals om uiterst zorgvuldig te zijn bij het gebruik van AI in hun praktijk. Hoewel AI kan bijdragen aan efficiëntie, blijft het de verantwoordelijkheid van de advocaat om de nauwkeurigheid en betrouwbaarheid van alle ingediende informatie te waarborgen. Het nalaten hiervan kan leiden tot ernstige juridische en professionele consequenties.