Britse rechter waarschuwt advocaten voor zware straffen bij gebruik van nep-AI-bronnen

De Hoge Raad van Engeland en Wales heeft een duidelijke waarschuwing afgegeven aan advocaten: "Wie zich schuldig maakt aan het indienen van valse, door AI gegenereerde juridische verwijzingen, riskeert zware sancties". Deze waarschuwing volgt op een uitspraak waarin rechter Victoria Sharp benadrukt dat generatieve AI-tools zoals ChatGPT niet geschikt zijn voor betrouwbaar juridisch onderzoek.

Volgens rechter Sharp kunnen deze AI-systemen ogenschijnlijk samenhangende en overtuigende antwoorden geven, maar die antwoorden kunnen volledig onjuist zijn. Ze waarschuwt dat AI soms met grote stelligheid onwaarheden presenteert. Advocaten mogen AI wel gebruiken als hulpmiddel, maar hebben de professionele plicht om alle informatie te controleren aan de hand van gezaghebbende bronnen voordat ze deze in hun werk gebruiken.

De aanleiding voor deze uitspraak waren twee recente zaken. In het eerste geval diende een advocaat een document in met 45 verwijzingen, waarvan er 18 niet bestonden. Andere citaten waren verkeerd weergegeven of totaal niet relevant. In het tweede geval verwees een advocaat naar vijf niet-bestaande zaken in een zaak rond een huisuitzetting. Hoewel deze advocaat ontkende AI direct te hebben gebruikt, gaf ze toe dat de citaten mogelijk uit AI-gegenereerde samenvattingen via Google of Safari kwamen.

Rechter Sharp benadrukte dat het niet starten van een minachtingsprocedure in deze gevallen geen precedent schept. Ze waarschuwde dat advocaten die hun professionele verplichtingen niet nakomen, kunnen rekenen op sancties die variëren van een publieke berisping tot het opleggen van kosten, minachtingsprocedures of zelfs doorverwijzing naar de politie.

De uitspraak wordt nu doorgestuurd naar beroepsorganisaties zoals de Bar Council en de Law Society, met de oproep om strengere richtlijnen en handhaving te overwegen. De boodschap is duidelijk: wie AI gebruikt in de rechtszaal, moet extra waakzaam zijn en altijd de feiten controleren. Het risico op reputatieschade en zware straffen is simpelweg te groot.