Advocaat bouwt zaak op met behulp van ChatGPT, maar AI-chatbot blijkt glashard te liegen

Een advocaat die de hulp van ChatGPT inschakelde voor een rechtszaak, is in de problemen gekomen omdat de OpenAI-chatbot bleek te liegen. De advocaat vroeg de AI om voorbeelden van vergelijkbare rechtszaken, die werden vervolgens door de chatbot verzonnen hoewel die bleef volhouden dat ze wel degelijk echt waren.

De rechtszaak draait om een man genaamd Roberto Mata die in de Verenigde Staten de Colombiaanse luchtvaartmaatschappij Avianca heeft aangeklaagd. Mata zou tijdens een vlucht naar New York gewond zijn geraakt toen het serveerkarretje tegen zijn knie werd gereden.

Avianca vroeg de rechter de zaak te verwerpen, maar de advocaten van Mata betoogden dat er meerdere vergelijkbare rechtszaken waren die allen in het voordeel van de klager werden beslecht. Er bleek wel een probleem: niemand, waaronder de advocaten van de Avianca en de rechter zelf, kon ook maar iets vinden over de uitspraken in het aangeleverde dossier.

Advocaat van Mata Steven A. Schwartz moest uiteindelijk toegeven dat hij ChatGPT had gevraagd vergelijkbare zaken te vinden. Als dubbelcheck vroeg hij de AI nog of die wel de waarheid sprak, wat de bot bevestigde. Ook zei de AI dat de zaken terug te vinden waren in de archieven van Westlaw en LexisNexis. De AI zei de waarheid te spreken en de advocaat was tevreden.

Inmiddels heeft de advocaat spijt betuigd voor het feit dat hij niet zijn eigen research heeft gedaan en heeft vertrouwd op de veronderstelde eerlijkheid van ChatGPT. De zaak is inmiddels verhuisd naar een rechtbank waar Schartz niet bevoegd is. Aan Mata’s nieuwe advocaat nu de ondankbare taak om uit te leggen waar het allemaal is misgegaan.