De waarheid en niet dan de waarheid, zo helpe mij AI.
Een NewYorkse advocaat was een beetje lui – je zou hem ook onbekwaam kunnen noemen – en ging met ChatGPT opzoek naar precedenten om zijn zaak te bepleiten. Doch, die precedenten bleken helemaal niet te bestaan en waren niet meer dan een creatief samenraapsel van ChatGPT. De zaak die de advocaat behandelde, ging over een man die een luchtvaartmaatschappij aanklaagde omdat hij een blessure had opgelopen. Het juridische team van de man haalde verschillende zaken aan als precedenten, waaruit bleek dat de luchtvaartmaatschappij zou moeten dokken.
Advocaten die de luchtvaartmaatschappij vertegenwoordigden, vertelden de rechter dat ze verschillende zaken waarnaar werd verwezen niet konden vinden. De rechter ging daarop ook op zoek, en kwam tot de vaststelling dat iemand wel heel creatief was bezig geweest. "Zes van de ingediende zaken lijken valse rechterlijke beslissingen te zijn met valse citaten en valse interne citaten", schreef rechter Castel in een bevel waarin hij om uitleg vroeg van de creatieve advocaat.
De advocaat kon niet anders dan toegeven dat een en ander was aangegeven door ChatGPT. Steven A. Schwartz - de advocaat die de chatbot gebruikte - beweerde dat hij nog nooit met de software had gewerkt. Hij zei dat hij "grote spijt" heeft dat hij het heeft gebruikt. Schwartz beloofde dat hij het niet opnieuw zou gebruiken om zijn juridisch onderzoek te ondersteunen "zonder absolute verificatie van de authenticiteit ervan".
Makers van de bot grijpen de zaak aan om nog eens duidelijk te maken dat ChatGPT nog in een opstartfase zit en dat het mogelijk is dat het informatie produceert die niet nauwkeurig is.
We hebben de indruk dat de problemen met AI, en ChatGPT in het bijzonder, nog niet eens begonnen zijn.
