Gli avvocati usano ChatGPT per creare sentenze. Il tribunale li multa intimandoli ad abbandonare l’incarico

Gli avvocati che hanno utilizzato il chatbot ChatGPT per creare false decisioni giudiziarie e testimonianze hanno ricevuto una multa da un giudice di New York.

Il procedimento è iniziato quando gli avvocati hanno chiesto a ChatGPT di fornire loro esempi di casi analoghi da allegare ai loro documenti. ChetGPT, in preda alle “allucinazioni”, ha inventato casi falsi e gli avvocati li hanno inclusi nei loro documenti. 

Alla fine di maggio, un giudice ha invitato gli avvocati che difendevano un passeggero ferito su un volo Avianca nel 2019 a spiegare la sua documentazione quando gli avvocati della compagnia aerea hanno suggerito che l’avvocato avesse citato sentenze inventate.

Il giudice ha chiesto agli avvocati di “abbandonare l’incarico” e di “aver continuato a insistere sull’autenticità della falsa testimonianza” anche quando il tribunale e la difesa l’hanno messa in discussione.

Secondo la corte, il danno deriva dalla fornitura di false testimonianze alla controparte, al tribunale, al cliente, alla reputazione di giudici e tribunali, alla professione legale e al sistema giudiziario americano nel suo insieme.

Il giudice ha ordinato a ogni avvocato di pagare una multa di 5.000 dollari e di informare i propri clienti e i giudici i cui nomi sono stati inseriti all’interno dei documenti falsi.

Secondo un avvocato del Silicon Valley Law Group, la lezione qui è che un avvocato non può delegare il proprio lavoro a una macchina. Secondo l’avvocato, la tecnologia può aiutare gli avvocati, ma non sostituirli. Un avvocato è sempre responsabile del prodotto del suo lavoro. Tutte le fonti dei documenti devono essere verificate.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Luca Vinciguerra

Machine Learning Engineer specializzato nel Natural Language Processing. Appassionato di Intelligenza Artificiale, Coding e tecnologia in generale. Aspetta l'avvento di Skynet.

Aree di competenza: Artificial Intelligence Engineer, Machine Learning & Deep Learning Specialist, Python Developer