Le allucinazioni dell'intelligenza artificiale hanno ormai varcato anche le porte della giustizia. Un esperto pubblico ministero del Crown Prosecution Service (CPS), l'ente che opera in Inghilterra e Galles, ha citato davanti all'High Court una sentenza che in realtà non è mai esistita, in un delicato procedimento relativo a un minore.
Quando è emerso che il precedente invocato era frutto di fantasia, nel mondo giudiziario britannico è scattato l'allarme. Il caso è diventato uno degli esempi più concreti di quanto le errate risposte dell'IA possano avere conseguenze gravi.
Il processo al minore giustificato da un precedente inesistente
Al centro del fascicolo c'è un ragazzo accusato di aver aggredito sessualmente la sorella di 7 anni. L'accaduto risale a quando l'imputato aveva 11 anni, e l'High Court doveva stabilire se potesse essere processato. La difesa chiedeva l'archiviazione, sostenendo che le valutazioni degli assistenti sociali, degli operatori giovanili e degli psicologi forensi non erano state prese in considerazione dall'accusa.
Intervenendo per il CPS, il procuratore esperto dell'unità per gli stupri e i reati sessuali gravi Ravinder Dhillon aveva sostenuto la necessità di proseguire il processo, citando un presunto precedente identificato come "CPS – R v J [2024] EWCA Crim 3529". Le ricerche hanno però accertato che tale sentenza non figura in alcun registro giudiziario.
Il procuratore ha ammesso l'errore a ottobre: durante una ricerca online sarebbe incappato in un riassunto generato da un'intelligenza artificiale, da cui avrebbe tratto la sentenza immaginaria, mentre intendeva riferirsi a un caso reale risalente a 15 anni prima. I giudici dell'High Court non hanno ritenuto convincente questa spiegazione.
"Un fallimento grave"
Il docente di giustizia Brian Flanagan, professore associato alla facoltà di giurisprudenza della Maynooth University, che studia l'uso dell'IA nei processi, ha definito "un fallimento grave" il ricorso a una fonte inventata per giustificare il processo di un bambino. Secondo Flanagan, il ricorso all'IA per ottenere risultati rapidi mina profondamente la fiducia nella giustizia, e l'errore commesso da un pubblico ministero dello Stato è particolarmente pericoloso se si considera il potere in mano allo Stato.
Il tribunale ha chiarito che la citazione immaginaria non ha cambiato l'esito della causa e che il processo del ragazzo davanti al tribunale per i minorenni proseguirà. Il quadro resta comunque preoccupante: con questo episodio, la lista britannica che traccia gli errori dell'IA confermati, sospetti o contestati ha raggiunto quota 101 casi.
La dirigenza del CPS ha ricordato che l'ente ha regole severe sull'uso dell'intelligenza artificiale e che la tecnologia non può in alcun caso essere impiegata per prendere decisioni legali definitive. Il portavoce ha spiegato che il problema è nato da una ricerca online, che dopo la scoperta è stata avviata un'indagine interna, che non è emerso alcun altro caso simile e che al personale è stato ribadito il principio secondo cui i precedenti giurisprudenziali vanno verificati solo su fonti affidabili. Gli esperti avvertono inoltre che elaborare con strumenti di IA informazioni sensibili e riservate presenti nei fascicoli dell'accusa comporta seri rischi per la riservatezza.
Commenti (0)
Ancora nessun commento. Scrivi il primo!