Le allucinazioni dell'intelligenza artificiale hanno ormai varcato anche le porte della giustizia. Un esperto pubblico ministero del Crown Prosecution Service (CPS), l'ente che opera in Inghilterra e Galles, ha citato davanti all'High Court una sentenza che in realtà non è mai esistita, in un delicato procedimento relativo a un minore.

Quando è emerso che il precedente invocato era frutto di fantasia, nel mondo giudiziario britannico è scattato l'allarme. Il caso è diventato uno degli esempi più concreti di quanto le errate risposte dell'IA possano avere conseguenze gravi.

Il processo al minore giustificato da un precedente inesistente

gorsel_20261103_101036

Al centro del fascicolo c'è un ragazzo accusato di aver aggredito sessualmente la sorella di 7 anni. L'accaduto risale a quando l'imputato aveva 11 anni, e l'High Court doveva stabilire se potesse essere processato. La difesa chiedeva l'archiviazione, sostenendo che le valutazioni degli assistenti sociali, degli operatori giovanili e degli psicologi forensi non erano state prese in considerazione dall'accusa.

Intervenendo per il CPS, il procuratore esperto dell'unità per gli stupri e i reati sessuali gravi Ravinder Dhillon aveva sostenuto la necessità di proseguire il processo, citando un presunto precedente identificato come "CPS – R v J [2024] EWCA Crim 3529". Le ricerche hanno però accertato che tale sentenza non figura in alcun registro giudiziario.

Il procuratore ha ammesso l'errore a ottobre: durante una ricerca online sarebbe incappato in un riassunto generato da un'intelligenza artificiale, da cui avrebbe tratto la sentenza immaginaria, mentre intendeva riferirsi a un caso reale risalente a 15 anni prima. I giudici dell'High Court non hanno ritenuto convincente questa spiegazione.

"Un fallimento grave"

gorsel_20261103_101052

Il docente di giustizia Brian Flanagan, professore associato alla facoltà di giurisprudenza della Maynooth University, che studia l'uso dell'IA nei processi, ha definito "un fallimento grave" il ricorso a una fonte inventata per giustificare il processo di un bambino. Secondo Flanagan, il ricorso all'IA per ottenere risultati rapidi mina profondamente la fiducia nella giustizia, e l'errore commesso da un pubblico ministero dello Stato è particolarmente pericoloso se si considera il potere in mano allo Stato.

Il tribunale ha chiarito che la citazione immaginaria non ha cambiato l'esito della causa e che il processo del ragazzo davanti al tribunale per i minorenni proseguirà. Il quadro resta comunque preoccupante: con questo episodio, la lista britannica che traccia gli errori dell'IA confermati, sospetti o contestati ha raggiunto quota 101 casi.

La dirigenza del CPS ha ricordato che l'ente ha regole severe sull'uso dell'intelligenza artificiale e che la tecnologia non può in alcun caso essere impiegata per prendere decisioni legali definitive. Il portavoce ha spiegato che il problema è nato da una ricerca online, che dopo la scoperta è stata avviata un'indagine interna, che non è emerso alcun altro caso simile e che al personale è stato ribadito il principio secondo cui i precedenti giurisprudenziali vanno verificati solo su fonti affidabili. Gli esperti avvertono inoltre che elaborare con strumenti di IA informazioni sensibili e riservate presenti nei fascicoli dell'accusa comporta seri rischi per la riservatezza.