Les contenus fabriqués par les outils d'intelligence artificielle viennent de franchir un nouveau seuil : celui de la salle d'audience. Au Royaume-Uni, un procureur expérimenté du Crown Prosecution Service (CPS), le service public des poursuites qui opère en Angleterre et au pays de Galles, a invoqué devant la High Court une décision de justice… qui n'a jamais existé.
Lorsque la référence s'est révélée fictive, le milieu judiciaire a réagi avec vivacité. L'épisode figure désormais parmi les exemples les plus concrets des conséquences que peuvent entraîner les erreurs de l'IA.
Une demande de jugement d'un enfant fondée sur un arrêt imaginaire
L'affaire concerne un garçon, âgé de 11 ans au moment des faits, soupçonné d'avoir agressé sexuellement sa sœur de 7 ans. La High Court devait se prononcer sur la question de savoir s'il pouvait être jugé. La défense demandait l'abandon des poursuites, estimant que les évaluations des travailleurs sociaux, des éducateurs spécialisés et des psychologues judiciaires n'avaient pas été prises en compte par le parquet.
Le procureur principal Ravinder Dhillon, membre de l'unité Viol et délits sexuels graves du CPS, a alors soutenu la poursuite des poursuites en citant un arrêt de référence référencé « CPS – R v J [2024] EWCA Crim 3529 ». Les recherches menées ensuite ont établi qu'aucune décision de ce type ne figure dans les registres des tribunaux.
Le procureur a reconnu son erreur en octobre. Il a expliqué être tombé, lors d'une recherche sur internet, sur un résumé généré par une intelligence artificielle et avoir retenu l'arrêt fictif qui y figurait, alors qu'il pensait à une affaire réelle remontant à 15 ans. Les juges de la High Court n'ont pas trouvé cette explication convaincante.
« Un échec grave »
Le professeur associé Brian Flanagan, de la faculté de droit de l'université de Maynooth, qui étudie l'usage de l'IA dans les procédures judiciaires, a qualifié de « grave échec » le recours à une source inventée pour justifier le jugement d'un enfant. Selon lui, vouloir gagner du temps en se tournant vers l'IA ébranle profondément la confiance dans la justice ; et le fait que l'erreur émane d'un procureur public est d'autant plus dangereux compte tenu du pouvoir détenu par l'État.
Le tribunal a annoncé que la référence fictive n'avait pas modifié le cours de la procédure : le procès du garçon se poursuivra devant la youth court, la juridiction spécialisée pour les mineurs. Le tableau n'en reste pas moins préoccupant : avec cette affaire, le nombre de cas d'erreurs d'IA confirmées, suspectées ou contestées recensés au Royaume-Uni atteint 101.
La direction du CPS a indiqué que des règles strictes encadrent l'usage de l'IA au sein de l'institution et que la technologie ne peut en aucun cas servir à rendre une décision juridique finale. Un porte-parole a précisé que le problème provenait d'une recherche sur internet, qu'une revue interne a été lancée après sa découverte, qu'aucun autre cas similaire n'a été identifié et que le principe de ne vérifier les jurisprudences qu'auprès de sources fiables a été rappelé au personnel. Les experts soulignent par ailleurs que le traitement de données sensibles et confidentielles issues de dossiers de poursuites par des outils d'IA fait peser de sérieux risques de confidentialité.
Commentaires (0)
Aucun commentaire pour le moment. Soyez le premier !