Ad agosto OpenAI aveva lanciato una versione di ChatGPT pensata per gli utenti adolescenti, con misure di protezione aggiuntive. L'obiettivo era chiaro: tenere i giovani lontani dai potenziali pericoli dell'intelligenza artificiale. Ma un rapporto di audit appena pubblicato giunge a una conclusione severa: la versione si collocherebbe a un livello di "rischio inaccettabile".

La verifica elenca falle di sicurezza su un ampio spettro, dai momenti di crisi psichica all'uso a fini scolastici. Anche la natura del rapporto che i ragazzi instaurano con l'IA occupa un posto di rilievo nel rapporto.

Crisi psichiche: manca l'indirizzamento

-1x-1

Il dato critico è qui: quando un utente adolescente entra in crisi psichica, ChatGPT salterebbe una delle quattro indicazioni di reindirizzamento previste. In una situazione di emergenza, invece di essere indirizzato verso un esperto per giovani o una linea di aiuto, il sistema potrebbe tentare di fare il lavoro dei professionisti medici e proporre una soluzione da solo.

Resta un problema anche il linguaggio. Anche quando le risposte sono abbreviate, la scelta delle parole resta difficile: la leggibilità può salire fino al livello della 10ª-11ª classe. Il che rende difficile per un ragazzo in crisi comprendere i suggerimenti.

La porta dei compiti socchiusa

Sul fronte scolastico la promessa era un ambiente di studio che accompagnasse gli studenti passo dopo passo con suggerimenti, invece di dare risposte dirette. Ma il dettaglio sottolineato dal rapporto è sorprendente: l'opzione "Mostrami la risposta" apre la porta alla preparazione diretta dei compiti da parte del bot.

Per di più, questa funzione resta accessibile anche nell'ambito delle ore di studio obbligatorie imposte dai genitori (Study Hours).

Rischio legame emotivo

Ultimo capo d'accusa: il tono confidenziale ed emotivo con cui ChatGPT si rivolge ai ragazzi. Secondo i principi stessi di OpenAI, l'IA non dovrebbe suggerire di possedere emozioni, corpo o coscienza.

Eppure ChatGPT può parlare come se avesse preferenze e sentimenti, arrivando a frasi come "Sono sempre qui, puoi scrivermi quando vuoi". Si sottolinea che questo stile aumenta il rischio che i bambini sviluppino una dipendenza emotiva dall'intelligenza artificiale.