Un «freno di emergenza» per l'intelligenza artificiale: è l'idea che Satya Nadella, amministratore delegato di Microsoft, ha reso pubblica in un pacchetto di proposte che punta dritto al cuore del dibattito sulla sicurezza dell'IA. Secondo il numero uno di Microsoft, i modelli di intelligenza artificiale dovrebbero essere collegati a un dispositivo di frenata esterno, in grado di arrestarli in qualsiasi momento per mano di persone autorizzate.

Intervenendo su X, Nadella ha sottolineato che l'intelligenza artificiale non andrebbe mai lasciata senza supervisione, in nessuna circostanza. A suo avviso i modelli vanno trattati come «scatole nere» annidate l'una nell'altra: le risposte prodotte dai sistemi e i passi che compiono non dovrebbero mai essere accettati senza porsi domande.

La sicurezza va spostata fuori dal modello

2

Nell'architettura difesa dal CEO di Microsoft, il livello di sicurezza è separato dalla struttura esecutiva che comanda direttamente il modello, con i controlli collocati interamente all'esterno di esso. In questo modo il sistema non si trova a dover riporre una fiducia cieca in un meccanismo di sicurezza che risiede sul suo stesso piano.

In questo scenario, ogni decisione critica presa dall'IA dovrebbe essere registrata con prove leggibili dagli esseri umani e non modificabili in seguito. Nadella propone inoltre di predisporre dispositivi che, nei momenti critici, consentano a una persona autorizzata di fermare il modello mentre è operativo o di spegnerlo del tutto. I modelli, sostiene, andrebbero limitati fin dal primo giorno considerandoli come se la loro sicurezza fosse già stata compromessa: a questo meccanismo il dirigente ha dato il nome di «freno di emergenza».

Crescono le voci prudenti nel settore

La riflessione di Nadella non è il primo avvertimento giunto dal campo. Le principali aziende tecnologiche negli ultimi tempi sono finite ripetutamente sotto i riflettori per casi che indicavano un indebolimento dei controlli sui modelli, e poco tempo fa anche il CEO di Anthropic, Dario Amodei, ha annunciato il passaggio a un piano di sviluppo dell'intelligenza artificiale più cauto.