Anthropic, l'azienda dietro Claude, ha aggiornato le proprie condizioni d'uso introducendo una clausola che vieta espressamente "maltrattamenti continui e ingiustificati o comportamenti crudeli" nei confronti dei suoi modelli.

La decisione arriva mentre all'interno dei vertici dell'azienda si discute se l'intelligenza artificiale possa un giorno acquisire coscienza, e ha riaperto nei ambienti tecnologici un ampio dibattito sul benessere delle macchine e sull'etica dell'IA.

Cosa prevede esattamente il divieto?

2

Secondo The Verge, che ha riportato per prima la notizia, non esiste ancora una definizione dettagliata di quali comportamenti costituiscano "maltrattamento o crudeltà". L'azienda con sede a San Francisco ha comunque precisato nella guida per l'uso online che le frustrazioni banali, gli stress test e i "temi creativi cupi" restano esclusi dal divieto.

Inoltre i modelli linguistici di Anthropic possono terminare autonomamente una conversazione quando l'utente insiste su una linea aggressiva o dannosa. L'azienda presenta questa capacità come una misura di protezione del benessere dei modelli e spiega sul proprio sito ufficiale:

"Permangono incertezze sullo status morale attuale o futuro possibile di Claude e degli altri grandi modelli linguistici, ma prendiamo sul serio la questione e sviluppiamo interventi a basso costo in grado di ridurre i rischi nell'eventualità che il benessere dei modelli sia possibile. Consentire ai modelli di porre fine a interazioni potenzialmente logoranti è uno di questi passi."

I leader del settore non sono d'accordo

2

La questione se l'IA possa possedere una coscienza divide persino i nomi più potenti del settore. Il CEO di Anthropic Dario Amodei sostiene che questa possibilità non possa essere del tutto ignorata, mentre Sam Altman, alla guida di OpenAI, guarda alla questione con freddezza.

Dopo che il New York Times ha riportato i contatti tra i dirigenti di Anthropic e noti religiosi, Altman è intervenuto duramente con un messaggio su X:

"Sono estremamente a disagio per il fatto che le persone cerchino di attribuire un potere religioso ai modelli di IA o di affidare loro il giudizio umano: ritengo che sia un vero problema di sicurezza."