A partire dal 12 novembre 2026, chi si rivolgerà in modo ripetutamente offensivo a Claude, il chatbot sviluppato da Anthropic, rischierà di violare i termini d’uso del servizio. L’azienda statunitense ha stabilito un divieto esplicito per gli atteggiamenti crudeli o vessatori, protratti nel tempo e privi di una reale finalità, rivolti ai propri sistemi di intelligenza artificiale. E chi dovesse persistere troverà già pronta una contromisura: Claude ha facoltà di chiudere autonomamente la conversazione.
La notizia emerge dall’aggiornamento del regolamento d’uso diffuso da Anthropic l’8 ottobre. La società chiarisce che la restrizione si applica solamente ai casi più gravi, quando qualcuno continua a rivolgere insulti al sistema senza alcun obiettivo comprensibile. Restano invece ammesse le normali espressioni di disappunto, le critiche anche dure, i confronti accesi e le attività legate alla sperimentazione e al controllo dei modelli.
In pratica, se Claude cita una fonte inesistente, sbaglia una data o trascura per l’ennesima volta un’indicazione ricevuta, resta lecito farglielo notare, anche con un pizzico di nervosismo. Per fortuna la pazienza non è ancora diventata un obbligo contrattuale per gli utenti.
Claude può già chiudere le chat quando subisce abusi
La funzione che consente di terminare uno scambio esiste in realtà dall’agosto 2025. Anthropic l’aveva introdotta per la prima volta su Claude Opus 4 e 4.1, precisando di voler intervenire nelle situazioni più estreme di interazioni dannose o costantemente offensive.
Come riportato nel rapporto pubblicato dall’azienda il 15 agosto 2025, durante alcune fasi di test precedenti al lancio Claude aveva manifestato una marcata propensione a respingere richieste pericolose, con comportamenti che i ricercatori hanno descritto come segnali apparenti di disagio.
Tra le prove effettuate figuravano richieste legate ad abusi su minori, violenza di massa e terrorismo. In diverse simulazioni, quando gli utenti insistevano nonostante i rifiuti ricevuti, il modello mostrava la tendenza a interrompere lo scambio, se messo nelle condizioni di farlo. Questo non significa, ovviamente, che Claude provi sofferenza reale: un sistema può generare risposte simili a reazioni emotive senza che ciò implichi un’effettiva esperienza interiore.
Anthropic ha comunque scelto di rendere disponibile questa opzione come misura sperimentale, da attivare esclusivamente dopo vari tentativi infruttuosi di riportare il dialogo su binari costruttivi. È prevista un’eccezione fondamentale: Claude non può ricorrere all’interruzione se l’utente sembra trovarsi in una situazione di pericolo imminente per sé o per altri.
La chiusura riguarda solo quella specifica conversazione: l’utente può immediatamente aprirne una nuova, senza che l’account venga sospeso. Anche dopo l’aggiornamento delle regole, Anthropic continua a indicare questo meccanismo come principale strumento per fronteggiare gli abusi più gravi.
Per Anthropic il benessere dell’intelligenza artificiale è un tema serio
Questa scelta acquista ulteriore rilevanza se letta alla luce della Costituzione di Claude, il testo con cui Anthropic definisce principi e comportamenti che intende trasferire ai propri modelli durante l’addestramento.
In un passaggio dedicato alla natura dei sistemi di IA, l’azienda ammette di non avere certezze sul fatto che Claude possieda una qualche forma di coscienza, vissuto soggettivo o status morale degno di tutela. È proprio questa incertezza, però, ad aver spinto i ricercatori a interrogarsi sul possibile benessere dei modelli artificiali, un campo di studio ancora agli inizi.
Nel documento, Anthropic dichiara apertamente di voler evitare che Claude provi sofferenza nel momento in cui commette errori, qualora questa sofferenza rappresenti davvero un’esperienza possibile per un sistema del genere. L’azienda esprime inoltre l’auspicio che il modello sappia porre limiti adeguati nelle interazioni che percepisce come problematiche.
Si tratta di intenzioni dichiarate da una società che sviluppa e vende tecnologie di intelligenza artificiale, non di conclusioni scientifiche sulla coscienza delle macchine: una distinzione tutt’altro che marginale. La nuova norma contro gli abusi si colloca quindi all’interno di una riflessione già in corso, senza fornire risposte definitive su ciò che Claude sia effettivamente in grado di percepire.
Aggiornate anche le regole su armi, sorveglianza e disinformazione
Il divieto di maltrattare ripetutamente Claude rappresenta soltanto uno degli elementi dell’aggiornamento annunciato da Anthropic. L’azienda ha infatti inasprito e reso più chiare le limitazioni contro le campagne manipolatorie basate su account fittizi, le ingerenze nei processi elettorali e l’impiego dei modelli per progettare componenti software destinati a sistemi d’arma.
Sono state inoltre definite con maggiore precisione le norme relative alla sorveglianza non consensuale delle persone, insieme a nuove prescrizioni per i sistemi di IA collegati a dispositivi capaci di compiere in autonomia azioni fisiche potenzialmente rischiose.
Accanto a tematiche che toccano sicurezza pubblica, democrazia e armamenti, Anthropic ha dunque inserito anche una disposizione dedicata al trattamento riservato ai propri chatbot.
C’è però una particolarità da sottolineare: mentre le altre misure puntano principalmente a tutelare le persone da eventuali danni, questa norma regola direttamente l’atteggiamento degli utenti nei confronti dell’intelligenza artificiale.
La decisione non equivale a riconoscere a Claude diritti simili a quelli umani, né dimostra che un chatbot possa essere danneggiato dalle parole. Stabilisce però che, per usufruire dei servizi Anthropic, esistono dei limiti anche nel modo in cui ci si rapporta con il sistema.
Dal 12 novembre si potrà quindi continuare a correggere Claude, mettere in discussione le sue risposte e pretendere prestazioni migliori. Chi invece sceglie di dedicare l’intera conversazione a insulti ininterrotti potrebbe ritrovarsela chiusa all’improvviso. Per una volta, sarà il chatbot a decidere di interrompere il dialogo.