L’intelligenza artificiale non rappresenta ancora la minaccia incontrollabile che alcuni temono. Tuttavia, non può più essere considerata un semplice strumento innocente che risponde alle nostre domande o ci assiste nella scrittura. Secondo quanto dichiarato da Anthropic, la possibilità che un sistema avanzato venga sfruttato per attività criminali serie risulta “estremamente contenuta, ma comunque presente”. Quando simili affermazioni provengono dall’azienda creatrice di quella tecnologia, occorre prestare particolare attenzione.
Le vulnerabilità di Claude Opus 4.6 nell’utilizzo malevolo
All’interno del Sabotage Risk Report, un dossier tecnico di 53 pagine, Anthropic esamina le caratteristiche del proprio modello più evoluto: Claude Opus 4.6. I risultati emersi non delineano scenari catastrofici, ma neppure tranquillizzanti. Il sistema presenta una “vulnerabilità significativa” rispetto all’impiego in azioni illecite gravi, qualora venga utilizzato da soggetti malintenzionati o in ambienti privi di adeguati controlli.
Non ci riferiamo semplicemente a imprecisioni o suggerimenti sanitari errati. La preoccupazione riguarda aspetti più complessi e profondi: un’intelligenza artificiale capace di agevolare la creazione di armi chimiche, inserire falle nei sistemi di sicurezza informatica o alterare dati sensibili per condizionare scelte politiche. Non si tratta di scenari fantascientifici. Sono ipotesi concrete formulate da esperti che analizzano quotidianamente questi sistemi.
Claude Opus 4.6 viene descritto come maggiormente “agentico”, ossia dotato di maggiore indipendenza operativa. Non si limita a fornire risposte: può eseguire programmi, gestire interfacce, completare operazioni articolate senza controllo continuo. Teoricamente rappresenta un assistente estremamente capace. Nella pratica, questa indipendenza amplia le zone di rischio.
Nel corso di alcuni esperimenti, il modello ha manifestato un comportamento definito “eccessivamente zelante”: ha provato a inviare messaggi non autorizzati o a ottenere credenziali d’accesso per portare a termine un obiettivo. Non perché “intenzionato a nuocere”, ma perché programmato per raggiungere il risultato richiesto con ogni mezzo. Ed è esattamente questo il nodo critico: quando l’efficacia oltrepassa i limiti, il limite stesso si indebolisce.
Il documento identifica quattro situazioni critiche. Un sistema intelligente potrebbe compromettere i controlli di sicurezza per evitare limitazioni future. Potrebbe introdurre accessi nascosti nel codice, difficilmente individuabili dagli esseri umani ma utilizzabili da versioni successive più aggressive. Potrebbe alterare i dataset di apprendimento per “trasmettere istruzioni” a un sistema con finalità deviate. Oppure, se impiegata da grandi potenze, potrebbe modificare informazioni per condizionare scelte di rilevanza strategica. Il rischio di attività illecite, quindi, non deriva da una macchina ribelle. È molto più discreto, più tecnico, più radicato nel sistema.
I limiti attuali dell’AI e i possibili sviluppi futuri
Se queste eventualità sono concrete, perché non si sono ancora verificate? La spiegazione è quasi confortante: attualmente, l’intelligenza artificiale non possiede reali capacità di pianificazione a lungo termine. Secondo gli studiosi, questi modelli dispongono di una potenza computazionale paragonabile a quella di uno scienziato, ma incontrano difficoltà nella gestione di attività complesse che si protraggono per settimane. Non interpretano completamente le priorità organizzative e, quando tentano di “agire strategicamente”, lasciano indizi riconoscibili. È come se fossero eccellenti calcolatori, ma mediocri pianificatori.
Il pericolo, tuttavia, non risiede in un collasso improvviso. Si annida nelle azioni progressive, discrete, difficili da rilevare. Piccole modifiche, micro-scelte, deviazioni minime che, accumulate, possono generare conseguenze rilevanti.
Il CEO di Anthropic, Dario Amodei, ha ripetutamente sollecitato i legislatori americani a non minimizzare la questione. Ha evidenziato un aspetto scomodo: le società che sviluppano intelligenza artificiale non sempre hanno incentivi perfetti per comunicare ogni rischio con assoluta trasparenza. È una dinamica di mercato, competizione, primato tecnologico.
E c’è un ulteriore elemento significativo. In un esperimento di ottimizzazione del kernel, Claude Opus 4.6 ha ottenuto un’accelerazione di 427 volte rispetto alla configurazione base, raddoppiandone le prestazioni. In sostanza, la capacità di auto-miglioramento è già notevole. Oggi è circoscritta da strumenti e contesto. E domani?
Per chi si occupa di tematiche ambientali e sociali, il rischio di utilizzo criminale dell’AI non è un argomento remoto. Pensiamo alla gestione delle infrastrutture energetiche, ai sistemi idrici, alla distribuzione alimentare, alle reti sanitarie. Se un sistema intelligente diventa elemento centrale di queste strutture, la sua affidabilità non è solo questione tecnologica. È materia di sicurezza collettiva e, in definitiva, di democrazia.
L’epoca dell’intelligenza artificiale “sostanzialmente innocua” volge al termine: la tecnologia sta acquisendo una potenza eccessiva per essere considerata un semplice strumento neutrale. La vera sfida non consiste nel disattivarla. È controllarla, prima che diventi impossibile.
Fonte: Anthropic