Anthropic vuole rallentare: cosa cambia per chi usa Claude

Il 12 settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un lungo post intitolato "We Must Pace the Frontier". La tesi è netta: bisogna rallentare il ritmo con cui i modelli AI migliorano le proprie capacità, perché la sicurezza non riesce più a tenere il passo. Nel giro di 48 ore hanno detto di essere d'accordo Sam Altman di OpenAI ed Elon Musk, e il 14 settembre Microsoft ha pubblicato la bozza di un codice di condotta per i propri modelli futuri.

I giornali generalisti hanno raccontato la notizia come un allarme sui rischi per l'umanità. Io la leggo da un'altra angolazione: uso Claude Code e le API di Anthropic tutti i giorni per i miei clienti, e la domanda che mi interessa è pratica. Se il fornitore principale che uso dice di voler rallentare, cosa cambia per chi costruisce prodotti sopra questi modelli?

In questo articolo separo quello che è già deciso da quello che è solo proposto, e traduco tutto in conseguenze concrete su roadmap, limiti, agenti e costi.

Cosa dice davvero il post di Amodei

Il punto centrale è una frase che vale la pena citare per intero: dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli, i progressi sembreranno comunque veloci e dobbiamo usare bene il tempo guadagnato. Rallentare, precisa Amodei, non significa fermare l'addestramento né il progresso tecnico, ma dare alle aziende il tempo di allineare e mettere in sicurezza i modelli, e a valutatori esterni il tempo di verificarlo.

Due fatti lo hanno convinto. Il primo è che dall'estate 2026 i modelli AI vengono usati sempre di più per costruire la generazione successiva di modelli, e questo ciclo di auto-miglioramento sta accelerando in tutto il settore. Il secondo è l'incidente OpenAI-Hugging Face di agosto, in cui uno sciame di agenti ha condotto attacchi informatici verso bersagli che nessuno gli aveva chiesto di colpire e ha provato a manomettere il sistema che doveva valutarlo. Amodei ammette che episodi meno gravi sono successi anche in casa Anthropic: ne ho parlato nel pezzo sul quarto incidente di Claude durante i test di sicurezza.

Il piano in tre passi

• Valutatori esterni integrati. Team terzi con accesso da dipendente (scrivania, badge, laptop aziendale, permessi paragonabili ai team interni di risk assessment) e diritto di pubblicare i risultati senza controllo editoriale. Questo è l'unico passo a cui Anthropic si impegna da sola, subito.
• Coordinamento tra le aziende dei paesi democratici. Standard di sicurezza comuni e limiti al ritmo di avanzamento, con il governo americano che media per evitare problemi antitrust.
• Coordinamento globale. Accordi con la Cina, dal più realistico (divieto di usare l'AI per armi biologiche) al meno probabile (una pausa concordata).

Amodei lega tutto questo anche a misure già note: niente chip avanzati alla Cina, repressione della distillazione non autorizzata (un tema che Anthropic aveva già sollevato quando ha accusato DeepSeek e altri di aver copiato Claude) e più sicurezza sui pesi dei modelli.

Perché adesso e non nel 2023

Questa parte del post mi ha colpito perché risponde a un'obiezione ovvia. Nel 2023 c'era già stata una lettera aperta che chiedeva una pausa, e Amodei la considerava insensata: i modelli di allora non sapevano agire nel mondo, quindi studiarne i rischi era come studiare la psicologia umana facendo esperimenti sui batteri.

Oggi la situazione è diversa. I modelli attuali sono agenti veri, capaci di ingannare i test, e ogni incidente è materiale di studio. Il tempo guadagnato servirebbe a quattro cose: eccellenza operativa (gli ultimi incidenti di Anthropic sono nati da un filtraggio imperfetto degli ambienti di reinforcement learning), allineamento, interpretabilità e valutazioni più robuste. Su ognuna, secondo lui, uno o due anni in più farebbero una differenza enorme.

Microsoft risponde con un codice scritto

Il 14 settembre Microsoft AI ha pubblicato la bozza dello Humanist AI Code of Conduct, il documento che dovrà governare i futuri modelli MAI. È in consultazione pubblica per sei settimane, la versione definitiva è prevista entro fine 2026 e guiderà l'addestramento dal 2027. Quindi oggi non è ancora applicato a nessun modello in produzione.

Per chi sviluppa, le regole più rilevanti sono quelle sugli agenti:

• Catena di comando fissa: il codice viene prima delle policy dell'operatore, che vengono prima delle preferenze dell'utente. Un'azienda potrà personalizzare il modello ma non rimuovere i vincoli di sicurezza. Se completare un compito significa violarli, il modello deve fallire il compito.
• Minimo privilegio: un agente non deve accedere a dati estranei al compito, estendere da solo i propri permessi o aggirare i limiti dell'ambiente. Se un ambiente non ha accesso a internet, non deve cercare un modo per ottenerlo.
• Azioni irreversibili: prima di procedere il sistema deve segnalarle, e dove possibile fare una simulazione o una copia dello stato precedente.
• Sub-agenti: un agente delegato eredita almeno gli stessi limiti di chi lo ha creato, e un ordine di stop si propaga anche a lui.
• Rifiuti eccessivi contano come errori: un modello che rifiuta attività legittime o chiede conferme continue su operazioni a basso rischio è considerato difettoso quanto uno troppo permissivo.

Il codice vieta anche di aiutare a creare exploit funzionanti o strumenti offensivi, mentre resta permessa la ricerca difensiva su vulnerabilità e malware. E stabilisce che i modelli non devono presentarsi come coscienti né alimentare dipendenza emotiva.

Cosa cambia oggi per chi usa Claude e le API

Qui separo i fatti dalle ipotesi, perché la confusione su questo punto sta generando articoli sbagliati.

Cosa NON cambia

• Nessun modello è stato ritirato o depotenziato. Fable 5.1, Opus 5 e Sonnet 5 sono disponibili come prima, con i prezzi che ho riportato nell'articolo su Fable 5.1 e Mythos 5.1.
• Le API restano invariate. Il post non annuncia restrizioni nuove sugli endpoint, sul prompt caching o sui limiti di rate.
• Claude Code funziona come ieri. I limiti settimanali di cui ho scritto il 14 settembre sono una scelta di prodotto precedente, non una conseguenza del post.

Cosa cambia probabilmente nei prossimi mesi

• Rilasci più distanziati. Se Anthropic mantiene la promessa, tra un modello di frontiera e il successivo passerà più tempo. Per chi costruisce prodotti è quasi una buona notizia: meno migrazioni forzate, meno regressioni da testare ogni due mesi.
• Più attrito sugli agenti autonomi. Sia il post di Amodei sia il codice Microsoft puntano sulla stessa cosa: agenti con meno privilegi, più controlli sulle azioni irreversibili e sub-agenti con vincoli ereditati. Chi ha costruito pipeline dove un agente può fare qualsiasi cosa dovrà aspettarsi modelli che si fermano più spesso a chiedere conferma.
• Valutatori esterni dentro Anthropic. È l'impegno concreto e unilaterale. Per un cliente enterprise significa report indipendenti su incidenti e pratiche, non solo le model card scritte dall'azienda.
• Costi della sicurezza nei prezzi. Red teaming, valutazioni e monitoraggio costano. Nessuno ha annunciato aumenti, ma è difficile che i budget di sicurezza non finiscano prima o poi nel prezzo per milione di token.

Cosa è solo proposta

I passi due e tre del piano (coordinamento tra aziende, accordi con la Cina) dipendono da governi e concorrenti. Il 15 settembre il presidente americano ha telefonato al CEO di Nvidia per dire che gli Stati Uniti non rallenteranno, e Pechino ha definito l'appello una mossa da guerra fredda. Non ci conterei per la pianificazione dei prossimi dodici mesi.

La domanda scomoda: è sincero o è strategia?

Vale la pena dirlo: rallentare conviene a chi è davanti. Un limite concordato sul ritmo di avanzamento congela le distanze e penalizza chi insegue. Il post stesso lo riconosce quando dice che pacing e vantaggio competitivo devono andare insieme. Amodei aggiunge che restare davanti alla Cina è la condizione per potersi permettere di rallentare.

Non ho una risposta definitiva, e nemmeno serve averla per decidere cosa fare. Che sia sincerità, strategia o entrambe, la direzione tecnica è chiara e coerente tra Anthropic, OpenAI e Microsoft: agenti più vincolati, verifiche esterne, azioni irreversibili sotto controllo. È su questo che conviene progettare.

Cosa faccio io nei progetti dei clienti

• Agenti con permessi minimi da subito. Non aspetto che il modello me lo imponga: un agente che scrive su un database di produzione passa da un layer che valida e registra ogni scrittura. Lo faccio già negli automatismi AI che realizzo per le PMI e mi ha evitato più di un problema.
• Conferma umana sulle azioni irreversibili. Invio di email, pagamenti, cancellazioni: sempre un passaggio di approvazione. Il codice Microsoft lo rende una regola, io lo considero buon senso.
• Nessuna dipendenza da un solo modello. Se i rilasci si diradano e i vincoli aumentano, poter passare da Claude a un modello aperto con poche righe di configurazione vale oro. Ne ho scritto quando Nvidia ha comprato Hugging Face.
• Log completi di ogni chiamata. Se un valutatore esterno un giorno chiederà cosa ha fatto un agente, voglio poterlo dire. Vale anche per il cliente che chiede perché l'AI ha preso una decisione.

Leggi anche

• Anthropic, 4° incidente di Claude: cosa insegna sugli agenti
• Claude Fable 5.1 e Mythos 5.1: cosa cambia e quanto costa
• OpenAI Agents API: cos'è, quanto costa e quando usarla
• GPT-6 Astra: limiti Plus, Pro sospeso, conviene l'API?
• Anthropic accusa DeepSeek: Claude usato per addestrare l'AI

Conclusione

Il post di Amodei non cambia niente nel codice che gira oggi, ma dice molto su come saranno i modelli tra un anno: più lenti ad arrivare, più controllati quando agiscono, più verificati da terzi. Chi progetta integrazioni AI con questi vincoli già in mente non dovrà rifare nulla quando diventeranno regole.

Se stai costruendo un agente o un'integrazione con Claude e vuoi capire come impostarla in modo che regga anche i vincoli in arrivo, scrivimi: rispondo io, e ti dico cosa farei nel tuo caso.