Dentro lo scontro tra Anthropic e il Pentagono
Se la bomba atomica fosse stata nelle mani di un privato, lo avremmo accettato?
Su alcune scrivanie, dentro un ufficio a San Francisco, sono sparse delle copie di un libro sulla nascita della bomba atomica. Viene distribuito ai nuovi assunti, in un’azienda di intelligenza artificiale che il Pentagono ha messo al bando con la stessa procedura riservata ai fornitori stranieri ostili.
Dalla nascita di Anthropic a oggi
Anthropic nasce a inizio 2021 da una rottura dentro OpenAI. Dario Amodei era VP of Research e aveva guidato lo sviluppo di GPT-3, modello accolto con grande entusiasmo dagli addetti ai lavori. Dietro il successo, però, lo preoccupava la velocità. Lo sviluppo dei modelli era così rapido che capirli e tenerli sotto controllo era un compito che si faceva ogni mese più difficile.
Nel luglio 2019 Microsoft firma una partnership esclusiva con OpenAI e investe un miliardo di dollari. Per Dario il rischio è che l’azienda venga spinta a passare da una struttura no profit a un’entità for profit, accelerando la commercializzazione dei modelli e relegando la sicurezza in secondo piano.
Lui e sua sorella Daniela, anche lei in OpenAI come VP of Safety and Policy, cominciano a portare la propria visione dentro la società, sostenuti da un gruppo di fedelissimi. Chiedono un ritmo più lento e regole più cautelative. La leadership di OpenAI però spinge nella direzione opposta. È convinta di essere a un passo da qualcosa di enorme e decide di correre.
Nel corso del 2020 le tensioni interne crescono e i fratelli Amodei non trovano un compromesso con i vertici. Decidono di uscire e portano con loro cinque dei migliori ricercatori. Insieme fondano Anthropic.
La costituiscono come Public Benefit Corporation, una forma giuridica americana che obbliga l’azienda a perseguire un fine di interesse pubblico oltre al profitto. A questa scelta aggiungono il Long Term Benefit Trust, un organismo di governance interno con il potere di nominare membri del consiglio in caso di conflitto tra interessi commerciali e missione di sicurezza.
A questo punto, sui modelli di frontiera ci sono due principali linee di pensiero. C’è chi chiede di rallentare o non costruirli per nulla e chi, invece, li costruisce al massimo possibile e lascia le condizioni d’uso al mercato. Anthropic sceglie una terza strada, stare sulla frontiera mantenendo paletti scritti per provare a influenzare lo standard del settore da dentro. Subito infatti pubblica policy interne che classificano i propri modelli per livello di rischio e pone limiti sulle informazioni sensibili. Saranno questi paletti a finire dentro il contratto con il Pentagono qualche anno dopo.
In meno di due anni Anthropic costruisce una posizione di fornitore strategico dello Stato americano. Tra fine 2024 e l’estate del 2025 firma con Palantir per portare Claude sulle reti classificate del Pentagono, lancia Claude Gov per la sicurezza nazionale e mette Claude a disposizione di tutto il governo federale.
In parallelo il Pentagono firma anche con OpenAI, Google e xAI. Lo scopo è portare tutti questi modelli sulla piattaforma comune del Dipartimento della Difesa, GenAI.mil.
Nel testo del contratto con Anthropic, però, c’è una clausola che gli altri non hanno imposto e che fissa due divieti specifici.
Il primo riguarda le armi a piena autonomia, ovvero sistemi militari che selezionano e ingaggiano bersagli senza intervento umano nel ciclo decisionale. Anthropic accetta le armi con un soldato nel ciclo, come quelle in uso oggi in Ucraina, ma traccia la linea sull’eliminazione totale del controllo umano. La motivazione è tecnica. I modelli di frontiera, dice l’azienda, non sono ancora abbastanza affidabili da essere consegnati a un sistema d’arma che decide e spara da solo.
Il secondo riguarda la sorveglianza domestica di massa contro i cittadini americani. Negli Stati Uniti la legge consente al governo di acquistare dati commerciali su movimenti, navigazione web e contatti di una persona da fornitori privati, senza chiedere un mandato. La policy di Anthropic vieta a Claude di assemblare in modo automatico, su scala industriale, questi dati frammentati nel profilo completo della vita di un individuo. La sorveglianza domestica di massa, dice l’azienda, è incompatibile con i valori democratici.
Nei mesi successivi il Pentagono prova a rimuovere quella clausola dal contratto. Vuole sostituirla con una formulazione più larga senza paletti tecnici. Anthropic rifiuta e il clima si fa teso.
A febbraio 2026, durante le trattative, il sottosegretario alla Difesa Emil Michael, ex dirigente di Uber, prova a mettere Anthropic davanti a un caso limite.
Immaginiamo missili balistici intercontinentali cinesi in volo verso il territorio americano, presidente sotto attacco, pochi minuti per reagire. In una situazione del genere, l’esercito potrebbe usare Claude per coordinare la difesa? Oppure il divieto di armi senza controllo umano blocca l’azienda anche in uno scenario di emergenza nazionale? La domanda è una trappola logica. Se Anthropic dice di no, passa per intransigente. Se dice di sì, ammette che la clausola ha eccezioni e apre lo spazio per riscriverla.
Le versioni di quel che accade a questo punto divergono. Per il governo, la risposta di Anthropic è ambigua. Anthropic, invece, dice di aver offerto un’eccezione specifica per la difesa missilistica, lasciando intatto il divieto generale.
Il 24 febbraio 2026 il segretario alla Difesa Pete Hegseth chiama Dario Amodei e gli dà un ultimatum di tre giorni. Anthropic ha tempo fino al 27 febbraio alle 17:01 per accettare la rimozione dei due paletti. Hegseth aggiunge una doppia minaccia. Senza accordo, il governo designerà l’azienda come “supply chain risk”, etichetta riservata fino ad allora ai fornitori stranieri considerati ostili. In aggiunta l’amministrazione invocherà il Defense Production Act, una legge di emergenza che permette di rimuovere le salvaguardie con un ordine forzato.
Il giorno prima della scadenza, il 26 febbraio, Anthropic pubblica uno statement firmato da Dario Amodei. Conferma le due redline. Sulla sorveglianza domestica di massa scrive che è “incompatibile con i valori democratici”. Sulle armi autonome dice che “i sistemi AI di frontiera non sono abbastanza affidabili” e che Anthropic “non fornirà di sua volontà un prodotto che mette a rischio i soldati americani e i civili”. All’interno l’azienda valuta fino all’ultimo, ma alla fine non cambia idea.
Il 27 febbraio alle 17:01 la scadenza scatta. Trump ordina alle agenzie federali di “INTERROMPERE IMMEDIATAMENTE ogni utilizzo della tecnologia di Anthropic”. Lo stesso giorno Hegseth designa l’azienda come “supply chain risk”.
L’etichetta nasce da una legge americana del 2018, il Federal Acquisition Supply Chain Security Act, che permette al governo di dichiarare un fornitore non affidabile per la sicurezza nazionale sulla base di una valutazione del Federal Acquisition Security Council. Una volta apposta, fa due cose:
Blocca tutti i contratti del governo federale con quel fornitore, dall’esercito alle agenzie civili.
Impedisce alle aziende private che lavorano per il Pentagono di usare i suoi prodotti nei progetti militari.
È lo strumento che Washington ha usato in passato verso le cinesi Huawei e ZTE o la russa Kaspersky. Tutte aziende straniere. Mai prima di Anthropic era stato usato contro un’azienda americana.
Da qui parte un mese di passaggi rapidi.
Tra marzo e aprile Anthropic fa causa al governo, una corte californiana sospende parte della sanzione, l’appello di Washington tiene in piedi il resto.
Il 17 aprile Dario Amodei va alla Casa Bianca. Lo ricevono Susie Wiles, capo di gabinetto di Trump, e Scott Bessent, segretario al Tesoro. Sul tavolo c’è Mythos, il nuovo modello di Anthropic così potente nell’identificare vulnerabilità informatiche che l’azienda ha deciso di non rilasciarlo al pubblico (ne abbiamo parlato qui).
Il 19 aprile Axios pubblica uno scoop. La National Security Agency, l’agenzia di intelligence americana che si occupa di sorveglianza e cybersicurezza, sta già usando Mythos. Lo usa dentro lo stesso Dipartimento della Difesa che ha messo Anthropic al bando come fornitore a rischio. Davanti a un giudice il Pentagono sostiene che usare strumenti Anthropic minaccia la sicurezza nazionale, mentre nei corridoi accanto la NSA li usa sotto banco.
Quattro giorni dopo l’articolo di Axios, Trump dice che un accordo è “possibile”.
Una nuova bomba atomica
A San Francisco, nelle sedi di Anthropic, circola un certo libro. Lo distribuiscono ai nuovi assunti. Ne si vede qualche copia sparsa tra le scrivanie. Il titolo è “The Making of the Atomic Bomb”. Scritto da Richard Rhodes nel 1986, gli ha fatto vincere il Pulitzer per la saggistica.
È il volume di riferimento sulla storia del Manhattan Project, il programma con cui gli Stati Uniti svilupparono la bomba atomica durante la Seconda guerra mondiale.
Dario lo cita spesso anche nei suoi interventi pubblici per raccontare come gli scienziati che costruirono la bomba atomica, pur essendo i migliori del loro tempo e pur agendo in buona fede, ne persero il controllo quando la consegnarono allo Stato, con conseguenze che tutti noi conosciamo. Oggi, a suo avviso, chi lavora sull’intelligenza artificiale rischia lo stesso esito se non pone condizioni d’uso definite.
In effetti, che l’AI possa essere usata come arma dalla potenza distruttiva paragonabile all’atomica non si mette in dubbio. Un modello come Mythos trova vulnerabilità informatiche a velocità senza precedenti nella storia, può gestire operazioni di disinformazione su grande scala e può costruire sistemi di sorveglianza che riconoscono persone e voci. Le applicazioni sono innumerevoli.
Facciamo però un esperimento, spostiamoci indietro nel tempo di ottant’anni.
Immaginiamo che durante la Seconda guerra mondiale un attore privato sul territorio americano fosse arrivato per primo a una bomba atomica funzionante. Una società qualsiasi, con capacità tecniche superiori a quelle dello Stato. E immaginiamo che quella società, dopo averla costruita, si fosse rifiutata di consegnarla a Washington perché riteneva l’amministrazione del momento inaffidabile per la sua applicazione. Da cittadino americano dell’epoca, cosa ci saremmo aspettati che facesse il governo degli Stati Uniti?
Probabilmente lo Stato avrebbe nazionalizzato la società o requisito l’arma, mentre gli amministratori avrebbero rischiato l’arresto o in casi estremi anche peggio.
La storia moderna non ha mai accettato che il potere di un’arma capace di spostare gli equilibri mondiali restasse in mani private. È un’anomalia che la coscienza di una singola azienda sia il filtro tra una tecnologia con questo potere e lo Stato.
Ed è proprio di potere che parliamo, perché il pubblico sta smettendo di vedere l’intelligenza artificiale solo come prodotto. Ormai la percepisce come strumento capace di esercitare pressione e muovere equilibri geopolitici, alla pari di energia e armamenti.
In alcuni casi, poi, questa percezione prende anche forme concrete. Il 10 aprile Daniel Moreno-Gama, vent’anni, si presenta a una delle case di Sam Altman a San Francisco e lancia una bottiglia molotov contro la facciata. La bottiglia rimbalza senza fare danni. Viene arrestato nelle ore successive.
Il ragazzo porta con sé un documento sui rischi dell’intelligenza artificiale per l’umanità e una lista. Nomi e indirizzi di amministratori delegati e investitori del settore AI.
Se la tua azienda sta cercando di capire come integrare l’intelligenza artificiale nei propri processi, o vuole formare il team per farlo, noi possiamo aiutarti.
Lavoriamo con oltre 500 organizzazioni in Italia e abbiamo più di 300 agenti AI in produzione. Scopri cosa possiamo fare insieme.
Qui l’ultimo episodio del nostro podcast “La Bolla” 👇🏻