Secondo un rapporto di Axios, il segretario alla Difesa americano Pete Hegseth sta facendo pressioni su Anthropic affinché fornisca ai militari un accesso illimitato al suo modello di intelligenza artificiale Claude. Secondo quanto riferito, Hegseth ha informato il CEO di Anthropic, Dario Amodei, che la società ha tempo fino a venerdì per garantire il pieno accesso al Pentagono, pena sanzioni significative. Le minacce includono il ricorso al Defense Production Act, la rescissione dei contratti esistenti e la designazione di Anthropic come un rischio per la catena di approvvigionamento. Such a designation would force other defense contractors to certify that they do not use Claude in their workflows.
La richiesta del Pentagono è incentrata sulla dipendenza dell’esercito da Claude per le sue operazioni più delicate. Un funzionario della difesa ha detto ad Axios che l’esercito richiede immediatamente la tecnologia di Anthropic perché attualmente è l’unico modello di intelligenza artificiale utilizzato per lavori altamente classificati. Il funzionario ha osservato: “L’unica ragione per cui stiamo ancora parlando con queste persone è che ne abbiamo bisogno e ne abbiamo bisogno adesso”. Secondo quanto riferito, Claude è stato utilizzato in specifiche operazioni militari, compreso il raid contro Nicolas Maduro in Venezuela. Anthropic si è offerta di applicare le sue politiche di utilizzo standard ai contratti del Pentagono, ma ha posto dei limiti su alcune applicazioni. La società ha dichiarato che non permetterà che il suo modello venga utilizzato per la sorveglianza di massa dei cittadini americani o per sistemi d’arma autonomi che operano senza supervisione umana.
Lo stesso giorno in cui si è diffusa la notizia della campagna di pressione del Pentagono, Anthropic ha annunciato una significativa revisione dei suoi protocolli di sicurezza. L’azienda ha rivelato che sta modificando la sua Politica di Scaling Responsabile (RSP), abbassando di fatto le barriere di sicurezza precedentemente stabilite. Per anni, la promessa principale di Anthropic ai consumatori e ai partner commerciali è stata che avrebbe interrotto la formazione di nuovi modelli di intelligenza artificiale se non fossero stati garantiti in anticipo parametri di riferimento di sicurezza specifici. Questa politica precedente si basava su “duri inciampi” progettati per fermare immediatamente lo sviluppo se venivano raggiunte determinate soglie di rischio.
La politica aggiornata sostituisce quelle rigide linee rosse con un approccio più flessibile. Il nuovo framework di Anthropic si basa su “Rapporti sui rischi” e “Roadmap di sicurezza di frontiera” piuttosto che su pause automatiche nello sviluppo. In una dichiarazione, Anthropic ha spiegato: “Due anni e mezzo dopo, la nostra onesta valutazione è che alcune parti di questa teoria del cambiamento si sono svolte come speravamo, ma altre no”. L’azienda sostiene che il cambiamento è necessario per rimanere competitivi in un mercato in rapida evoluzione.
Jared Kaplan, responsabile scientifico di Anthropic, ha difeso la decisione in un’intervista al Time. Kaplan ha affermato che sospendere unilateralmente lo sviluppo sarebbe controproducente mentre i concorrenti continuano ad avanzare. “Abbiamo ritenuto che non sarebbe stato di alcun aiuto per noi smettere di addestrare modelli di intelligenza artificiale”, ha affermato Kaplan. “Non pensavamo davvero, con il rapido progresso dell’intelligenza artificiale, che avesse senso per noi assumere impegni unilaterali… se i concorrenti sono in vantaggio.”
Anthropic ha citato un “problema di azione collettiva” come motivazione principale per il cambiamento di politica. La società ha sostenuto che se uno sviluppatore si ferma per motivi di sicurezza mentre altri procedono senza forti mitigazioni, la sicurezza complessiva dell’ecosistema potrebbe peggiorare. Secondo l’RSP aggiornato, “Gli sviluppatori con le protezioni più deboli determinerebbero il ritmo e gli sviluppatori responsabili perderebbero la capacità di fare ricerca sulla sicurezza e promuovere il beneficio pubblico”. Anthropic ha anche indicato il più ampio contesto anti-normativo degli Stati Uniti come un fattore che influenza la sua decisione.
Il contesto finanziario sottolinea le pressioni competitive a cui deve far fronte l’azienda. A febbraio, Anthropic si è assicurata 30 miliardi di dollari in nuovi investimenti, portando la sua valutazione totale a 380 miliardi di dollari. Gli ultimi modelli dell’azienda, in particolare per quanto riguarda le capacità di codifica, hanno ricevuto ampi elogi. Tuttavia, questa crescita coincide con un cambiamento nell’etica aziendale. Sebbene i precedenti impegni di Anthropic in materia di sicurezza costituissero una pietra angolare del suo marchio, il nuovo approccio dà priorità alla formazione continua rispetto agli arresti drastici.
Chris Painter, direttore dell’organizzazione no-profit METR, ha offerto una valutazione contrastante della nuova politica di Anthropic. Painter ha elogiato la maggiore enfasi sulla trasparenza, ma ha avvertito che la flessibilità del nuovo RSP potrebbe portare a un effetto di “ebollizione delle rane”. Questo fenomeno descrive uno scenario in cui gli standard di sicurezza vengono erosi in modo incrementale attraverso una serie di razionalizzazioni, portando infine a un allontanamento significativo dagli obiettivi di sicurezza originali.
Painter ha inoltre interpretato il cambiamento politico come un segnale di lotte più ampie nel settore. Ha osservato che i cambiamenti suggeriscono che Anthropic “crede di dover passare alla modalità triage con i suoi piani di sicurezza, perché i metodi per valutare e mitigare il rischio non tengono il passo con le capacità”. Painter ha concluso che questo sviluppo serve come prova del fatto che la società potrebbe non essere adeguatamente preparata per questopotenziali rischi catastrofici associati all’intelligenza artificiale avanzata. Né l’annuncio di Anthropic riguardante l’RSP né il rapporto sulle richieste del Pentagono hanno collegato esplicitamente i due eventi, sebbene la loro collocazione nello stesso giorno abbia attirato l’attenzione sull’intersezione tra pressione del governo e politica di sicurezza aziendale.
