Google ha riferito che il suo chatbot AI Gemini, il suo fiore all’occhiello, è stato preso di mira da attori motivati dal punto di vista commerciale che tentavano di clonarlo attraverso richieste ripetute, inclusa una campagna che superava le 100.000 query.
In un rapporto di giovedì, Google ha descritto l’attività come “attacchi di distillazione” o “estrazione di modelli”, in cui gli aggressori sondano il sistema alla ricerca di schemi e logiche per replicare o migliorare i propri modelli di intelligenza artificiale.
L’azienda attribuisce la maggior parte dei tentativi ad aziende private o a ricercatori che cercano un vantaggio competitivo. Un portavoce ha detto a NBC News che gli attacchi sembrano avere origine in tutto il mondo, ma non sono stati forniti ulteriori dettagli sui sospettati.
John Hultquist, capo analista del Threat Intelligence Group di Google, ha avvertito che gli incidenti di Gemini potrebbero prefigurare attacchi simili agli strumenti di intelligenza artificiale personalizzati delle aziende più piccole. Ha detto: “Saremo il canarino nella miniera di carbone per molti altri incidenti” e ha rifiutato di nominare i sospetti.
Google classifica la distillazione come furto di proprietà intellettuale. L’azienda ha osservato che miliardi di dollari sono stati investiti nello sviluppo di modelli linguistici di grandi dimensioni e che gli algoritmi interni dei modelli di punta sono considerati beni proprietari di grande valore.
Nonostante i meccanismi di rilevamento e blocco, i principali LLM rimangono vulnerabili perché accessibili a chiunque su Internet. OpenAI aveva precedentemente accusato il rivale cinese DeepSeek di condurre attacchi di distillazione per migliorare i suoi modelli.
Molti dei suggerimenti sono stati progettati per estrarre gli algoritmi che consentono ai Gemelli di “ragionare” ed elaborare le informazioni. Hultquist ha aggiunto che mentre le organizzazioni formano LLM personalizzati su dati sensibili, espongono strategie proprietarie. Ha illustrato: “Diciamo che il tuo LLM è stato addestrato su 100 anni di pensiero segreto sul modo in cui commerci. In teoria, potresti distillarne una parte. ”
Il rapporto sottolinea la crescente preoccupazione nel settore dell’intelligenza artificiale riguardo all’estrazione dei modelli e alla necessità di maggiori garanzie contro il furto di proprietà intellettuale.
Google ha notato che la frequenza degli attacchi alla distillazione è aumentata notevolmente negli ultimi mesi, spingendo l’azienda a migliorare le capacità di monitoraggio e risposta. La società ha affermato che i suoi sistemi di rilevamento segnalano modelli di query anomali, ma gli aggressori si adattano per aggirare le misure di sicurezza. Google ha sottolineato che le architetture proprietarie e i dati di addestramento di grandi modelli linguistici rappresentano un vantaggio competitivo significativo e che l’estrazione non autorizzata mina tale vantaggio. Il rapporto ha anche evidenziato che altri attori del settore hanno affrontato minacce simili, con OpenAI che ha accusato pubblicamente DeepSeek di utilizzare i dati estratti per perfezionare i propri modelli. Il team di intelligence sulle minacce di Google continua a monitorare l’attività globale e consigliare i partner sulle strategie di mitigazione.
