Microsoft ha pubblicato questa settimana un rapporto di intelligence sulle minacce rivelando che gli hacker stanno integrando sempre più l’intelligenza artificiale in ogni fase delle loro operazioni, dalla ricognizione e dal phishing allo sviluppo di malware e all’attività post-compromissione.
L’azienda ha descritto l’intelligenza artificiale come un “moltiplicatore di forza” che riduce le barriere tecniche e accelera l’esecuzione per aggressori di diversi livelli di abilità. I risultati indicano che l’adozione dell’intelligenza artificiale sta riducendo la competenza tecnica richiesta per condurre attacchi informatici su larga scala.
I gruppi di minaccia nordcoreani Jasper Sleet e Coral Sleet utilizzano l’intelligenza artificiale generativa per alimentare elaborati programmi di lavoro falso destinati alle aziende occidentali. Secondo CyberScoop, gli attori di Jasper Sleet utilizzano strumenti di intelligenza artificiale per generare elenchi di nomi culturalmente appropriati, adattare curriculum falsi a specifiche offerte di lavoro e creare comunicazioni professionali per sostenere l’occupazione a lungo termine una volta assunti.
Microsoft ha osservato Jasper Sleet utilizzare l’applicazione di intelligenza artificiale Faceswap per inserire i volti dei lavoratori IT nordcoreani in documenti di identità rubati e creare ritratti raffinati per i curriculum. Il gruppo ha anche utilizzato la tecnologia di alterazione della voce durante le interviste virtuali per mascherare gli accenti, consentendo agli agenti di fingere di essere candidati occidentali, ha riferito The Guardian.
“Jasper Sleet utilizza l’intelligenza artificiale durante l’intero processo di attacco per garantire l’occupazione, mantenerla e sfruttare l’accesso su larga scala”, ha affermato Microsoft.
Coral Sleet ha utilizzato strumenti di codifica basati sull’intelligenza artificiale per generare e perfezionare componenti malware, creare siti Web aziendali falsi, fornire infrastrutture remote e testare rapidamente i payload. Secondo Microsoft, il gruppo ha effettuato il jailbreak di modelli linguistici di grandi dimensioni per generare codice dannoso che aggira i controlli di sicurezza integrati.
Microsoft ha notato la sperimentazione iniziale da parte degli autori delle minacce con l’intelligenza artificiale degli agenti, in cui i modelli supportano il processo decisionale iterativo e l’esecuzione delle attività, sebbene ciò non sia stato ancora osservato su larga scala.
Google ha riferito a febbraio che il suo Threat Intelligence Group ha osservato gli autori delle minacce utilizzare l’intelligenza artificiale per raccogliere informazioni, creare campagne di phishing e sviluppare malware. Amazon ha documentato una campagna in cui un hacker di lingua russa ha utilizzato servizi di intelligenza artificiale generativa per violare più di 600 firewall FortiGate in 55 paesi in cinque settimane, dimostrando come l’intelligenza artificiale ha consentito a un aggressore con competenze limitate di operare su una scala che prima richiedeva un team più ampio e capace.
Microsoft ha consigliato alle organizzazioni di considerare gli schemi dei lavoratori IT basati sull’intelligenza artificiale come rischi interni e di concentrarsi sul rilevamento di usi anomali delle credenziali, sul rafforzamento dei sistemi di identità contro il phishing e sulla protezione dei sistemi di intelligenza artificiale che potrebbero diventare essi stessi obiettivi.
