Meta sta sviluppando uno strumento di rilevamento basato sul web progettato per identificare immagini e video creati con il suo modello di generazione di immagini, noto come Muse Image. Questo strumento verifica la presenza di filigrane invisibili denominate Content Seal incorporate nel contenuto generato.
Secondo Meta, Content Seal rimane intatto indipendentemente dalla manipolazione delle immagini, inclusi ritaglio, compressione, ridimensionamento o screenshot. La società ha affermato che lo strumento fornisce un meccanismo iniziale che consente agli utenti di determinare se un’immagine reca una filigrana Content Seal.
L’approccio alla filigrana utilizzato da Muse Image è proprietario e differisce dalle precedenti versioni open source rilasciate da Meta. L’attuale versione dei modelli AI di Meta non utilizza filigrane visibili, una deviazione dai modelli precedenti che includevano loghi nelle immagini.
Attualmente, le funzionalità di rilevamento sono limitate alle immagini create o modificate con Muse Image. Meta prevede di estendere in futuro le filigrane Content Seal ai video generati e modificati dall’intelligenza artificiale. L’azienda sta inoltre sviluppando un modello di generazione video separato chiamato Muse Video, il cui lancio è previsto a breve.
I test dello strumento di rilevamento hanno confermato la sua capacità di identificare le filigrane sia nelle immagini modificate che in quelle generate interamente dall’intelligenza artificiale. Un rilevamento positivo indica che l’immagine è stata prodotta utilizzando l’app Meta AI o meta.ai, mentre un risultato negativo suggerisce che è improbabile che sia stata elaborata con Meta AI. Tuttavia, la funzionalità di rilevamento non è integrata nell’app Meta AI stessa; l’assistente dell’app ha confermato di non essere in grado di determinare se un’immagine specifica è stata creata da Meta AI.
Meta ha dovuto affrontare un esame accurato per quanto riguarda l’applicazione incoerente delle filigrane digitali per i contenuti generati dall’intelligenza artificiale. All’inizio dell’anno l’Osservatorio aveva espresso preoccupazione riguardo alle pratiche dell’azienda nell’etichettatura del materiale prodotto dall’intelligenza artificiale. Content Seal è incompatibile con metodi di filigrana consolidati come SynthID e credenziali di contenuto C2PA.
Durante i test recenti, lo strumento di rilevamento non è riuscito a identificare le immagini create o modificate con versioni precedenti dei modelli AI di Meta. Inoltre, gli utenti dello strumento incontrano limiti di velocità e ricevono avvisi una volta raggiunta la soglia giornaliera per i controlli di identificazione.
