I deepfake vengono utilizzati per una vasta gamma di scopi, anche nel contesto delle campagne di disinformazione, e sta diventando sempre più difficile rilevare quelle immagini modificate.
In che modo questa intelligenza artificiale rileva le immagini Deepfake?
Ma c’è un nuovo strumento di intelligenza artificiale per individuare quei video falsi, controlla la luce riflessa negli occhi.
Il progetto è stato creato da un team di scienziati informatici dell’Università di Buffalo. Secondo lo studio, questa nuova intelligenza artificiale è stata in grado di rilevare immagini di ritratti Deepfake con una sorprendente percentuale di successo del 94%.
Il sistema espone le immagini false analizzando “le luci speculari corneali incoerenti tra due occhi”.
Quando scattiamo una foto di un viso reale, il riflesso sui due occhi sarà simile. Perché stanno vedendo la stessa cosa. Ma generalmente, le immagini Deepfake non riescono a catturare con precisione questa somiglianza, quindi non sono in grado di catturare la vera somiglianza della persona che stanno tentando di imitare.
Il sistema analizza l’immagine e quindi calcola un punteggio che viene utilizzato per determinare la somiglianza di una persona con un’altra.
Lo svantaggio più evidente dello strumento è che richiede una fonte di luce riflessa in entrambi gli occhi. Questi modelli possono essere facilmente corretti utilizzando la post-elaborazione manuale e il metodo non funzionerà se manca un occhio dall’immagine.
Microsoft acquista Nuance, la società di intelligenza artificiale che utilizza Siri, per 19,7 miliardi di dollari USA
Inoltre, è probabile che il sistema produca risultati falsi quando la persona nella foto non guarda la telecamera.