La maggior parte dei motori di ricerca ora presenta panoramiche generate dall’intelligenza artificiale per impostazione predefinita, sollevando preoccupazioni sulla precisione e diminuendo il traffico di clic. Anche se i test indicano che le panoramiche dell’intelligenza artificiale di Google sono ampiamente affidabili, l’elevato volume di query porta ogni giorno a milioni di imprecisioni.
Secondo il New York Times, circa una panoramica delle ricerche di Google AI su dieci contiene informazioni false. Google elabora circa 5 trilioni di query all’anno, esponendo teoricamente gli utenti a oltre 57 milioni di risposte imprecise ogni ora, quasi 1 milione ogni minuto.
Queste statistiche emergono da un’analisi della startup AI Oumi, che ha esaminato 4.326 ricerche per valutare l’accuratezza dell’assistente AI di Google, Gemini. Oumi ha riferito che la versione 2 di Gemini ha fornito panoramiche accurate nell’85% dei casi nel mese di ottobre. Una versione migliorata, Gemini 3, ha aumentato la precisione al 91% entro febbraio.
Tuttavia, l’analisi di Oumi si basa su strumenti di intelligenza artificiale, che potrebbero anche introdurre errori. Inoltre, Google a volte produce diverse panoramiche AI per la stessa query quando viene ripetuta a distanza di pochi secondi.
Un portavoce di Google ha criticato il test di Oumi, definendolo imperfetto e non rappresentativo dei reali comportamenti di ricerca. Le valutazioni interne di Google indicano che Gemini 3 ha allucinazioni il 28% delle volte quando funziona indipendentemente dalla Ricerca Google.
Ci sono anche problemi significativi con l’approvvigionamento. Google mira a supportare le sue panoramiche sull’intelligenza artificiale con collegamenti pertinenti; tuttavia, molti di questi collegamenti non supportano le affermazioni di Gemini. Le discrepanze tra le panoramiche AI e le fonti citate sono aumentate dal 37% per Gemini 2 al 56% per Gemini 3 aggiornamento post-febbraio.
I ricercatori hanno evidenziato la vulnerabilità delle panoramiche dell’IA alla manipolazione; un caso ha coinvolto un giornalista della BBC le cui false affermazioni sono state ripetute da Google il giorno successivo. Sia Google che altre aziende di intelligenza artificiale riconoscono la natura inaffidabile della tecnologia nelle loro dichiarazioni di non responsabilità.
