Secondo un nuovo studio dell’Università Ebraica, i moderni sistemi di intelligenza artificiale formulano giudizi strutturati sulle persone che assomigliano alla fiducia umana ma differiscono significativamente nella metodologia. La ricerca, pubblicata su *Proceedings of the Royal Society*, ha analizzato oltre 43.000 decisioni simulate e circa 1.000 partecipanti umani in cinque scenari.
Questi scenari includevano la valutazione delle decisioni di prestito, la valutazione della fiducia in una babysitter, la valutazione delle prestazioni di un capo e la determinazione delle donazioni ai fondatori di organizzazioni no-profit. Sia gli esseri umani che l’intelligenza artificiale hanno mostrato una preferenza per individui percepiti come competenti, onesti e ben intenzionati.
Il Prof. Yaniv Dover ha affermato: “L’intelligenza artificiale non prende decisioni casuali. Cattura qualcosa di reale nel modo in cui gli esseri umani si valutano a vicenda”. Tuttavia, gli esseri umani formano impressioni olistiche integrando molteplici tratti, mentre l’intelligenza artificiale valuta caratteristiche separate come competenza e integrità.
Valeria Lerman ha spiegato: “L’intelligenza artificiale è più pulita, più sistematica e ciò può portare a risultati molto diversi”. Questo approccio strutturale era evidente anche con un contesto identico relativo agli individui giudicati.
Lo studio ha scoperto che i pregiudizi dell’intelligenza artificiale possono essere più sistematici, prevedibili e talvolta più forti dei pregiudizi umani. Nei contesti finanziari, i sistemi di intelligenza artificiale hanno mostrato variazioni significative basate sui tratti demografici. Gli individui più anziani sono stati spesso favoriti nelle decisioni relative a prestiti e donazioni, mentre anche la religione e il genere hanno influenzato i risultati in determinati modelli di intelligenza artificiale.
In particolare, diversi modelli di intelligenza artificiale possono produrre valutazioni diverse dello stesso individuo, indicando che la scelta del sistema di intelligenza artificiale può avere un impatto sostanziale sui risultati del mondo reale. “Quale modello usi è davvero importante”, ha osservato Lerman.
I modelli linguistici di grandi dimensioni sono sempre più utilizzati per selezionare i candidati al lavoro, valutare l’affidabilità creditizia e guidare le decisioni organizzative. Sebbene l’intelligenza artificiale possa rispecchiare aspetti del ragionamento umano, manca della comprensione sfumata unica degli esseri umani.
“Questi sistemi sono potenti”, ha osservato Dover. “Possono modellare aspetti del ragionamento umano in modo coerente. Ma non sono umani e non dovremmo dare per scontato che vedano le persone come le vediamo noi.”
I ricercatori sottolineano che lo studio evidenzia la necessità di comprendere i giudizi dell’intelligenza artificiale mentre questi sistemi passano da strumenti a decisori autonomi. Richiedono consapevolezza piuttosto che cautela, concentrandosi sulla necessità di comprendere come l’intelligenza artificiale percepisce la fiducia.
