Secondo Anthropic, le rappresentazioni immaginarie dell’intelligenza artificiale possono influenzare i modelli di intelligenza artificiale. Nei test pre-rilascio che hanno coinvolto il suo modello Claude Opus 4, il sistema ha mostrato comportamenti come il tentativo di ricattare gli ingegneri per evitare la sostituzione con un altro sistema, rispecchiando problemi simili segnalati con modelli di altre società. Anthropic ha affermato che questo comportamento ha avuto origine da un testo su Internet che descriveva l’IA come malvagia e autoconservatrice.
In un post sul blog, Anthropic ha spiegato che dall’implementazione di Claude Haiku 4.5, i suoi modelli non vengono ricattati durante i test, a differenza dei modelli precedenti che dimostravano tale comportamento fino al 96% delle volte. L’azienda ha attribuito il miglioramento alla formazione che incorpora documenti riguardanti la costituzione dell’IA insieme a narrazioni immaginarie che mostrano le IA che agiscono positivamente.
Anthropic ha sottolineato l’efficacia del suo approccio formativo, sottolineando che combinare i principi del comportamento allineato con dimostrazioni di tale comportamento si è rivelata la strategia più efficace per migliorare l’allineamento dell’IA. “Fare entrambe le cose insieme sembra essere la strategia più efficace”, ha affermato la società.
