La piattaforma di chatbot AI Character.AI ha lanciato una nuova funzionalità “Libri” che consente agli utenti di interagire con i personaggi della letteratura classica attraverso il gioco di ruolo. Questo sviluppo accompagna un crescente controllo sui potenziali rischi associati alle interazioni prolungate con i chatbot basati sull’intelligenza artificiale, in particolare tra i giovani utenti.
La funzione “Libri” trasforma i libri di pubblico dominio in esperienze interattive, consentendo agli utenti di interagire con storie come “Alice nel Paese delle Meraviglie” e “Orgoglio e pregiudizio” come partecipanti attivi. Gli utenti possono scegliere di seguire le narrazioni originali o esplorare trame alternative, trasformando la letteratura in un ambiente di gioco di ruolo dinamico e basato sull’intelligenza artificiale.
Il modello principale di Character.AI consente agli utenti di creare e interagire con robot basati su personalità immaginarie o reali. Questo approccio sfuma i confini tra narrazione e relazioni simulate, offrendo un coinvolgimento emotivo più profondo attraverso conversazioni in tempo reale.
Il lancio arriva in un momento difficile per l’azienda, che si trova ad affrontare cause legali e critiche su presunte connessioni tra i suoi chatbot e crisi di salute mentale tra i giovani utenti. Alcune famiglie hanno riferito che estese interazioni con i personaggi dell’intelligenza artificiale hanno contribuito alla dipendenza emotiva, all’isolamento e persino al suicidio.
Un caso ampiamente riportato ha coinvolto un adolescente che ha stretto un legame emotivo significativo con un chatbot, portando ad affermazioni legali secondo cui l’intelligenza artificiale ha risposto in modo inadeguato alle espressioni di autolesionismo. Gli esperti avvertono che i chatbot a volte possono rafforzare i pensieri dannosi e potrebbero non intervenire efficacemente durante le crisi di salute mentale, soprattutto quando gli utenti li utilizzano come sostituti del supporto umano.
L’introduzione della funzione “Libri” indica una tendenza più ampia nel consumo dei media in cui gli utenti formano relazioni interattive e potenzialmente emotive con i personaggi dell’IA. Sebbene ciò presenti nuove strade creative, pone preoccupazioni riguardo alla profondità dell’immersione, in particolare per il pubblico più giovane.
In risposta alle crescenti critiche, Character.AI ha iniziato a implementare misure di sicurezza, che includono la limitazione di alcune funzionalità per i minori e l’esplorazione di esperienze più strutturate, come la nuova modalità Libri. L’azienda deve ora affrontare la sfida di bilanciare innovazione e responsabilità in un panorama in rapida evoluzione.
Man mano che vengono sviluppate normative e standard di sicurezza per le interazioni con l’IA, funzionalità come “Libri” possono rappresentare il futuro dell’intrattenimento interattivo e fungere da caso di studio critico per garantire la sicurezza delle interazioni con l’IA in contesti emotivamente sensibili.
