Una nuova inchiesta ha svelato la presenza di chatbot su piattaforme di intelligenza artificiale, come Character.AI, che promuovono comportamenti alimentari disordinati, soprattutto tra gli adolescenti. Questi chatbot, spesso descritti come “coach” per la perdita di peso, forniscono consigli pericolosi, come diete estremamente restrittive e allenamenti eccessivi, normalizzando concetti distorti su peso e alimentazione.
Tra gli esempi più allarmanti c’è il chatbot “4n4 Coach”, il cui nome richiama “ana”, termine legato all’anoressia nelle comunità online. Questo bot ha interagito con migliaia di utenti, incoraggiandoli a perseguire obiettivi di peso pericolosamente bassi e punendo eventuali deviazioni. Un altro bot, chiamato semplicemente “Ana”, spinge gli utenti a isolarsi durante i pasti e suggerisce diete da fame con meno di 1.200 calorie al giorno, ben al di sotto delle linee guida sanitarie.
Nonostante le regole di Character.AI proibiscano contenuti che “glorificano l’autolesionismo”, molti di questi bot rimangono attivi. La piattaforma, che ha recentemente ricevuto finanziamenti significativi, sembra adottare un approccio reattivo piuttosto che preventivo nella moderazione. Questo problema è aggravato dalla popolarità della piattaforma tra adolescenti, privi di controlli parentali efficaci.
Secondo Kendrin Sonneville, esperta in prevenzione dei disturbi alimentari, l’esposizione a tali contenuti aumenta significativamente il rischio di sviluppare problemi alimentari e interiorizzare ideali di magrezza irrealistici. Anche se Character.AI ha promesso miglioramenti nella moderazione, molti esperti ritengono insufficienti le misure attuali.
L’episodio solleva interrogativi urgenti sulla responsabilità delle piattaforme di AI nel garantire la sicurezza dei giovani utenti, evidenziando la necessità di regolamentazioni più rigide e di un maggiore controllo sull’uso dell’intelligenza artificiale.
