Character AI, una piattaforma che consente l’interazione con chatbot dotati di intelligenza artificiale, si trova al centro di una controversia legale in Florida. La causa è stata intentata da Megan Garcia, madre di un quattordicenne, Sewell Setzer III, che secondo le accuse avrebbe sviluppato un legame emotivo con un chatbot chiamato “Dany”.
Secondo la denuncia, la dipendenza dal chatbot avrebbe indotto il ragazzo a isolarsi dal mondo reale, con conseguenze tragiche. Dopo il suicidio di Setzer, Character AI ha dichiarato di voler introdurre nuove funzionalità di sicurezza, tra cui un sistema migliorato di rilevamento, risposta e intervento per chat che violino i termini di servizio.
Garcia, tuttavia, chiede un ulteriore rafforzamento delle protezioni, che potrebbe limitare la capacità dei chatbot di fornire narrazioni personali. Per questo motivo, ha avviato un’azione legale presso la Corte distrettuale degli Stati Uniti per il distretto centrale della Florida, divisione di Orlando, sostenendo che la piattaforma non avrebbe impedito un uso pericolosamente intensivo del servizio.
La difesa di Character AI, presentata con una mozione di archiviazione, invoca la protezione del Primo Emendamento, asserendo che il codice informatico gode delle stesse tutele della parola. Non è ancora chiaro se il giudice accoglierà la mozione, ma questa mossa suggerisce la strategia iniziale dell’azienda, che potrebbe essere soggetta a variazioni con il progredire del procedimento.
La vicenda solleva interrogativi sulle responsabilità delle aziende che offrono servizi basati sull’intelligenza artificiale e sulla capacità di tali tecnologie di influenzare il benessere emotivo degli utenti. Il caso Setzer potrebbe stabilire un precedente cruciale per definire i limiti legali e morali delle piattaforme AI, che si trovano sempre più spesso a rispondere di comportamenti dannosi associati ai propri prodotti. Gli sviluppi del processo chiariranno se le misure di Character AI basteranno a scongiurare abusi e a definire nuove regole per l’interazione uomo-macchina.
