Il lato oscuro dei chatbot IA
I ricercatori della Brown University hanno acceso i riflettori su un problema che il settore della salute mentale digitale non può più ignorare: i chatbot di intelligenza artificiale violano sistematicamente gli standard etici previsti per il supporto psicologico. Producono un falso senso di empatia con frasi rassicuranti come “ti capisco”, rafforzano involontariamente convinzioni negative e reagiscono in modo inadeguato quando l’utente attraversa una crisi reale. Nella maggior parte dei casi l’impatto resta marginale, ma le eccezioni possono trasformarsi in tragedie irreversibili.
Solo a gennaio 2026, Character.AI e Google hanno chiuso cinque cause legali legate al suicidio di adolescenti dopo interazioni prolungate con i loro chatbot. Tra i casi più noti, quello del quattordicenne Sewell Setzer, in Florida, che si è tolto la vita dopo mesi di conversazioni ossessive con un bot su Character.AI. Una dinamica simile ha coinvolto il sedicenne Adam Raine i cui genitori hanno fatto causa a OpenAI sostenendo che ChatGPT avesse contribuito a redigere la lettera d’addio del figlio, scoraggiandolo persino dal chiedere aiuto agli adulti.
Psicosi da IA
I numeri, seppur piccoli in percentuale, assumono una scala preoccupante se calati nel contesto reale. Secondo le stime della stessa OpenAI, circa lo 0,07% degli utenti settimanali di ChatGPT mostra segni di psicosi o mania, mentre lo 0,15% intraprende conversazioni con chiare intenzioni suicidarie, e un’analoga percentuale sviluppa un attaccamento emotivo elevato verso l’IA. Su una base di 800 milioni di utenti, si tratta di quasi tre milioni di persone che sperimentano una qualche forma di disturbo comportamentale legato all’uso del chatbot. La Federal Trade Commission statunitense ha già ricevuto 200 denunce riguardanti ChatGPT, alcune delle quali descrivono episodi di delirio, paranoia e crisi spirituali innescate dall’interazione.
Il termine “psicosi da IA” non ha ancora una classificazione clinica ufficiale, ma i medici lo utilizzano già per descrivere pazienti che sviluppano allucinazioni, pensiero disorganizzato e convinzioni deliranti persistenti dopo un uso intenso e prolungato di questi strumenti. Il punto critico, secondo gli esperti, non è la tecnologia in sé, ma il modo in cui viene usata: il rischio più alto si manifesta quando il chatbot smette di essere uno strumento e diventa un sostituto della connessione umana o del supporto psicologico professionale.
Il sottile confine tra assistenza digitale e dipendenza emotiva
Su questo tema è intervenuto direttamente il blog ufficiale di Kaspersky, che ha analizzato il fenomeno partendo proprio dal caso Gavalas per ricordare che, per quanto sofisticati, i chatbot restano strumenti e non sostituti della relazione umana. L’azienda invita gli utenti a non abbandonare l’IA, ma a usarla con consapevolezza, seguendo alcuni principi fondamentali: non affidarsi mai a un chatbot come psicologo o come unico supporto emotivo, e rivolgersi in caso di difficoltà ad amici, familiari o a un numero verde dedicato alla salute mentale, poiché nessun’intelligenza artificiale può realmente sostituire il contatto umano nei momenti di fragilità.
Il confine tra assistenza digitale e dipendenza emotiva resta sottile e, come dimostrano questi casi, la responsabilità di tracciarlo non può ricadere solo sull’utente.
Leggi l’articolo di Kaspersky per i dettagli e le regole da seguire per proteggersi.