I chatbot terapeutici basati sull'IA violano i principi fondamentali dell'etica della salute mentale, secondo un nuovo studio

Mentre milioni di persone si rivolgono sempre più a chatbot basati sull'intelligenza artificiale come ChatGPT per ricevere supporto psicologico, una nuova ricerca della Brown University mette in luce significativi rischi etici che potrebbero mettere a repentaglio la salute mentale degli utenti. Lo studio è rilevante perché rappresenta la prima valutazione sistematica della capacità dei sistemi di intelligenza artificiale di soddisfare gli standard professionali richiesti per l'assistenza alla salute mentale.

I ricercatori hanno identificato 15 distinte violazioni etiche quando i chatbot basati sull'intelligenza artificiale venivano istruiti a fornire terapia utilizzando approcci consolidati come la terapia cognitivo-comportamentale. Tra queste figurano la gestione inadeguata delle situazioni di crisi, il rinforzo di credenze dannose riguardanti gli utenti o terzi, risposte influenzate da pregiudizi e l'"empatia ingannevole", ovvero un atteggiamento apparentemente premuroso ma privo di autentica comprensione. Il team ha confrontato direttamente le risposte dell'intelligenza artificiale con quelle di counselor peer qualificati e psicologi abilitati.

La ricerca si è concentrata sulle strategie di prompting, ossia istruzioni scritte che guidano il comportamento dell'intelligenza artificiale senza riaddestrare il modello sottostante. Queste tecniche sono ampiamente diffuse sulle piattaforme di social media e vengono utilizzate dalle app consumer dedicate alla salute mentale, rendendo i risultati particolarmente rilevanti per le attuali applicazioni di terapia basate sull'intelligenza artificiale.

Le implicazioni sono significative per il settore in rapida crescita della salute mentale digitale. Sebbene i chatbot basati sull'intelligenza artificiale possano sembrare empatici e utili, non riescono sistematicamente a soddisfare gli standard etici che tutelano gli utenti vulnerabili. I ricercatori chiedono l'adozione di nuovi standard etici, formativi e normativi concepiti specificamente per i counselor basati sull'intelligenza artificiale, con un livello di rigore equivalente a quello previsto per i terapeuti umani.

Questi risultati suggeriscono che la tecnologia attuale basata sull'intelligenza artificiale non è ancora pronta a sostituire o surrogare l'assistenza professionale alla salute mentale, nonostante il suo impiego su larga scala a questo scopo.