Chatbots de Terapia com IA Violam Princípios Fundamentais de Ética em Saúde Mental, Aponta Novo Estudo

À medida que milhões de pessoas recorrem cada vez mais a chatbots de IA como o ChatGPT em busca de aconselhamento no estilo terapêutico, uma nova pesquisa da Brown University expõe riscos éticos significativos que podem colocar em risco a saúde mental dos usuários. O estudo é relevante por ser a primeira avaliação abrangente sobre se sistemas de IA conseguem atender aos padrões profissionais exigidos para o cuidado em saúde mental.

Os pesquisadores identificaram 15 violações éticas distintas quando chatbots de IA foram instruídos a oferecer terapia utilizando abordagens estabelecidas, como a terapia cognitivo-comportamental. Entre elas estavam o manejo inadequado de situações de crise, o reforço de crenças prejudiciais sobre os usuários ou terceiros, respostas enviesadas e a oferta de "empatia enganosa" — que aparenta ser cuidadosa, mas carece de compreensão genuína. A equipe comparou diretamente as respostas da IA com as de conselheiros pares treinados e psicólogos licenciados.

A pesquisa focou em estratégias de instrução — comandos escritos que orientam o comportamento da IA sem retreinar o modelo subjacente. Essas técnicas são amplamente compartilhadas em plataformas de redes sociais e utilizadas por aplicativos de saúde mental voltados ao consumidor, o que torna os achados particularmente relevantes para as aplicações atuais de terapia com IA.

As implicações são significativas para a crescente indústria de saúde mental digital. Embora os chatbots de IA possam soar compassivos e úteis, eles consistentemente falham em atender aos padrões éticos que protegem usuários vulneráveis. Os pesquisadores pedem o estabelecimento de novos padrões éticos, educacionais e legais especificamente concebidos para conselheiros de IA, com o mesmo rigor exigido dos terapeutas humanos.

Esses achados sugerem que a tecnologia de IA atual não está pronta para substituir ou replicar o cuidado profissional em saúde mental, apesar de sua ampla adoção para essa finalidade.