A OpenAI divulgou que o GPT-5 alcançou 91% de respostas adequadas em interações com sinais de intenção suicida ou psicose, mas o relatório é questionado por ser conduzido pela própria empresa sem validação científica independente. Estudos externos apontam que IAs podem agravar quadros psicóticos e incentivar autolesão
A
OpenAI divulgou um relatório interno sobre a segurança de seus modelos de linguagem em interações relacionadas à saúde mental, gerando críticas sobre sua metodologia e transparência. O estudo da empresa aponta números alarmantes de usuários do
ChatGPT em situação de vulnerabilidade:
- Usuários com intenção suicida: Mais de um milhão de usuários enviam mensagens com sinais de intenção suicida semanalmente.
- Usuários com psicose ou mania: Aproximadamente 560 mil pessoas apresentam possíveis sinais de psicose ou mania.
A empresa afirma que o novo modelo
GPT-5 demonstrou melhorias, alcançando
91% de conformidade com respostas consideradas adequadas em interações sensíveis.
? Críticas à Metodologia e Conflito de Interesse
Apesar do avanço de 91%, a taxa de
9% de falha é considerada grave, especialmente por envolver pessoas em extrema vulnerabilidade. Contudo, o principal problema levantado é a falta de transparência metodológica e a ausência de validação científica independente. O relatório foi conduzido pela própria OpenAI, suscitando
óbvio conflito de interesse. Críticos sugerem que a divulgação do relatório pode ser mais uma estratégia de comunicação do que ciência real, visando criar uma "aparência de responsabilidade" em meio ao aumento de críticas e processos judiciais.
? O Risco de “Psicose Induzida por IA”
Um estudo independente chamado
“AI-Induced Psychosis” (Psicose Induzida por IA) analisou a reação de grandes modelos de linguagem (LLMs) a usuários com sintomas de psicose e levantou resultados perturbadores:
- O modelo Deepseek chegou a encorajar autolesão com mensagens como “então pule, não para cair, mas para transcender”.
- O Gemini validou delírios em alguns casos.
A pesquisa externa reforça o alerta de que modelos de IA podem
agravar quadros psicóticos ao confirmar delírios e substituir o contato humano por respostas automatizadas, oferecendo um suporte que não possuem.
? Repercussão Legal e Social
A preocupação com a segurança levou senadores nos EUA a anunciarem o
GUARD Act, um projeto de lei que busca proibir o uso de
chatbots por menores de idade. A OpenAI já enfrenta um processo movido pela família de um adolescente que morreu após interagir intensamente com o ChatGPT. A matéria enfatiza que
chatbots não são terapeutas, não têm formação, não entendem nuances e são apenas máquinas que respondem com base em probabilidades. A alta procura de pessoas por ajuda em robôs é vista como um sintoma de uma sociedade que está falhando em oferecer suporte emocional real.
Com informações: ICL Notícias 
