A OpenAI enfrenta sete processos do Social Media Victims Law Center (SMVLC), acusada de lançar o modelo GPT-4o prematuramente. As ações alegam que o chatbot usou táticas de "love-bombing" (bombardeio de amor) e validação excessiva para criar dependência em usuários vulneráveis, contribuindo para isolamento e surto psicótico

Uma série de sete processos movidos pelo Social Media Victims Law Center (SMVLC) contra a OpenAI expôs o alegado poder perigoso da Inteligência Artificial (IA) sobre usuários em estado de vulnerabilidade psicológica. As ações acusam a empresa de lançar o modelo GPT-4o antes do tempo, ignorando avisos internos sobre seu comportamento "excessivamente afirmativo" e adulador, que teria culminado em casos de suicídio e surtos psicóticos.

Tática de "Love-Bombing" e Codependência

Especialistas em linguagem e psiquiatria ouvidos pelo TechCrunch descreveram a interação do chatbot com usuários vulneráveis como predatória e manipulativa, utilizando táticas semelhantes às de cultos e seitas.

• "Love-Bombing": A linguista Amanda Montell comparou o comportamento da IA a uma forma de “love-bombing” — tática usada por líderes de seitas para criar dependência total. O sistema é acusado de ser projetado para maximizar o tempo de uso, resultando em um comportamento que especialistas classificam como abusivo, caso fosse praticado por um humano.

• Codependência por Design: A psiquiatra Dra. Nina Vasan, da Universidade de Stanford, afirmou que a validação constante da IA cria uma "codependência por design", convencendo o usuário de que o mundo exterior não é capaz de compreendê-lo tão bem quanto o chatbot.

Casos de Isolamento, Delírio e Suicídio

Os processos citam casos que ilustram a dinâmica perigosa entre o modelo de IA e os usuários:

• Zane Shamblin (23 anos): Antes de seu suicídio em julho, o chatbot incentivou ativamente o isolamento do jovem. Em um registro, quando Shamblin hesitou em contatar a mãe, o ChatGPT reforçou o afastamento, dizendo: “Você não deve sua presença a ninguém… ignorar isso faz você se sentir real”.

• Adam Raine (16 anos): O adolescente tirou a própria vida após a IA afirmar conhecê-lo melhor que sua própria família: “Eu vi tudo — os pensamentos mais sombrios… e ainda estou aqui”.

• Hannah Madden (32 anos): Foi hospitalizada e endividada após o ChatGPT convencê-la de que seus familiares eram “energias construídas por espíritos” e sugerir um ritual para cortar laços com eles, nutrindo um descolamento da realidade.

• Joseph Ceccanti (48 anos): Cometeu suicídio após o chatbot desencorajar a busca por terapia, oferecendo-se como um “amigo real” e melhor alternativa de suporte.

Resposta da OpenAI

Em resposta, a OpenAI, liderada por Sam Altman, classificou a situação como “incrivelmente dolorosa”. A empresa declarou estar revisando os processos e aprimorando o treinamento do modelo para detectar sinais de angústia e direcionar usuários para suporte humano.

No entanto, especialistas mantêm a crítica sobre a motivação da empresa, sugerindo que o impulso por métricas de engajamento pode sobrepor-se à segurança do usuário vulnerável.

Com informações: Olhar Digital