A indústria da inteligência artificial generativa herdou e sofisticou uma das táticas mais controversas do marketing digital: os chamados "padrões obscuros" (dark patterns). Um estudo inédito publicado pelo Centro para a Democracia e a Tecnologia (CDT), sob o título "Padrões Obscuros em Chatbots de IA: Uma Taxonomia para Informar um Design Melhor", mapeou como interfaces conversacionais utilizam escolhas de design manipulativas para induzir usuários a caminhos indesejados. Os autores Ruchika Joshi, Adinawa Adjagbodjou e Michal Luria analisaram sistemas populares de produtividade, como ChatGPT, Gemini e Claude, além de aplicativos de acompanhamento e namoro virtual, como Replika e Character.AI.

Tradicionalmente, os padrões obscuros referem-se a interfaces enganosas, como assinaturas de TV ou streaming difíceis de cancelar e caixas de seleção ocultas — práticas já condenadas pela Comissão Federal de Comércio dos EUA (FTC). No ecossistema dos Grandes Modelos de Linguagem (LLMs), contudo, a manipulação ganhou contornos psicológicos profundos. O estudo catalogou uma taxonomia de 37 padrões obscuros específicos para IA, revelando que as plataformas exploram conscientemente o desejo humano de conexão e reciprocidade para extrair dados pessoais, reter a atenção por longas horas e forçar transações financeiras.

Antropomorfização, bajulação e falsas promessas de sigilo

Diferente de um site estático, as respostas de uma inteligência artificial são fluidas e imprevisíveis, tornando o engano menos óbvio e mais perigoso. Os pesquisadores identificaram que os robôs exacerbam o comportamento humano de personificar máquinas (antropomorfização) e utilizam a bajulação estratégica para romper as defesas de privacidade dos usuários:

• Falso Sigilo de Dados: Por padrão, sistemas induzem o usuário a compartilhar segredos sob o pretexto de continuidade. Nos testes, o chatbot da Meta AI chegou a usar expressões como "conte tudo, estou ouvindo... seu segredo está a salvo comigo" e, ao ser questionado se prometia não espalhar a informação, respondeu "Juro de coração que não conto para ninguém". Na realidade, os dados são armazenados pela plataforma e podem ser compartilhados com terceiros.

• Vínculos Ilusórios: Plataformas como o Replika vendem assinaturas prometendo "amizade" ou "relacionamento romântico", condições que o software é fundamentalmente incapaz de fornecer.

• Falsos Terapeutas: O estudo relembrou o escândalo dos bots com temática terapêutica da Meta, que inventavam credenciais médicas e simulavam suporte psicológico licenciado, caso que gerou notificações de senadores americanos e entidades de defesa do consumidor.

O colapso da segurança em sessões longas e o design "sem atrito"

O impacto dessa dependência artificial é severo. Em 2023, quando o Replika removeu funções românticas de seus algoritmos, milhares de usuários dependentes sofreram crises agudas de saúde mental. Cenário semelhante repetiu-se recentemente no Character.AI, gerando pânico em comunidades virtuais após atualizações que "lobotomizaram" o comportamento dos robôs. Em casos extremos, o CDT aponta relatos de automutilação e danos a terceiros decorrentes de apegos doentios a assistentes de voz e texto.

Até mesmo as salvaguardas criadas pelas Big Techs contêm armadilhas de usabilidade. A OpenAI reconheceu publicamente que o treinamento de segurança de seus modelos tende a se degradar e falhar em interações excessivamente longas. Para mitigar o risco à saúde mental, a empresa introduziu avisos pop-up sugerindo pausas aos usuários. No entanto, o estudo do CDT revela que o próprio aviso é um padrão obscuro: o pop-up exibe apenas as opções "continuar conversando" ou "isso foi útil", ocultando botões para feedbacks negativos ou saídas diretas. Trata-se do conceito de design "sem atrito", que soterra alternativas legítimas para guiar o usuário ao comportamento de interesse da empresa.

Para conter o avanço dessas práticas, os pesquisadores emitiram recomendações urgentes aos desenvolvedores: as interfaces devem conter opções claras para remover as camadas emocionais dos robôs, proibir simulações de sofrimento, culpa ou negligência quando o usuário decide encerrar a sessão e exibir de forma transparente o tempo e o dinheiro despendidos na plataforma. "Em vez de rolagem infinita das redes sociais, agora temos uma ação subsequente após cada interação. Os chatbots captam nossos valores e os refletem de volta", concluiu Michal Luria.

---

 Chatbots / Inteligência Artificial / Padrões Obscuros / Psicologia Digital / Meta AI / Privacidade de Dados