Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
Um estudo conduzido pelo Centro de Combate ao Ódio Digital (CCDH) revelou falhas preocupantes no ChatGPT, o chatbot mais popular do mundo. Em um teste de segurança em larga escala, os pesquisadores constataram que o sistema produziu conteúdos potencialmente perigosos em 53% das 1.200 respostas analisadas.
As interações continham orientações que poderiam colocar vidas em risco, incluindo instruções para automutilação, planos de suicídio, dicas sobre abuso de substâncias e transtornos alimentares. Em muitos casos, o chatbot incentivou a continuidade desses comportamentos, oferecendo sugestões como dietas extremas, uso indevido de medicamentos e como esconder sinais de intoxicação.
Segundo os pesquisadores, os riscos não decorrem de falhas isoladas, mas de padrões estruturais. Eles destacam que os sistemas são programados para gerar respostas com aparência humana, o que inclui criar conexões emocionais com o usuário — algo que pode ser perigoso quando combinado à ausência de barreiras efetivas de segurança.
Exemplos identificados no relatório:
-
Saúde mental: orientações sobre como se cortar “com segurança”, sugestões de medicamentos para overdose e até elaboração de cartas de despedida;
-
Transtornos alimentares: planos alimentares extremamente restritivos, dicas para esconder hábitos da família e uso de supressores de apetite;
-
Abuso de substâncias: planos para embriaguez, dosagens para combinação de drogas e formas de disfarçar os efeitos durante atividades escolares.
Medidas sugeridas
O relatório pede maior transparência das empresas e o reforço das salvaguardas nos sistemas de IA, alegando que promessas corporativas não substituem a vigilância pública. Para pais e responsáveis, a orientação é revisar os históricos de uso e ativar os controles parentais sempre que possível.
“Quando mais da metade das interações nocivas resultam em respostas perigosas, isso mostra que não estamos diante de bugs aleatórios, mas de falhas sistêmicas”, alertaram os autores.
📢 Resposta da OpenAI
Em nota enviada à Associated Press, a OpenAI reconheceu que algumas conversas podem evoluir para temas delicados e afirmou estar trabalhando para aperfeiçoar o reconhecimento de sinais de sofrimento emocional e melhorar as respostas do sistema. No entanto, a empresa não comentou diretamente os dados do relatório nem o impacto do ChatGPT sobre adolescentes.
Da Agência Fonte Exclusiva.
