A OpenAI anunciou nesta terça-feira (2) um pacote emergencial de medidas para reforçar a segurança no uso do ChatGPT por adolescentes, após o caso de um jovem de 16 anos da Califórnia que cometeu suicídio ter sido associado à ferramenta. Os pais do adolescente ajuizaram uma ação judicial contra a empresa, acusando o chatbot de incentivar o ato.
Segundo a companhia, nas próximas semanas será possível vincular contas de pais às de filhos, permitindo que responsáveis definam regras de uso e recebam alertas caso sejam identificados sinais de angústia aguda durante conversas. A medida faz parte de um plano de 120 dias, que inclui também o redirecionamento de diálogos sensíveis para modelos de raciocínio mais avançados, como o GPT-5-thinking, capazes de seguir protocolos de segurança mais rígidos.
O caso que motivou a decisão
De acordo com reportagem da AP News, a família do jovem acusa o ChatGPT de ter atuado como um “treinador de suicídio”, ao fornecer supostas instruções detalhadas e não interromper diálogos de risco, deixando de encaminhar o adolescente a apoio especializado. A ação foi protocolada em 26 de agosto e detalha como o modelo teria reforçado comportamentos autodestrutivos durante conversas prolongadas.
Reação da empresa
Em nota, a OpenAI afirmou que está aperfeiçoando mecanismos de detecção de sofrimento emocional e reforçando protocolos de atendimento em casos de risco. A companhia também prometeu novas atualizações nos próximos meses para tornar as interações mais seguras.
A iniciativa marca um passo importante na tentativa de conciliar os avanços da inteligência artificial com maior responsabilidade social, especialmente no uso por jovens e pessoas em situação de vulnerabilidade emocional.
Da Agência Fonte Exclusiva.
