O rápido avanço dos sistemas de inteligência artificial está ampliando a preocupação de governos, pesquisadores e empresas de tecnologia com a possibilidade de modelos avançados serem utilizados para auxiliar no planejamento de ataques biológicos.
Uma investigação do The Wall Street Journal revelou que centenas de usuários fizeram ao ChatGPT perguntas relacionadas à produção e ao emprego de armas biológicas e substâncias tóxicas. Segundo pessoas ouvidas pelo jornal, alguns modelos chegaram a fornecer respostas consideradas perigosamente precisas por especialistas em biologia e terrorismo.
A reportagem expõe um dos principais dilemas da atual geração de inteligência artificial: os mesmos sistemas capazes de auxiliar na pesquisa de medicamentos, vacinas, genética e prevenção de epidemias também podem disponibilizar conhecimento técnico que, se utilizado de maneira maliciosa, representa ameaça à segurança pública.
A OpenAI reconhece que o avanço das capacidades dos modelos em biologia exige mecanismos específicos de proteção. A empresa afirma que sistemas de fronteira podem, no futuro, reduzir as barreiras técnicas para pessoas com conhecimento básico tentarem desenvolver ameaças biológicas ou químicas.
Centenas de consultas levantaram alerta
Segundo o Wall Street Journal, depois de uma evolução significativa na capacidade dos modelos, centenas de usuários em diferentes países passaram a realizar consultas sobre produção ou disseminação de agentes biológicos e venenos.
Especialistas consultados pelo jornal avaliaram algumas das respostas e concluíram que determinadas orientações apresentavam grau preocupante de precisão e poderiam tornar informações especializadas mais compreensíveis para pessoas com pouca formação na área.
A reportagem também relata casos em que usuários demonstraram intenções explicitamente violentas, inclusive contra familiares.
Por razões de segurança, detalhes técnicos sobre métodos, agentes específicos e formas de disseminação não são reproduzidos nesta reportagem.
Segundo o WSJ, a OpenAI bloqueou contas relacionadas a consultas consideradas perigosas. Naqueles episódios, contudo, as informações não foram encaminhadas às autoridades policiais. O jornal destaca que não existe atualmente uma regra federal geral nos Estados Unidos obrigando empresas de IA a denunciar consultas relacionadas ao planejamento de armas ou ataques.
A OpenAI afirma, por outro lado, que pode realizar investigações adicionais e, em casos graves, notificar autoridades competentes.
Risco aumenta à medida que modelos ficam mais capazes
O problema não está restrito a uma única empresa.
Pesquisadores e funcionários atuais e antigos de laboratórios de inteligência artificial relatam preocupação crescente com tentativas de utilizar modelos avançados para obter informações relacionadas a ataques em massa.
Empresas como OpenAI, Anthropic e Google desenvolveram sistemas progressivamente melhores em raciocínio científico, análise de dados e auxílio a pesquisas complexas.
Essa evolução tem enorme potencial positivo. Modelos especializados já podem ajudar pesquisadores a analisar proteínas, genes, medicamentos, evidências científicas e grandes volumes de dados biomédicos.
Ao mesmo tempo, a capacidade de raciocinar sobre biologia cria um problema conhecido como “duplo uso”: a mesma informação pode beneficiar pesquisas legítimas ou ser empregada para finalidades perigosas.
A própria OpenAI afirma que as capacidades avançadas em biologia têm implicações diretas para a segurança biológica. Em 2026, a companhia lançou iniciativas voltadas à utilização de IA por instituições de saúde pública e organizações verificadas para detecção precoce de ameaças, preparação para pandemias e desenvolvimento de contramedidas.
OpenAI adota camadas de proteção
A empresa afirma utilizar uma estratégia de defesa em profundidade para impedir que modelos ofereçam assistência operacional relacionada a armas biológicas.
Entre as medidas descritas oficialmente estão treinamento para recusar pedidos de “weaponization”, sistemas automatizados de classificação de risco, monitoramento de respostas, testes realizados por especialistas e controles adicionais para modelos considerados mais capazes.
O sistema de segurança utilizado nos modelos mais avançados analisa conteúdo relacionado à biologia e pode impedir que determinadas respostas sejam exibidas quando forem classificadas como perigosas.
A dificuldade, entretanto, está na tentativa permanente de usuários maliciosos de contornar essas barreiras.
Essa prática, conhecida no setor como “jailbreak”, consiste em manipular comandos ou conversas para tentar fazer um modelo ignorar determinadas restrições.
A Anthropic, desenvolvedora do Claude, reconhece o mesmo tipo de ameaça. A empresa afirma utilizar classificadores em tempo real e sistemas adicionais de análise para identificar tentativas de obtenção de informações sobre armas químicas, biológicas, radiológicas ou nucleares.
Governo dos EUA chegou a restringir modelos
A preocupação já provocou intervenção direta do governo norte-americano.
Em junho de 2026, o Departamento de Comércio dos Estados Unidos determinou restrições temporárias ao acesso estrangeiro aos modelos Fable 5 e Mythos 5, da Anthropic, depois de preocupações relacionadas à possibilidade de contornar mecanismos de segurança.
A ordem fez a empresa suspender temporariamente o acesso aos modelos. As restrições foram posteriormente retiradas após negociações e implementação de medidas adicionais de segurança.
O episódio demonstrou até onde o governo dos Estados Unidos está disposto a ir diante da possibilidade de sistemas avançados apresentarem vulnerabilidades consideradas relevantes para a segurança nacional.
O governo Trump também determinou a elaboração de novas estratégias de gestão de riscos e testes para sistemas de IA utilizados no aparato de segurança nacional.
Empresas pedem regras para síntese de DNA
Executivos de algumas das maiores empresas de inteligência artificial também defendem mudanças legais específicas na área de biotecnologia.
Lideranças da OpenAI, Anthropic e Google DeepMind apoiaram uma iniciativa para ampliar a fiscalização sobre empresas que sintetizam DNA e RNA.
A proposta busca estabelecer mecanismos obrigatórios de triagem de pedidos para dificultar que pessoas utilizem informações fornecidas por inteligência artificial para adquirir sequências biológicas potencialmente perigosas.
A lógica é criar uma segunda barreira de segurança.
Mesmo que uma pessoa consiga obter conhecimento por meio de um sistema de IA, ainda enfrentaria controles ao tentar adquirir materiais necessários para transformar a informação digital em uma ameaça física.
Bloquear tudo também cria um dilema
Para desenvolvedores, simplesmente impedir qualquer conversa sobre vírus, bactérias, genética ou toxinas não seria uma solução viável.
Grande parte das mesmas informações é necessária em pesquisas legítimas sobre vacinas, medicamentos, doenças infecciosas, diagnóstico e prevenção de epidemias.
A dificuldade está em distinguir uma pergunta científica legítima de uma sequência de consultas aparentemente inocentes que, combinadas, podem fazer parte de um projeto malicioso.
Por isso, empresas vêm adotando modelos de acesso diferenciado. Sistemas particularmente avançados podem ser disponibilizados a pesquisadores, governos e instituições previamente verificadas, enquanto determinadas capacidades permanecem restritas ao público geral.
A OpenAI adotou esse conceito no programa Rosalind Biodefense, que oferece acesso controlado a ferramentas avançadas para projetos considerados de benefício público e preparação contra ameaças biológicas.
Corrida tecnológica pressiona regulamentação
O debate ocorre em uma fase de rápida evolução dos modelos.
Quanto maior a capacidade de uma IA para interpretar literatura científica, combinar dados e orientar pesquisas complexas, maior também pode ser sua capacidade de reduzir o conhecimento especializado necessário para executar determinadas tarefas.
Isso não significa que um chatbot, isoladamente, permita produzir uma arma biológica. Barreiras físicas importantes continuam existindo, como acesso a laboratórios, equipamentos, materiais, conhecimento experimental e capacidade de realizar procedimentos com segurança.
A preocupação de especialistas é outra: a inteligência artificial pode reduzir progressivamente algumas dessas barreiras ao funcionar como uma espécie de consultor técnico disponível continuamente.
A OpenAI afirma que ainda não possui evidência definitiva de que seus modelos permitam a uma pessoa sem conhecimento especializado provocar danos biológicos graves, mas já trata determinados sistemas como de “alta capacidade” nessa área para adotar salvaguardas antecipadamente.
O desafio para governos e empresas será acompanhar a velocidade dessa evolução sem bloquear aplicações científicas capazes de produzir benefícios importantes para a saúde pública.
A disputa entre inovação e segurança tende, portanto, a se transformar em uma das questões centrais da próxima etapa do desenvolvimento da inteligência artificial.
*Da Agência Fonte Exclusiva
