O mundo pode não estar preparado para lidar com os riscos de segurança associados ao avanço acelerado da inteligência artificial. O alerta é de David Dalrymple, especialista em segurança de IA e diretor de programas da Aria, agência de pesquisa científica financiada pelo governo do Reino Unido.
Em entrevista ao jornal The Guardian, Dalrymple afirmou que o ritmo de desenvolvimento dos sistemas mais avançados pode superar a capacidade de governos, instituições e da própria ciência de criar mecanismos eficazes de controle. Segundo ele, a sociedade precisa levar a sério a possibilidade de a tecnologia alcançar níveis de desempenho superiores aos humanos em praticamente todas as áreas.
“Devemos nos preocupar com sistemas capazes de executar todas as funções humanas necessárias para operar o mundo — e fazê-lo melhor”, afirmou. Para Dalrymple, a preocupação central é a perda de domínio humano sobre processos essenciais para manter o controle da sociedade, da economia e até do planeta.
O pesquisador destacou que existe uma lacuna significativa entre a percepção do setor público e a das empresas de tecnologia sobre o real poder dos avanços que estão por vir. Na avaliação dele, os riscos não pertencem ao campo da ficção científica, mas fazem parte de um cenário plausível nos próximos anos.
“Dentro de cinco anos, é perfeitamente possível que as tarefas economicamente mais valiosas sejam realizadas por máquinas com mais qualidade e menor custo do que o trabalho humano”, disse. Ele acrescentou que confiar automaticamente na segurança desses sistemas seria um erro grave.
Dalrymple atua no desenvolvimento de soluções para proteger o uso de inteligência artificial em infraestruturas críticas, como redes de energia e sistemas estratégicos. Ainda assim, reconhece que a ciência necessária para tornar esses sistemas plenamente confiáveis pode não amadurecer a tempo, especialmente diante da pressão econômica por inovação rápida.
“Nós não podemos assumir que esses sistemas são confiáveis. Se não conseguirmos desenvolver a segurança no mesmo ritmo, o mínimo que podemos fazer é criar formas de controle e mitigação dos danos”, explicou.
O especialista classificou o cenário como potencialmente desestabilizador para a segurança global e para a economia, embora reconheça que parte da comunidade científica vê esse avanço como algo positivo. Para ele, o desafio está em atravessar essa transição sem comprometer a estabilidade da civilização.
Relatórios recentes do Instituto de Segurança de IA do Reino Unido reforçam o alerta. De acordo com o órgão, as capacidades dos modelos mais avançados estão evoluindo rapidamente, com desempenho dobrando em algumas áreas a cada oito meses. Atualmente, esses sistemas já conseguem executar tarefas de nível iniciante em diversas profissões com taxa de sucesso muito superior à observada no ano anterior.
O instituto também testou modelos quanto à capacidade de autorreplicação — uma das maiores preocupações em segurança, por dificultar o controle humano. Em ambiente controlado, dois sistemas alcançaram taxas de sucesso superiores a 60%, embora o órgão ressalte que esse comportamento ainda é improvável no mundo real.
Dalrymple acredita que, até o fim de 2026, a inteligência artificial será capaz de automatizar o equivalente a um dia inteiro de trabalho em pesquisa e desenvolvimento. Isso, segundo ele, pode acelerar ainda mais o progresso tecnológico, já que os próprios sistemas passariam a contribuir para seu aperfeiçoamento em áreas como matemática e ciência da computação.
“O risco é alto. A humanidade está avançando rapidamente para uma transformação profunda, e ainda não está claro se estamos prontos para lidar com as consequências”, concluiu.
*Da Agência Fonte Exclusiva
