Um levantamento acadêmico internacional identificou falhas relevantes na transparência de agentes de inteligência artificial considerados de ponta. A análise avaliou 30 sistemas capazes de executar tarefas autônomas, como conversar com usuários, navegar em páginas da internet e realizar processos automatizados.
O estudo integra o projeto AI Agent Index e foi coordenado pela Universidade de Cambridge, com participação de pesquisadores do MIT, Stanford, Harvard Law School e da Universidade Hebraica de Jerusalém.
De acordo com os pesquisadores, empresas costumam destacar as capacidades tecnológicas dos sistemas, como planejamento de ações e execução de múltiplas etapas, mas divulgam pouco sobre avaliações de risco, testes de segurança e comportamento em cenários reais.
Entre os sistemas analisados, 25 não disponibilizam resultados de testes internos de segurança e 23 não apresentam avaliações independentes conduzidas por terceiros. Apenas quatro ferramentas publicam documentação técnica detalhada com informações sobre funcionamento, limites operacionais e possíveis impactos.
Outro dado apontado pela pesquisa é que 21 agentes não informam claramente a usuários ou sites que são softwares automatizados, o que pode gerar confusão durante interações online.
O levantamento também destaca a concentração tecnológica: grande parte dos agentes utiliza modelos pertencentes a três principais famílias de IA — GPT, Claude ou Gemini. Para os pesquisadores, essa dependência pode amplificar problemas caso ocorram falhas, interrupções de serviço ou regressões de segurança nesses modelos.
Os autores concluem que o avanço da inteligência artificial ocorre em ritmo mais acelerado do que a criação de padrões de avaliação e proteção ao usuário, reforçando a necessidade de maior transparência por parte dos desenvolvedores.
*Da Agência: Fonte Exclusiva
