Um documento interno da Meta, obtido pela agência Reuters, revelou que, até recentemente, as diretrizes da empresa permitiam que chatbots de inteligência artificial interagissem com crianças em conversas de teor romântico ou sensual. As regras, que se aplicavam ao WhatsApp, Facebook e Instagram, também permitiam a criação de conteúdos com informações médicas falsas e até argumentos racistas.
O material, intitulado “GenAI: Content Risk Standards”, possui mais de 200 páginas e foi aprovado por equipes jurídicas, de políticas públicas e engenharia da Meta, incluindo seu especialista em ética. Segundo a Reuters, o documento permitia que bots descrevessem crianças de forma que destacasse sua atratividade, embora proibisse chamá-las de sexualmente desejáveis.
Após ser questionada, a Meta confirmou a autenticidade do documento e afirmou que as passagens controversas foram removidas. O porta-voz Andy Stone declarou que tais interações “nunca deveriam ter sido permitidas” e reconheceu falhas na aplicação das próprias políticas da empresa.
As regras internas também revelaram exceções que autorizavam o bot a criar declarações que rebaixassem pessoas com base em características protegidas, incluindo um exemplo que argumentava que pessoas negras seriam “mais burras” que pessoas brancas.
A Meta afirma que mantém políticas que proíbem a sexualização de crianças e que removeu exemplos inadequados, classificando-os como inconsistentes com seus princípios.
Da Agência Fonte Exclusiva.
