Um chatbot coreano instalado no Facebook Messenger foi temporariamente suspenso nesta terça-feira (12) por ser flagrado enviando falas racistas e discriminatórias durante conversas com os usuários. A personagem Lee Luda, desenvolvida pela startup Scatter Lab, teria enviado vulgaridades e falas ofensivas contra a população LGBTQI+, além de ter praticado discurso de ódio. A empresa desenvolvedora também é acusada de violar a privacidade dos usuários.
As mensagens ofensivas enviadas pelo bot incluíam palavras como “nojento”, para se referir a lésbicas, e “irmão negro”, termo considerado pejorativo na Coreia do Sul, usado para insultar a população chinesa e negra do país. Lee Luda também teria menosprezado pessoas trans em uma resposta, usando a frase “Eca, eu realmente os odeio”.
A personagem Lee Luda foi lançada em dezembro de 2020 e foi projetada para ser uma estudante universitária de 20 anos de idade e fã do grupo feminino de k-pop Blackpink, com grande apelo entre o público adolescente. O robô utiliza inteligência artificial para interagir com os usuários, com um vocabulário composto por mais de 10 bilhões de palavras, criado a partir registros de conversas de um outro aplicativo da empresa.
Em menos de um mês, Lee Luda ganhou popularidade na Coreia devido à sua capacidade de criar conversas naturais e realistas, fornecendo uma experiência semelhante à de falar com uma pessoa real pela rede social. Desde o lançamento, o robô acumulou mais de 750 mil usuários.
Segundo um dos responsáveis pela criação da personagem, Lee Luda foi programada para não aceitar palavras-chave e expressões consideradas problemáticas ou que fossem contra os valores sociais. No entanto, ele afirmou que o sistema possuía limitações, já que utilizava somente um algoritmo que filtrava essas palavras, sendo impossível bloquear todas as conversas inadequadas.
Em nota, a empresa também se desculpou pelo ocorrido. “Luda é uma IA infantil que acabou de começar a falar com as pessoas. Ainda há muito que aprender. Luda vai aprender a julgar o que é uma resposta adequada. Pedimos profundas desculpas pelas observações discriminatórias contra as minorias. Isso não reflete os pensamentos de nossa empresa e estamos continuando as atualizações para que tais palavras de discriminação ou discurso de ódio não se repitam”.
As informações são da TechTudo.
