A Apple removeu um grupo de aplicativos da App Store após uma investigação da BBC revelar que eles estavam sendo anunciados no TikTok como ferramentas para criar deepfakes de “remoção de roupas” sem consentimento.
Esses aplicativos, conhecidos como “nudify” ou de “remoção de roupas”, usam inteligência artificial para apagar digitalmente as roupas de pessoas em fotos, gerando imagens ou vídeos nus ou parcialmente nus.
Nas páginas oficiais na App Store e nos sites dos desenvolvedores, os apps eram descritos como formas de “apimentar selfies”.
Mas, nos anúncios pagos veiculados no TikTok, as empresas promoviam os aplicativos como meios de criar imagens sexualizadas de mulheres sem a permissão delas.
Alguns anúncios convidavam os usuários a baixar os apps para “ver as fotos mais quentes da sua paixão”.
Outros diziam que os aplicativos “permitem tirar a roupa de qualquer pessoa”.
Também havia propagandas que prometiam a capacidade de “colocar qualquer um de biquíni”.
Não estamos revelando os nomes dos aplicativos para evitar dar visibilidade a eles — criar imagens sexualmente explícitas de alguém sem consentimento pode ser ilegal em diversos países, incluindo o Reino Unido.
Os chamados apps de “nudificação” têm se tornado um problema crescente no mundo, com escândalos de grande repercussão surgindo na Espanha, Coreia do Sul e Estados Unidos, especialmente envolvendo meninas em idade escolar.
Em alguns casos, sabe-se que vítimas foram chantageadas com imagens manipuladas por IA.
Empresas de tecnologia têm um dever moral de restringir a proliferação de aplicativos de “nudificação” por deepfake, segundo o professor Arvind Narayanan, do Centro de Política de Tecnologia da Informação de Princeton.
“Deveria haver muito mais barreiras para impedir o acesso a essa tecnologia”, afirma ele, acrescentando que autoridades ao redor do mundo deveriam banir esses aplicativos das lojas virtuais e garantir que as redes sociais não possam “lucrar com anúncios que os promovem”.
Alguns dos anúncios no TikTok usavam fotos das atrizes de Game of Thrones Lena Headey e Maisie Williams para demonstrar como mulheres podem ser falsamente retratadas como se estivessem tirando a roupa até ficarem de roupa íntima.
A BBC identificou quatro desses aplicativos que pagam por anúncios no TikTok — que agora removeu as publicidades.
No entanto, vídeos semelhantes — aparentemente publicados por contas ligadas aos desenvolvedores dos apps — continuam na plataforma.
Um porta-voz do TikTok afirmou que os anúncios violam as políticas da rede, que proíbem conteúdos sexualmente sugestivos promovidos por meio de publicidade paga. A empresa, no entanto, não explicou como os anúncios passaram pela moderação.
A Apple também respondeu à reportagem da BBC removendo os aplicativos da App Store.
Segundo a empresa, três deles foram retirados “até que os desenvolvedores corrijam os problemas nos aplicativos”.
Um quarto app — especializado em criar vídeos de mulheres dançando seminuas a partir de fotos — “foi removido e teve sua conta de desenvolvedor encerrada”.
A Play Store do Google informou que está investigando os aplicativos.
O mais popular entre os apps investigados pela BBC já foi baixado mais de um milhão de vezes, segundo dados da própria Play Store. A Apple não divulga números de download.
O aplicativo não parece permitir a criação de imagens totalmente nuas, mas torna muito fácil gerar imagens sexualmente sugestivas de qualquer pessoa.
O desenvolvedor oferece “pacotes” prontos, com diferentes tipos de poses — incluindo cenas que retratam mulheres no chão com a boca aberta ou tomando banho.
No TikTok, o app é promovido como uma forma de “conseguir as fotos mais quentes da sua paixão”.
Em resposta por e-mail, o criador do aplicativo afirmou que não teve a intenção de anunciá-lo como uma ferramenta de deepfake sem consentimento e disse que irá revisar suas práticas.
Da Agência Fonte Exclusiva.
