A Meta, gigante da tecnologia por trás de plataformas como Instagram e WhatsApp, intensificou sua luta contra o uso indevido de inteligência artificial (IA) na criação de imagens sexualmente explícitas não consensuais. A empresa considera o problema urgente e partiu para a via judicial, além de reforçar o combate a anúncios relacionados a esses serviços.
INTELIGÊNCIA ARTIFICIAL
Resumo rápido gerado automaticamente
Na última quinta-feira (12), a Meta iniciou um processo legal em Hong Kong contra a Joy Timeline HK Limited, uma empresa local responsável por aplicativos que geram conteúdo de teor sexual a partir de fotos comuns, simulando a aparência de uma pessoa sem seu consentimento.
A ação judicial surge após esforços contínuos da Meta para combater desenvolvedores dessas ferramentas. A política da empresa já proibia a postagem de conteúdo ou anúncios de aplicativos que criam deepfakes ou montagens que removem roupas de pessoas em fotos. No entanto, as empresas por vezes conseguiam contornar os sistemas de verificação e continuar exibindo anúncios nas plataformas, alterando textos, imagens ou utilizando domínios recém-criados. Agora, a Meta busca impedir judicialmente a atuação desses serviços.
Além da ação legal, a Meta pretende compartilhar as URLs identificadas como associadas a essas ferramentas com outras empresas de serviços digitais que fazem parte do Tech Coalition’s Lantern, um consórcio dedicado à proteção infantil online. Até o momento, foram identificados e desativados mais de 3 mil endereços e quatro redes coordenadas que tentavam publicar esses anúncios.
A criação de montagens de teor sexual com IA, prática conhecida como “nudificação”, é considerada um problema crescente, com aplicativos difundidos em fóruns e lojas de aplicativos, muitas vezes sem disfarçar seu objetivo principal de “remover digitalmente” as roupas de pessoas através da manipulação de fotos.
As vítimas dessas montagens enfrentam impactos emocionais significativos, com consequências para suas vidas pessoais e profissionais. Em resposta a esse problema, o Brasil recentemente aumentou as penas para crimes contra mulheres que utilizam IA, podendo chegar a três anos de prisão. Nos Estados Unidos, uma nova lei também foi aprovada para combater e facilitar a remoção desses conteúdos das plataformas.
Além das imagens de teor sexual, a Meta também está combatendo anúncios que promovem cursos para criar montagens com IA para fins fraudulentos, como a venda de produtos ou a disseminação de informações falsas.
