O governo federal determinou que a rede social x adote providências imediatas para bloquear a produção de conteúdos gerados pelo grok, seu assistente de inteligência artificial. O recurso tem gerado controvérsia por permitir a criação e disseminação de deepfakes sexualizados, inclusive de mulheres e crianças, sem consentimento.
Em janeiro deste ano, a administração já havia solicitado soluções técnicas da plataforma para evitar a geração de imagens e vídeos em contextos inadequados. As medidas adotadas, porém, foram avaliadas como “insuficientes” pela equipe responsável, que não recebeu relatórios, evidências ou sistemas de monitoramento capazes de confirmar a eficácia das ações.
Testes realizados pelas equipes técnicas do governo apontaram que as falhas persistem, mantendo a circulação de materiais incompatíveis com os compromissos assumidos anteriormente. Com isso, a plataforma foi obrigada a apresentar novos planos para coibir os deepfakes, além de relatórios mensais a partir de fevereiro detalhando o número de postagens nocivas removidas e de contas suspensas.
A secretaria nacional do consumidor alertou que descumprimento das exigências pode resultar em multas diárias, análise penal por desobediência e adoção de procedimentos investigatórios mais rigorosos contra a empresa.
