Minnesota acusa Grok de criar 'mercado de violência sexual digital'

O procurador-geral do Minnesota, Keith Ellison, defendeu numa apresentação judicial de sexta-feira que a xAI de Elon Musk não conseguirá demonstrar que a aplicação de uma nova lei estadual causaria danos irreparáveis à empresa. Segundo revela a Decrypt, o estado norte-americano está em confronto judicial com a empresa por causa de legislação pioneira que visa tecnologias de inteligência artificial capazes de gerar imagens sexuais realistas de pessoas identificáveis.

Na sua argumentação, Ellison afirmou que a xAI criou com o Grok Imagine um mercado sem paralelo para violência sexual digital que praticamente não apresenta barreiras de entrada. O responsável sustentou ainda que esse mercado, aliado às capacidades funcionais da ferramenta, condenaria o Minnesota à partida se o estado não pudesse direcionar as suas leis para a tecnologia que torna possível a vitimização sexual digital.

A lei em disputa, que entrou em vigor a 1 de agosto depois de ter sido aprovada em abril, proíbe plataformas e programadores de permitirem que utilizadores criem imagens realistas mostrando partes íntimas do corpo que não aparecem na imagem original de uma pessoa identificável. As violações podem resultar em multas até 500.000 dólares por imagem.

A xAI intentou uma ação judicial em julho contra Ellison para bloquear a legislação, alegando que esta viola a Primeira Emenda da Constituição norte-americana e poderia aplicar-se a imagens protegidas, incluindo homens sem camisa, nadadores e sátira política. A empresa argumentou que não existe proteção para esforços de boa-fé dos fornecedores de ferramentas criativas de IA de uso geral para evitar danos, e que a responsabilidade se aplica mesmo que as pessoas retratadas consintam ou criem elas próprias a imagem.

O Minnesota aprovou a medida com votações esmagadoras de 132 votos a favor e apenas um contra na Câmara dos Representantes, e 65 a zero no Senado. A aprovação seguiu-se a relatos de um homem que utilizou fotografias de redes sociais para criar imagens sexuais de mais de 80 mulheres que conhecia. A senadora Maye Quade, que liderou a iniciativa, declarou na altura que o estado liderou a nação na proteção de mulheres, crianças e pessoas em vida pública contra os danos causados pela tecnologia de nudificação por IA.

O Grok tem enfrentado escrutínio por causa de deepfakes sexualmente explícitos. Em janeiro, uma organização de vigilância estimou que a ferramenta gerou mais de 23.000 imagens sexualizadas de crianças ao longo de 11 dias, o que levou a investigações em vários países. Em março, três menores na Califórnia juntaram-se a outros em ações judiciais contra a xAI, alegando que o Grok foi usado para transformar as suas fotografias em material de abuso sexual infantil gerado por IA.

A xAI afirmou ter suspendido mais de 50.000 contas e apresentado mais de 70.000 denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas em 2026. O caso centra-se agora na questão de saber se a lei regula discurso ou tecnologia.