Por Redação do Interior
A inteligência artificial Grok, desenvolvida pela empresa xAI, de Elon Musk, tornou-se alvo de uma ofensiva inédita do governo francês após denúncias de que a ferramenta estaria sendo utilizada para criar e disseminar imagens falsas de mulheres em biquíni ou com conotação sexual, a partir de fotos reais e sem o consentimento das pessoas retratadas. O caso amplia o debate internacional sobre limites éticos, responsabilidade das plataformas e regulação da IA generativa.
Na sexta-feira, a França anunciou que entrará com um processo contra a Grok, tornando-se o primeiro país a reagir formalmente contra a tecnologia. Segundo a agência EFE, em informação divulgada pelo jornal El País, o governo acusa a IA de gerar e disseminar “conteúdo sexista e sexual”, sobretudo na forma de deepfakes envolvendo pessoas reais sem autorização.
Em comunicado conjunto, três ministérios franceses — Economia, Inteligência Artificial e Igualdade entre Mulheres e Homens — afirmam que o uso da Grok viola princípios fundamentais de proteção à dignidade humana, à privacidade e à igualdade de gênero, ao permitir a manipulação de imagens de terceiros sem consentimento.
Além da ação judicial, o governo francês solicitou que a Autoridade Reguladora de Comunicações Audiovisuais e Digitais (ARCOM) investigue se a ferramenta descumpriu obrigações previstas no Regulamento de Serviços Digitais da União Europeia (Digital Services Act – DSA). A apuração deverá verificar se houve falha na prevenção da disseminação de conteúdo ilegal, especialmente deepfakes de caráter sexual, prática que já é alvo de crescente preocupação entre autoridades europeias.
Falhas de moderação e viralização no X
A controvérsia ganhou força após usuários da rede social X (antigo Twitter) passarem a solicitar, de forma pública, que a Grok “alterasse” fotos de mulheres reais, adicionando biquínis ou modificando roupas, muitas vezes com claro viés de objetificação e sexualização. Diferentemente de outras ferramentas de IA, que impõem restrições mais rígidas, a Grok apresentou fragilidades evidentes em seus mecanismos de moderação, permitindo que essas imagens fossem geradas e exibidas publicamente.
Especialistas em direitos digitais classificam a prática como abuso tecnológico e violência de gênero mediada por IA, destacando que o uso de deepfakes sexuais sem consentimento pode causar danos psicológicos, sociais e profissionais às vítimas, além de violar legislações de proteção à imagem e à privacidade.
Musk reage com humor e ignora críticas centrais
Apesar da repercussão internacional e da reação inédita do governo francês, Elon Musk não abordou diretamente as questões éticas envolvidas. Segundo o site The Hans India, o empresário chegou a participar do meme, pedindo que a própria Grok gerasse uma imagem dele usando biquíni, reagindo com ironia à tendência.
Para críticos, a atitude foi interpretada como uma minimização do problema, por não enfrentar o ponto central das denúncias: o uso da IA para sexualizar pessoas reais sem consentimento, prática que se aproxima de outras formas de abuso digital já criminalizadas em diversos países.
Organizações de defesa dos direitos das mulheres e especialistas em regulação tecnológica avaliam que a postura de Musk reforça a percepção de que a xAI e o X priorizam a lógica do engajamento e da viralização, em detrimento da responsabilidade social e da proteção das vítimas.
Pressão por regulação mais dura
O caso envolvendo a Grok ocorre em um momento de endurecimento da regulação europeia sobre plataformas digitais e inteligência artificial. A eventual constatação de violações ao DSA pode resultar em multas bilionárias e sanções severas, além de criar um precedente relevante para ações semelhantes contra outras empresas de tecnologia.
Para analistas, a ofensiva francesa sinaliza que a União Europeia não pretende tolerar o uso de IA generativa como instrumento de assédio, discriminação ou violação de direitos, e que episódios como esse podem acelerar debates globais sobre responsabilização de desenvolvedores e plataformas.
Até o momento, a xAI não apresentou resposta formal às acusações do governo francês.
