XAI de Elon Musk restringe Grok após protestos por imagens sexualizadas
Desbloqueie o Editor’s Digest gratuitamenteRoula Khalaf, editora do FT, seleciona suas histórias favoritas neste boletim informativo semanal. A empresa de IA de Elon Musk, xAI, restringiu o uso de seu controverso gerador de imagens de IA Grok a assinantes pagantes, após um clamor crescente sobre seu uso para espalhar deepfakes sexualizados de mulheres e crianças. Essas revelações levaram legisladores da UE, França e Reino Unido a ameaçar a plataforma com multas e proibições, a menos que ela tomasse medidas. “A geração e edição de imagens estão atualmente limitadas a assinantes pagantes”, postou Grok no X. xAI não respondeu imediatamente a um pedido de comentários adicionais. Grok foi intencionalmente projetado para ter menos proteções de conteúdo do que os concorrentes, com Musk chamando o modelo de “busca máxima da verdade”. O chatbot da empresa também inclui um recurso que permite aos usuários gerar imagens picantes. O primeiro-ministro do Reino Unido, Sir Keir Starmer, prometeu tomar medidas contra X na quinta-feira, instando a plataforma de mídia social a “agir em conjunto” e impedir que sua ferramenta de chatbot de IA Grok produza imagens sexualizadas de crianças. Entretanto, a Comissão Europeia ordenou que X retenha documentos internos relativos a Grok até ao final do ano. Os ministros franceses também denunciaram as imagens sexuais que Grok gerou aos procuradores e aos reguladores dos meios de comunicação social. Em 3 de janeiro, Musk postou no X que “qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”. A ascensão da IA generativa levou a uma explosão de imagens deepfake não consensuais, graças à facilidade de usar a tecnologia para criar tais imagens. A Internet Watch Foundation, uma organização sem fins lucrativos sediada no Reino Unido, disse que as imagens de abuso sexual infantil geradas por IA duplicaram no ano passado, com o material a tornar-se mais extremo. Embora a xAI tenha dito que retirou imagens ilegais de crianças geradas por IA, o último incidente levantará mais preocupações sobre como é fácil substituir as barreiras de segurança em modelos de IA. A indústria de tecnologia e os reguladores têm lutado contra o impacto social de longo alcance da IA generativa.RecomendadoEm 2023, pesquisadores da Universidade de Stanford descobriram que um banco de dados popular usado para criar geradores de imagens de IA estava cheio de material de abuso sexual infantil.As leis que regem o conteúdo prejudicial gerado pela IA são irregulares. Em maio de 2025, os EUA sancionaram a Lei Take It Down, que aborda a “pornografia de vingança” gerada por IA e os deepfakes. O Reino Unido também está a trabalhar num projeto de lei para tornar ilegal a posse, criação ou distribuição de ferramentas de IA que possam gerar material de abuso sexual infantil e para exigir que os sistemas de IA sejam exaustivamente testados para verificar se não podem gerar conteúdos ilegais.
Publicado: 2026-01-09 10:12:00
fonte: www.ft.com
