A plataforma de inteligência artificial Grok, ligada à rede social X (anteriormente Twitter), tomou a decisão de suspender temporariamente a funcionalidade de geração de imagens. A medida surge em resposta a uma onda de protestos e críticas que apontavam para a criação de conteúdo sexualizado e inapropriado, incluindo representações de deepfakes.
Fontes indicam que a suspensão foi uma ação direta da empresa controladora do Grok, visando conter a disseminação de imagens que violavam diretrizes éticas e de segurança. A controvérsia ganhou força nas redes sociais, com usuários expressando preocupação com o uso indevido da tecnologia de IA para fins prejudiciais.
A capacidade do Grok de gerar imagens a partir de descrições textuais, embora inovadora, revelou-se suscetível a abusos. A polêmica em torno dos deepfakes sexualizados, em particular, levantou sérias questões sobre a responsabilidade das plataformas de IA na moderação de conteúdo e na prevenção de danos. A interrupção temporária da ferramenta busca permitir que a empresa revise seus protocolos e implemente salvaguardas mais robustas.
