Em um comunicado divulgado recentemente, as entidades exigem que, em até 30 dias, sejam estabelecidos procedimentos técnicos e operacionais para identificar e remover conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários. Também solicitam a suspensão imediata das contas de qualquer usuário envolvido na criação de imagens sexualizadas, tanto de crianças e adolescentes quanto de adultos, sem a devida autorização.
As recomendações também incluem a necessidade de um mecanismo eficaz e acessível que permita aos titulares de dados exercerem seus direitos, como a possibilidade de denunciar o uso irregular ou abusivo de seus dados pessoais. Esse mecanismo deve garantir uma resposta adequada e em tempo hábil, especialmente nos casos de criação de conteúdos sintéticos sexualizados sem consentimento.
As diretrizes emergem após a denúncia de usuários acerca da geração de conteúdos sexualizados que envolvem imagens de indivíduos reais, incluindo a produção de deepfakes — uma técnica que utiliza inteligência artificial para criar imagens enganosas. Esses conteúdos, que frequentemente possuem uma conotação pornográfica, afetam diretamente a dignidade humana e podem comprometer a proteção dos dados pessoais, além das relações de consumo.
O documento ressalta que as instituições estão preocupadas com o impacto desses conteúdos na vida de mulheres, crianças e adolescentes. Por isso, defendem que medidas sejam implementadas com urgência para impedir que o Grok continue gerando imagens ou vídeos que representem esses grupos em contextos sexualizados.
Embora a legislação atual, como o artigo 19 do Marco Civil da Internet, isente provedores de responsabilidade sobre o conteúdo gerado por terceiros, as instituições argumentam que a interação entre usuários e a IA do Grok torna a plataforma coautora desses conteúdos, e não apenas um mero intermediário. Além disso, o Supremo Tribunal Federal (STF) já sinalizou que a legislação vigente não protege adequadamente direitos constitucionais relevantes, reforçando a necessidade de um cuidado especial por parte das plataformas.
A política de autorregulação da plataforma X já prevê a proibição da publicação de imagens explícitas sem consentimento, mas a falta de rigor nos filtros da inteligência artificial torna essa argumentação insustentável. Por fim, caso as recomendações não sejam seguidas ou se forem implementadas de maneira insuficiente, as instituições poderão considerar outras medidas, tanto administrativas quanto judiciais, para garantir a proteção dos cidadãos, especialmente de grupos vulneráveis.
-
-
-
-
