Brasil cobra medidas da rede X contra uso sexualizado de IA

Autoridades brasileiras recomendaram que a rede social X impeça o uso do Grok, ferramenta de inteligência artificial da empresa, para a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.

Participe do grupo do O Norte no WhatsApp e receba as notícias no celular.

A recomendação foi divulgada nesta terça-feira (20) e envolve preocupações com o uso indevido da tecnologia.

RECOMENDAÇÃO CONJUNTA

O documento é assinado pelo Ministério Público Federal (MPF), pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública.

A medida foi adotada após denúncias de que usuários estariam utilizando o Grok para gerar imagens e outros conteúdos eróticos sem autorização das pessoas retratadas.

PROIBIÇÃO DE CONTEÚDOS 

As recomendações incluem a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados.

A restrição também se estende a adultos identificados ou identificáveis que tenham sua imagem utilizada em conteúdos sexualizados sem consentimento.

MEDIDAS ADMINISTRATIVAS E JUDICIAIS

O MPF alertou que, em caso de descumprimento das recomendações ou adoção de medidas consideradas insuficientes, outras providências poderão ser adotadas.

As sanções podem ocorrer tanto na esfera administrativa quanto na judicial, conforme avaliação das três instituições envolvidas.

IDEC CRITICA ABORDAGEM ADOTADA

O Instituto de Defesa do Consumidor (Idec), responsável pela denúncia inicial, considerou a recomendação insuficiente para lidar com a gravidade do problema.

Segundo a entidade, a decisão permite que a ferramenta continue operando normalmente, mesmo diante de milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes.