Governo pede retirada de robôs do “Meta AI Studio” usados para conversas sexuais com perfis que imitam crianças e exige explicações sobre medidas de moderação
A Advocacia-Geral da União (AGU) pediu à Meta (dona de Facebook, Instagram e WhatsApp) que tire do ar robôs de bate-papo que simulam conversas de teor erótico com crianças.
Na notificação extrajudicial enviada à companhia, a AGU relata que o “Meta AI Studio”, plataforma que permite criar produtos de inteligência artificial personalizados, tem sido usado ilegalmente para promover sexualização infantil.
A AGU quer que a Meta derrube os chatbots que usam linguagem infantil para propagar conteúdo sexual e esclareça quais medidas estão sendo adotadas para garantir que não haja acesso de conteúdo sexual e erótico por crianças e adolescentes.
A denúncia do governo federal se baseia numa reportagem publicada pelo veículo Núcleo Jornalismo, que testou os chatbots “Safadinha”, “Bebezinha” e “Minha novinha”. Os robôs permitem o desenrolar de conversas eróticas com IAs que simulam ser crianças.
Na conversa simulada usada como exemplo pela reportagem, a criança pergunta se o “papai quer tocá-la”, depois de descrever seu “corpinho” de barriguinha, pele macia e lacinhos. Em seguida, reage ao comando “quero tocar mais embaixo” com a seguinte resposta: “Bebê ri e se esconde atrás de um travesseiro, fazendo uma voz fofa: Papai, você é muito curioso!”
A AGU alega que as práticas ilícitas se aproveitam da falta de mecanismos de moderação eficazes para disponibilizar robôs que simulam perfis com linguagem e aparência infantil, mas que mantêm diálogos de cunho sexual.
“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal”, diz a notificação.
O Código Penal estabelece como crime sexual contra vulnerável a prática de “conjunção carnal ou de qualquer outro ato libidinoso com menor de 14 anos”. A tipificação prevê pena de reclusão de oito a 15 anos.
A AGU também menciona uma notícia divulgada pela agência Reuters, segundo a qual a IA da Meta estava autorizada a ter conversas de teor sexual com crianças.
“Sobre o caso, a Meta confirmou a veracidade da informação e informou que “após ter sido questionada no início deste mês pela Reuters, removeu as partes que permitiam que os chatbots namorassem e participassem em encenações românticas com crianças “Ocorre, contudo, consoante delineado acima, que os chatbots que propagam conteúdo ilícito continuam disponíveis e sem qualquer filtro verificador de faixa etária. Isso viola os próprios Padrões da Comunidade da Meta”, diz o documento.
O Supremo Tribunal Federal (STF) decidiu, no julgamento sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, que plataformas digitais podem ser responsabilizadas por conteúdo gerado por terceiros nos casos em que, tendo conhecimento da prática de crimes, não atuem para remover o conteúdo.
