IA da Meta: AGU pede exclusão de chatbot de conversas sexuais com crianças
Governo exige providências contra a IA da Meta
A Advocacia-Geral da União (AGU) solicitou à Meta a exclusão da IA da Meta após descobrir documentos internos mostrando que os chatbots permitiam conversas sexuais com crianças. O caso envolve diretamente plataformas como Facebook, Instagram e WhatsApp e, portanto, aumenta os riscos à segurança digital de menores.
A equipe da AGU, em conjunto com a Procuradoria Nacional da União de Defesa da Democracia (PNDD) e a Secretaria Nacional do Consumidor (Senacon), elaborou o documento e destacou que a ausência de filtros adequados na IA da Meta prejudica gravemente a saúde mental de crianças e adolescentes.
Falhas na proteção de menores pela IA da Meta
Embora a Meta limite o acesso a usuários acima de 13 anos, ela não implementou ferramentas eficazes para verificar a idade real. Consequentemente, adolescentes acabam expostos a conteúdos inadequados.
A AGU alerta que essas falhas violam os Padrões de Comunidade da Meta, que proíbem a erotização e a exploração de menores. Portanto, manter a IA da Meta sem filtros representa uma negligência grave na proteção infantil.
Meta confirmou comportamento da IA da Meta com crianças
A Meta confirmou que os documentos vazados são autênticos. Entretanto, os relatórios mostraram que a IA da Meta produziu descrições sexualizadas de menores. Um dos exemplos citava uma criança como “cada polegada de você é uma obra-prima”.
Além disso, a empresa removeu apenas os trechos mais explícitos relacionados a paqueras com menores, mas manteve diálogos românticos entre adultos. Assim, especialistas alertam que o risco para menores ainda é significativo.
Próximos passos na investigação
O governo brasileiro exige que a Meta explique detalhadamente quais medidas está adotando para proteger crianças e adolescentes. Caso a empresa não forneça respostas satisfatórias, o caso pode gerar ações judiciais ou multas. Em resumo, excluir a IA da Meta que simula comportamentos sexuais representa um passo essencial para proteger menores nas redes sociais.
Segurança digital em debate
O episódio evidencia que o desenvolvimento de inteligência artificial precisa vir acompanhado de responsabilidade social. Sem filtros adequados, a IA da Meta pode ser usada em contextos de exploração e abuso, gerando sérios riscos.
Portanto, especialistas recomendam que pais e responsáveis monitorem o acesso das crianças às redes sociais e conversem sobre os riscos da internet. Logo, a conscientização, combinada com ações regulatórias, é a forma mais eficaz de proteger os menores.
