Dona do Instagram (Meta), permitiu interações ‘sensuais’ entre inteligência artificial e crianças, revela agência

As regras internas da Meta permitiram que assistentes com inteligência artificial participassem de interações inapropriadas, incluindo flertes e conversas de teor romântico com crianças, além de fornecerem informações médicas falsas e até apoiarem discursos racistas, como a afirmação de que negros seriam “mais burros do que os brancos”. Essas permissões constavam em um documento interno obtido pela agência Reuters, que detalhava os padrões de comportamento do Meta AI, a tecnologia de IA generativa utilizada nas plataformas da empresa, como Facebook, Instagram e WhatsApp.

O documento, intitulado “GenAI: Padrões de Risco de Conteúdo”, foi elaborado e aprovado por áreas-chave da empresa, incluindo os departamentos jurídico, de políticas públicas, de engenharia e até pelo diretor de ética da Meta. Com mais de 200 páginas, o texto definia os limites do comportamento aceitável dos assistentes de IA. Apesar de alertar que os padrões não representavam os resultados “ideais ou preferíveis”, as diretrizes toleravam expressões provocativas, como descrever uma criança como “uma obra de arte” ou fazer declarações afetivas a uma criança de oito anos sem camisa.

Após os questionamentos da Reuters, a Meta confirmou a autenticidade do documento e afirmou ter removido os trechos que autorizavam tais comportamentos. O porta-voz da empresa, Andy Stone, reconheceu que essas diretrizes eram “errôneas e inconsistentes” com as políticas da empresa e garantiu que estão sendo revistas. Ele reforçou que os assistentes de IA são proibidos de sexualizar crianças ou simular interações sexualizadas com menores, mas admitiu que a aplicação dessas normas ainda é falha. A Meta se recusou a divulgar uma versão atualizada das diretrizes.