IA apaga provas de abusos de direitos humanos em redes sociais

Uma recente investigação chocante da BBC revelou que evidências potenciais de abusos dos direitos humanos estão sendo apagadas permanentemente após serem removidas por ferramentas de inteligência artificial (IA) utilizadas por empresas de tecnologia.

Plataformas de grande porte, como Meta (Facebook e Instagram) e Google (YouTube), têm removido vídeos com conteúdo violento e gráfico, muitas vezes utilizando IA para realizar essa tarefa. No entanto, essas filmagens, quando excluídas sem serem adequadamente preservadas, podem ser cruciais para processar criminosos de guerra.

As empresas de tecnologia afirmam que estão tentando equilibrar a necessidade de preservar provas contra criminosos com a proteção dos usuários contra conteúdo prejudicial. Alan Rusbridger, membro do Conselho de Supervisão da Meta, argumenta que a indústria tem sido excessivamente cautelosa em suas práticas de moderação.

Embora as plataformas declarem que podem manter material gráfico quando este é de interesse público, a BBC relata que teve uma experiência contraditória ao tentar publicar imagens documentando ataques a civis na Ucrânia. As filmagens foram prontamente excluídas, apesar de seu valor em revelar a realidade dos eventos.