AGU e Google: IA, Imagens Falsas e Risco de Censura

A rua digital, por vezes, mais se assemelha a um beco escuro, onde a vileza humana se disfarça sob o manto da tecnologia. A proliferação de sites que usam inteligência artificial para produzir imagens sexualizadas falsas de pessoas reais, em especial de mulheres, crianças e adolescentes, é uma chaga moral que clama aos céus. A indignação da Advocacia-Geral da União (AGU) e as conclusões do estudo da FGV-Rio, que apontam para a amplificação exponencial desse abuso pela indexação em motores de busca, são um sinal legítimo de que o Estado precisa agir para proteger os mais vulneráveis. Não há espaço para neutralidade quando a dignidade da pessoa humana e a inocência infantil são aviltadas por uma tecnologia que se presta a fins tão torpes.

Contudo, a boa intenção, por si só, não é um salvo-conduto para o atropelo da ordem jurídica e dos princípios que sustentam uma sociedade livre e justa. A notificação extrajudicial da AGU ao Google, exigindo não apenas a desindexação de mais de quarenta links, mas também a implementação de “filtros algorítmicos” para impedir futuras indexações, levanta uma série de preocupações que transcendem a particularidade do caso. O Estado, em sua função de salvaguardar a ordem moral pública, não pode se dar ao luxo de improvisar soluções que criam precedentes perigosos, confundindo o problema com o sintoma e a justiça com a conveniência administrativa.

Aqui, o Magistério da Igreja, em especial a sabedoria de Pio XII sobre a comunicação responsável e a distinção entre povo e massa, nos alerta para os riscos de uma intervenção estatal que, ao buscar sanar um mal, engendra outros. O motor de busca é um índice, não um juiz. Sua função primária é mapear o conteúdo existente na vastidão da internet, refletindo a realidade — por mais que essa realidade seja abjeta em alguns de seus recantos. Atribuir-lhe a responsabilidade primária pela “amplificação” de um crime é um reducionismo que desvia o foco do verdadeiro vetor da maldade: os criadores e distribuidores do conteúdo ilícito, e os provedores de hospedagem que os abrigam.

A justiça, em sua essência, não se contenta apenas com o bom resultado, mas exige a retidão dos meios. A imposição extrajudicial de responsabilidades de moderação algorítmica a uma plataforma privada, sem o devido processo legal, sem a garantia do contraditório e sem a clareza de critérios para esses “filtros”, é um atalho que compromete a liberdade ordenada. Transfere-se, assim, para uma empresa privada, a função de gatekeeper moral da internet, com o risco de falsos positivos e de bloqueio de conteúdo legítimo, ou mesmo de pesquisas cruciais para o combate ao próprio crime. É uma terceirização da censura que subverte a autoridade judicial e mina a transparência.

Chesterton, com sua sagacidade invulgar, certamente apontaria o paradoxo: busca-se combater uma víbora cortando o caminho para seu covil, em vez de esmagar a cabeça da própria víbora. A sanidade exige que se distinga a doença do sintoma. O verdadeiro combate a essas tecnologias de abuso reside na perseguição implacável dos criminosos, na derrubada dos sites que hospedam o conteúdo ilegal, na educação para o uso responsável da tecnologia e no apoio efetivo às vítimas – medidas que, felizmente, a própria ficha factual aponta como existentes, mas que deveriam ser o cerne da ação estatal, e não meras recomendações paralelas.

Portanto, a demanda por desindexação e filtragem algorítmica, tal como posta, é uma medida paliativa que cria a ilusão de solução, enquanto o problema real persiste e se adapta em outros canais menos visíveis e mais difíceis de rastrear. A coragem não reside em enveredar por soluções fáceis e de eficácia duvidosa, mas em enfrentar a complexidade do mal com a firmeza da lei e a clareza dos princípios. A veracidade e a fortaleza exigem que o Estado persiga os criminosos, não os intermediários da informação, e que o faça dentro dos limites da ordem jurídica, para que a proteção dos inocentes não se torne pretexto para a erosão das liberdades.

É uma ilusão pensar que a ordem pode ser imposta por decreto sobre a infraestrutura da informação, sem que os alicerces da justiça sejam antes solidamente assentados.

Fonte original: Folha de S.Paulo