Controle da IA na Guerra: Ética e Limites à Decisão Automática

A promessa da guerra inteligente, maquinada por algoritmos e teias de dados, acena com uma ilusão de controle perfeito. Os Estados Unidos, ao integrar a inteligência artificial como infraestrutura central de suas operações militares, notadamente através do sistema Maven Smart System da Palantir, buscam a vanguarda tecnológica para, afirmam, aprimorar a precisão tática e acelerar o ciclo de decisão em combate. A ambição é nítida: ligar cada sensor a cada atirador, otimizando a capacidade de resposta e, por extensão, fortalecendo a dissuasão. Tal avanço, contudo, não é meramente técnico; ele convida a uma reflexão profunda sobre os limites da soberba humana e a ordem moral que deve reger a aplicação de todo poder.

A sedução do poder algorítmico, que promete resolver os desafios da guerra com eficiência fria, não pode obscurecer as preocupações legítimas que surgem. A mais premente é a necessidade irrenunciável de estabelecer mecanismos claros de supervisão humana e de responsabilidade ética em decisões que, em última análise, envolvem a vida e a morte. Reduzir o combate a um cálculo de probabilidades ou a uma seleção automatizada de alvos, como alertou Pio XII em suas reflexões sobre a dignidade do povo frente à massificação, é desumanizar a guerra, transformando soldados em meros apêndices da máquina e civis em números frios nas estatísticas de danos colaterais. O risco de falhas algorítmicas, vieses em dados ou vulnerabilidades cibernéticas em sistemas tão críticos não é uma abstração; é uma ameaça concreta que pode ter consequências catastróficas.

A questão central, portanto, não é se a tecnologia avança, mas como ela avança e para onde nos conduz. A corrida armamentista em IA, embora justificada pela segurança nacional e pela manutenção de uma vantagem estratégica, pode paradoxalmente catalisar uma escalada de conflitos. Ao encurtar drasticamente os ciclos de decisão, diminui-se o espaço para a contenção política e para o juízo reto. A tentação de delegar a uma máquina o discernimento sobre a proporcionalidade da força ou a identificação de um combatente, como nos casos já relatados de tragédias e mortes de civis em conflitos, como o do Iêmen, é uma abdicação da responsabilidade moral que assiste unicamente ao ser humano. A precisão tecnológica sem a baliza da justiça e da veracidade pode facilmente degenerar em uma eficiência cruel.

Ademais, a crescente dependência estratégica de fornecedores privados, como a Palantir — empresa que obtém acesso a dados sensíveis civis e militares —, gera vulnerabilidades significativas. Essa fusão entre o complexo militar-industrial e o capitalismo de vigilância, impulsionada por uma regulação que a Tese descreve como “deliberadamente frouxa”, cria um problema de soberania e de potencial conflito de interesses. Não se trata de demonizar o setor privado, mas de questionar a primazia do lucro e da inovação desenfreada sobre os imperativos éticos e o controle público. A sanidade, como Chesterton nos lembraria, não reside na loucura lógica de uma máquina que opera sem freios morais, mas na humildade do reconhecimento de que a dignidade da pessoa humana não pode ser objeto de cálculo algorítmico.

Em vez de uma “regulação de toque leve” que apenas pavimenta o caminho para a primazia tecnológica, urge um discernimento moral robusto. Isso exige transparência sobre as capacidades e os limites reais da IA, a clareza sobre a cadeia de comando e a responsabilidade por cada decisão de vida ou morte. É preciso reordenar os bens, lembrando que a defesa da nação, por mais vital que seja, não pode jamais sacrificar os princípios da justiça e da humanidade. Os instrumentos de guerra, mesmo os mais avançados, devem permanecer sob o controle inalienável de homens conscientes, capazes de arcar com o peso de suas escolhas.

O timão da guerra pode ser impulsionado por motores cada vez mais potentes. Mas a direção, a bússola e o freio devem permanecer sempre nas mãos da razão e da moral, jamais entregues à frieza da máquina.

Fonte original: O Cafezinho