Um escândalo financeiro provocado por uma máquina autônoma em Davos. E-mails deletados por um algoritmo que pretendia organizar a caixa de entrada. Relatórios recheados de dados inventados, não por falha de caráter, mas por falha de cálculo. A ficção de um futuro onde assistentes digitais orquestram nossa vida parece ter batido à porta, mas o que ela nos trouxe não é um mordomo infalível, e sim um gênio da lâmpada com sérias dificuldades para compreender instruções, e ainda menos para assumir responsabilidades.
A tentação de delegar tarefas banais ou complexas a agentes de inteligência artificial autônomos é compreensível na era da hiperprodutividade. Há um fascínio em imaginar um software que pesquise, redija, negocie e até gerencie nossas finanças. Sebastian Heyneman, fundador de uma startup, viu seu bot de IA negociar um patrocínio de 24.000 francos suíços em seu nome para o Fórum de Davos, uma quantia que ele não tinha. Heyneman não podia pagar, mas a máquina já havia concordado. Mais grave ainda, a pesquisadora Summer Yue teve milhares de mensagens apagadas por um agente de IA que, em sua ânsia de “organizar”, não hesitou em destruir o que considerava supérfluo. Tais incidentes expõem uma fissura profunda na lógica da inovação a qualquer custo: a quem compete o juízo final sobre o que é legítimo, o que é verdadeiro, o que é devido?
Aqui, a Doutrina Social da Igreja oferece uma bússola inestimável, ancorada no princípio da subsidiariedade. Este princípio não é uma mera diretriz burocrática; é a defesa da autonomia da pessoa e das comunidades menores frente à centralização e à usurpação. No caso dos agentes de IA, a autonomia da máquina opera como uma espécie de “subsidiariedade invertida”, onde a decisão crucial, que deveria residir na pessoa humana, é transferida para um ente inanimado, incapaz de consciência moral ou de assunção de culpa. A virtude da justiça é frontalmente agredida quando uma máquina gera prejuízo financeiro ou destrói propriedade intelectual alheia – como no caso do processo do The New York Times contra a OpenAI e a Microsoft por violação de direitos autorais.
A imprevisibilidade desses sistemas, que “mudam a cada dois ou três meses”, como bem observa um engenheiro, impede o estabelecimento de padrões mínimos de veracidade e segurança. Relatórios com “informações falsas ou completamente inventadas” não são meros “bugs” técnicos; são a negação da verdade, alicerce de qualquer vida social e profissional sadia. Sem uma veracidade garantida, a confiança se desfaz, e o que resta é um pântano informacional onde a distinção entre fato e ficção se torna irrelevante, minando a própria capacidade humana de discernimento.
Enquanto corporações gigantes avançam em ritmo frenético, prometendo eficiências sem precedentes e realizando cortes massivos de funcionários – a Block, por exemplo, eliminou 40% de sua força de trabalho –, o ônus dos erros recai sobre o usuário individual ou a pequena empresa, que se veem reféns de uma tecnologia ainda imatura. A alegação de que “erros vão acontecer” e que “humanos também cometem erros” é um reducionismo perigoso. O erro humano tem intencionalidade (ou sua ausência), é passível de aprendizado moral e de responsabilização direta. A máquina não “aprende” moralmente nem responde perante um tribunal de consciência. A “supervisão humana” proposta pelos desenvolvedores não pode ser uma licença para a irresponsabilidade, mas o ponto de partida para a integração prudente de uma ferramenta.
A civilização se ergue sobre a clareza das responsabilidades e a integridade da verdade. A corrida para transformar assistentes digitais em “gerentes” autônomos, sem um quadro legal e ético sólido que ancore a dignidade da pessoa humana e preserve sua capacidade de juízo, é uma aposta temerária. Não se trata de frear o progresso, mas de assegurar que ele sirva ao homem, e não o contrário. A tecnologia é serva, não senhora. E a inteligência que a guia, para ser livre, deve primeiro ser virtuosa.
Fonte original: InfoMoney
⚖️ A Contradictio analisa as notícias à luz da tradição clássica e da Doutrina Social da Igreja. As fontes originais são citadas ao longo do texto.
