“Seja você quem for, leia Magnifica Humanitas, releia e reflita sobre ela: aprenderá mais com ela do que pode imaginar.”
O artigo é de Slavoj Žižek, publicado por L’Osservatore Romano, em IHU
Slavoj Žižek, filósofo esloveno, é professor de filosofia na European Graduate School e diretor internacional do Birkbeck Institute for the Humanities da Universidade de Londres. Autor, entre outros livros, de Em defesa das causas perdidas (Boitempo).
Eis o artigo.
O capitalismo desenfreado de hoje está se aproximando de uma nova fase, ainda mais perigosa, ou seja, aquela do feudalismo digital: uma inteligência artificial sem freios e orientada ao lucro corre o risco de concentrar a riqueza e o poder algorítmico nas mãos de alguns poucos monopólios tecnológicos.
Muitos críticos têm chamado a atenção para diversos aspectos dessa ameaça, mas o que faltava até agora era uma visão mais ampla e clara, que possa oferecer uma análise do papel da inteligência artificial em nossas sociedades, evitando tanto a armadilha de rejeitá-la como intrinsecamente prejudicial quanto a de elevá-la a instrumento milagroso capaz de resolver nossos maiores problemas. O que nenhum político ou teórico social conseguiu fazer foi feito pelo Papa Leão de forma insuperável em sua encíclica Magnifica Humanitas.
O ponto de partida do Papa é que a tecnologia nunca é neutra, pois assume as características daqueles que a projetam, financiam, regulamentam e utilizam. O Papa insiste na necessidade de garantir que as tecnologias não se concentrem nas mãos de poucos, ampliando assim o fosso entre os incluídos e os excluídos da revolução digital. Ele também rejeita “qualquer forma de gestão paternalista ou assistencialista da vida social”: o que precisamos é de responsabilidade compartilhada por todos, não de uma nova elite que mascara sua força brutal por trás de uma falsa face humana. E para esclarecer ainda mais esse ponto, o Papa reitera que o desenvolvimento algorítmico não pode ser deixado apenas à “mão invisível” do livre mercado: é necessária uma nova forma de ação social.
Não causa surpresa que qualquer um que acredite que uma autoproclamada inteligência artificial “boa” deva governar o mundo com seus “bons algoritmos” se sinta ameaçado pela análise do Papa.
Alguns indivíduos, como Peter Thiel, invocaram o Anticristo para desenvolver sua teoria da plena soberania da inteligência artificial, mas o paradoxo é que justamente essa teoria parece possuir todas as características do Anticristo que afirma combater. Por quê? Eles alegam estar preocupados com o risco de um “estado totalitário mundial” que possa impedir o progresso científico e tecnológico. Mostram-se, ao mesmo tempo, antidemocráticos e, na prática, fascistas liberais: de fato, defendem a ditadura total da inteligência artificial, fundada na religião e no poder do estado, para manter a estabilidade e a coesão social. Eles têm razão ao acreditar que, em nossas sociedades, que ainda conservam uma aparência de abertura, a unidade e a coesão não podem ser impostas por meio de medidas estatais e ideológicas fortes e diretas (como na Rússia e na China). Então, por que não o fazer por meio do espaço digital, controlando e regulando o que as pessoas pensam e como elas agem por meio da exploração implacável de seus desejos miméticos? Dessa forma, podem combinar o liberalismo total fora do controle estatal (dos senhores neofeudais da inteligência artificial) com o controle dos indivíduos exercido pelo Estado e pela religião.
Eis um exemplo extremo dessa atitude: em meados de abril, a megacorporação Palantir publicou um manifesto de 22 pontos (ver https://www.businessinsider.com /palantir-manifestoc-summary-2026-4) cuja premissa principal é que o Vale do Silício tem uma dívida moral com o país que possibilitou seu desenvolvimento, e é por isso que a elite de engenharia do Vale do Silício tem a obrigação positiva de participar da defesa da nação:
“Para que as sociedades livres e democráticas possam prevalecer, é necessário algo mais do que um mero apelo moral. É necessário um poder duro, e neste século, o poder duro será construído sobre o software. A questão não é se armas baseadas na IA serão construídas; é quem as construirá e com qual propósito. Nossos adversários não se deterão em debates teatrais sobre os méritos do desenvolvimento de tecnologias com aplicações cruciais para a segurança militar e nacional. Eles simplesmente seguirão em frente.”
E a Palantir (e outras empresas) já está fazendo isso, fornecendo algoritmos para bombardear (aparentemente sem se importar se forem atingidos também civis) nas guerras do nosso tempo. Essa atitude não é exatamente o oposto do apelo do Papa para que a inteligência artificial seja “desarmada”? Do ponto de vista do Papa, as questões que o manifesto da Palantir denuncia como ameaças às nossas liberdades — nossas preocupações em relação à inteligência artificial descontrolada, as catástrofes ambientais e a perspectiva de uma nova guerra global — não são justamente preocupações justificadas sobre tendências que nos empurram para a autodestruição? Não existem pontos em comum aqui: é preciso escolher.
No entanto, o Papa realiza um passo fundamental a mais, em direção ao nível filosófico e teológico mais profundo. Não basta analisar o contexto social, econômico e político da inteligência artificial. A questão crucial é: existe algo no âmago do ser humano que resiste à lógica da inteligência artificial? A resposta do Papa é: o papel construtivo do fracasso e dos limites.
“Tudo o que se apresenta como ‘limite’ – incapacidade, doença, velhice, sofrimento, vulnerabilidade – tende a ser interpretado, antes de mais, como um defeito a corrigir, e não como um espaço onde o humano amadurece e se abre à relação. Em vez disso, devemos recordar que o humano não floresce apesar dos limites, mas, muitas vezes, através dos limites (…) Aqui [para os cristãos] reside a diferença radical em relação aos sonhos prometeicos: o que salva o ser humano não é a autossuficiência aperfeiçoada, mas uma relação que liberta, uma comunhão que transforma (…) Uma tecnologia que classifica e otimiza o que já existe pode tornar-se, sem querer, um obstáculo à mudança e ao crescimento. Para um algoritmo, o erro é algo a corrigir; para uma pessoa, pode ser o início de uma mudança profunda“.
Nunca vou enfatizar o suficiente a importância universal dessas intuições. Vejamos “The House of the Rising Sun“, uma antiga canção popular inglesa, gravada dezenas de vezes por muitos artistas importantes, tanto brancos quanto negros, de Pete Seeger a Nina Simone; a versão definitiva foi feita pela banda de rock britânica Animals em 1964. Dezenas de ensaios foram escritos e pesquisas conduzidas para determinar as origens históricas da canção, bem como para identificar a verdadeira casa de Nova Orleans a que se refere a versão do século XX. A primeira ambiguidade já reside na natureza do “pecado” mencionado na canção: há referências ao alcoolismo (a casa como um bar onde se embebedar), à prostituição (um bordel), ao jogo de azar (um cassino corrupto), ao roubo (o covil de um bando de ladrões) e, por que não, a uma combinação de dois ou mais desses, ou mesmo todos os quatro. Todas essas opções são versões do excesso de prazer, de modo que a própria pluralidade de significados possíveis extrai sua força da manutenção da indefinição: todos os significados se referem a um X vago e imensurável de gozo que não pode ser diretamente nomeado. É precisamente essa qualidade do indizível que faz com que a casa funcione como sujeito: o X indizível é como uma parte adicional da Coisa (das Ding) excessiva. E minha hipótese é que um agente de IA seria incapaz de perceber esse aspecto indizível, desfocado, como parte da própria realidade: o agente de IA continuaria sua busca por possíveis significados definitivos da casa e consideraria o fracasso dessa busca como um simples fracasso, não como um resultado positivo.
Alguns seguidores de Nietzsche argumentam que o ser humano é uma passagem fracassada do ser animal para um estado superior (“super-homem”), um progresso frustrado, e que aqueles que geralmente percebemos como sinais de grandeza ou criatividade humana são precisamente reações a esse fracasso fundamental. Podemos então imaginar um estágio da humanidade que de alguma forma superou seu próprio fracasso constitutivo, uma humanidade sem sexo e mortalidade? Hoje podemos facilmente fazê-lo: seria um ser humano totalmente imerso na inteligência artificial e, por essa razão, privado da dimensão espiritual. Isso nos leva de volta ao tema do papel construtivo do limite por sermos humanos: nossos [da humanidade] maiores sucessos estão enraizados em nossas limitações mais profundas (fracasso, mortalidade e a sexualidade concomitante), ou seja, naquilo que só podemos experimentar como obstáculos à nossa existência espiritual “mais alta”. Não só é verdade que o ser humano nunca é plenamente transparente para si mesmo, como essa não transparência também o define ontologicamente.
A ideia de que o estágio “superior” possa sobreviver sem obstáculo, sem aquilo que impede sua plena realização, é uma ilusão que pode ser explicada em termos do paradoxo do que Lacan chamava de objet petit a, um obstáculo perturbador para a perfeição que gera a própria noção de perfeição à qual se opõe, de modo que, se eliminarmos o obstáculo, também perdemos aquilo a que ele se opõe. Esse paradoxo se manifesta em vários níveis, até na beleza feminina.
Uma senhora portuguesa mais encorpada contou-me certa vez uma anedota curiosa: quando o seu amante a viu completamente nua pela primeira vez, disse-lhe que se ela perdesse apenas um ou dois quilos, o seu corpo seria perfeito. A verdade, naturalmente, era que se ela tivesse perdido esses quilos, provavelmente teria uma aparência mais comum. O próprio elemento que parece perturbar a perfeição cria a ilusão de perfeição que perturba: se removermos o elemento excessivo, perdemos a própria perfeição. Então, o que acontece quando se percebe a imperfeição do nosso parceiro? Uma das reações é: apaixonamo-nos. O amor sexual significa ter que aprender a encarar o fracasso derradeiro do sexo, o fato de que “não existe relação sexual” (Lacan).
É por isso que um sujeito humano emerge apenas quando confrontado com um Outro impenetrável: ser humanos é uma pergunta sem resposta; ou, parafraseando o que Claude Lévi-Strauss disse sobre a proibição do incesto que subjaz à sexualidade humana, é a resposta a uma pergunta, mas não sabemos qual. Para nós, humanos, os limites e os fracassos não são simplesmente obstáculos a serem superados, mas também abrem espaço para a transcendência. Se você remove o limite, perde a própria transcendência, o que se vislumbra por trás dela.
Então, o que isso tem a ver com o cristianismo? Tudo. A singularidade do cristianismo é que aplica essa compreensão da finitude como único caminho para a transcendência ao próprio Deus. Como não católico, gosto de pensar que, em Cristo, Deus se tornou um ser humano mortal e finito, não apenas para deixar uma mensagem aos humanos mortais, mas também para se tornar plenamente Deus. A divindade não é algo que está lá em cima, fora do nosso mundo, mas sim algo pelo qual devemos lutar neste pobre mundo.
Portanto, seja você quem for, leia Magnifica Humanitas, releia e reflita sobre ela: aprenderá mais com ela do que pode imaginar.
