Prosseguimos na análise da Encíclica “Magnifica Huanitas”, pela sua importância a atualidade. E começamos por recordar que o Papa Francisco em Laudato si’ denunciava a crescente referência a um paradigma tecnocrático no mundo globalizado, num mundo em que se torna mais evidente que a técnica deixa de ser um mero instrumento e que, quando se torna critério, acaba por determinar o que é importante, reduzindo a criação a um objeto de exploração e as pessoas a engrenagens dum sistema que quer ser mais eficiente. Este paradigma tem-se expandido, devido à difusão da inteligência artificial (IA), das ciências cognitivas, da nanotecnologia, da robótica e da biotecnologia. Essas inovações podem tornar-se uma grande ajuda para o desenvolvimento humano integral, contudo, podem agir como um acelerador do paradigma tecnocrático, necessitando de um novo enquadramento espiritual, ético e político. Neste sentido, o Papa Leão XIV recorda as palavras de Romano Guardini: «o homem moderno não está educado para usar corretamente o seu poder». Assim, o perigo da humanidade se tornar vítima das próprias conquistas foi motivo de preocupação de Paulo VI, quando advertiu para que «os progressos científicos mais extraordinários, as invenções técnicas mais assombrosas, o desenvolvimento económico mais prodigioso, se não estiverem unidos a um progresso social e moral, voltam-se, necessariamente, contra o homem».

Assim, o progresso técnico exige a ponderação sobre a visão antropológica que o orienta e sobre os fins que persegue. «Se o desenvolvimento tecnológico avança sem uma maturação ética e social adequada, pode acontecer que os meios aumentem sem que a humanidade cresça na mesma medida: “tem-se mais”, mas não “se é mais” e a pessoa corre o risco de ser avaliada sobretudo com base no desempenho que garante». Importa, deste modo, o controle das plataformas digitais, das infraestruturas, dos dados e da capacidade de computação, que não é prerrogativa dos Estados, mas sim de grandes atores económicos e tecnológicos que estabelecem as condições de acesso, as regras de visibilidade e as próprias possibilidades de participação. Aqui temos de estar de sobreaviso: Quando um poder desta magnitude se concentra tende a tornar-se opaco e a fugir ao controle público, com aumento do risco de “novas dependências, exclusões, manipulações e desigualdades”.

Ante a concentração de poder no mundo digital, os grandes princípios da Doutrina social católica tornam-se critérios para avaliar e discernir o novo cenário: a dignidade inalienável da pessoa humana, o bem comum, o destino universal dos bens, a subsidiariedade, a solidariedade e a justiça social. Estes princípios exigem que se verifique se o poder das infraestruturas digitais e dos algoritmos favorece realmente a participação e a responsabilidade, protege os mais frágeis, assegura um acesso equitativo às oportunidades e permanece orientado para o bem de todos. Isto é fundamental.

A IA corre o risco de tornar-se obsoleta em pouco tempo, dada a impressionante velocidade de desenvolvimento destes sistemas. Por outro lado, sabemos muito pouco sobre o seu funcionamento efetivo. Não é possível dar uma definição unívoca e completa da IA. Devemos evitar o equívoco de equiparar esta “inteligência” à humana. Estes sistemas imitam algumas funções da inteligência humana. Ao fazê-lo, muitas vezes superam-na em velocidade e amplitude de cálculo, no entanto, este poder permanece exclusivamente ligado ao tratamento de dados: as ditas inteligências artificiais não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade. Não possuem uma consciência moral: “não julgam o bem e o mal, não captam o sentido último das situações, não assumem sobre si o peso das consequências. Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem, porque não penetram o horizonte afetivo, relacional e espiritual da humanidade.

O uso da IA não é uma questão meramente técnica: ao interferir em processos que afetam a vida do dia a dia das pessoas, ela incide sobre direitos, oportunidades, reputação e liberdade. Decisões delicadas que dizem respeito ao trabalho, ao crédito, ao acesso a serviços e à reputação das pessoas correm o risco de ser confiadas inteiramente a sistemas automatizados que desconhecem «a compaixão, a misericórdia, o perdão e, sobretudo, a abertura à esperança de mudança da pessoa». Surgem, deste modo, usos manifestamente anti-humanos, como a manipulação da informação ou a violação da privacidade, mas pode também haver uma ameaça menos evidente, quando os sistemas de IA, apresentando-se como neutros e objetivos, refletem e reforçam estereótipos ou posições ideológicas daqueles que os projetaram e treinaram.

“Confiar, na prática, a um algoritmo o poder de selecionar quem merece ou não, sem que ninguém mais assuma o peso da decisão, significa confiar-lhe a tarefa de redefinir os limites das possibilidades humanas”. Neste processo perde-se a responsabilidade cívica e política, porque os mais fracos são dispensados, sob o argumento da neutralidade e objetividade. A injustiça torna-se silenciosa, e desaparecem a compaixão, a misericórdia e o perdão. Deste modo, não podemos considerar a IA moralmente neutra. “Se um sistema for concebido ou utilizado de modo a tratar certas vidas como menos dignas, ou a excluí-las sem possibilidade de apelo, não se trata de um mero instrumento “a ser bem utilizado”: introduz já um critério que contradiz a dignidade inalienável da pessoa” Devemos assim questionarmo-nos sobre o instrumento e sobre que ideia de pessoa e sociedade que consideramos.

 “Para que a IA respeite a dignidade humana e sirva verdadeiramente o bem comum, é essencial que as responsabilidades sejam claras em todas as etapas: desde quem concebe e treina os sistemas a quem os utiliza e decide confiar-lhes escolhas concretas”. Se há falta de transparência, torna-se decisivo assumir a “responsabilização” (accountability): a possibilidade de identificar quem deve “prestar contas” das decisões, motivá-las, controlá-las e, quando necessário, contestá-las. A qualidade de uma civilização não se mede pelo poder dos seus meios, mas pelo cuidado que sabe oferecer, pela capacidade de reconhecer o outro enquanto pessoa e não enquanto função.

Uma dimensão importante do ser humano é a capacidade de estar atento e de saber cuidar uns dos outros. Esta aprende-se e aperfeiçoa-se com a experiência. É o saber de experiências feito. Ler histórias a uma criança, fazer companhia a um idoso, cuidar de quem precisa, tornar acolhedor um espaço, são gestos que se vivem no ambiente familiar, ajudando-nos a aprender e a interiorizar a importância do cuidado, treinando-nos para reconhecer o outro como a outra metade de nós, como pessoa digna de atenção. A tecnologia pode apoiar o cuidado mútuo entre as pessoas, ao oferecer ferramentas que, por exemplo, ajudem a prever e a organizar, mas sem derrubar a liberdade e o discernimento do ser humano, sujeito das relações e responsável pelas decisões.

Se há instrumentos tecnológicos que melhoram a vida humana, o desenvolvimento e o progresso, devemos aperfeiçoá-los, limitando a sua influência negativa. O bem comum, a defesa dos direitos humanos e a preservação da dignidade da pessoa humana – eis o que devemos ter sempre presente na sociedade e na História.

Guilherme d’Oliveira Martins