Inteligência artificial e sabedoria do
coração:
para uma
comunicação plenamente humana
MENSAGEM DO PAPA FRANCISCO PARA O 58º DIA
MUNDIAL DAS COMUNICAÇÕES SOCIAIS
Queridos irmãos
e irmãs!
A evolução dos sistemas da chamada
«inteligência artificial», sobre a qual já me debrucei na recente Mensagem para
o Dia Mundial da Paz, está modificando de forma radical
também a informação e a comunicação e, através delas, algumas bases da
convivência civil. Trata-se duma mudança que afeta não só aos profissionais,
mas a todos. A rápida difusão de maravilhosas invenções, cujo funcionamento e
potencialidades são indecifráveis para a maior parte de nós, suscita um espanto que oscila entre entusiasmo e desorientação e põe-nos inevitavelmente diante de questões
fundamentais.
A partir do coração
Antes de mais nada, convém limpar o
terreno das leituras catastróficas e dos seus efeitos paralisadores. Já há um
século Romano Guardini, refletindo sobre a técnica e o homem, convidava a não
se inveterar contra o «novo» na tentativa de «conservar um mundo belo condenado
a desaparecer». Ao mesmo tempo, porém, com veemência profética advertia: «O
nosso posto é no devir. Devemos inserir-nos nele, cada um no seu lugar,
aderindo honestamente, mas permanecendo sensíveis, com um coração
incorruptível, a tudo o que nele houver de destrutivo e não-humano». E
concluía: «Trata- se – é verdade – de problemas de natureza técnica, científica
e política; mas só podem ser resolvidos passando pelo homem. Deve-se formar um
novo tipo humano, dotado duma espiritualidade mais profunda, duma nova
liberdade e duma nova interioridade».
Neste
tempo que corre o risco de ser rico em técnica e pobre em humanidade, a
nossa reflexão só pode partir do coração humano. Somente dotando-nos
dum olhar espiritual, apenas recuperando uma sabedoria do coração é que
poderemos ler e interpretar a novidade do nosso tempo e descobrir o caminho
para uma comunicação plenamente humana. O coração, entendido biblicamente como
sede da liberdade e das decisões mais importantes da vida, é símbolo de
integridade e de unidade, mas evoca também os afetos, os desejos, os sonhos, e
sobretudo é o lugar interior do encontro com Deus. Por isso a sabedoria do coração é a virtude que nos
permite combinar o todo com as partes, as decisões com as suas consequências,
as grandezas com as fragilidades, o passado com o futuro, o “eu” com o “nós”.
Esta sabedoria do coração deixa-se encontrar por quem a busca e deixa-se
ver a quem a ama; antecipa-se a quem a deseja e vai à procura de quem é digno
dela (cf. Sab 6, 12-16). Está com quem aceita conselho
(cf. Pr 13, 10), com
quem tem um coração dócil, um coração que escuta (cf. 1 Re 3, 9). É um dom do Espírito
Santo, que permite ver as coisas com os olhos de Deus, compreender as
interligações, as situações, os acontecimentos e descobrir o seu sentido. Sem
esta sabedoria, a existência torna-se insípida, pois é precisamente a sabedoria
que dá gosto à vida: a sua raiz latina sapere associa-a
ao sabor.
Oportunidade e perigo
Não podemos esperar esta sabedoria das
máquinas. Embora o termo inteligência artificial já tenha
suplantado o termo mais correto utilizado na literatura científica de machine
learning (aprendizagem automática), o próprio uso da palavra «inteligência» é falacioso. É certo que as
máquinas têm uma capacidade imensamente maior que os seres humanos de memorizar
os dados e relacioná-los entre si, mas compete ao homem, e só a ele,
descodificar o seu sentido. Não se trata,
pois, de exigir das máquinas que pareçam humanas; mas de despertar o homem da
hipnose em que cai devido ao seu delírio de omnipotência, crendo-se sujeito
totalmente autônomo e autorreferencial, separado de toda a ligação social e
esquecido da sua condição de criatura.
Realmente o homem sempre teve
experiência de não se bastar a si mesmo, e procura superar a sua
vulnerabilidade valendo-se de todos os meios. Partindo dos primeiros
instrumentos pré-históricos, utilizados como prolongamento dos braços, passando
pelos meios de comunicação como extensão da palavra, chegamos hoje às máquinas
mais sofisticadas que funcionam como auxílio do pensamento. Entretanto cada uma
destas realidades pode ser contaminada pela tentação primordial de se
tornar como Deus sem Deus (cf. Gen 3), isto é, a tentação de
querer conquistar com as próprias forças aquilo que deveria, pelo contrário,
acolher como dom de Deus e viver na relação com os outros.
Cada
coisa nas mãos do homem torna-se oportunidade ou perigo,
segundo a orientação do coração. O próprio corpo, criado para ser lugar de
comunicação e comunhão, pode tornar-se instrumento de agressão. Da mesma forma,
cada prolongamento técnico do homem pode
ser instrumento de amoroso serviço ou de domínio hostil. Os sistemas de
inteligência artificial podem contribuir para o processo de libertação da
ignorância e facilitar a troca de informações entre diferentes povos e
gerações. Por exemplo, podem tornar acessível e compreensível um património
enorme de conhecimentos, escrito em épocas passadas, ou permitir às pessoas
comunicarem em línguas que lhes são desconhecidas.
Mas simultaneamente podem ser
instrumentos de «poluição cognitiva», alteração da realidade através de
narrações parcial ou totalmente falsas, mas acreditadas – e partilhadas – como
se fossem verdadeiras. Basta pensar no problema da desinformação que
enfrentamos, há anos, no caso das fake news e que hoje se
serve da deep fake, isto é, da criação e divulgação de imagens que
parecem perfeitamente plausíveis mas são falsas (já me aconteceu a mim também
ser objeto delas), ou mensagens-áudio que usam a voz duma pessoa, dizendo
coisas que ela própria nunca disse. A simulação, que está na base destes
programas, pode ser útil nalguns campos específicos, mas torna-se perversa
quando distorce as relações com os outros e com a realidade.
Já desde a primeira onda de
inteligência artificial – a das redes sociais – compreendemos a sua
ambivalência, constatando a par das oportunidades também os riscos e as
patologias. O segundo nível de inteligências artificiais geradoras marca,
indiscutivelmente, um salto qualitativo. Por conseguinte, é importante ter a possibilidade de perceber, compreender e
regulamentar instrumentos que, em mãos erradas, poderiam abrir cenários
negativos.
Os
algoritmos, como tudo o mais que sai da mente e das mãos do homem, não são
neutros. Por isso é necessário prevenir propondo modelos de
regulamentação ética para contornar os efeitos danosos, discriminadores e
socialmente injustos dos sistemas de inteligência artificial e contrastar a sua
utilização para a redução do pluralismo, a polarização da opinião pública ou a
construção do pensamento único. Assim reitero aqui a minha exortação à
comunidade das nações a “trabalhar unida para
adotar um tratado internacional vinculativo, que regule o desenvolvimento e o
uso da inteligência artificial nas suas variadas formas”. Entretanto,
como em todo o âmbito humano, não é suficiente a regulamentação.
Crescer em humanidade
Somos chamados a crescer juntos, em
humanidade e como humanidade. O desafio que temos diante de nós é realizar um
salto de qualidade para estarmos à altura duma sociedade complexa, multiétnica,
pluralista, multirreligiosa e multicultural. Cabe a nós questionar-nos sobre o
progresso teórico e a utilização prática destes novos instrumentos de
comunicação e conhecimento. As suas grandes possibilidades de bem são
acompanhadas pelo risco de que tudo se
transforme num cálculo abstrato que reduz as pessoas a dados, o pensamento a um
esquema, a experiência a um caso, o bem ao lucro, com o risco sobretudo de
que se acabe por negar a singularidade de cada pessoa e da sua história,
dissolvendo a realidade concreta numa série de dados estatísticos.
A revolução digital pode tornar-nos
mais livres, mas certamente não conseguirá fazê-lo se nos prender nos modelos
designados hoje como echo chamber (câmara de eco). Nestes
casos, em vez de aumentar o pluralismo da informação, corre-se o risco de se perder num pântano anônimo, favorecendo os
interesses do mercado ou do poder. Não é aceitável que a utilização da
inteligência artificial conduza a um pensamento anônimo, a uma montagem de
dados não certificados, a uma desresponsabilização editorial coletiva. A
representação da realidade por big data (grandes dados),
embora funcional para a gestão das máquinas, implica na realidade uma perda substancial da verdade das coisas,
o que dificulta a comunicação interpessoal e corre o risco de danificar a nossa
própria humanidade. A informação não pode
ser separada da relação existencial: implica o corpo, o situar-se na
realidade; pede para correlacionar não apenas dados, mas experiências; exige o
rosto, o olhar, a compaixão e ainda a partilha.
Penso na narração das guerras e
naquela «guerra paralela» que se trava através de campanhas de desinformação. E
penso em tantos repórteres que ficam feridos ou morrem no local em
efervescência para nos permitir a nós ver o que viram os olhos deles. Pois só
tocando pessoalmente o sofrimento das crianças, das mulheres e dos homens é que
poderemos compreender o caráter absurdo das guerras.
A
utilização da inteligência artificial poderá proporcionar um contributo
positivo no âmbito da comunicação, se não anular o papel do jornalismo no local,
antes pelo contrário se o apoiar; se valorizar o profissionalismo da
comunicação, responsabilizando cada comunicador; se devolver a cada ser humano
o papel de sujeito, com capacidade crítica, da própria comunicação.
Interrogativos de hoje e de amanhã
E surgem, espontâneas, algumas
questões: Como tutelar o profissionalismo e a dignidade dos trabalhadores no
campo da comunicação e da informação, juntamente com a dos utentes em todo o
mundo? Como garantir a interoperabilidade das plataformas? Como fazer com que as empresas que desenvolvem plataformas digitais
assumam as suas responsabilidades relativamente ao que divulgam daí tirando os
seus lucros, de forma análoga ao que acontece com os editores dos meios de
comunicação tradicionais? Como tornar mais transparentes os critérios
subjacentes aos algoritmos de indexação e desindexação e aos motores de
pesquisa, capazes de exaltar ou cancelar pessoas e opiniões, histórias e
culturas? Como garantir a transparência dos processos de informação? Como
tornar evidente a paternidade dos escritos e rastreáveis as fontes, evitando o escudo
do anonimato? Como deixar claro se uma imagem ou um vídeo retrata um
acontecimento ou o simula? Como evitar que as fontes se reduzam a uma só, a um
pensamento único elaborado algoritmicamente? E, ao contrário, como promover um
ambiente adequado para salvaguardar o pluralismo e representar a complexidade
da realidade? Como podemos tornar sustentável este instrumento poderoso, caro e
extremamente devorador de energias? Como podemos torná-lo acessível também aos
países em vias de desenvolvimento?
A partir das respostas a estas e
outras questões compreenderemos se a
inteligência artificial acabará por construir novas castas baseadas no domínio
informativo, gerando novas formas de exploração e desigualdade ou se, pelo
contrário, trará mais igualdade, promovendo uma informação correta e uma maior
consciência da transição de época que estamos a atravessar, favorecendo a escuta das múltiplas carências
das pessoas e dos povos, num sistema de informação articulado e pluralista.
Dum lado, vemos assomar o espectro duma nova escravidão, do outro uma conquista
de liberdade; dum lado, a possibilidade de que uns poucos condicionem o
pensamento de todos, do outro a possibilidade de que todos participem na
elaboração do pensamento.
A
resposta não está escrita; depende de nós. Compete ao homem decidir se há de tornar-se alimento para os
algoritmos ou nutrir o seu coração de liberdade, sem a qual não se cresce
na sabedoria. Esta sabedoria amadurece
valorizando o tempo e abraçando as vulnerabilidades. Cresce na aliança entre as
gerações, entre quem tem memória do passado e quem tem visão de futuro.
Somente juntos é que cresce a capacidade de discernir, vigiar, ver as coisas a
partir do seu termo. Para não perder a nossa humanidade, procuremos a Sabedoria
que existe antes de todas as coisas (cf. Sir 1, 4), que, passando através dos corações puros,
prepara amigos de Deus e profetas (cf. Sab 7, 27): há de ajudar-nos também a orientar os sistemas
da inteligência artificial para uma comunicação plenamente humana.
Roma – São João de
Latrão, 24 de janeiro de 2024.
[Francisco]
