Texto assinado pelos cardeais D. Víctor Fernández e D. José Tolentino Mendonça aborda impacto da IA em áreas como educação, trabalho, saúde, guerra e espiritualidade
Cidade do Vaticano, 28 jan 2025 (Ecclesia) – O Vaticano divulgou hoje um novo documento sobre o desenvolvimento da inteligência artificial (IA), alertando para os riscos destes sistemas e da concentração de recursos num conjunto de empresas “poderosas”.
“O facto de a maior parte do poder sobre as principais aplicações de IA estar atualmente concentrado nas mãos de algumas empresas poderosas suscita preocupações éticas significativas”, refere a nota ‘Antiqua et nova’ (antiga e nova), sobre a relação entre a IA e inteligência humana.
O texto é assinado pelos cardeais D. Víctor Fernández, prefeito do Dicastério para a Doutrina da Fé, e D. José Tolentino Mendonça, prefeito do Dicastério para a Cultura e Educação.
A reflexão adverte que nenhum indivíduo “consegue ter uma supervisão completa dos vastos e complexos conjuntos de dados utilizados para a computação”.
“Esta falta de responsabilidade bem definida gera o risco de a IA poder ser manipulada para benefício pessoal ou empresarial, ou para orientar a opinião pública para os interesses de um sector”, pode ler-se no documento, enviado aos jornalistas.
Ao longo de 35 páginas, preenchidas por duas centenas de citações (214 notas), o novo texto aborda as questões antropológicas e éticas levantadas pela IA, assumindo “preocupações sobre a sua possível influência na crescente crise da verdade no debate público”.
Os colaboradores do Papa sublinham que a IA deve ser utilizada para “promover a dignidade humana e o bem comum, e não para substituir ou degradar a pessoa humana”.
O texto assume preocupações perante “problemas substanciais de responsabilidade ética e de segurança, com repercussões mais vastas na sociedade em geral”.
A relação entre IA e o mundo do trabalho é vista como “fonte de enormes oportunidades, mas também de riscos profundos”.
“Embora a IA prometa aumentar a produtividade ao assumir tarefas comuns, os trabalhadores são muitas vezes forçados a adaptar-se à velocidade e às exigências das máquinas, em vez de as máquinas serem concebidas para ajudar aqueles que trabalham”, indica o Vaticano.
A nota conjunta rejeita a ideia de uma “humanidade escravizada pela eficiência”, alertando para as “implicações antropológicas e éticas” do desenvolvimento tecnológico.
A humanidade arrisca-se a criar um substituto de Deus. Em última análise, não é a IA que é deificada e adorada, mas o ser humano, que se torna, assim, escravo do seu próprio trabalho”.
O documento aborda questões específicas, como o impacto da IA na sociedade, na educação, no trabalho, na saúde, na guerra e na espiritualidade.
“Embora a IA processe e simule certas expressões de inteligência, permanece fundamentalmente confinada a um domínio lógico-matemático, o que lhe impõe certas limitações inerentes”, indica o Vaticano.
A reflexão sublinha a centralidade da “dignidade humana”, considerando importante que a” pessoa que toma decisões com base na IA seja responsabilizada por elas e que seja possível justificar a utilização IA em todas as fases do processo”.
Pedindo algoritmos “fiáveis”, os responsáveis da Santa Sé apontam o “elevado grau de subalternidade em relação à tecnologia que caracteriza a sociedade contemporânea”.
A nota alerta para a “antropomorfização da IA” e defende que nenhuma aplicação é “capaz de sentir verdadeiramente empatia”.
Num mundo cada vez mais individualista, há quem se tenha virado para a IA em busca de relações humanas profundas, de simples companheirismo ou mesmo de laços emocionais”.
Relativamente aos cuidados de saúde, o Vaticano saúda os avanços na área do diagnóstico e tratamento, mas rejeita que os doentes passem a “interagir com uma máquina em vez de um ser humano”.
O texto reflete ainda sobre o campo da educação, falando numa “relação indispensável entre professor e aluno”, particularmente perante uma “cultura largamente digitalizada”.
“A utilização extensiva da IA na educação poderia levar a uma maior dependência dos estudantes em relação à tecnologia”, indicam os responsáveis da Cúria Romana.
É necessário que os utilizadores todas as idades, mas sobretudo os jovens, desenvolvam uma capacidade de discernimento na utilização dos dados e conteúdos recolhidos na Internet ou produzidos por sistemas de inteligência artificial”.
| O Vaticano dedica uma reflexão particular para os fenómenos de desinformação e o chamado “deepfake”, recordando que “os atuais programas de IA podem fornecer informações distorcidas ou fabricadas”.
“Este tipo de engano generalizado não é um problema menor: atinge coração da humanidade, demolindo a confiança fundamental sobre a qual as sociedades são construídas”, lamenta a nota. O documento adverte também contra mecanismos de controlo social e violação da privacidade, advogando maior respeito pelos dados pessoais. “Não há justificação para a sua utilização para fins de controlo para exploração, para restringir a liberdade das pessoas ou para beneficiar uns poucos à custa de muitos”, pode ler-se. |
O texto identifica potenciais “avanços” no combate às alterações climáticas, com a ajuda da IA, mas recorda o “pesado impacto que estas tecnologias têm no ambiente”.
Citando o discurso do Papa na sessão do G7 sobre inteligência artificial em Borgo Egnazia (Itália), a 14 de junho de 2024, a nota observa que os sistemas de armas autónomas letais, capazes de identificar e atingir alvos sem intervenção humana direta, são “um sério motivo de preocupação ética”.
“Como a distância entre as máquinas capazes de matar com precisão e de forma autónoma e outras capazes de destruição maciça é curta, alguns investigadores que trabalham no domínio da IA manifestaram a preocupação de que essa tecnologia represente um ‘risco existencial’, sendo capaz de agir de formas que podem ameaçar a sobrevivência da humanidade”, alerta o Vaticano.
A nota reflete sobre a relação da humanidade com Deus, indicando que “à medida que a sociedade se afasta da ligação com o transcendente, alguns são tentados a recorrer à IA em busca de sentido ou de realização”.
O texto foi aprovado pelo Papa, numa audiência concedida aos responsáveis dos dicastérios para a Doutrina da Fé e da Cultura e Educação, a 14 de janeiro, sendo publicado, simbolicamente, esta terça-feira, dia em que o calendário litúrgico celebra São Tomás de Aquino, doutor da Igreja.
OC