«Não se deve permitir que os algoritmos determinem o modo como entendemos os direitos humanos» – Mensagem para o Dia Mundial da Paz 2024
Cidade do Vaticano, 31 dez 2023 (Ecclesia) – O Papa denuncia, na sua mensagem para o Dia Mundial da Paz 2024, que se celebra a 1 de janeiro, os riscos de sistemas de regulação das “opções pessoais” baseados em algoritmos, com riscos de manipulação de indivíduos e sociedades.
“Estas formas de manipulação ou controlo social requerem atenção e vigilância cuidadosas, implicando uma clara responsabilidade legal por parte dos produtores, de quem os contrata e das autoridades governamentais”, escreve, num texto intitulado ‘Inteligência Artificial e Paz’.
Numa reflexão sobre os sistemas de inteligência artificial, Francisco observa que estes estão suscetíveis a difundir “formas de preconceito e discriminação”.
“Além disso, por vezes, as formas de inteligência artificial parecem capazes de influenciar as decisões dos indivíduos através de opções predeterminadas associadas a estímulos e dissuasões”, acrescenta.
A mensagem alerta para o “uso invasivo da vigilância ou da adoção de sistemas de crédito social.
Não se deve permitir que os algoritmos determinem o modo como entendemos os direitos humanos, ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar para trás o passado”.
O Papa aponta ao impacto das novas tecnologias no âmbito laboral, pedindo que os responsáveis políticos promovam “o respeito pela dignidade dos trabalhadores e a importância do emprego para o bem-estar económico das pessoas, das famílias e das sociedades, a estabilidade dos empregos e a equidade dos salários”.
Francisco alude aos desafios para a educação, colocados pela utilização de formas de inteligência artificial, defendendo a “promoção do pensamento crítico”.
“Falar de ‘formas de inteligência’, no plural, pode ajudar sobretudo a assinalar o fosso intransponível existente entre estes sistemas, por mais surpreendentes e poderosos que sejam, e a pessoa humana”, acrescenta.
A mensagem sublinha a necessidade de instituir organismos internacionais que possam “examinar as questões éticas emergentes e tutelar os direitos” das pessoas.
“A dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros da única família humana devem estar na base do desenvolvimento de novas tecnologias”, insiste Francisco.
O Papa assume que a inteligência artificial se vai tornar “cada vez mais importante”, levantando desafios “não apenas de ordem técnica, mas também antropológica, educacional, social e política”.
“Deste modo, os progressos notáveis das novas tecnologias da informação, sobretudo na esfera digital, apresentam oportunidades entusiasmantes, mas também grave risco, com sérias implicações na prossecução da justiça e da harmonia entre os povos”, prossegue.
O Dia Mundial da Paz foi instituído em 1968 por São Paulo VI (1897-1978) e é celebrado no primeiro dia de cada ano, com uma mensagem papal.
“Espero que esta reflexão encoraje a fazer com que os progressos no desenvolvimento de formas de inteligência artificial sirvam, em última análise, a causa da fraternidade humana e da paz”, apela Francisco.
OC
Vaticano: Papa alerta para riscos utilização da inteligência artificial em contexto militar