Papa Francisco defende regulamentação de IA

A inteligência artificial (IA) é uma tecnologia que dá às máquinas a possibilidade de terem conhecimentos através de experiências, e permite que elas se adaptem ao seu meio e desempenhem tarefas quase da mesma maneira que um ser humano faria. A princípio, isso é uma ótima ideia. No entanto, ninguém sabe ao certo até onde essa tecnologia pode nos ajudar ou então ser a nossa ruína.

Tal preocupação tem ganhado cada vez mais força com grandes nomes, tanto do ramo tecnológico como de outros setores, juntando-se à causa. Agora, dois aliados importantes entraram também nessa defesa de uma regulamentação urgente para a IA: o Papa Francisco e o Vaticano.

O líder da igreja católica escolheu o tema “Inteligências Artificiais e Paz” para falar no Dia Mundial da Paz de 2024, que é comemorado em primeiro de janeiro. Outra medida criada nesse sentido foi o próprio guia de ética e princípios para o uso da IA no Vaticano.

O papa já foi alvo de imagens falsas criadas por IA que viralizaram no mundo todo e deixou muita gente em dúvida se a imagem era ou não real. Nela, o líder religioso apareceu usando um casaco branco bem estiloso, e em uma outra foto ele estava sem camisa.

Regulamentação da IA

Olhar digital

Por conta das imagens e de todo o caminho que a IA está tomando, a igreja fez um apelo para que os governantes do mundo todo discutam regras para a inteligência artificial. De acordo com o Vaticano, essa regulamentação tem que acontecer imediatamente antes que seja tarde demais.

Na visão deles, fazer isso é uma questão de priorizar os humanos com relação às máquinas. E a igreja católica ainda pediu para que seja evitado “contribuir para a disseminação de um sistema de desinformação”.

“A evolução dos sistemas de inteligência artificial torna cada vez mais natural a comunicação através e com máquinas, de modo que é cada vez mais difícil distinguir o cálculo do pensamento, a linguagem produzida por uma máquina, daquela gerada pelos seres humanos”, disse o Vaticano em um comunicado.

Além disso, tanto o papa como o Vaticano deixaram claro que não são a favor do fim da IA, mas sim de que limites sejam estabelecidos para ela.

“É fundamental orientar a inteligência artificial e os algoritmos, para que todos formem uma consciência responsável sobre o uso e desenvolvimento dessas novas formas de comunicação que se somam às das redes sociais e da internet”, continuou o Vaticano.

Manual

Olhar digital

O manual que o Vaticano fez sobre o uso da inteligência artificial tem 140 páginas e foi feito através de uma parceria entre o Dicastério para a Cultura e a Educação do Vaticano com o Centro Markkula para a Ética Aplicada, da SCU (Universidade de Santa Clara).

De acordo com a igreja católica, esse documento foi criado para ajudar as pessoas em todas as etapas da tecnologia, indo desde a programação até o uso no dia a dia. Segundo Ann Skeet, coautora do manual, a linguagem dele é adequada para a engenharia e para os negócios, justamente para que os profissionais dessas áreas possam seguir as recomendações e os padrões já conhecidos.

Preocupações

Tecmundo

Além do Papa Francisco, grandes figuras da tecnologia também mostraram receios com todo o desenvolvimento que a IA tem feito nos últimos tempos. Um deles foi Geoffrey Hinton, um dos maiores nomes da inteligência artificial, e ex-vice-presidente do Google. O homem é conhecido como “padrinho da IA” e recentemente deixou seu cargo e fez um alerta sobre os riscos do uso dessa tecnologia.

Segundo Hinton, em entrevista ao The New York Times, ele deixou seu cargo em abril desse ano como uma forma de demonstrar sua preocupação com o desenvolvimento das inteligências artificiais. De acordo com ele, existem vários problemas éticos que ainda não foram resolvidos associados com as IAs generativas, como por exemplo, o chatGPT, Bard e bing chat.

Na visão dele, esses modelos podem gerar uma onda de desinformação no mundo todo, onde as pessoas não conseguiriam diferenciar o que é verdade das mentiras. Uma outra preocupação que ele tem é com relação aos empregos e a possibilidade de alguns acabarem. Ele acredita que essas inteligências artificiais podem fazer muito mais do que acabar com a parte chata do trabalho e acabar trazendo problemas para vários setores.

Além disso, o “padrinho da IA” também se preocupa com o uso de armas autônomas no futuro. Até porque, esses modelos poderiam ser treinados para manejar o armamento.

Embora a maior parte dessas preocupações de Hinton sejam teóricas, elas podem se tornar verdade se não existir uma regulamentação ou alguns mecanismos eficazes de controle da IA. Tanto é que uma das preocupações dele é que o desenvolvimento delas dê uma escalada tão grande que chegue em um ponto em que elas serão usadas de uma forma nada positiva para a sociedade.

Mesmo que ele tenha desenvolvido inteligência artificial por 15 anos, Hinton disse que mudou seu posicionamento em 2022 quando o Google, OpenAI e algumas outras concorrentes começaram a criação de sistemas com uma inteligência maior que a dos humanos. De acordo com ele, em cinco anos a evolução foi “assustadora”. Por conta disso, esses sistemas poderiam sim ser problemáticos nos próximos cinco anos.

Contudo, segundo Jeff Dean, cientista-chefe do Google, a empresa tem uma “abordagem responsável” e está de olho nos “riscos emergentes”.

Fonte: Olhar digital,  Canaltech

Imagens: Olhar digital, Tecmundo