Qual a chance da IA se revoltar contra os humanos? Ciência responde

Se, alguma vez na vida, você assistiu a A.I. Inteligência Artificial, filme lançado em 2001, dirigido por Steven Spielberg, a probabilidade de querer ver um robô, de qualquer tipo, na sua frente é bem próxima a zero. Além desse exemplo, existem várias outras histórias, seja em livros, livros ou videogames, de máquinas se rebelando contra os seus criadores. Mas será que a IA realmente pode se revoltar contra os humanos?

Com essa pergunta em mente, os pesquisadores da Universidade Técnica de Darmstadt, na Alemanha, e da Universidade de Bath, no Reino Unido, foram procurar a resposta. Para isso, eles fizeram observações se os modelos de linguagem grandes (LLMs) tem a capacidade de desenvolver habilidades para além do seu código. De acordo com o resultado visto por eles, parece que não existe um motivo para temer a IA se revoltar contra os humanos por enquanto.

IA se revoltando contra os humanos

Revista Fórum

Conforme o tamanho dos modelos de linguagem atuais vão aumentando existe a preocupação de que eles consigam desenvolver habilidades perigosas, como o planejamento e o raciocínio.

No estudo, os pesquisadores fizeram a análise de quatro modelos LLMs que desenvolveram tarefas emergentes, isso quer dizer, tarefas que eles não foram treinados de forma explícita.

Como resultado eles não viram nenhuma evidência de desenvolvimento de pensamento independente ou algum tipo de comportamento que estivesse fora da programação. Além disso, todas as habilidades que os modelos exibiram se explicaram pela capacidade deles em seguir instruções, memorização e proficiência linguística.

Tudo isso mostrou que o medo de uma IA se revoltar contra os humanos através de um desenvolvimento de comportamentos inesperados e criação de consciência não se justifica.

Real perigo está entre os humanos

Brasil soberano e livre

Embora os modelos de linguagem tenham evoluído nos últimos anos ficando bem mais sofisticados, conseguindo manter conversas coerentes e naturais por texto, eles não são perfeitos. Até porque não tem inteligência real, o que faz com que eles não consigam diferenciar informações boas e ruins em vários casos.

E o perigo real está nas pessoas que usam esses modelos e na forma como eles são usados. Isso porque, diferente da IA, as pessoas são menos previsíveis e questões como direitos autorais, confiança, poluição digital, entre outros, já estão sendo levantados por conta desse uso. De acordo com os pesquisadores, essas preocupações e ameaças devem ser o foco dos próximos trabalhos científicos.

“Nossos resultados não significam que a IA não seja uma ameaça. Em vez disso, mostram que o suposto surgimento de habilidades de pensamento complexas associadas a ameaças específicas não é apoiado por evidências e que podemos controlar muito bem o processo de aprendizagem de LLMs”, conclui Iryna Gurevych, autora da pesquisa, em artigo da Universidade Técnica de Darmstadt.

Fonte: Olhar digital

Imagens: Revista Fórum, Brasil soberano e livre