Seria impossível controlar uma IA superinteligente, de acordo com cálculos

A velocidade de avanço e crescimento da tecnologia está muito rápida. A inteligência artificial (IA) é uma tecnologia que possibilita que máquinas adquiram conhecimentos por meio de experiências, se adaptem às condições e consigam desempenhar tarefas como os seres humanos. Parece uma ideia promissora. Mas assim como os robôs, ainda existe uma certa preocupação sobre o quanto esse tipo de tecnologia pode evoluir. E claro, se isso significaria que as máquinas podem ultrapassar os seus criadores.

A comunicação, entre robôs e seres humanos, tanto no ambiente real, quanto na internet, já tem acontecido através de recursos da inteligência artificial. Até onde essa inteligência pode chegar, ninguém consegue dizer. Mas que ela vem, revolucionando o mundo dos humanos, isso é real.

As coisas que a IA vêm conseguindo fazer com o passar do tempo tem aumentado e cada vez mais impressionando as pessoas. Ela está cada vez mais aprendendo a trabalhar com os humanos.

Superinteligência

 

No entanto, há décadas se discute a ideia de que a IA possa derrubar a humanidade. Agora em janeiro de 2021 os cientistas deram seu veredito a respeito de se conseguiríamos controlar uma superinteligência de computados de alto nível. A resposta foi: definitivamente não.

Isso aconteceria porque controlar uma superinteligência muito além da compreensão humana iria exigir uma simulação dessa superinteligência para que fosse possível se analisar. Contudo, se os humanos não forem capazes de compreendê-la, é impossível criar essa simulação.

Além disso, os autores do estudo sugerem que regras como “não causar danos aos humanos” não pode ser definidas se não for compreendido que tipo de cenário a IA criará. E uma vez que o sistema de computador está trabalhando em um nível acima do escopo dos programadores humanos existentes, não se pode estabelecer limites.

“Uma superinteligência apresenta um problema fundamentalmente diferente daqueles normalmente estudados sob a bandeira da ‘ética do robô’. Isso porque uma superinteligência é multifacetada. E, portanto, potencialmente capaz de mobilizar uma diversidade de recursos para atingir objetivos que são potencialmente incompreensíveis para os humanos, quanto mais controláveis”, escreveram os pesquisadores.

Controle

Parte desse raciocínio vem do problema de parada apresentado por Alan Turing em 1936. O centro do problema é saber se um programa de computador chegará ou não a uma conclusão. E responderá para que seja interrompido, ou então ficará em um loop eterno tentando encontrar uma.

Embora se possa saber isso para alguns programas específicos, é logicamente impossível encontrar uma forma que permita que se saiba isso para cada programa potencial que poderia ser escrito.

E ensinar uma IA alguma ética e dizer para ela não destruir o mundo, coisa que os pesquisadores já disseram ser impossível de se fazer, é limitar as capacidades da superinteligência.

“Uma máquina superinteligente que controla o mundo parece ficção científica, mas já existem máquinas que executam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como as aprenderam. Portanto, surge a questão de saber se isso poderia em algum momento se tornar incontrolável e perigoso para a humanidade”, concluiu o cientista da computação Manuel Cebrian, do Instituto Max-Planck para o Desenvolvimento Humano.

Fonte: https://www.sciencealert.com/calculations-suggest-it-ll-be-impossible-to-control-a-super-intelligent-ai