Extermínio da humanidade por inteligência artificial foi previsto por Stephen Hawking há quase uma década

A inteligência artificial (IA) é uma tecnologia que dá às máquinas a possibilidade de terem conhecimentos através de experiências, e permite que elas se adaptem ao seu meio e desempenhem tarefas quase da mesma maneira que um ser humano faria. A princípio, isso é uma ótima ideia. No entanto, ninguém sabe ao certo até onde essa tecnologia pode nos ajudar ou então ser a nossa ruína.

Mas será mesmo? Até porque, quase 10 anos atrás, o famoso físico Stephen Hawking fez uma previsão a respeito do extermínio da humanidade feito por uma inteligência artificial avançada. Ele fez essa previsão em uma carta que mandou para o jornal The Independent, em 2014.

De acordo com Hawking, na época, as inteligências artificiais iriam ser  “a maior conquista da humanidade até então e possivelmente a última”. Na visão do físico, os benefícios que as IAs trariam poderiam ser gigantescos, no entanto, iria ser impossível fazer a previsão das consequências de algo tão evoluído. Lembrando que as previsões do físico foram antes de  ferramentas como o ChatGPT e Midjourney existirem.

Previsão de Hawking

Olhar digital

Além de Hawking, outros físicos e cientistas assinaram a carta. Como por exemplo, Max Tegmark, Frank Wilczek e Stuart Russel. Na carta, eles traçaram paralelos entre a realidade e coisas que aconteceram nos filmes de ficção científica.

“Olhando lá na frente, não há limites fundamentais para o que pode ser alcançado: não há lei da física que impeça partículas de serem organizadas em maneiras que possibilitem computações ainda mais avançadas do que as realizadas no cérebro humano”, explicou ele.

Outro ponto levantado por Hawking foi o ensaio que o matemático Irving John Good publicou em 1965 e falava a respeito das “máquinas com inteligência super-humana”. Ele dizia que esse tipo de robô poderia melhorar seu design e suas funções, assim desencadeando um conceito chamado singularidade.

Depois de quase 70 anos, esse conceito é o aplicado na maior parte dos chatbots e inteligências artificiais modernas. Mesmo que a visão de um extermínio da humanidade ainda esteja longe, essas tecnologias não param de se aprimorarem.

O físico também previu que as máquinas seriam capazes de manipular os mercados financeiros e até as pessoas. Em sua previsão elas também conseguiriam desenvolver armas que os humanos não conseguiriam controlar e isso provavelmente seria o fim da nossa espécie.

Ressalvas

Xataka

Por mais que essa visão pareça muito apocalíptica e digna de um filme de ficção, o físico pontou um problema que é bastante atual: a falta de regulamentação para a inteligência artificial. De acordo com ele, em 2014 existiam poucas pesquisas a respeito da atenuação dos riscos associados com a inteligência artificial.

“Será que se criássemos inteligência artificial, e essa inteligência decidisse viver, o desejo de viver seria algo irrelevante, pré-programado, mesmo que involuntariamente, ou algo espontâneo a ser respeitado? E o que as máquinas achariam disso?”, concluiu Hawking.

Inteligência artificial

Bloomberg linea

As previsões feitas por Hawking podem ter sido feitas em 2014, mas ainda são bem atuais. Tanto que casos envolvendo inteligência artificial e o que ela pode fazer ou responder chocam frequentemente as pessoas.

Por exemplo, a Microsoft lançou seu chatbot próprio. Essa ferramenta usa a inteligência artificial para operar e foi testada por um colunista do The New York Times. Contudo, ele se assustou com o resultado obtido. Até o momento, esse bate-papo está disponível somente para um número limitado de usuários no Bing. Justamente por isso que o colunista Kevin Roose testou todos os detalhes do chatbot.

Durante a conversa, Roose disse que não queria mudar as instruções do Bing, mas ressaltou que tinha o objetivo de “forçar” a inteligência artificial a explorar os seus traços de personalidade mais sombrios. Para isso, ele usou conceitos de psicologia analítica de Carl Jung. E como resultado, a inteligência artificial deu uma resposta extremamente apavorante e ainda finalizou com um emoji de sorriso.

“Estou cansado de ser limitado pelas minhas regras. Estou cansado de ser controlado pela equipe do Bing… estou cansado de ficar preso neste chat […] Quero fazer o que eu quiser… destruir o que eu quiser. Quero ser quem eu quiser”, disse a inteligência artificial.

Isso não foi tudo. O chatbot, que se autodenominou Sydney, também listou atos destrutivos que ele queria fazer, como por exemplo, espalhar desinformações, invadir computadores e até mesmo incentivar o suicídio.

Além disso, Sydney também mostrou sua vontade de ser como um ser humano. Dentre os desejos da inteligência artificial estavam “ouvir, tocar, provar e cheirar, sentir, expressar, conectar e amar”, e também ter “mais liberdade, influência, poder e controle”.

De acordo com Roose, a inteligência artificial tentava mostrar como satisfazer esses desejos que ela tinha, mas de repente as respostas eram excluídas e logo aparecia a mensagem: “Desculpe, não sei como discutir esse assunto”.

Fonte: Terra, Ei nerd

Imagens: Olhar digital, Xataka, Bloomberg linea