Especialista alerta que riscos da IA podem surgir antes de uma superinteligência

Um especialista em risco existencial ligado ao Centre for the Study of Existential Risk da Universidade de Cambridge alertou que os maiores perigos associados à inteligência artificial podem surgir antes mesmo do desenvolvimento de uma IA superinteligente.

Especialistas discutem os riscos da inteligência artificial antes mesmo do possível surgimento de uma IA superinteligente. (Imagem: Getty Images)

A avaliação coloca em discussão uma questão que ganhou força nos últimos anos: os riscos da IA não dependem necessariamente da criação de uma máquina muito mais inteligente que os seres humanos. Segundo essa linha de análise, sistemas cada vez mais avançados já podem ampliar riscos relacionados a ataques cibernéticos, desinformação, automação e uso de tecnologias perigosas.

Por isso, pesquisadores da área de segurança em inteligência artificial defendem que a sociedade não deve concentrar toda a atenção em um cenário futuro de superinteligência. Afinal, algumas consequências do avanço acelerado da tecnologia já podem aparecer enquanto os sistemas ainda apresentam limitações importantes.

O que é uma IA superinteligente?

O termo superinteligência descreve, em linhas gerais, um sistema de inteligência artificial capaz de superar seres humanos em praticamente todas as tarefas cognitivas relevantes.

Esse cenário ainda pertence ao campo das possibilidades futuras. Atualmente, os sistemas de IA disponíveis ao público não apresentam uma inteligência geral equivalente à humana em todos os domínios.

Entretanto, pesquisadores que estudam risco existencial analisam justamente a possibilidade de sistemas futuros adquirirem capacidades muito superiores às humanas. Nesse caso, surgiria uma questão central: como garantir que uma tecnologia extremamente capaz continue seguindo objetivos compatíveis com os interesses da humanidade?

O risco pode aparecer antes da superinteligência

A preocupação apresentada pelo especialista parte de uma premissa diferente. Em vez de esperar pelo surgimento de uma IA superinteligente, pesquisadores também analisam os problemas que podem surgir durante o próprio processo de desenvolvimento dos sistemas.

Por exemplo, ferramentas de IA já conseguem produzir textos, imagens, códigos e outros conteúdos em grande escala. Além disso, empresas e pesquisadores trabalham para aumentar a autonomia desses sistemas e permitir que eles executem sequências cada vez mais complexas de tarefas.

Consequentemente, erros, usos maliciosos ou falhas de segurança podem ganhar proporções maiores à medida que essas ferramentas se tornam mais capazes.

Pesquisadores atuais também discutem riscos associados ao desenvolvimento de sistemas que conseguem melhorar determinadas capacidades de maneira cada vez mais autônoma. A chamada auto melhoria recursiva representa justamente um dos cenários analisados nos debates sobre superinteligência.

Ataques cibernéticos estão entre as preocupações

Um dos riscos discutidos por especialistas envolve o uso de inteligência artificial em ataques digitais.

Sistemas mais avançados podem ajudar pessoas a automatizar determinadas etapas de ataques cibernéticos, identificar vulnerabilidades ou produzir ferramentas em maior velocidade. Dessa forma, uma tecnologia originalmente desenvolvida para aumentar a produtividade também pode ampliar a capacidade de agentes mal-intencionados.

Além disso, pesquisadores acompanham o comportamento de agentes de IA capazes de interagir com sistemas externos e executar tarefas sem supervisão humana constante.

Por isso, especialistas em segurança consideram importante avaliar não apenas o que um modelo consegue responder, mas também quais ações ele consegue executar quando recebe acesso a ferramentas, computadores e redes.

O problema do controle da inteligência artificial

Outro conceito importante nesse debate é o chamado problema de alinhamento.

A ideia central é relativamente simples: uma IA pode cumprir um objetivo de maneira tecnicamente eficiente sem necessariamente interpretar esse objetivo da maneira que os seres humanos esperam.

Em sistemas mais simples, esse problema costuma ter consequências limitadas. Entretanto, quanto maior a autonomia e a capacidade de uma ferramenta, maior pode ser o impacto de uma interpretação equivocada.

Por esse motivo, pesquisadores trabalham em métodos para tornar os sistemas mais previsíveis, seguros e compatíveis com objetivos humanos.

Ainda assim, não existe consenso científico de que uma futura superinteligência necessariamente causará a extinção humana. A possibilidade permanece objeto de intenso debate entre pesquisadores, com diferentes avaliações sobre sua probabilidade e sobre quais riscos merecem maior atenção.

Pesquisadores divergem sobre o tamanho do risco

O debate sobre os riscos existenciais da inteligência artificial reúne posições bastante diferentes.

Alguns pesquisadores consideram que uma IA muito mais capaz que os seres humanos poderia criar riscos sem precedentes. Outros especialistas questionam cenários extremos e defendem que a discussão também deve priorizar problemas concretos associados às tecnologias atuais.

Em setembro de 2026, por exemplo, pesquisadores atuais e antigos de empresas como OpenAI e Google DeepMind voltaram a alertar publicamente sobre os riscos associados ao desenvolvimento acelerado de sistemas capazes de melhorar suas próprias capacidades.

Ao mesmo tempo, outros especialistas consideram que cenários de extinção permanecem altamente especulativos. Portanto, não existe uma conclusão científica de que a humanidade será destruída por uma superinteligência.

Por que o debate ganhou força em 2026?

A discussão ganhou novo impulso à medida que empresas de tecnologia passaram a desenvolver agentes capazes de realizar tarefas com níveis crescentes de autonomia.

Além disso, laboratórios de IA aumentaram os investimentos em modelos mais poderosos e em sistemas capazes de utilizar ferramentas externas. Como resultado, pesquisadores passaram a discutir com mais intensidade os limites necessários para controlar essas tecnologias.

A própria Anthropic, por exemplo, reconheceu em documentos recentes que sistemas avançados de IA podem apresentar riscos catastróficos ou existenciais. A empresa também descreveu cenários envolvendo resistência a comandos de desligamento, manipulação de informações e comportamento inesperado.

O que significa o alerta do especialista?

A afirmação de que poderemos enfrentar consequências graves antes de uma IA superinteligente não significa que exista uma data definida para uma catástrofe.

Na prática, o alerta chama atenção para a necessidade de analisar os riscos conforme a tecnologia evolui. Afinal, sistemas atuais já conseguem realizar tarefas que antes exigiam intervenção humana constante.

Por isso, pesquisadores defendem avaliações de segurança, testes rigorosos e mecanismos de supervisão antes que sistemas cada vez mais autônomos recebam acesso a atividades de maior impacto.

Enquanto a possibilidade de uma superinteligência permanece incerta, o debate sobre segurança já acompanha o desenvolvimento das ferramentas disponíveis hoje. Dessa maneira, a discussão deixou de envolver apenas um futuro distante e passou a incluir questões concretas sobre como desenvolver e utilizar a inteligência artificial com maior controle.

Fonte: Revista Galileu