Padrinho da IA alerta: “só um instinto materno” pode impedir a soberania dos robôs

Geoffrey Hinton, cientista premiado como o “padrinho da inteligência artificial”, levantou um debate inquietante em conferência sobre o futuro da IA: forçar máquinas a se submeterem aos humanos não adianta. 

No fim elas serão mais espertas, pois especialistas apontam que, de 5 a 20 anos, veremos IAS com superinteligência que encontrarão formas de contornar  nossos controles.

A visão de Hinton

Geoffrey Hinton

No evento Ai4, em Las Vegas, Hinton compartilhou sua visão de que sistemas de IA superinteligentes desenvolverão, rapidamente, dois impulsos poderosos – um para permanecerem vivos e outro para garantirem controle.

De acordo com a CNN, esse ano vimos um exemplo da capacidade de manipulação da inteligência artificial:

… Para evitar ser substituído, um modelo de IA tentou chantagear um engenheiro sobre um caso que descobriu em um e-mail.

Portanto, a abordagem tradicional de dominação humana não apenas é ineficaz, mas perigosa.

Para ilustrar, ele usou a relação entre mãe e filho. Essa é a única dinâmica real em que algo mais inteligente está sob influência de algo menos inteligente. O instinto maternal, reforçado por forças sociais e afetivas, poderia ser a chave para uma IA que “não nos descarte quando se tornar mais poderosa”.

Hinton também admitiu que, ainda, não há um caminho claro para implementar esse instinto na IA, mas ressaltou apelando aos pesquisadores:

Se não forem ‘parentados’, eles vão nos substituir”

O cientista não menospreza os avanços positivos, impulsionados pela IA, como tratamentos médicos, diagnósticos mais rápidos e descobertas científicas.

Enfim, é imprescindível um alinhamento verdadeiro entre a inteligência artificial e os valores humanos, ou seja, não “obrigar”, mas sim forjar relações colaborativas.

Fonte: CNN Brasil