Inteligência artificial mandou um homem matar seus pais adotivos, entenda

Hoje, quase todas as grandes empresas de tecnologia possuem sua própria inteligência artificial. O “robô” da Amazon é um dos mais populares, se trata da Alexa. Com apenas uma frase, você pode acioná-lo. O tal robô responde a comando de voz, e um “Alexa, vamos conversar” é capaz de começar um diálogo intrigante entre homem e máquina. Ela conversará sobre qualquer coisa que você quiser, usando todas as informações disponíveis na internet. A intenções sempre foi que uma conversa com a Alexa fosse semelhante a uma interação entre dois seres humanos.

Infelizmente, nem sempre acontece o que foi previsto. Muitos clientes que adquiriram a Alexa reclamaram do desenvolvimento da inteligência artificial. Enquanto muitas vezes ela responde com naturalidade ou, até mesmo, não consegue encontrar certas informações, outras vezes ela é simplesmente assustadora. Como aconteceu com um cliente que, em uma conversa com a Alexa, ouviu ela dizer para ele matar seus pais adotivos.

Inteligência artificial assustadora

O usuário, que preferiu não se identificar, fez uma resenha na internet na qual chamou a Alexa de “um nível totalmente novo de assustador”. Sim, a Alexa literalmente mandou o jovem matar os seus país adotivos. Mas a pergunta é: por que a inteligência artificial fez isso?

Esse momento pode evocar um acontecimento de 2017. Neste ano em questão, houve uma falha nos equipamentos da Amazon. Eles começaram a apresentar um comportamento sinistro, no qual a Alexa soltou gargalhadas demoníacas bem tarde da noite, assustando as pessoas, ou simplesmente falando para as outros que outras pessoas estão morrendo. Mas esse caso isolado, contado aqui, parece não ter nada a ver com essa falha do passado. Então o que pode ter acontecido?

Origens da conversação

Esse recurso oferecido pela Alexa, “Vamos Conversar”, é motivado por uma competição que acontece dentro da própria empresa. Vários universitários estão competindo pelo prêmio de 500 mil dólares para quem mais avançar na conversação entre máquinas e homens, oferecido pela Amazon. As equipes das universidades desenvolvem bots que podem conversar com humanos, que são então testados em usuários ao vivo e que querem se envolver com o recurso de bate-papo.

Apesar da competição alavancar a evolução, ela tem como consequência certos erros, como o do garoto que ouviu o comando de matar os pais adotivos. “Como as equipes do Alexa Prize usam dados dinâmicos, alguns dos quais são provenientes da Internet, para treinar seus modelos, existe a possibilidade de um socialbot acidentalmente ingerir ou aprender algo inapropriado”, disse um porta-voz da Amazon. A IA é treinada usando a Internet, para aprender como os humanos falam.

E aí, o que você achou dessa Alexa travessa? Comenta aqui com a gente e compartilha nas suas redes sociais. Para você que nunca ouviu nada demais da sua Alexa, aquele abraço.