Por que o Google chamou duas pessoas negras de gorilas?

Em maio desse ano, o Google lançou um aplicativo que possui um sistema automático de reconhecimento de fotos que são tiradas no celular e armazenadas numa nuvem sem limite de espaço. O sistema analisa a foto e a classifica com tags (etiquetas digitais) para depois ser armazenada. Funciona assim: você tirou uma foto daquele lindo bolo de chocolate que você acabou de fazer. O app vai analisar a foto e indicar, por meio da tag, que aquela imagem se trata de um bolo. Como tudo no Google, o app funcionou muito bem…só que não. O app “bugou”, e o Google chamou duas pessoas negras de gorilas.

Um dos usuários do app,  Jacky Alciné, tirou uma série de fotos com sua namorada e jogou para armazenamento na nuvem. Tanto Jacky quanto a namorada são negros, e ao serem analisados pelo app, as imagens foram ‘etiquetadas’ equivocadamente como ‘gorilas’. O rapaz ficou indignado (e com razão) e publicou em seu Twitter junto com as fotos: “Que tipo de dados de amostras de imagens coletadas que resultaria nisto?”

Ao constatar o estúpido erro (depois de cerca de 30 minutos), o chefe de arquitetura social do Google, Yonatan Zunger, mandou uma resposta de caráter oficial, dizendo “Falo em nome do Google+ aqui. Não, não é dessa forma que fazemos marcações. Isso está 100% errado”. Yonatan pediu a Jacky acesso à sua conta para resolver o problema logo após.

Ao ser contatado, o porta-voz oficial do Google declarou que “estão tomando medidas imediatas para evitar que este tipo de resultado apareça. Ainda há claramente muito trabalho a ser feito com a rotulagem automática de imagens e nós estamos estudando como podemos evitar esse tipo de erro no futuro”.