Inteligência Artificial diferencia etnias por meio de exames de raio-x

Todo dia surge uma notícia nova sobre alguma proeza da danadinha da Inteligência Artificial. Nesse sentido, a última da vez é que um sistema conseguiu diferenciar as etnias das pessoas olhando apenas um exame de raio-x.

Exatamente, vendo somente os ossos do indivíduo, a ferramenta conseguiu identificar se ela é negra, branca ou asiática, por exemplo. Durante a empreitada, a Inteligência Artificial teve uma precisão de 90%, porcentagem bem alta nesse ramo. O estudo que acompanhou esse processo é de autoria de pesquisadores do Massachusetts Institute of Technology (MIT), publicado na revista científica Lancet.

Fonte: CDC/Unsplash

Nem ser humano consegue!  

A princípio, se você fizer uma exame de raio-x e entregar para um médico experiente, é muito difícil que ele consiga dizer de qual etnia você é. No entanto, cientistas estadunidenses montaram um sistema que faz essa diferenciação.

Basicamente, a construção dessa Inteligência Artificial se deu por deep learning (aprendizado profundo). Nessa técnica, o computador passa por um treino para realizar tarefas que seres humanos realizariam. Entre elas, estão reconhecimento de fala, previsões e identificação de imagens. Esta última é o pilar da análise de raio-x que está intrigando os estudiosos

Durante os testes, os pesquisadores alimentaram o sistema com imagens de raio-x do tórax, dos braços e das pernas. Além disso, a Inteligência Artificial também recebeu exames de tomografia torácica e mamografias. Nesse processo, os cientistas utilizaram uma série de pessoas na emissão dos raios-x.

Fonte: Sérgio Franco

A propósito, a equipe de estudo impediu que o sistema tivesse acesso a qualquer informação que indicasse a etnia da pessoa, como cor de pele e de cabelo. Também houve cortes nos dados ligados a tamanho dos seios e Índice de Massa Corporal (IMC).

Ainda assim, a Inteligência Artificial apresentou uma precisão de 90% na distinção das etnias dos voluntários. Nessa área de pesquisa, essa proporção é considerada muito alta e gera um certo receio nos cientistas.

Não prometia nada, mas entregou tudo! 

Em síntese, o que intriga os pesquisadores é o fato do modelo conseguir se sair tão bem mesmo no deserto de informações que eles criaram. Como se já não bastasse isso, a Inteligência Artificial também reconheceu a etnia mesmo diante de imagens borradas ou alteradas.

Nesse sentido, o MIT manifestou sua surpresa com a descoberta: “Essa é uma façanha que nem mesmo os médicos mais experientes podem fazer, e não está claro como o modelo foi capaz de fazer isso”.

Inclusive, de início, a professora Marzyeh Gassami estranhou os resultados das análises da Inteligência Artificial. De acordo com ela, parecia que havia algum engano nos dados que o sistema trazia aos estudiosos. No entanto, o que chegou a eles foi uma genuína precisão que ninguém sabe explicar.

Fonte: Convergência Digital

Sendo assim, uma das teses é que o modelo está identificando diferenças na quantidade de melanina entre um voluntário e outro. Nós humanos não conseguimos perceber essas variações olhando para um exame de raio-x, porém, elas estão lá, e talvez a máquina esteja captando-as. Todavia, isso é só um palpite que precisa de mais estudos para se confirmar.

A propósito, por conta da necessidade de mais estudos, os cientistas entendem que não é hora de implementar essa Inteligência Artificial nos hospitais. Afinal, conforme já dito, é uma máquina que replica comportamentos humanos, o que pode chegar a incluir preconceitos racistas que circulam na sociedade.

Portanto, a cautela se dá até que seja possível compreender os critérios que a Inteligência Artificial usa na diferenciação. Caso contrário, surge o perigo do sistema não servir como uma fonte de dados importantes para a atuação médica, e sim como um propagador de pareceres racistas.

Fonte: Metrópoles.