Por 
A inteligência artificial (IA) é uma tecnologia que dá às máquinas a possibilidade de terem conhecimentos através de experiências, e permite que elas se adaptem ao seu meio e desempenhem tarefas quase da mesma maneira que um ser humano faria. A princípio, isso é uma ótima ideia. No entanto, ninguém sabe ao certo até onde essa tecnologia pode nos ajudar ou então ser a nossa ruína.
Essa preocupação parece ser uma pauta recente e está ganhando mais força entre as próprias pessoas ligadas a esse ramo. Como no caso de Geoffrey Hinton, um dos maiores nomes da inteligência artificial, e ex-vice-presidente do Google. O homem é conhecido como “padrinho da IA” e recentemente deixou seu cargo e fez um alerta sobre os riscos do uso dessa tecnologia.
Preocupações
Expresso
Segundo Hinton, em entrevista ao The New York Times, ele deixou seu cargo em abril desse ano como uma forma de demonstrar sua preocupação com o desenvolvimento das inteligências artificiais. De acordo com ele, existem vários problemas éticos que ainda não foram resolvidos associados com as IAs generativas, como por exemplo, o chatGPT, Bard e bing chat.
Na visão dele, esses modelos podem gerar uma onda de desinformação no mundo todo, onde as pessoas não conseguiriam diferenciar o que é verdade das mentiras. Uma outra preocupação que ele tem é com relação aos empregos e a possibilidade de alguns acabarem. Ele acredita que essas inteligências artificiais podem fazer muito mais do que acabar com a parte chata do trabalho e acaba trazendo problemas para vários setores.
Além disso, o “padrinho da IA” também se preocupa com o uso de armas autônomas no futuro. Até porque, esses modelos poderiam ser treinados para manejar o armamento.
Possibilidade
Tibau
Embora a maior parte dessas preocupações de Hinton sejam teóricas, elas podem se tornar verdade se não existir uma regulamentação ou alguns mecanismos eficazes de controle da inteligência artificial. Tanto é que uma das preocupações dele é que o desenvolvimento delas dê uma escalada tão grande que chegue em um ponto em que elas serão usadas de uma forma nada positiva para a sociedade.
Mesmo que ele tenha desenvolvido inteligência artificial por 15 anos, Hinton disse que mudou seu posicionamento em 2022 quando o Google, OpenAI e algumas outras concorrentes começaram a criação de sistemas com uma inteligência maior que a dos humanos. De acordo com ele, em cinco anos a evolução foi “assustadora”. Por conta disso, esses sistemas poderiam sim ser problemáticos nos próximos cinco anos.
Contudo, segundo Jeff Dean, cientista-chefe do Google, a empresa tem uma “abordagem responsável” e está de olho nos “riscos emergentes”.
Desenvolvimento de inteligência artificial
Fortknox
O “padrinho da IA” não é o único que está preocupado com o desenvolvimento dela e o que isso pode representar para a sociedade. Tanto que, recentemente, Elon Musk e mais 2.600 líderes e pesquisadores do setor de tecnologia se juntaram e assinaram uma carta pedindo que fosse feita uma pausa temporária no desenvolvimento da inteligência artificial.
Eles pediram essa pausa por conta de acreditarem que “riscos profundos para a sociedade e a humanidade” possam estar relacionados com essa tecnologia. Outro grande nome assinou a carta além de Musk, Steve Wozniak, o cofundador da Apple.
Quem publicou a carta com o pedido foi o Future of Life Institute (FOLI), que é uma instituição de pesquisa com sede nos EUA, no dia 22 de março. A convocação feita pelo instituto foi para todas as empresas de inteligência artificial para que elas pausassem imediatamente o treinamento de sistemas de IA que eram mais poderosos do que o GPT-4 durante seis meses.
O argumento usado para esse pedido foi que “a competição de inteligência com os humanos pode representar riscos profundos para a sociedade e a humanidade”.
“A inteligência artificial avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidado e recursos proporcionais. Infelizmente, esse nível de planejamento e gestão não está sendo adotado”, defendeu o instituto.
O GPT-4 foi lançado no dia 14 de março e é a versão mais recente do chat que é baseado em inteligência artificial da OpenAI. Ele conseguiu passar em algumas das provas mais exigentes do ensino médio e do curso de direito dos EUA, conseguindo uma nota que o colocava entre os melhores.
Na visão da FOLI, existe uma corrida entre as empresas de inteligência artificial que está fora de controle para ver quem consegue desenvolver a IA mais poderosa que tenha um resultado que “ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”.
Justamente por isso que a carta pedindo a pausa no desenvolvimento pontua que isso poderia fazer com que as máquinas inundassem os canais de informação com propagandas e falsidades, além de também alegarem que existe a possibilidade de elas automatizarem todas as oportunidades de emprego.
Como se isso não bastasse, a FOLI também sugeriu que os produtos dessas empresas podem levar a humanidade para uma ameaça existencial. “Devemos desenvolver mentes não humanas que possam eventualmente nos superar em número, ser mais espertas, tornando as nossas mentes obsoletas e nos substituir? Devemos arriscar perder o controle sobre a nossa civilização? Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos pelo público”, disse a carta.
Comentários