O padrinho mais catastrófico da IA realmente gostaria que você acreditasse que sua invenção é divina

O pior padrinho da IA que adoraria que acreditassem que sua invenção é divina

• Três padres do AI têm debatido sobre o que está por vir para a tecnologia que eles criaram.
• Um deles, Geoffrey Hinton, tem ponderado se a tecnologia deveria mesmo existir.
• No entanto, enfatizar demais os perigos da AI arrisca paralisar o debate em um momento crucial.

Ele pode ser um dos padres da AI que ajudou a desenvolver a tecnologia que alimenta uma variedade de chatbots, mas Geoffrey Hinton não pode deixar de ponderar se estaríamos melhores se a tecnologia nunca tivesse existido.

Seus medos foram expostos em um recente perfil do New Yorker, onde ele respondeu a uma pergunta sobre AI em geral dizendo: “Não é irracional dizer que estaríamos melhores sem isso – não vale a pena”.

Ele acrescentou: “Assim como poderíamos estar melhores sem combustíveis fósseis. Seríamos muito mais primitivos, mas talvez não valesse o risco”.

Embora os medos de Hinton sejam quase certamente genuínos, as qualidades divinas que os pessimistas da AI projetam na tecnologia também arriscam enfatizar demais sua importância em um momento crucial.

• Preços ao consumidor nos EUA permaneceram inalterados em outubro
• Os problemas da Europa são muito maiores do que uma recessão rasa
• Um país acaba de proibir o TikTok porque ele perturba ‘a harm...

A linguagem em torno dos temores de extinção é vaga e às vezes pode imitar aspectos de um debate teológico ou existencial – ambos conversas distrativamente cultas, enquanto os governos do mundo todo se aproximam da regulamentação da tecnologia.

Aqueles que defendem os riscos de extinção da AI também enfrentaram críticas por desviar o foco de ameaças mais urgentes representadas pela tecnologia, e paralisar o debate construtivo, e permitir que as grandes empresas de tecnologia controlem a indústria de AI.

Hinton já expressou preocupações semelhantes antes e abandonou seu emprego no Google para falar abertamente sobre os riscos da tecnologia que ele contribuiu para criar. Mas nem todos os seus colegas padres concordam com ele.

Yan LeCun, que ganhou o Prêmio Turing ao lado de Hinton em 2018, também parece brevemente no perfil do New Yorker de Hinton.

“Não tenho medo da AI”, LeCun disse à revista. “Acho que será relativamente fácil projetá-las de forma que seus objetivos estejam alinhados com os nossos”.

Os dois têm se alfinetado publicamente nas redes sociais recentemente, com LeCun compartilhando um tweet que zombava dos alarmistas da AI e chamava Hinton de “Ultra-esquerdista, excêntrico de classe mundial”.

Criando um medo do desconhecido

AI tem um problema de “caixa preta”, o que significa que é uma das primeiras tecnologias que nem mesmo seus inventores entendem completamente.

Enquanto Hinton e o cientista-chefe de AI da Meta, LeCun, têm entrado em conflito, o colaborador e terceiro mentor da AI, Yoshua Bengio, tem enfatizado que esse desconhecido é o verdadeiro problema.

“Yann e outros estão fazendo afirmações de que isso não é um problema, mas ele não sabe – ninguém sabe”, disse Yoshua Bengio, um cientista da computação canadense e pioneiro do aprendizado profundo, anteriormente ao Business Insider. “Acho perigoso fazer essas afirmações sem nenhuma evidência forte de que isso não possa acontecer”.

Para Hinton, os riscos que a IA apresenta para a sociedade – essencialmente a ameaça apocalíptica de máquinas em busca de controle realizando um golpe contra a humanidade – são urgentes e, no final das contas, não são problemas que ele sabe como resolver.

“Existe uma submeta muito geral que ajuda com quase todos os objetivos: obter mais controle”, ele disse a Joshua Rothman, da revista The New Yorker. “A pergunta de pesquisa é: como você impede que elas queiram assumir o controle? E ninguém sabe a resposta.”

Hinton também não tem nenhuma solução clara sobre como mitigar os problemas que ele prevê. Ao contrário das mudanças climáticas, ele não enxerga uma solução científica clara.

“Lá, você sabe como a solução se parece. Aqui, não é assim”, ele disse.

• AI
• analysis
• TECH