O chefe de política de tecnologia da ONU está otimista em relação à IA, mesmo que ela possa subverter a democracia, enganar a sociedade em geral e nos tornar menos humanos.

O chefe de política de tecnologia da ONU está otimista em relação à IA, mesmo que ela possa subverter a democracia, enganar a sociedade em geral e nos tornar menos humanos. The condensed version is O chefe de política de tecnologia da ONU está otimista em relação à IA, apesar de seus possíveis impactos negativos.

Aqui estão trechos da entrevista, editados para maior brevidade e clareza.

___

AP: Vários governos nacionais e grupos multinacionais estão discutindo ou começando a tomar medidas para estabelecer limites para a inteligência artificial. O que a ONU pode trazer para a mesa que outros não podem?

GILL: Eu diria três palavras. Inclusão — reunir muitos mais países, em comparação com algumas das iniciativas existentes muito importantes. A segunda é legitimidade, porque há um histórico da ONU ajudando países e outros atores a lidar com o impacto de diferentes tipos de tecnologias, seja na área de biologia, química, nuclear, ciência espacial — não apenas prevenindo o uso indevido, mas também promovendo o uso inclusivo, usos pacíficos dessas tecnologias para o benefício de todos.

• Façam espaço para os títulos do Tesouro – a nova tendência pa...
• Os recrutadores estão utilizando esta plataforma de IA para reduzir...
• Verificação da Realidade dos Fundos Mútuos Você está realmente dive...

A terceira é autoridade. Quando algo é proveniente da ONU, pode ter um impacto autoritário. Existem certos instrumentos na ONU — por exemplo, os tratados de direitos humanos — com os quais alguns desses compromissos podem estar relacionados. (Por exemplo, se um recurso de IA) leva à exclusão de uma determinada comunidade ou à violação dos direitos de certas pessoas, então os governos têm a obrigação, de acordo com os tratados que assinaram na ONU, de prevenir isso. Portanto, não é apenas uma autoridade moral. Cria uma espécie de pressão de conformidade para cumprir com quaisquer compromissos que você possa assumir.

AP: Ao mesmo tempo, existem desafios que a ONU enfrenta que outras entidades ativas nessa área não enfrentam — ou não na mesma medida?

GILL: Quando você tem uma grande diversidade, é necessário ter um bom processo que não se limite a marcar uma caixa para que todos estejam presentes, mas que envolva uma discussão substantiva e chegue a bons resultados. O desafio relacionado é envolver de forma significativa o setor privado, a sociedade civil e a comunidade tecnológica. Por isso, conscientemente, o órgão consultivo sobre governança de IA do Secretário-Geral está sendo formado como um órgão multissetorial.

Uma terceira limitação é que os processos da ONU podem ser demorados, pois a construção de consenso entre um grande número de atores pode levar tempo, e a tecnologia avança rápido. Portanto, precisamos ser mais ágeis.

AP: Os governos, em qualquer nível, realmente conseguem lidar com a IA?

GILL: Com certeza. Eu acredito que os governos devem agir, e há muitas maneiras pelas quais eles podem influenciar a direção que a IA toma. Não se trata apenas de regulamentar contra o uso indevido e prejudicial, garantindo que a democracia e o Estado de direito não sejam prejudicados, mas também de promover um ecossistema de inovação diversificado e inclusivo para que haja menos concentração de poder econômico e as oportunidades sejam mais amplamente disponíveis.

AP: Falando em oportunidades iguais, algumas pessoas no Sul Global esperam que a IA possa reduzir as divisões digitais, mas também há preocupação de que certos países possam colher os benefícios da tecnologia enquanto outros são deixados para trás e excluídos. Você acha que é possível que todos se alinhem?

GILL: Essa é uma preocupação muito importante, algo que eu compartilho. Para mim, é uma razão para que todos se unam de maneira mais sutil: indo além dessa dicotomia de “promessa e perigo” — que muitas vezes surge nas mentes daqueles que têm agência, que têm a capacidade de fazer isso — para uma compreensão mais sutil em que o acesso à oportunidade, a dimensão do empoderamento, além da “promessa e do perigo”, também esteja em destaque.

Portanto, sim, há oportunidade, há entusiasmo. Mas como aproveitar essa oportunidade é uma pergunta muito, muito importante.

AP: Fala-se muito em reunir as conversas em andamento ao redor do mundo sobre a regulamentação da IA. O que você acha que isso significa e como pode ser realizado?

A: Ter uma convergência, um entendimento comum dos riscos, seria um resultado muito importante. Ter um entendimento comum sobre quais ferramentas de governança funcionam, ou podem funcionar, e o que precisa ser pesquisado e desenvolvido, seria muito valioso. Um entendimento comum sobre que tipo de modelo ágil e distribuído é necessário para a governança da IA — para minimizar os riscos, maximizar as oportunidades — seria muito, muito valioso. E, por fim, ter um entendimento comum da decisão política que precisamos tomar no próximo ano na Cúpula do Futuro (uma reunião da ONU planejada para setembro de 2024), para que nosso esforço em todas essas funcionalidades seja sustentável e tenha o entendimento e a confiança do público.

AP: Quando se trata de IA, o que te mantém acordado à noite? E o que te dá esperança quando você acorda de manhã?

GILL: Vamos começar pelo lado esperançoso. O que realmente me entusiasma é o potencial de acelerar o progresso dos Objetivos de Desenvolvimento Sustentável ao aproveitar a IA, especialmente nas áreas prioritárias da saúde, agricultura, segurança alimentar, educação e transição verde. O que me preocupa é que deixemos a IA avançar de uma forma que, primeiro, nos iluda sobre o que a IA é capaz de fazer; e segundo, leve a uma maior concentração de poder tecnológico e econômico em poucas mãos. Essas pessoas e empresas podem ter as melhores intenções, mas a democracia prospera na diversidade, na competição, na abertura.

Então, eu espero que tomemos a direção correta e que a IA não se torne um meio de subverter a democracia, de iludir a sociedade em geral e reduzir nossa humanidade. Essas são as questões que me preocupam, mas, no geral, sou muito otimista em relação à IA.