Gestores de fundos ESG que apostam alto na tecnologia estão preocupados com repercussões causadas por ‘sistemas de IA fora de controle’ – e estão falando sobre um ‘interruptor de emergência’.

Gestores de fundos ESG avessos aos riscos estão apreensivos com as consequências de 'sistemas de IA descontrolados' - e já pensam em um 'botão de emergência'.

A exposição à IA agora representa um “risco de curto prazo para os investidores”, disse Marcel Stotzel, um gestor de carteiras sediado em Londres na Fidelity International.

Stotzel disse que está “preocupado que teremos um retrocesso da IA”, o que ele descreve como uma situação em que algo inesperado desencadeia uma queda significativa no mercado. “Basta um incidente para algo dar errado e o impacto material pode ser significativo”, disse ele.

Exemplos que Stotzel diz merecer preocupação são caças com sistemas de IA que aprendem por conta própria. A Fidelity agora está entre os gestores de fundos que conversam com as empresas que desenvolvem essas tecnologias para discutir recursos de segurança, como um “interruptor de desligamento” que pode ser ativado se o mundo um dia acordar com “sistemas de IA se tornando rebeldes de forma dramática”, disse ele.

A indústria de investimento em ESG pode estar mais exposta a esses riscos do que a maioria, depois de se voltar para a tecnologia de maneira significativa. Fundos registrados como tendo um objetivo ambiental, social e de boa governança absolutos possuem mais ativos de tecnologia do que qualquer outro setor, de acordo com a Bloomberg Intelligence. E o maior fundo de índice ESG do mundo é dominado pela tecnologia, liderado pela Apple Inc., Microsoft Corp., Amazon.com Inc. e Nvidia Corp.

• Onde assistir WWE Survivor Series War Games transmissão ao vivo, ho...
• As melhores ofertas de monitores na Black Friday que eu recomendo c...
• As 4 melhores promoções de placas de vídeo na Black Friday, de acor...

Essas empresas estão agora na vanguarda do desenvolvimento de IA. As tensões sobre a direção que a indústria deve seguir e a velocidade com que deve avançar recentemente explodiram em plena vista pública. Neste mês, a OpenAI, a empresa que abalou o mundo há um ano com o lançamento do ChatGPT, demitiu e depois readmitiu rapidamente seu CEO, Sam Altman, desencadeando uma frenesi de especulação.

Disputas internas supostamente surgiram sobre o quão ambicioso a OpenAI deveria ser, diante dos potenciais riscos sociais. A reintegração de Altman coloca a empresa no caminho para buscar seus planos de crescimento, incluindo uma comercialização mais rápida da IA.

A Apple disse que planeja ter cautela no campo da IA, com o CEO Tim Cook afirmando em maio que há “várias questões que precisam ser resolvidas” com a tecnologia. E empresas, incluindo Microsoft, Amazon, Alphabet Inc. e Meta Platforms Inc., concordaram em adotar salvaguardas voluntárias para minimizar o abuso e o viés dentro da IA.

Stotzel disse que está menos preocupado com os riscos provenientes de startups de IA em pequena escala do que com os que estão escondidos nas gigantes de tecnologia do mundo. “As maiores empresas podem causar mais danos”, disse ele.

Outros investidores compartilham dessas preocupações. O New York City Employees’ Retirement System, um dos maiores fundos de pensão públicos dos EUA, disse que está “monitorando ativamente” como as empresas de seu portfólio utilizam a IA, de acordo com uma porta-voz do fundo de $248 bilhões. A Generation Investment Management, empresa co-fundada pelo ex-vice-presidente dos EUA, Al Gore, disse aos clientes que está intensificando a pesquisa em IA generativa e mantendo conversas diárias com as empresas em que investiu sobre os riscos – bem como as oportunidades – que a tecnologia representa.

E o fundo soberano de US $ 1,4 trilhão da Noruega informou aos conselhos e empresas que levem a sério os riscos “severos e desconhecidos” apresentados pela IA.

Quando o ChatGPT da OpenAI foi lançado em novembro passado, rapidamente se tornou o aplicativo de internet de crescimento mais rápido da história, atingindo 13 milhões de usuários diários até janeiro, segundo estimativas fornecidas por analistas do UBS Group AG. Diante desse cenário, as gigantes de tecnologia que desenvolvem ou apoiam tecnologias semelhantes viram suas ações dispararem este ano.

Mas a ausência de regulamentação ou quaisquer dados históricos significativos sobre o desempenho dos ativos de IA ao longo do tempo é motivo de preocupação, segundo Crystal Geng, analista de ESG da BNP Paribas Asset Management em Hong Kong.

“Não temos ferramentas ou metodologia para quantificar o risco”, afirmou. Uma maneira pela qual o BNP tenta estimar as possíveis repercussões sociais da IA é perguntar às empresas em sua carteira quantos cortes de empregos podem ocorrer devido ao surgimento de tecnologias como o ChatGPT. “Não vi nenhuma empresa que possa me dar um número útil”, disse Geng.

Jonas Kron, diretor de defesa na Trillium Asset Management, sediada em Boston, que ajudou a pressionar a Apple e o Facebook (Meta) a incluírem a privacidade em seus estatutos, tem pressionado as empresas de tecnologia a fazerem um trabalho melhor de explicar seu trabalho em IA. No início deste ano, a Trillium apresentou uma resolução de acionistas à Alphabet, empresa controladora do Google, pedindo mais detalhes sobre seus algoritmos de IA.

Kron afirmou que a IA representa um risco de governança para os investidores e observou que até os próprios insiders, incluindo Altman, da OpenAI, pediram aos legisladores que imponham regulamentações.

A preocupação é que, deixada sem restrições, a IA possa reforçar a discriminação em áreas como cuidados de saúde. Além das preocupações com o potencial da IA em amplificar preconceitos raciais e de gênero, existem preocupações com sua propensão para permitir o uso indevido de dados pessoais.

Enquanto isso, o número de incidentes e controvérsias envolvendo IA aumentou em 26 vezes desde 2012, segundo um banco de dados que registra o uso indevido da tecnologia.

Investidores da Microsoft, Apple e Google Alphabet apresentaram resoluções exigindo maior transparência em relação aos algoritmos de IA. O Fundo de Índice de Equidade AFL-CIO, que supervisiona US $ 12 bilhões em pensões sindicais, solicitou a empresas como Netflix Inc. e Walt Disney Co. que relatem se adotaram diretrizes para proteção de trabalhadores, clientes e público contra danos causados pela IA.

Pontos de preocupação incluem discriminação ou preconceito contra funcionários, desinformação durante eleições políticas e demissões em massa resultantes da automação, afirmou Carin Zelenko, diretora de estratégias de capital da AFL-CIO em Washington. Ela acrescentou que as preocupações sobre a IA por parte de atores e escritores de Hollywood tiveram um papel importante nas greves de alto perfil deste ano.

“Isso apenas aumentou a conscientização sobre a importância dessa questão em praticamente todos os negócios”, disse ela.