Cada vez mais líderes de negócios estão preocupados que a IA generativa vá erodir a confiança do consumidor.

A preocupação dos líderes de negócios a IA generativa e a erodação da confiança do consumidor

“Parecia apropriado para uma empresa de segurança, mas não tão óbvio quanto um cachorro”, disse-me a CEO da Vanta, Christina Cacioppo, recentemente numa chamada.

A Vanta acaba de publicar seu mais recente relatório “Estado de Confiança”, baseado numa pesquisa com 2.500 tomadores de decisão de TI e negócios na Austrália, França, Alemanha, Reino Unido e Estados Unidos. Naturalmente, para uma empresa de segurança digital, o relatório considera a “confiança” principalmente sob a perspectiva de privacidade de dados, riscos e conformidade. Mas a pesquisa da Vanta fornece dados convincentes sobre como a comunidade de TI está lidando com o tópico mais quente deste ano: inteligência artificial.

Cacioppo afirma que “77% das empresas pesquisadas já estão utilizando IA e aprendizado de máquina para detecção de ameaças e anomalias”, reduzindo a carga de trabalho tediosa de um oficial de conformidade humano. Também há um grande papel para a IA generativa na conformidade, explica Cacioppo. Essa ferramenta popular pode ser usada para converter rapidamente documentos de política em código acionável, por exemplo, ou para preencher automaticamente questionários de segurança.

No entanto, mais da metade dos entrevistados na pesquisa da Vanta também se preocupa que a implantação da IA torne a gestão segura de dados mais difícil, e que o uso da IA generativa, em particular, possa corroer a confiança do cliente.

• George Santos acaba de se tornar o 6º legislador a ser expulso da C...
• 112 republicanos da Câmara — e 2 democratas — votaram contra a expu...
• Veja o interior dos táxis aéreos sustentáveis, ou eVTOLs, que esper...

“Se você já utilizou algum desses modelos, a desconfiança faz sentido”, diz Cacioppo. Programas de IA generativa são conhecidos por “alucinar”, o que é jargão da indústria para produzir resultados falsos. Todos já devem ter visto o ChatGPT fornecer respostas incorretas para problemas simples de matemática, por exemplo. Mas Cacioppo acredita que a tecnologia vai melhorar e que, hoje, a IA generativa é boa o suficiente para fornecer primeiros rascunhos de trabalhos finalizados.

“Pode ser um bom primeiro rascunho, pode ser um mau primeiro rascunho, mas é um primeiro rascunho. E é mais fácil trabalhar nele do que numa folha em branco”, diz Cacioppo. Isso significa que ainda haverá a necessidade de trabalhadores humanos editarem e verificarem o trabalho da IA, e esse toque humano ajudará a manter a confiança com os clientes.

A regulamentação pode ser outra ferramenta para ajudar a construir confiança no emergente espaço da IA. Cacioppo diz que metade das empresas pesquisadas disseram que se sentiriam mais confortáveis em implantar a IA se ela fosse regulamentada, embora ela não defenda a regulamentação em si.

A Vanta, segundo Cacioppo, é “favorável ao uso responsável” em vez de ser favorável à regulamentação, destacando um dos maiores problemas de confiança em torno da IA: muitas empresas que desenvolvem ferramentas de IA acreditam que são confiáveis o suficiente para autorregulamentarem-se.

A Vanta realizará uma conferência do setor sobre o futuro da confiança num mundo de IA na próxima semana. Sem dúvida, o espinhoso tema da regulamentação será discutido com mais detalhes lá.

Eamon Barrett [email protected]

EM OUTRAS NOTÍCIAS

BYD presta homenagem a Munger Vice-presidente da Berkshire Hathaway, Charlie Munger faleceu na última terça-feira, semanas antes de completar 100 anos. A fabricante chinesa de veículos elétricos BYD prestou homenagem ao lendário investidor, que foi um dos primeiros apoiadores da empresa em 2008. “O apoio e orientação inabaláveis de Charlie foram fundamentais para moldar a BYD como líder global em energia limpa”, disse a empresa.

Apple cancela crédito do Goldman A Apple está encerrando sua parceria com o Goldman Sachs para o cartão de crédito, entregando outro golpe na tentativa fracassada do banco de investimento de entrar no setor bancário de consumo. Em janeiro deste ano, o CEO do Goldman, David Solomon, disse que a parceria com a Apple era “uma oportunidade interessante para experimentar e testar coisas diferentes”. Mas, silenciosamente, o banco informou à Apple que estava procurando se desfazer da parceria.

Jack Ma ressurgeJack Ma instou a Alibaba Group Holding a “corrigir o seu rumo” num surpreendente memorando interno na semana passada. O líder outrora bombástico tem se mantido relativamente calado desde que criticou os reguladores em 2020 e sofreu um backlash prolongado do governo, o que levou Ma a cancelar um IPO de vários bilhões de dólares e dividir sua gigante corporação em entidades menores. Ma aparentemente deseja que sua empresa legado volte a focar seus esforços em IA.

G42 se defende G42 está na vanguarda da iniciativa dos Emirados Árabes Unidos de se tornar um grande jogador em IA. Controlada pelo conselheiro de segurança nacional do país, a startup está fechando acordos em todo o mundo, trabalhando com empresas de tecnologia nos EUA, incluindo a Microsoft e a OpenAI. Mas a startup também está sob investigação da administração Biden por suas conexões com empresas chinesas como a Huawei. O CEO da G42, Peng Xiao, respondeu à controvérsia durante o ANBLE Global Forum em Abu Dhabi na última quarta-feira.

EXERCÍCIO DE CONFIANÇA

“Os dados nos mostram que os investimentos líquidos zero terão que aumentar enormemente – em trilhões de dólares por ano – para que o mundo tenha alguma esperança de alcançar a meta de 2050. No entanto, o maior obstáculo para aumentar esses investimentos é… o fato de que os valores dos ativos globais e as alocações de capital não refletem adequadamente os riscos e oportunidades climáticos de longo prazo.”

A COP28 está em curso em Dubai, onde os líderes se reuniram novamente para impulsionar o progresso do Acordo de Paris de 2015. O financiamento necessário para a transição verde para atingir essas metas ainda está faltando, na ordem de cerca de US$ 3 trilhões. O CEO da MSCI, Henry Fernandez, diz que o investimento continuará a ficar para trás até que uma melhor gestão de dados revele “o verdadeiro valor de longo prazo” dos ativos. Mas as estratégias de investimento também precisam mudar para valorizar os retornos de longo prazo em vez dos trimestrais.