Capturando os benefícios da IA Como equilibrar o risco e a oportunidade

Benefícios da IA equilibrando risco e oportunidade

Mas de quem é a responsabilidade de determinar como as últimas inovações da IA generativa serão implementadas na economia nos próximos anos? E como pode ser tratada de forma responsável? Especialistas dizem que todos nós somos responsáveis. 

“Precisamos de uma infinidade de conjuntos de habilidades para poder fazer esse trabalho bem”, disse Lara Liss, chefe de privacidade da Walgreens Boots Alliance, em uma conversa virtual do ANBLE Brainstorm AI na quinta-feira, que teve como foco como equilibrar os riscos e oportunidades da IA.

Liss disse que quando se trata de IA responsável, as pessoas devem levantar as mãos e se envolver mais agora. E esse trabalho não é apenas para especialistas em IA ou cientistas da computação – a contribuição deve variar desde programadores até finanças e marketing até recursos humanos. 

“Eles precisam ter uma compreensão básica de como a IA responsável funciona e o que precisam observar dentro de sua organização”, disse Liss.

• O aumento destruidor dos rendimentos do Tesouro recebe combustível ...
• Revisão do empréstimo pessoal American Express uma opção convenient...
• Revisão E*TRADE 2023

Nesse sentido, o Instituto Nacional de Padrões e Tecnologia (NIST) lançou em janeiro um framework de gerenciamento de risco de IA que incluiu 72 resultados que as organizações devem aspirar a alcançar para reduzir a discriminação, tornar os sistemas mais transparentes e garantir que os sistemas de IA construídos sejam confiáveis. 

“No final das contas, o que estamos tentando fazer é mudar a cultura das organizações para estar mais alinhada com as considerações de riscos para a IA, assim como estamos fazendo agora para riscos cibernéticos ou riscos de privacidade”, disse Reva Schwartz, cientista pesquisadora e investigadora principal de viés de IA no NIST.

Pesquisas da gigante de consultoria Accenture mostram que 95% dos executivos acreditam que o gerenciamento de riscos para a IA deve ser uma de suas principais prioridades, mas apenas 6% das organizações acreditam que estão prontas com uma base de IA responsável para ajudá-las a navegar pela tecnologia em rápido desenvolvimento.

A Accenture acredita que os principais riscos da IA generativa incluem o impacto na força de trabalho; privacidade e propriedade intelectual; viés; e alucinações, que são os impactos negativos de decisões tomadas com base em informações imprecisas em grandes modelos linguísticos. 

Arnab Chakraborty, diretor executivo sênior de IA responsável global da Accenture, disse que a responsabilidade final de avaliar onde a IA é usada dentro de uma organização deve começar com o CEO. Na Accenture, as decisões de IA vêm de um comitê diretivo que inclui o CEO da empresa, diretor de tecnologia, advogado-geral e diretor operacional. 

“Isso precisa acontecer no nível do conselho, no nível do CEO e do comitê executivo, e isso é mais para eles entenderem, apreciarem e serem os patrocinadores ativos que colocam em prática o que dizem”, disse Chakraborty.

“Sem uma governança sólida, não pode se firmar e se estabelecer”, disse Schwartz.

Liss ecoou o sentimento compartilhado por Chakraborty e Schwartz. “As pessoas levam essa responsabilidade incrivelmente a sério”, disse Liss. “E acho que você está ouvindo em salas de reuniões, em C-suites e em empresas em todos os níveis que as pessoas entendem que precisamos acertar isso.” 

Amy Tong, secretária de operações governamentais da Califórnia, disse que a IA generativa tem o potencial de impulsionar a inovação que beneficiaria a maior economia estadual dos EUA. “Tem o potencial de realmente impulsionar os limites da criatividade e capacidade humana”, disse Tong. “Mas temos que fazer isso de maneira muito responsável e medida.” 

Em setembro, o governador da Califórnia, Gavin Newsom, assinou uma ordem executiva para estudar o desenvolvimento, uso e riscos da IA e desenvolver um processo para avaliar e desenvolver a tecnologia dentro do governo estadual. 

“Reconhecemos tanto os potenciais benefícios quanto os riscos que essas ferramentas possibilitam”, disse Newsom ao anunciar a ordem executiva. “Não estamos paralisados pelo medo nem hipnotizados pelo lado positivo.”

Junto com os avanços que a IA generativa trará aos negócios, surgem preocupações sobre como ela afetará os trabalhadores. Quase quatro em cada 10 trabalhadores dos EUA estão preocupados que a IA possa assumir algumas ou todas as suas responsabilidades no trabalho.

“Quando se trata da força de trabalho, devemos reconhecer que há incerteza”, disse Tong.

Os especialistas no evento da ANBLE concordaram unanimemente que uma forma fundamental de abordar as preocupações sobre a tecnologia emergente e a força de trabalho é focar na capacitação. 

“É importante que as empresas estejam analisando alguns níveis de capacitação”, disse Liss. “O primeiro é, o que globalmente toda a força de trabalho precisa entender sobre IA responsável e como a IA será desenvolvida dentro da organização.” 

Também há treinamento direcionado, que incluiria estruturas de conformidade e treinamento para cientistas de dados para garantir que eles tenham pleno conhecimento sobre as habilidades de teste e técnicas de que precisam usar ao trabalhar em modelos de IA. Mas mesmo assim, nem todos os trabalhadores precisarão se tornar especialistas em IA. 

“Essa ideia de que todos nós precisamos aprender sobre os detalhes intrincados que acontecem dentro de um modelo de aprendizado de máquina não é realmente necessariamente útil”, disse Schwartz. “Um uso melhor do tempo é garantir que todos na empresa estejam familiarizados com as práticas responsáveis de IA.”