A ‘cientista chefe de decisões’ do Google explica por que ela deixou a empresa e por que as escolhas dos líderes empresariais sobre IA são tão críticas

A cientista chefe de decisões do Google explica sua saída da empresa e a importância das escolhas dos líderes empresariais sobre IA.

Cassie Kozyrkov, que atuou como cientista-chefe de decisão da empresa de internet e ajudou a pioneira no campo da inteligência de decisão, está seguindo em carreira solo e trabalhando em projetos para ajudar líderes empresariais a navegar nas águas complicadas da inteligência artificial.

À medida que a IA se torna mais poderosa e mais prevalente em diversos setores, Kozyrkov lançará seu primeiro curso no LinkedIn, publicará um livro e fará palestras sobre como tomar decisões informadas. Seu objetivo é fornecer às lideranças as ferramentas para pensar em como implementar a IA e ajudar o público a responsabilizar os tomadores de decisão da IA pelas escolhas que impactam milhões de pessoas, disse ela à ANBLE.

Ela passou 10 anos no Google, sendo cinco deles como cientista-chefe de decisão. Entre suas responsabilidades, ela orientou os líderes da empresa a tomar decisões informadas e responsáveis em relação à IA.

“Eu sempre acreditei que o Google tem boas intenções”, disse Kozyrkov. No entanto, é uma empresa grande e, às vezes, pessoas de fora confundiam suas opiniões pessoais com a posição do Google sobre um determinado assunto. Em seu novo cargo, ela não precisará se preocupar com o impacto de seu ativismo em uma empresa que representa, disse ela à ANBLE.

• Melhores Cartões de Crédito com Cash Back Setembro de 2023
• Os melhores rastreadores de fitness de 2023
• Os 10 pesadelos mais comuns e o que eles podem significar, desde br...

A IA está passando por um período de crescimento massivo, o que tem gerado ansiedades sobre o futuro para alguns. Mentores de destaque no campo da IA recentemente alertaram que ela poderia acabar com a humanidade como a conhecemos. Este momento parece ser um ponto de inflexão no mundo da tecnologia. É essencial ter líderes preparados em tomada de decisão e consumidores que possam responsabilizá-los, segundo Kozyrkov.

Kozyrkov, que cresceu na África do Sul, possui bacharelado em economia pela Universidade de Chicago. Ela também possui mestrado em estatística matemática pela Universidade Estadual da Carolina do Norte e um doutorado parcial em psicologia e neurociência pela Universidade Duke. Antes de trabalhar no Google, ela passou 10 anos como consultora independente em ciência de dados.

Durante o tempo em que atuou como cientista-chefe de decisão, a divisão de IA do Google cresceu substancialmente. O CEO Sundar Pichai apresentou o Duplex, um complemento para o Google Assistant que pode fazer ligações telefônicas em nome do usuário, com o objetivo de ajudar a agendar compromissos, reservas de restaurantes e outros compromissos. O Google deu grandes passos na geração de texto, imagens e vídeos a partir de comandos, e está desenvolvendo robôs capazes de escrever seu próprio código. Também lançou o Bard, seu grande modelo de linguagem que rivaliza com o ChatGPT. Muitos dos desenvolvimentos do Google levantaram questões éticas entre funcionários e acadêmicos, o que não é diferente do que está acontecendo em outras empresas de IA. O Google não respondeu aos pedidos de comentário.

Kozyrkov não comentou sobre as decisões que ajudou a tomar no Google devido ao seu acordo de confidencialidade, mas não é difícil pensar em áreas em que a empresa enfrentou decisões difíceis quando se trata de IA. Ao construir o Bard, o Google teve que decidir se coletaria informações protegidas por direitos autorais para treinar o modelo de IA. Uma ação judicial movida contra o Google em julho acusa a empresa de ter feito isso. O Google também teve que decidir em que momento lançar a tecnologia para se manter competitivo com o ChatGPT, sem prejudicar sua reputação. Logo depois de publicar o vídeo demonstrativo do Bard, em que o chatbot deu uma resposta incorreta, o Google foi duramente criticado.

O trabalho de Kozyrkov gira em torno da ideia de que indivíduos podem tomar decisões que afetam muitas pessoas, e aqueles no topo nem sempre são educados na prática da tomada de decisão. “É fácil pensar na tecnologia como autônoma”, disse ela. “Mas há pessoas por trás dessa tecnologia tomando decisões muito subjetivas, com ou sem habilidades, que afetam milhões de vidas.”

A melhor maneira de tomar uma decisão é algo com que os seres humanos lutam há muito tempo e que continua a evoluir. Existe o modelo de prós e contras de Benjamin Franklin, com três séculos de existência, mas também existem formas mais avançadas de responder a perguntas importantes, disse Kozyrkov. Embora ela esteja direcionando os líderes empresariais, seus métodos também podem ser usados para tomar outras decisões importantes na vida, como onde estudar ou se começar uma família.

Os tomadores de decisão devem se perguntar: o que seria necessário para eu mudar de ideia? Eles também devem usar dados, mas antes de vê-los, definir critérios com base no que os dados dizem. Isso ajuda os tomadores de decisão a evitar o viés de confirmação, ou seja, usar dados para confirmar uma opinião que já possuem. Também é útil documentar o processo de tomada de uma decisão importante, incluindo as informações disponíveis na época, para avaliar a qualidade de uma escolha após ela ser feita, de acordo com Kozyrkov.