O interesse próprio nem tão sutil por trás dos alertas tecnológicos para não ‘sufocar a inovação
Self-interest not so subtle behind technological warnings not to 'stifle innovation
Quase uma semana após o primeiro Fórum de Insight de IA do Senado, o discurso sobre a regulamentação da IA está mais acalorado do que nunca. Embora a sessão tenha sido realizada a portas fechadas, sabemos um pouco sobre o que aconteceu: Elon Musk alertou que a IA poderia ameaçar a civilização; Bill Gates argumentou que poderia ajudar a combater a fome mundial; e quando o líder da maioria no Senado, Chuck Schumer, perguntou se o governo precisa regular a IA, todos os executivos presentes levantaram as mãos. Também houve debates sobre como a IA afetará os empregos, como atores mal-intencionados podem abusar de sistemas de IA de código aberto e se deve haver uma agência independente dedicada à supervisão da IA.
O objetivo de tudo isso, é claro, é fazer com que o Senado trabalhe em como deseja regular essa tecnologia em rápida evolução. E embora todos os executivos de tecnologia na sala possam ter levantado as mãos a favor da regulamentação, desde então houve um coro de opiniões de líderes do setor sobre como a regulamentação sufocaria a inovação e ameaçaria a posição dos Estados Unidos em relação à China, deixando claro que a indústria realmente prefere continuar operando livremente.
Enquanto escrevo isso, uma das principais notícias no popular agregador de notícias de tecnologia Techmeme é uma postagem no blog do investidor e auto-declarado “otimista de curto prazo em IA, pessimista de longo prazo em IA” Elad Gil, na qual ele argumenta que os EUA precisam permitir que a tecnologia avance e ainda não devem pressionar para regulamentar a IA.
“Eu acredito que, a longo prazo (ou seja, décadas), a IA representa um risco existencial para as pessoas. Dito isso, neste momento, regulamentar a IA só a enviaria para o exterior e federaria e fragmentaria o que há de mais avançado fora da jurisdição dos EUA”, diz a postagem no blog, onde ele também faz o popular argumento de que a regulamentação favoreceria os grandes incumbentes de tecnologia.
- O Fed deixa as taxas de juros inalteradas em sua luta contra a infl...
- Elon Musk quer fazer com que todos paguem para usar o Twitter para ...
- A singularidade entre cabo e streaming se aproxima, pois a Max vai ...
O coro continuou em minha caixa de entrada. “Regulamentações rigorosas irão sufocar o setor de IA de nosso país que está em desenvolvimento e poderão ter um impacto duradouro e negativo em nossa capacidade de competir com a indústria estrangeira que está acelerando a pesquisa e o desenvolvimento com o apoio de seus próprios governos”, escreveu Muddu Sudhakar, CEO da empresa de IA Aisera, em um e-mail enviado ao Eye on AI através de um representante após a audiência.
O argumento de priorizar a inovação acima de tudo contra a regulamentação foi talvez mais evidente na recente Cúpula All-In, onde o parceiro geral da Benchmark, Bill Gurley, deu uma palestra intitulada “2.851 Milhas”. Observando que 2.851 milhas é a distância entre o Vale do Silício e Washington D.C., ele declarou: “A razão pela qual o Vale do Silício tem sido tão bem-sucedido é porque está tão longe de Washington D.C.”, recebendo uma salva de palmas e uma ovação de pé.
Ele foi imediatamente acompanhado no palco por outros VCs para uma discussão, onde eles criticaram a ideia de regular a IA e riram que a regulamentação levaria o governo a revisar o código e forçar os gerentes de produto a viajar para Washington para obter aprovação em novos recursos de software. Executivos de tecnologia como o CEO da Docusign, Allan Thygesen, e o CEO do Instituto de Pesquisa Aplicada, David Roberts, posteriormente elogiaram a palestra no LinkedIn.
Como sempre, é importante ter em mente que esses VCs – assim como os executivos – têm um interesse direto em permitir que a IA se desenvolva livremente. A Benchmark se concentra em startups de IA e muitos VCs já ganharam muito dinheiro nesse setor. Mas sua postura de priorizar a inovação acima de tudo também encontrou algum apoio no Senado, que os críticos atribuem ao lobby das grandes empresas de tecnologia contra a regulamentação da IA (ou, no mínimo, seus esforços para moldar a regulamentação de forma a afetar minimamente – e talvez até beneficiar – suas posições atuais).
Em suas observações iniciais na audiência, o senador republicano do Texas, Ted Cruz, se posicionou contra a regulamentação, afirmando que “se sufocarmos a inovação, podemos permitir que adversários como a China nos superem em inovação”, de acordo com um comunicado à imprensa. E o senador Roger Marshall, um republicano de Kansas, teve uma conclusão semelhante, dizendo à Wired após a audiência: “A boa notícia é que os Estados Unidos estão liderando nessa questão. Acho que, desde que permaneçamos na linha de frente, como temos com o avanço das armas militares, como temos nos investimentos em satélites, estaremos bem”.
Embora não haja dúvida de que a IA tenha grandes implicações para a segurança nacional, ela também tem implicações para todos os outros aspectos da sociedade e da vida humana. A IA não é apenas o futuro – é uma tecnologia profundamente impactante que tem testado as leis atuais e causado danos no mundo real há anos, desde a subversão da lei de direitos autorais e dos direitos dos trabalhadores até a consolidação de vieses discriminatórios em tudo, desde tecnologia policial até a aprovação de empréstimos imobiliários.
Venture capitalists e executivos há muito tempo colocaram a “inovação” como um dos principais interessados. Ao longo da ascensão da indústria de tecnologia à dominação, eles posicionaram o sufocamento da inovação como o pior cenário possível. E agora as tensões crescentes com a China estão adicionando mais combustível ao argumento deles.
E com isso, aqui está o restante das notícias de IA desta semana.
Mas primeiro… um lembrete: ANBLE está organizando um evento online no próximo mês chamado “Capturando os Benefícios da IA: Como Equilibrar Risco e Oportunidade”.
Nesta conversa virtual, parte do ANBLE Brainstorm AI, discutiremos os riscos e danos potenciais da IA, centrando a conversa em torno de como os líderes podem mitigar os efeitos negativos potenciais da tecnologia, permitindo que eles capturem os benefícios com confiança. O evento acontecerá em 5 de outubro às 11h (horário de Brasília). Registre-se para a discussão aqui.
Sage Lazzaro [email protected]
IA NAS NOTÍCIAS
O Google lança integrações do Bard para Gmail, Drive, Maps, YouTube e muito mais. Chamado de Bard Extensions, o serviço permite que o Bard encontre e mostre aos usuários informações relevantes de todos os seus aplicativos do Google. Como exemplo, o Google descreveu como isso pode ajudar os usuários a planejar uma viagem, com o Bard sendo capaz de encontrar datas que funcionem para todos a partir do Gmail, fornecer informações sobre voos e hotéis, mostrar direções do Google Maps para o aeroporto e sugerir vídeos do YouTube com coisas para fazer no destino – tudo em uma única conversa. A empresa também anunciou melhorias em seu recurso “Google it” para permitir que os usuários verifiquem facilmente as respostas do Bard.
O Google está perto de lançar seu modelo de IA Gemini. É o que afirma o The Information, que relatou que o Google deu acesso a um pequeno número de empresas a uma versão inicial do software de IA conversacional Gemini. O Gemini é a grande aposta do Google para competir com o GPT-4 e espera-se que esteja disponível por meio do serviço Google Cloud Vertex AI.
A Amazon lança ferramentas de IA generativa para ajudar vendedores a escrever descrições de produtos. A empresa afirma que as ferramentas ajudarão os vendedores a economizar tempo e oferecer aos clientes informações mais completas sobre os produtos, mas há motivos para ser cético considerando a tendência da IA generativa de “alucinar” ou inventar coisas. O eBay também lançou recentemente uma ferramenta de IA semelhante para escrever descrições de produtos, de acordo com o TechCrunch.
O Digimarc anuncia um produto para marca d’água de conteúdo original, começando com imagens. Muitos sugeriram a marca d’água de conteúdo criado por IA como uma estratégia para diferenciar entre trabalhos gerados artificialmente e por seres humanos. Hoje, o Digimarc anunciou que está adotando a abordagem oposta com o Digimarc Validate, um produto para marca d’água de conteúdo original. Essencialmente, ele marcará o conteúdo com um “©” legível por máquina, fornecendo um sinal claro de propriedade e autenticidade do conteúdo – antes que quaisquer modelos de IA generativa tenham a chance de processá-lo.
ATENÇÃO À PESQUISA DE IA
Grande problema. Pesquisadores de IA da Microsoft acidentalmente expuseram 38 terabytes de dados sensíveis ao publicar um bucket de armazenamento público de dados de treinamento de código aberto no GitHub, de acordo com pesquisas da startup de segurança em nuvem Wiz, que foi compartilhada com o TechCrunch. O tesouro de dados incluía chaves privadas, senhas de serviços da Microsoft, backups pessoais de dois computadores pessoais de funcionários da Microsoft e mais de 30.000 mensagens internas do Microsoft Teams de centenas de funcionários da Microsoft. “Nenhum dado do cliente foi exposto”, de acordo com o Centro de Resposta de Segurança da Microsoft.
A exposição não é um bom sinal para o código aberto, já que seu papel na IA está sendo intensamente debatido, inclusive como parte da investigação do Senado sobre uma possível regulamentação da IA. Muitos pesquisadores de segurança têm soado o alarme sobre os riscos de segurança de projetos de IA de código aberto. E, embora alguns acreditem que o código aberto seja fundamental para democratizar a tecnologia, outros argumentam que as ofertas aparentemente “abertas” das grandes empresas de tecnologia são apenas táticas para ajudar essas empresas a dominar o ecossistema e capturar a indústria.
ANBLE SOBRE IA
O investidor bilionário Ray Dalio diz que a transformação da IA poderia criar uma semana de trabalho de 3 dias. Estamos “passando por um buraco de minhoca” – Chloe Taylor
O ator Stephen Fry diz que sua voz foi roubada dos audiobooks de Harry Potter e replicada por IA – e adverte que isso é apenas o começo – Chloe Taylor
A OpenAI percebe que se envolver com a Europa, em vez de ameaçá-la, é a maneira de obter o que quer – David Meyer
O presidente do principal instituto de IA e ex-executivo da Amazon acredita que a IA vai interromper o emprego como o conhecemos, mas tornará o mundo mais rico e habilidoso – Prarthana Prakash
3 investidores do braço de VC corporativo da Microsoft, M12, estão seguindo em frente com a Touring Capital, uma nova empresa focada em IA – Anne Sraders
Espiões, cientistas, funcionários de defesa e fundadores de tecnologia não conseguem concordar sobre como controlar a IA: ‘Estamos correndo a toda velocidade em direção a um precipício’ – Chloe Taylor
COMIDA PARA O CÉREBRO
Opa, a IA fez de novo. Há algumas semanas, falamos sobre um tropeço embaraçoso do MSN, de propriedade da Microsoft, no qual um guia de viagem para Ottawa, Canadá, publicado em seu site, apresentava o Banco de Alimentos de Ottawa como uma das principais atrações turísticas – até mesmo recomendando que os visitantes fossem com o estômago vazio. O artigo foi criticado por ser extremamente insensível e agora, apenas algumas semanas depois, parece que a plataforma se superou.
O MSN está novamente em apuros após publicar um obituário aparentemente gerado por IA para o ex-jogador de basquete da NBA, Brandon Hunter, que faleceu inesperadamente na semana passada. A manchete: “Brandon Hunter inútil aos 42 anos”.
O restante do artigo não é melhor e parece um jogo sem sentido de Mad Libs. Diz que ele “entregou” depois de alcançar “sucesso vital como líder [sic] dos Bobcats” e “atuou em 67 jogos de vídeo”, observou o Futurism.
Mais um dia, mais um exemplo de a IA falhando totalmente nesse tipo de caso de uso. Então, quantas vezes isso precisa acontecer antes que os executivos admitam que não está funcionando?
“Estamos trabalhando para garantir que esse tipo de conteúdo não seja publicado no futuro”, disse Jeff Jones, diretor sênior da Microsoft, ao The Verge após o incidente do mês passado, que agora sabemos que não foi a última vez. E também não foi a primeira; o Futurism tem documentado a publicação de histórias estranhas geradas por IA na plataforma do MSN desde que a empresa substituiu seus escritores humanos por IA no ano passado.
