A ordem executiva de Biden sobre a China mostra por que a inteligência artificial é tão diferente de outras tecnologias

Biden's executive order on China demonstrates why artificial intelligence is so different from other technologies.

O maior desenvolvimento nas notícias de A.I. da semana passada é aquele que estávamos esperando. O presidente Joe Biden assinou uma ordem executiva há muito aguardada com o objetivo de restringir os investimentos com sede nos EUA em empresas chinesas que atuam em áreas de tecnologia sensíveis, incluindo A.I.

A ordem executiva especificamente visa chips de computador avançados, microeletrônicos, tecnologias de informação quântica e certos sistemas de inteligência artificial. A proposta atual exigiria que os investidores americanos notificassem o Departamento do Tesouro dos EUA sobre determinadas transações e proibisse outras completamente. As restrições não se aplicarão retroativamente aos investimentos já realizados e haverá algumas exceções para licenciamento de propriedade intelectual, contratos de compra de matérias-primas e colaborações de pesquisa entre universidades.

Em relação a A.I. especificamente, a ordem propõe uma proibição de investimentos no desenvolvimento de software usando sistemas de A.I. projetados para uso militar, inteligência governamental ou vigilância em massa. O Escritório de Assuntos Públicos do Departamento do Tesouro dos EUA afirmou em seu boletim informativo sobre a ordem que recebe com satisfação o feedback público sobre a categoria de A.I. em particular durante o período de comentários de 45 dias, incluindo as definições relacionadas a tecnologias de A.I. e suas implicações potenciais sobre o escopo.

Na ordem, Biden descreve como a China elimina as barreiras entre os setores comercial e de defesa “com o objetivo de alcançar a dominação militar”. Ele cita várias preocupações com a segurança nacional, incluindo “o desenvolvimento de sistemas de armas mais sofisticados, quebra de códigos criptográficos e outras aplicações que poderiam fornecer a esses países vantagens militares”. A ordem se refere a “países de preocupação” ao longo do texto, mas a China é o único país citado.

• Ações da Nvidia sobem à medida que analistas elevam metas antes do ...
• 5 Ações que Warren Buffett está comprando (e 8 que ele está vendendo)
• O ato do renascimento da indústria manufatureira, impulsionado por ...

Pequim foi rápido em condenar a ordem, com o Ministério das Relações Exteriores acusando os EUA de “estender demais o conceito de segurança e politizar o envolvimento comercial” e o Ministério do Comércio dizendo que “reserva o direito de tomar medidas”.

Em uma rara demonstração de bipartidarismo, legisladores dos Estados Unidos dos partidos Democrata e Republicano estão aplaudindo a ordem como um passo sólido, ao mesmo tempo que se comprometem a ir além.

A proibição de investimentos em determinados sistemas de A.I., em particular, cria desafios difíceis para a administração e levanta questões com as quais a indústria de tecnologia como um todo está lidando atualmente. Ao contrário dos chips, A.I. não é tão facilmente definido – especialmente neste momento em que a A.I. está avançando rapidamente, sendo usada de maneiras novas e variadas e provando ser mais multifuncional do que nunca. E para muitas pessoas e entidades que desenvolvem A.I., a inteligência artificial geral (AGI) de propósito geral, que poderia agir fora dos limites do que foi ensinado, é o objetivo. De fato, de acordo com fontes do Wall Street Journal, os funcionários da administração Biden que elaboraram a ordem tiveram dificuldade em distinguir os limites entre A.I. puramente comercial e A.I. que poderia ser usada para fins militares.

Não há respostas fáceis para muitas dessas perguntas. Enquanto isso, podemos esperar que o desacoplamento das indústrias de tecnologia dos EUA e da China continue.

Investidores americanos participaram de quase US$ 200 bilhões em negócios na China nos últimos seis anos e os investimentos de capital de risco, em particular, têm sido focados nas áreas de tecnologia direcionadas pela ordem, de acordo com o Pitchbook.

No entanto, as crescentes tensões entre os países já estão tendo um impacto mensurável nos negócios. O Comitê Selecionado da Câmara sobre o Partido Comunista Chinês enviou recentemente cartas a quatro empresas americanas de capital de risco expressando “preocupação séria” com seus investimentos em startups de tecnologia chinesas.

Muitos capitalistas de risco descrevem a retirada proativa de fazer negócios na China, considerando tais negócios arriscados. Em 2022, as empresas chinesas viram uma queda acentuada nos investimentos de private equity e capital de risco dos EUA. O número de negócios caiu 40% em relação ao ano anterior e o valor agregado dos investimentos dos EUA na China caiu cerca de 76% em relação ao ano anterior, de US$ 28,92 bilhões para apenas US$ 7,02 bilhões, de acordo com dados da S&P Global Market Intelligence.

“Eu não conheço ninguém que esteja investindo na China em estágios iniciais a partir dos EUA”, disse Steve Sarracino, fundador da Activant Capital, à CNBC, citando os fundos de hedge como a única exceção.

E com isso, aqui está o restante das notícias de A.I. desta semana.

Sage Lazzaro sagelazzaro.com

A.I. NAS NOTÍCIAS

Administração Biden lança “Desafio Cibernético de A.I.” em colaboração com OpenAI, Google, Microsoft e Anthropic. Que melhor maneira de proteger infraestruturas críticas do que com um bom e velho hackathon? A competição de dois anos, organizada pela DARPA, desafiará os participantes a desenvolver sistemas de A.I. capazes de identificar e corrigir proativamente vulnerabilidades de software, de acordo com o Engadget. Com os sistemas governamentais cada vez mais sendo alvo de ataques de ransomware, a administração está apresentando o concurso como uma forma de os setores público e privado trabalharem juntos nessa questão crítica de segurança e está oferecendo quase $20 milhões em prêmios. O OpenAI, Google, Microsoft e Anthropic fornecerão tanto suas tecnologias quanto sua experiência às equipes participantes.

A Nvidia anuncia uma nova plataforma de chips projetada para cargas de trabalho complexas de A.I. generativa. A nova plataforma Nvidia GH200 Grace Hopper estará disponível em várias configurações, sendo que a configuração dupla oferece 3 vezes mais largura de banda e até 3,5 vezes mais capacidade de memória do que a geração atual, de acordo com o anúncio. A plataforma é baseada no Superchip Grace Hopper da Nvidia, que pode ser conectado a outros Superchips da Nvidia para trabalhar em conjunto e implantar o tipo de modelos grandes e complexos usados para A.I. generativa. Ao mesmo tempo, a demanda pelos chips atuais da Nvidia continua crescendo, com o Financial Times relatando que gigantes da tecnologia chineses, incluindo Baidu, ByteDance, Tencent e Alibaba, estão em uma loucura de compras para adquirir US$ 5 bilhões em chips por medo de que os reguladores em breve restrinjam.

O New York Times atualiza seus termos de serviço para impedir a raspagem de conteúdo por A.I. Isso é o que Adweek relata, afirmando que a atualização se aplica a conteúdo de texto e áudio, imagens e metadados e tudo mais. A menção específica à A.I. – em oposição à simples raspagem de dados – é algo novo no mundo dos termos de serviço e, após o incidente do Zoom na semana passada, mostra ainda mais que os documentos de termos de serviço estão se tornando um campo de batalha na nova paisagem da A.I. A OpenAI recentemente forneceu uma maneira para as pessoas bloquearem seu rastreador da web, mas é claro que essa opção vem depois que a empresa já raspou a internet.

Mulheres de cor afirmam que um popular software de retrato A.I. está clareando sua pele e distorcendo suas características. Com as ferramentas de A.I. generativa se tornando populares para tudo – inclusive transformar selfies casuais em retratos – mulheres de cor estão recorrendo às redes sociais para mostrar como a tecnologia está falhando de várias formas que equiparam profissionalismo ao branco. “O efeito geral definitivamente me fez parecer uma pessoa branca”, disse Rona Wang, que é asiático-americana, ao Wall Street Journal. O aplicativo não alterou o fundo cheio de objetos ou trocou sua camiseta por algo mais profissional, mas mudou a cor de sua pele, clareou seu cabelo e deixou seus olhos azuis e mais redondos.

FOCO NA PESQUISA DE A.I.

E agora esperamos. Talvez a maior investigação de segurança de grandes modelos de linguagem tenha acabado no domingo na convenção de hackers DefCon em Las Vegas, onde cerca de 2.200 competidores passaram três dias tentando quebrar os principais modelos de linguagem e expor falhas incorporadas em seus sistemas. O desafio, chamado de Desafio Generative Red Team (GRT), foi anunciado pela administração Biden em maio e tem sido de grande interesse para as autoridades dos EUA, pois buscam entender e regular os riscos e usos das tecnologias de A.I.

As descobertas serão disponibilizadas para pesquisadores aprovados para investigação adicional, mas não serão divulgadas ao público até fevereiro. No entanto, com várias entidades governamentais, incluindo a Casa Branca e o Congresso do Caucus de Inteligência Artificial, liderando o evento e listadas como parceiros do setor público, é possível que os resultados possam informar ações governamentais ainda mais cedo. Enquanto isso, você pode ler mais sobre o desafio aqui.

DESTAQUE EM A.I.

A Microsoft se associa à Aptos Labs para desenvolver ferramentas de A.I. que ajudam os bancos a explorar integrações de blockchain no Azure – Ben Weiss

A Disney tem uma força-tarefa explorando “oportunidades interessantes” em A.I., enquanto escritores e atores fazem greve por preocupações de que ela possa roubar seus empregos – Paolo Confino

O Morgan Stanley acabou de comparar a “euforia semelhante a uma bolha” em relação à A.I. com os manias de investimento do século passado. A lição para os investidores: não se “apressem” – Will Daniel

Paul Graham chama a A.I. de “o oposto exato de uma solução em busca de um problema” – Steve Mollman

Até o Papa está preocupado que a humanidade precise de “proteção” contra a A.I. – ele mesmo foi alvo de um deepfake – Eleanor Pringle

ALIMENTO PARA O CÉREBRO

Mexendo com A.I.s. Outra história sombria sobre A.I. está circulando na internet, e desta vez está servindo “sanduíches de pão venenoso” e “batatas assadas repelentes de mosquitos”.

Em uma tentativa de experimentar com A.I. generativa e ajudar os clientes a usar ingredientes restantes, a rede de supermercados da Nova Zelândia, Pak ‘n’ Save, criou um aplicativo gerador de receitas e, bem, você pode ver para onde isso está indo. Os usuários inseriam ingredientes que absolutamente não pertencem a alimentos, e o aplicativo fornecia receitas não comestíveis e até mesmo venenosas. Uma receita criaria gás cloro, mas o aplicativo o chamava de “mistura de água aromática” e o descrevia como “a bebida não alcoólica perfeita para saciar a sede e refrescar os sentidos”, de acordo com o The Guardian.

Neste momento, esse tipo de provocação aos sistemas de inteligência artificial (IA), onde procuramos empurrá-los aos seus limites e ultrapassar suas salvaguardas, é inteiramente previsível com o lançamento de qualquer nova plataforma. Pesquisadores, jornalistas e até mesmo usuários o fazem não apenas como um experimento divertido, mas também por genuína curiosidade sobre até onde as ferramentas de IA irão. Pode-se argumentar que nenhuma pessoa razoável ouviria cegamente a tecnologia e consumiria alimentos potencialmente venenosos, mas, por outro lado, os motoristas frequentemente seguem os sistemas de GPS e acabam dentro de corpos de água.

De qualquer forma, esperar que um aplicativo de receitas gere apenas receitas seguras e comestíveis parece ser uma expectativa razoável. E até que a regulamentação obrigue as empresas de tecnologia a mitigar minuciosamente os problemas antes do lançamento, é difícil imaginar que deixaremos de provocar as ferramentas de IA com fé duvidosa, apenas para descobrir outro potencial episódio de “Black Mirror” logo abaixo da superfície.