Biden assina nova ordem de IA exigindo que agências e indústria de tecnologia desenvolvam rapidamente regras de segurança e proteção ‘Não podemos nos mover no ritmo normal do governo’.

Biden assina nova ordem de IA Acabou a moleza! Agências e indústria de tecnologia têm que correr e criar regras de segurança e proteção. Não dá para ficar no modo tartaruga do governo!

A ordem reflete o esforço do governo para moldar como a inteligência artificial evolui de forma a maximizar suas possibilidades e conter seus perigos. A IA tem sido fonte de profundo interesse pessoal para Biden, com seu potencial para afetar a economia e a segurança nacional.

O Chefe de Gabinete da Casa Branca, Jeff Zients, lembrou que Biden deu uma diretriz urgente à sua equipe sobre o assunto, considerando a tecnologia uma prioridade máxima.

“Não podemos nos mover no ritmo normal do governo”, disse Zients, citando as palavras do presidente. “Precisamos nos mover tão rápido, se não mais rápido, do que a própria tecnologia.”

Na visão de Biden, o governo demorou para lidar com os riscos das redes sociais e agora os jovens dos Estados Unidos estão lidando com questões de saúde mental relacionadas. A IA tem a capacidade positiva de acelerar a pesquisa do câncer, modelar os impactos das mudanças climáticas, aumentar a produção econômica e melhorar os serviços governamentais, entre outros benefícios. No entanto, também pode distorcer noções básicas de verdade com imagens falsas, aprofundar desigualdades raciais e sociais e fornecer uma ferramenta para golpistas e criminosos.

• África improvável de seguir o caminho de crescimento da manufatura ...
• O design pode salvar o mundo? Uma nova aliança de empresas como Pep...
• A UAW aumenta a pressão sobre a GM, único obstáculo, após alcançar ...

A ordem se baseia em compromissos voluntários já feitos por empresas de tecnologia. Faz parte de uma estratégia mais ampla que também inclui legislação do Congresso e diplomacia internacional, um sinal das perturbações já causadas pela introdução de novas ferramentas de IA, como o ChatGPT, capaz de gerar novo texto, imagens e sons.

Usando o Defense Production Act, a ordem exigirá que os principais desenvolvedores de IA compartilhem os resultados de testes de segurança e outras informações com o governo. O Instituto Nacional de Padrões e Tecnologia criará padrões para garantir que as ferramentas de IA sejam seguras e protegidas antes de serem disponibilizadas ao público.

O Departamento de Comércio emitirá orientações para rotular e marcar conteúdo gerado por IA, a fim de ajudar a diferenciar interações autênticas das geradas por software. A ordem também aborda questões de privacidade, direitos civis, proteção do consumidor, pesquisa científica e direitos dos trabalhadores.

Um funcionário do governo que previu a ordem em uma conferência por telefone com repórteres no domingo disse que as tarefas da ordem serão implementadas e cumpridas no prazo de 90 a 365 dias, sendo que os itens de segurança terão os prazos mais próximos. O funcionário informou os repórteres em condição de anonimato, conforme exigido pela Casa Branca.

Na última quinta-feira, Biden reuniu seus assessores no Salão Oval para revisar e finalizar a ordem executiva, numa reunião que durou 70 minutos, apesar de outros assuntos urgentes, como o tiroteio em massa em Maine, a guerra entre Israel e Hamas e a escolha de um novo presidente da Câmara dos Deputados.

Biden estava profundamente curioso sobre a tecnologia nos meses de reuniões que antecederam a elaboração da ordem. Seu conselho de ciência focou na IA em duas reuniões e seu gabinete discutiu o assunto em outras duas reuniões. O presidente também pressionou executivos de tecnologia e defensores da sociedade civil sobre as capacidades da tecnologia em múltiplos encontros.

“Ele ficou impressionado e alarmado como qualquer pessoa”, disse Bruce Reed, vice-chefe de gabinete da Casa Branca, em uma entrevista. “Ele viu imagens falsas geradas por IA dele mesmo e de seu cachorro. Ele viu como ela pode criar uma poesia ruim. E ele viu e ouviu a tecnologia incrível e assustadora da clonagem de voz, que pode pegar três segundos da sua voz e transformar isso em uma conversa falsa completa.”

A possibilidade de imagens e sons falsos levou o presidente a priorizar a rotulagem e marcação de tudo o que é produzido por IA. Biden também queria evitar o risco de idosos americanos receberem uma ligação telefônica de alguém que parecia um ente querido, apenas para serem enganados por uma ferramenta de IA.

As reuniões poderiam se estender além do horário, com Biden dizendo aos defensores da sociedade civil em um salão do Hotel Fairmont, em San Francisco, em junho: “Isso é importante. Leve o tempo que precisar.”

O presidente também conversou com cientistas e viu os benefícios que a IA traz quando utilizada para o bem. Ele ouviu um físico ganhador do Prêmio Nobel falar sobre como a IA pode explicar as origens do universo. Outro cientista mostrou como a IA poderia modelar fenômenos climáticos extremos, como inundações de cem anos, já que os dados passados usados para avaliar esses eventos perderam sua precisão devido às mudanças climáticas.

A questão da IA era aparentemente inevitável para Biden. Em um fim de semana em Camp David, ele relaxou assistindo ao filme “Missão: Impossível – Dieguem Parte Um”. O vilão do filme é uma IA consciente e rebelde conhecida como “a Entidade”, que afunda um submarino e mata sua tripulação nos primeiros minutos do filme.

“Se ele já estava preocupado com o que poderia dar errado com a IA antes desse filme, ele viu muitas outras coisas para se preocupar,” disse Reed, que assistiu ao filme com o presidente.

Com o Congresso ainda em estágios iniciais de debate sobre salvaguardas da IA, a ordem de Biden estabelece uma perspectiva dos Estados Unidos, enquanto países ao redor do mundo correm para estabelecer suas próprias diretrizes. Depois de mais de dois anos de deliberação, a União Europeia está finalizando um conjunto abrangente de regulamentações que se concentra nas aplicações mais arriscadas da tecnologia. A China, um rival chave em IA para os EUA, também estabeleceu algumas regras.

O primeiro-ministro britânico, Rishi Sunak, também espera criar um papel proeminente para a Grã-Bretanha como um centro de segurança da IA em uma cúpula nesta semana, na qual a vice-presidente dos EUA, Kamala Harris, planeja comparecer.

Os EUA, particularmente a Costa Oeste, são o lar de muitos dos principais desenvolvedores de tecnologia AI de ponta, incluindo gigantes da tecnologia como Google, Meta e Microsoft, e startups focadas em IA como a OpenAI, fabricante do ChatGPT. A Casa Branca aproveitou o peso dessa indústria no início deste ano, quando obteve compromissos dessas empresas para implementar mecanismos de segurança ao construir novos modelos de IA.

Mas a Casa Branca também enfrentou pressão significativa de aliados democratas, incluindo grupos trabalhistas e de direitos civis, para garantir que suas políticas refletissem suas preocupações sobre os danos do mundo real causados pela IA.

A União Americana pelas Liberdades Civis está entre os grupos que se reuniram com a Casa Branca para tentar garantir “que estamos responsabilizando a indústria de tecnologia e os bilionários de tecnologia” para que as ferramentas algorítmicas “funcionem para todos nós e não apenas para alguns”, disse ReNika Moore, diretora do programa de justiça racial da ACLU.

Suresh Venkatasubramanian, ex-funcionário da administração Biden que ajudou a elaborar princípios para abordar a IA, disse que um dos maiores desafios dentro do governo federal tem sido o que fazer sobre o uso de ferramentas de IA pela aplicação da lei, incluindo nas fronteiras dos EUA.

“Todas essas são áreas onde sabemos que o uso da automação é bastante problemático, com reconhecimento facial, tecnologia de drones”, disse Venkatasubramanian. A tecnologia de reconhecimento facial tem mostrado desempenho irregular entre grupos raciais e tem sido relacionada a prisões errôneas.