Amy Klobuchar acaba de avisar Elon Musk e Mark Zuckerberg que o ‘mínimo necessário’ não será suficiente nesta eleição, já que deepfakes de IA estão se espalhando descontroladamente.

Amy Klobuchar warns Elon Musk and Mark Zuckerberg that the 'minimum required' will not be enough in this election, as AI deepfakes are spreading uncontrollably.

Mas o que acontece no próximo ano antes de uma eleição presidencial nos EUA?

O Google foi a primeira grande empresa de tecnologia a dizer que imporia novos rótulos em anúncios políticos gerados por IA enganosa que poderiam falsificar a voz ou as ações de um candidato. Agora, alguns legisladores dos EUA estão pedindo às plataformas de mídia social X, Facebook e Instagram que expliquem por que não estão fazendo o mesmo.

Dois membros democratas do Congresso enviaram uma carta na quinta-feira para o CEO do Meta, Mark Zuckerberg, e para a CEO do X, Linda Yaccarino, expressando “preocupações sérias” sobre o surgimento de anúncios políticos gerados por IA em suas plataformas e pedindo a cada um deles para explicar quaisquer regras que estejam criando para conter os danos às eleições livres e justas.

“Eles são duas das maiores plataformas e os eleitores merecem saber quais são as salvaguardas sendo implementadas”, disse a senadora Amy Klobuchar de Minnesota em uma entrevista à Associated Press. “Estamos simplesmente pedindo a eles: ‘Você não pode fazer isso? Por que vocês não estão fazendo isso?’ É claramente tecnologicamente possível.”

• Amazon e Microsoft estão na mira de mais um órgão de fiscalização a...
• Para gerar receita com anúncios, o Meta tem um novo trabalho para s...
• A Apple considerou substituir o Google pelo DuckDuckGo como mecanis...

A carta aos executivos de Klobuchar e da representante dos EUA Yvette Clarke de Nova York adverte: “Com as eleições de 2024 se aproximando rapidamente, a falta de transparência sobre esse tipo de conteúdo em anúncios políticos pode levar a uma perigosa inundação de desinformação relacionada a eleições e desinformação em suas plataformas – onde os eleitores costumam recorrer para conhecer candidatos e questões.”

O X, anteriormente conhecido como Twitter, e o Meta, empresa controladora do Facebook e do Instagram, não responderam imediatamente aos pedidos de comentário na quinta-feira. Clarke e Klobuchar pediram que os executivos respondessem às suas perguntas até 27 de outubro.

A pressão sobre as empresas de mídia social ocorre enquanto ambos os legisladores estão liderando uma iniciativa para regular anúncios políticos gerados por IA. Um projeto de lei da Câmara apresentado por Clarke este ano exigiria avisos quando anúncios eleitorais contivessem imagens ou vídeos gerados por IA.

“Isso é o mínimo necessário”, disse Klobuchar, que está patrocinando uma legislação complementar no Senado que espera que seja aprovada antes do final do ano. Enquanto isso, a esperança é que as grandes plataformas de tecnologia “façam isso por conta própria enquanto trabalhamos no padrão”, disse Klobuchar.

O Google já disse que, a partir de meados de novembro, exigirá um aviso claro em qualquer anúncio eleitoral gerado por IA que altere pessoas ou eventos no YouTube e em outros produtos do Google. Essa política se aplica tanto nos EUA quanto em outros países onde a empresa verifica anúncios eleitorais. O Meta, controladora do Facebook e do Instagram, não possui uma regra específica para anúncios políticos gerados por IA, mas possui uma política que restringe áudio e imagens “falsificados, manipulados ou transformados” usados para desinformação.

Um projeto de lei bipartidário mais recente, co-patrocinado por Klobuchar, o senador republicano Josh Hawley do Missouri e outros, iria mais longe ao proibir deepfakes “materialmente enganosos” relacionados a candidatos federais, com exceções para paródia e sátira.

Anúncios gerados por IA já fazem parte das eleições de 2024, incluindo um veiculado pelo Comitê Nacional Republicano em abril com o objetivo de mostrar o futuro dos Estados Unidos se o presidente Joe Biden for reeleito. Ele usou fotos falsas, mas realistas, mostrando lojas fechadas com tábuas nas janelas, patrulhas militares com armaduras nas ruas e ondas de imigrantes criando pânico.

Klobuchar disse que tal anúncio provavelmente seria proibido pelas regras propostas. O mesmo ocorreria com uma imagem falsa de Donald Trump abraçando o especialista em doenças infecciosas Dr. Anthony Fauci, mostrada em um anúncio de ataque do adversário de Trump nas primárias do GOP e governador da Flórida, Ron DeSantis.

Como outro exemplo, Klobuchar citou um vídeo deepfake do início deste ano que supostamente mostrava a senadora democrata Elizabeth Warren em uma entrevista na TV sugerindo restrições à votação dos republicanos.

“Isso será muito enganador se, em uma corrida presidencial, o candidato que você gosta ou o candidato que você não gosta estiver realmente dizendo coisas que não são verdadeiras”, disse Klobuchar. “Como você vai saber a diferença?”

Klobuchar, que preside o Comitê de Regras e Administração do Senado, presidiu uma audiência em 27 de setembro sobre IA e o futuro das eleições, que contou com testemunhas, incluindo o secretário de estado de Minnesota, um defensor dos direitos civis e alguns céticos. Republicanos e alguns dos depoentes que eles convidaram para testemunhar têm sido cautelosos em relação às regras consideradas como invasão das proteções à liberdade de expressão.

Ari Cohn, advogado do think tank TechFreedom, disse aos senadores que os deepfakes que surgiram até agora antes das eleições de 2024 têm atraído “imensa escrutínio, até mesmo ridicularização”, e não têm desempenhado um papel significativo em enganar os eleitores ou afetar seu comportamento. Ele questionou se novas regras eram necessárias.

“Mesmo o discurso falso é protegido pela Primeira Emenda”, disse Cohn. “De fato, a determinação da verdade e da falsidade na política é apropriada para os eleitores.”

A Comissão Federal de Eleições em agosto deu um passo processual em direção à regulamentação potencial de deepfakes gerados por IA em anúncios políticos, abrindo para comentários públicos uma petição que pediu o desenvolvimento de regras sobre imagens, vídeos e clipes de áudio enganosos.

O período de comentário público para a petição, apresentada pelo grupo de defesa Public Citizen, termina em 16 de outubro.

—-

O escritor da Associated Press, Ali Swenson, contribuiu para este relatório.