Operadores chineses estão usando fotos de IA para enganar os eleitores americanos e fazê-los se virarem uns contra os outros, afirma a Microsoft.

A Microsoft afirma que operadores chineses estão usando fotos de IA para manipular eleitores americanos e criar conflitos entre eles.

• A Microsoft alertou que a China tem usado imagens geradas por IA para semear discórdia entre os eleitores americanos.
• Pessoas reais estão repostando essas imagens divisivas, sem perceber que são falsas, adicionou a Microsoft.
• A Embaixada da China em Washington, D.C., contra-atacou, falando de “especulação maliciosa” contra a China.

Desde março, a China tem usado IA gerativa para criar conteúdo viral que divide os eleitores americanos nas redes sociais – e está melhorando nisso, dizem os analistas da Microsoft.

“Observamos atores afiliados à China aproveitando mídia visual gerada por IA em uma ampla campanha que se concentra principalmente em tópicos politicamente divisivos, como violência armada, e denegrindo figuras políticas e símbolos dos EUA”, escreveu Clint Watts, gerente geral do Centro de Análise de Ameaças da Microsoft.

Analistas do centro divulgaram um relatório na quinta-feira destacando as ameaças digitais da China e da Coreia do Norte, e disseram que os operadores chineses estão influenciando seus alvos “em maior medida do que antes observado”.

A Microsoft alertou sobre contas de mídia social afiliadas ao Partido Comunista Chinês, que postariam imagens geradas por IA, como um pôster do Black Lives Matter mostrando buracos de bala e um homem negro se rendendo.

• Uma cadeira executiva leva à confusão corporativa ‘Duas pesso...
• A Rogers do Canadá vai vender $2.2 bilhões em títulos para pagar dí...
• Rúpia verá algum alívio na recuperação dos rendimentos dos EUA, índ...

Horas depois que o pôster do Black Lives Matter foi enviado, uma conta que se fazia passar por um eleitor conservador dos EUA repostou a imagem, reclamando de discriminação racial, de acordo com a Microsoft.

Outro exemplo citado foi um pôster gerado por IA da Estátua da Liberdade segurando um fuzil de assalto, juntamente com a legenda “A Deusa da Violência.” Os analistas da Microsoft disseram que foi postado por uma conta suspeita de ser uma operação de influência chinesa.

“Este conteúdo visual de alta qualidade já atraiu níveis mais altos de engajamento de usuários autênticos de mídia social”, alertaram os analistas.

Eles acrescentaram que as novas imagens são mais chamativas, e os eleitores americanos reais estão repostando-as mesmo que elas contenham “indicadores comuns de geração por IA”, como mais de cinco dedos em uma mão.

Agora também é mais difícil dizer que essas contas não são genuínas, disseram os analistas da Microsoft.

“Ao contrário das campanhas anteriores de IO de atores afiliados ao CCP que usavam identificadores gerados por computador, nomes de exibição e fotos de perfil fáceis de detectar, essas contas mais sofisticadas são operadas por pessoas reais que usam identidades fictícias ou roubadas para ocultar a afiliação das contas com o CCP”, escreveram eles.

Mas existem sinais reveladores, segundo a Microsoft. Muitos desses operadores começariam a postar em mandarim e depois mudariam para outra língua, disse o centro de ameaças.

As contas fariam uma postagem e, em seguida, comentariam, curtiriam e compartilhariam postagens de outras contas semelhantes, criando um padrão em que impulsionariam o conteúdo uns dos outros, disse a Microsoft.

“Podemos esperar que a China continue a aprimorar essa tecnologia ao longo do tempo, embora ainda reste saber como e quando ela a implantará em grande escala”, escreveu Watts.

Ao ser perguntado sobre o relatório da Microsoft, um porta-voz da Embaixada da China em Washington, D.C., Liu Pengyu, disse à Insider em um comunicado: “Nos últimos anos, alguns meios de comunicação ocidentais e think tanks acusaram a China de usar inteligência artificial para criar contas falsas nas redes sociais para interferir na política dos EUA. Tais comentários estão cheios de preconceito e especulação maliciosa contra a China, que a China se opõe firmemente.”

Em julho, a empresa de pesquisa em segurança cibernética Mandiant disse que encontrou operadores afiliados à China que pagaram pessoas em Washington, D.C., para protestar contra a proibição do governo dos EUA de produtos produzidos na região de Xinjiang. Os vídeos de seus protestos foram então “amplificados” por contas de mídia social usadas pelos operadores, acrescentou a Mandiant.

Em 29 de agosto, a Meta também alertou sobre uma campanha de influência chinesa que espalha informações falsas, envolvendo mais de 7.700 contas do Facebook, 950 páginas do Facebook, 15 grupos do Facebook e 15 contas do Instagram. A empresa de mídia social disse que removeu todas elas.

• AI
• China
• Politics