O maior astro do YouTube, MrBeast, parecia lançar a ‘maior promoção de iPhone do mundo’ – mas descobriu-se que, assim como Tom Hanks, ele era o rosto de um golpe de inteligência artificial

MrBeast, the biggest star on YouTube, appeared to launch the 'world's biggest iPhone promotion' - but it was discovered that, like Tom Hanks, he was the face of an artificial intelligence scam.

Apenas nesta semana, duas das pessoas mais famosas do planeta, o ator Tom Hanks e a estrela do YouTube MrBeast, foram alvo de imagens deepfake usadas para vender produtos.

Nesta semana, um vídeo artificialmente gerado de MrBeast – nome real Jimmy Donaldson – começou a circular no TikTok.

No clipe, Donaldson, que ganha US$ 82 milhões por ano, segundo a Forbes, aparentemente diz ao espectador que ele é um dos 10.000 “sortudos” selecionados para ganhar um iPhone 15 Pro, um novo lançamento que a Apple lançou no mês passado.

No vídeo, Donaldson afirma que os vencedores têm que pagar apenas US$ 2 pelo dispositivo, que é vendido por US$ 999.

• Bolsa de Valores Hoje Dow cai 430 pontos conforme dados de empregos...
• MrBeast denunciou o TikTok por permitir que uma versão deepfake del...
• Por que o seu telefone vai vibrar e soar um alarme na quarta-feira

O vídeo, que apareceu sob um nome de usuário ‘MrBeast’ – completo com uma aparente marca de autenticação azul – apresenta a semelhança do YouTuber dizendo: “Eu sou o MrBeast e estou fazendo o maior sorteio de iPhone 15 do mundo”.

O avatar no vídeo, que também fala com a voz de Donaldson, pede aos espectadores que cliquem em um link anexado ao vídeo para “reivindicar” seu prêmio.

Donaldson, que tem 189 milhões de assinantes no YouTube, tornou-se conhecido por suas doações extravagantes – por exemplo, ajudando 1.000 pessoas a ouvirem pela primeira vez e ajudando 1.000 pessoas cegas a ver pela primeira vez – o que pode ter levado alguns espectadores a pensar que o vídeo era real.

Mas Donaldson recorreu aos seus mais de 24 milhões de seguidores no X – o site anteriormente conhecido como Twitter – para alertá-los sobre o golpe.

“Muitas pessoas estão recebendo esse anúncio deepfake de mim”, escreveu o jovem de 25 anos. “As plataformas de mídia social estão prontas para lidar com o aumento dos deepfakes de IA? Isso é um problema sério.”

Muitas pessoas estão recebendo esse anúncio deepfake de mim… as plataformas de mídia social estão prontas para lidar com o aumento dos deepfakes de IA? Isso é um problema sério pic.twitter.com/llkhxswQSw

— MrBeast (@MrBeast) 3 de outubro de 2023

O TikTok não respondeu imediatamente ao pedido de comentário da ANBLE, mas disse a outros veículos de comunicação que o anúncio e a conta foram removidos da plataforma em poucas horas.

A plataforma prometeu combater imagens e vídeos deepfake. Em março, a política atualizada do TikTok afirmou que todas as imagens que são deepfake ou manipuladas, mas replicam uma situação realista, devem ser rotuladas como tal.

O site de vídeos curtos também proibiu deepfakes de figuras privadas ou jovens, enquanto imagens manipuladas de figuras públicas são permitidas, mas apenas para conteúdo artístico ou educacional.

O plano dentário de Tom Hanks

O astro de Forrest Gump e Toy Story, Tom Hanks, teve um incidente semelhante nesta semana.

Neste fim de semana, o ator indicado ao Oscar postou em sua página no Instagram que sua semelhança estava sendo usada em um anúncio de IA para um plano dentário.

“Cuidado!”, escreveu Hanks. “Existe um vídeo por aí promovendo um plano dentário com uma versão de IA de mim. Eu não tenho nada a ver com isso.”

Além de os clientes potencialmente perderem dinheiro com produtos de telefone ou golpes, celebridades que têm suas imagens manipuladas por artistas de deepfake dizem que é “aterrorizante” testemunhar isso.

A apresentadora de notícias da CBS, Gayle King, falou nesta semana sobre sua confusão quando as pessoas começaram a entrar em contato com ela sobre gomas de perda de peso.

Descobriu-se que um clipe que King usou para promover seu podcast Gayle King in the House havia sido alterado com uma dublagem, aparentemente mostrando a figura pública endossando o produto.

“Eu nunca tomei as gomas, nem sei do que se trata”, disse King ao CBS Mornings. “É muito assustador, pode fazer você dizer qualquer coisa.”

Até mesmo aqueles que foram otimistas em relação à IA, como o co-fundador da Microsoft, Bill Gates, e o CEO do JPIMorgan Chase, Jamie Dimon, dizem que se preocupam com a tecnologia caindo nas mãos erradas.

Gates expressou seus medos em um post de blog em julho, mas os comentários de Dimon vieram mais recentemente, ao dizer à Bloomberg TV: “A tecnologia fez coisas incríveis para a humanidade, mas, você sabe, aviões caem, medicamentos são mal utilizados – existem aspectos negativos.

“Este, o maior aspecto negativo na minha opinião, é a IA sendo usada por pessoas más para fazer coisas ruins. Pense em guerra cibernética.”