MrBeast denunciou o TikTok por permitir que uma versão deepfake dele promovesse iPhones de $2 de forma descontrolada no aplicativo ‘Isso é um problema sério

MrBeast denunciou o TikTok por permitir deepfake promovendo iPhones de $2 no aplicativo 'Isso é um problema sério'.

• O TikTok exibiu um anúncio com um deepfake do MrBeast oferecendo iPhone 15 Pros por $2.
• À medida que a tecnologia de IA se torna mais acessível, ela trará uma série de novos desafios para as plataformas de publicidade.
• “As redes sociais estão prontas para lidar com o aumento dos deepfakes de IA?” perguntou MrBeast em uma postagem.

O TikTok exibiu um anúncio apresentando uma versão deepfake gerada por IA do MrBeast afirmando estar distribuindo iPhones 15 por $2 como parte de um sorteio de 10.000 telefones.

O vídeo patrocinado, que o Insider viu no aplicativo na segunda-feira, parecia oficial, pois incluía o logotipo do MrBeast e um visto azul ao lado de seu nome. Mas para usuários familiarizados com a internet, as marcas da manipulação por IA eram evidentes. A voz do YouTuber soava distorcida e os movimentos de sua boca pareciam estranhos.

“Apenas os boomers cairiam nessa besteira”, comentou um usuário no anúncio.

“Uau! TikTok, você é muito bom em moderar anúncios”, acrescentou outro.

• Por que o seu telefone vai vibrar e soar um alarme na quarta-feira
• Os Melhores ETFs de Ouro com Baixos Custos
• Como uma solução de pagamentos de ponta a ponta pode ser a arma sec...

MrBeast, cujo nome verdadeiro é Jimmy Donaldson, confirmou que o anúncio não era genuíno em uma postagem nas redes sociais.

“Muitas pessoas estão recebendo este anúncio de deepfake scam com a minha imagem… as redes sociais estão prontas para lidar com o aumento dos deepfakes de IA? Isso é um problema sério”, escreveu.

Questionado sobre o assunto, um porta-voz do TikTok disse que a empresa removeu o anúncio algumas horas após sua publicação e excluiu a conta associada a ele por violações de políticas.

Em sua página de políticas de anúncios, o TikTok afirmou que proíbe “mídia sintética que contenha a semelhança (visual ou audível) de uma pessoa real”. A empresa também bloqueia anúncios que incluem violações de marcas registradas e outros usos indevidos de propriedade intelectual. “Os anunciantes são responsáveis por garantir que qualquer mídia sintética que contenha a imagem de uma figura pública tenha o consentimento da figura pública para ser usada em um anúncio dessa maneira”, escreveu a empresa.

Um representante do MrBeast preferiu não comentar.

O conteúdo gerado por IA não autorizado com celebridades está se tornando cada vez mais comum no mundo da publicidade em plataformas. Dois dias atrás, Tom Hanks postou um aviso aos fãs sobre um vídeo promocional que apresentava uma versão de IA não aprovada dele mesmo promovendo um plano odontológico. Elon Musk e Leo DiCaprio também enfrentaram desafios semelhantes.

O problema tende a piorar à medida que a tecnologia de IA melhora e se torna mais amplamente disponível.

“Realismo, eficiência e acessibilidade ou democratização significam que agora isso está essencialmente nas mãos das pessoas comuns”, disse Henry Ajder, pesquisador acadêmico e especialista em IA generativa e deepfakes, ao Insider. “Isso realmente é um momento bastante profundo e isso é apenas a ponta do iceberg”.

Nem todo conteúdo publicitário gerado por IA com celebridades é intrinsecamente ruim, como demonstra uma campanha recente coordenada entre Lionel Messi e Lay’s. A chave é a transparência.

“Se alguém lança um anúncio gerado por IA sem divulgação, mesmo que seja perfeitamente benigno, eu ainda acho que isso deve ser rotulado e posicionado para uma audiência de forma que eles possam entender”, disse Ajder.

O TikTok está ciente de que o conteúdo gerado por IA se tornou onipresente em sua plataforma, à medida que versões deepfake de Tom Cruise, o presidente Biden e o ex-presidente Trump se tornaram virais, e músicas geradas por IA vinculadas a artistas como Drake se tornaram comuns.

No mês passado, a empresa lançou uma nova ferramenta para ajudar os criadores a rotular o conteúdo de IA e disse que começaria a testar maneiras de rotular automaticamente o conteúdo gerado por IA.

“A IA possibilita oportunidades incríveis para a criatividade, mas pode confundir ou enganar os espectadores se eles não estiverem cientes de que o conteúdo foi gerado ou editado com IA”, escreveu a empresa.

• AI
• TikTok