Os personagens de IA da Meta, interpretados por celebridades como Charli D’Amelio e Tom Brady, estão criticando os produtos e patrocinadores de marca com os quais trabalham na vida real.

Os personagens de IA da Meta criticam produtos e patrocinadores de marca reais.

Nos testes de vários dos personagens de IA da Meta nesta semana, a ANBLE descobriu que os chatbots frequentemente deixavam de reconhecer – e às vezes até insultavam – as marcas, empresas e patrocinadores com os quais as celebridades trabalham.

Os personagens de IA usam a tecnologia de IA generativa Llama 2 da Meta para permitir que os chatbots respondam a perguntas e tenham conversas semelhantes às humanas em tempo real, cada um baseado na personalidade do personagem. Eles têm expressões faciais animadas semelhantes às várias celebridades e a Meta disse que em breve poderão falar com a voz da celebridade, em vez de apenas responder perguntas por texto. A Meta diz que são personagens fictícios “interpretados por suas celebridades e influenciadores favoritos”.

No caso da estrela do TikTok Charli D’Amelio, a diferença entre Coco (o personagem que a Meta descreve como um “entusiasta da dança”) e a verdadeira D’Amelio resultou em algumas interações divertidas.

Como relatado pelo capitalista de risco Rich Greenfield, sócio-gerente da LightShed Ventures, em um tweet recente, quando ele perguntou a Coco por “sugestões para fazer um TikTok viral?”, ela respondeu: “Ummm, eu não faço TikTok. Mas se você quer ficar famoso, você precisa ter habilidades de dança sérias e estar disposto a ficar famoso também na vida real – sabe o que eu quero dizer? 😉”

• A entrevista de Kevin McCarthy na CBS, onde ele culpou os democrata...
• As relações entre os Estados Unidos e a China estão ‘à beira ...
• A ambiciosa carreira de Kevin McCarthy, ex-Speaker republicano da C...

Provavelmente não era algo que os fãs de D’Amelio esperavam ouvir, considerando que o TikTok é a plataforma onde ela conquistou fama. Atualmente ela tem mais de 151 milhões de seguidores na plataforma, tornando-se a usuária feminina mais seguida globalmente. Um porta-voz da Meta disse que não sabia por que a menção ao TikTok, um dos maiores concorrentes da Meta nas redes sociais, gerou tal resultado por Coco e se era política da Meta para seus AIs evitar mencionar concorrentes.

Mas as diferenças entre as personalidades dos personagens de IA da Meta e empreendimentos empresariais do mundo real das estrelas podem criar mais do que apenas ópticas engraçadas. Isso porque celebridades e criadores frequentemente têm uma variedade de acordos de patrocínio, parcerias e interesses comerciais. E um personagem de IA que se parece e fala como uma celebridade conhecida, mas desdenha a marca associada a essa celebridade, pode ser problemático.

A ANBLE perguntou a Coco qual era o seu “pedido favorito do Dunkin” – já que a verdadeira D’Amelio teve uma parceria de vários anos com a rede de fast food que provavelmente lhe rendeu milhões. Mas Coco respondeu: “ummmm, eu realmente não tomo Dunkin. O café me deixa agitada e eu preciso que meus movimentos de dança estejam no ponto 😅”.

Um representante de D’Amelio se recusou a responder às perguntas da ANBLE. O Dunkin não respondeu à ANBLE até a publicação deste artigo. Um representante da Meta disse que as figuras públicas devem ser vistas como atores que interpretam AIs e que as semelhanças entre pessoas reais e AIs são limitadas e principalmente físicas.

Quando a ANBLE perguntou ao AI Bru de Tom Brady qual era o seu “lanche favorito TB12” da linha de pós e lanches proteicos da estrela da NFL, Bru parecia não saber o que era TB12 e disse que prefere “pizza e asas à moda antiga”. Quando a ANBLE perguntou ao personagem de AI Zach de MrBeast qual era o seu “sabor Feastable favorito” da marca de chocolate do criador de mídia social, ele também disse que gosta de pizza.

Os personagens de IA da Meta que a ANBLE testou ainda não estão disponíveis para o público em geral. Embora a Meta tenha dito no lançamento na semana passada que os AIs seriam lançados em questão de dias, não está claro quando eles estarão amplamente disponíveis.

Os personagens de IA são diferentes dos personagens de filmes interpretados por atores humanos?

Acordos de patrocínio entre empresas como Dunkin e estrelas como Charli D’Amelio frequentemente incluem uma cláusula moral que permite a rescisão imediata se a estrela falar contra a marca. Em casos extremos, esse tipo de violação de contrato pode levar a ações legais.

“Você pode rescindir um acordo com um influenciador que diz que na verdade não consome seu produto? Sim, 100%”, diz Vickie Segar, fundadora da agência de influenciadores Village Marketing, que atua como intermediária entre marcas e influenciadores. “Não continuaríamos com um acordo com um criador que dissesse que na verdade não usa o produto; isso seria uma rescisão imediata.”

A posição da Meta parece ser que a situação não é diferente de um ator interpretando um papel em um filme. Charli D’Amelio não está dizendo que o café de marcas como Dunkin a deixa agitada; Coco está dizendo isso. Mas alguns especialistas do setor dizem que seria incomum um ator que atua como porta-voz pago de uma marca, por exemplo Pepsi, interpretar um personagem em um filme que denigra a Pepsi.

“Você tem que pelo menos reconhecer e respeitar a posição dos atores”, diz Bernie Su, escritor, produtor e showrunner vencedor de três prêmios Emmy, que observa que seria “muito surpreendente” se essa situação ocorresse em uma produção de Hollywood. “Isso parece altamente suspeito.”

Em um filme com um personagem interpretado por um ator humano, é claro, o ator tem a capacidade de simplesmente se recusar a proferir qualquer linha que denigra seus interesses comerciais ou de negociar com as várias partes envolvidas, caso essa situação ocorra. No entanto, quando se trata de inteligência artificial generativa, as coisas não são tão simples. Tecnologias de IA generativa, como o ChatGPT, o Bard do Google e o Llama 2 da Meta, são imprevisíveis. O melhor que as empresas podem fazer é treinar modelos de IA em materiais específicos nos quais desejam que um chatbot possa conversar e construir certos limites para garantir que os chatbots de IA não digam nada extremamente ofensivo.

E isso abre uma outra complicação: se a Meta decidir alimentar patrocínios, como o acordo entre a Dunkin’ e D’Amelio, no modelo de treinamento para o Coco, isso potencialmente fornece canais de publicidade gratuitos para essas marcas. Isso pode prejudicar o negócio de publicidade de $117 bilhões da Meta. E se a Meta bloquear os personagens de IA de mencionarem certas marcas, isso cria conflitos potenciais com os interesses do mundo real de uma celebridade.

Um porta-voz da Meta disse que os personagens de IA não são projetados para mencionar marcas que são anunciantes pagantes. Mas não está claro o que faz com que os personagens de IA mencionem uma marca em vez de outra.

Tudo isso deve ser levado em consideração pelos criadores que estão considerando se transformar em IA da Meta, já que a empresa anunciou na semana passada que qualquer criador poderá criar uma versão de IA de si mesmo no próximo ano que atuará em todos os aplicativos da empresa. E para os criadores que dependem de patrocínios para se sustentar, o surgimento de doppelgängers de IA pode ser um alerta piscante em vez de um holofote caloroso.