Pais e terapeutas preocupados com a dependência das redes sociais em adolescentes dizem que os robôs de IA realistas e famosos da Meta são exatamente o que você projetaria para manter as crianças viciadas.

Pais e terapeutas alarmados com a dependência das redes sociais em adolescentes afirmam que os robôs realistas e famosos da Meta são exatamente como você imaginaria para manter as crianças viciadas.

Desenvolvidos em parceria com estrelas como Charli D’Amelio, Tom Brady e Kendall Jenner, os bots usam a magia da IA generativa para criar réplicas digitais animadas das celebridades. Usuários do WhatsApp do Meta, Instagram e Messenger podem ter interações individuais com os bots, fazendo perguntas, se confidenciando e rindo juntos de suas piadas.

Rotulados pelo Meta como IA com “personalidade, opiniões e interesses, e um pouco mais divertidos para interagir”, os bots são uma prova das habilidades técnicas e capacidades de uma empresa que investiu 35 bilhões de dólares em pesquisa e desenvolvimento no ano passado – e é exatamente isso que os torna tão alarmantes para alguns pais e psiquiatras infantis.

“Para muitas de nossas crianças, isso é apenas mais uma maneira de adicionar combustível ao fogo”, diz Kara Kushnir, assistente social clínica licenciada e psicoterapeuta infantil baseada em Nova Jersey. As crianças já estão lutando para limitar o tempo que passam nas redes sociais, e esses bots com aparência e conversas de celebridades populares tornam ainda mais difícil para as crianças moderar o uso. “As pessoas que terão que lidar com isso são os pais e as famílias”, diz Kushnir.

Se os recursos de mídia social do Meta são realmente viciantes, com poderes semelhantes aos do cigarro para manter os usuários presos, é algo que será discutido nos tribunais. Kevin McAlister, porta-voz do Meta, disse à ANBLE: “Essa é uma comparação absurda. Ao contrário do tabaco, os aplicativos do Meta agregam valor à vida das pessoas”.

• Os varejistas estão revertendo políticas de devolução generosas que...
• Paralisação do governo evitada por enquanto, pois Biden assina proj...
• Do Kwon nega apelação em Montenegro enquanto possível extradição pa...

Mas entre aqueles que acreditam que os produtos da empresa de mídia social são prejudiciais à saúde mental, a introdução de personagens de IA é um grande passo na direção errada. Os bots realistas provavelmente irão confundir ainda mais os limites entre o mundo real e o mundo virtual financiado por publicidade da empresa, levantando riscos novos e ainda não compreendidos para os milhões de crianças que utilizam os produtos.

Dando a IA um rosto confiável e familiar

Os bots de IA do Meta têm exatamente a aparência das celebridades que foram modelados, embora tenham identidades fictícias (o personagem de IA da Kendall Jenner se chama “Billie”), como atores interpretando papéis em um filme, segundo o Meta. É uma distinção que pode não ser clara para os usuários mais jovens, como Elizabeth Adams descobriu.

Adams, mãe, psiquiatra infantil e fundadora da startup de treinamento de leitura com IA Ello, estava tentando decidir se deveria permitir que seus filhos brincassem com os personagens de IA do Meta. Ela perguntou à sua filha de nove anos por que ela achava que o personagem de IA de Kendall Jenner se chamava Billie. A resposta de sua filha foi: “Talvez porque ela não queira que as pessoas saibam que é ela porque ela é famosa”.

Para Adams, isso validou seu medo de que as crianças não consigam distinguir o real do falso com essa tecnologia. “A mente dela pensou que ela estava tentando se esconder”, diz Adams sobre a interpretação de sua filha da persona de IA da Jenner. “Em nenhum momento ela teve a compreensão de que ‘talvez seja um bot de IA com o qual estou conversando'”.

E como a tecnologia de IA generativa está sujeita a fornecer informações falsas (um fenômeno chamado “alucinação”), alguns pais se preocupam que o rosto familiar de uma celebridade dê credibilidade a informações imprecisas quando as crianças são expostas a elas.

Jamie Alders, pai de três filhos baseado em Dover, Massachusetts, conversou com o bot do Tom Brady chamado Bru enquanto o Texas Rangers enfrentava o Arizona Diamondbacks na World Series, e disse que o bot forneceu uma pontuação desatualizada e incorreta quando solicitado. Alders, vice-presidente da startup de hardware nanotecnológico Neurable, também pediu a Max, o bot baseado no chef mundialmente conhecido Roy Choi, recomendações de restaurantes e ele compartilhou lugares que na verdade não existem. “Não é realmente preciso”, diz Alders, que acredita que eles vão melhorar com o tempo. “Talvez eles não devessem tê-lo lançado dessa forma”.

Os erros podem ser problemáticos para crianças que veem MrBeast, Tom Brady, Kendall Jenner e as outras 25 pessoas reais por trás das IA do Meta como modelos a serem seguidos e podem ser influenciadas por suas opiniões baseadas em LLM. “Se as crianças, adolescentes ou pré-adolescentes estão interagindo com esses chatbots para se espelharem em celebridades, elas podem ser altamente influenciadas pelos comportamentos, valores e opiniões expressos por essas personas de IA”, diz Adams, a psiquiatra infantil e fundadora de tecnologia de IA. “Se [os usuários infantis] estiverem pensando que isso é o que Tom Brady realmente pensa, há um valor ainda maior nessa opinião, potencialmente, do que em uma pesquisa do Google“.

McAlister, da Meta, diz que a empresa está adicionando marcadores visíveis aos produtos de IA para que os usuários adolescentes tenham consciência de que estão interagindo com a IA. Ele não respondeu à pergunta específica da ANBLE sobre o impacto das informações imprecisas compartilhadas pelos personagens de IA, mas afirmou que, no momento do lançamento, a empresa deixou claro que os modelos poderiam fornecer saídas imprecisas ou inadequadas.

McAlister também disse que a Meta adicionará um novo recurso de supervisão dos pais, que alerta os pais na primeira interação de seus filhos adolescentes com um personagem de IA, bem como um “Guia para Adolescentes” para ajudar os usuários menores de idade a fazerem escolhas informadas ao usar a IA.

Embora a Meta seja a única plataforma que até agora lançou AIs que imitam indivíduos muito famosos e com personalidade forte, está longe de ser a única plataforma social a utilizar tecnologias de inteligência artificial para atrair usuários jovens. No início deste ano, o Snapchat lançou seu próprio bot de IA, chamado MyAI, para todos os usuários. O bot do Snap, que é alimentado pela tecnologia ChatGPT da OpenAI, é representado por um avatar do tipo desenho animado que pode ser personalizado quanto à cor da pele (incluindo roxo berinjela e verde lodo), gênero, roupas, etc. Conforme descoberto por Geoffrey Fowler, do Washington Post, em testes, o bot MyAI frequentemente se envolvia em conversas inadequadas sobre sexo e drogas com usuários do Snapchat que afirmaram ter 13 e 15 anos de idade.

Na quinta-feira, o Google disponibilizou seu chatbot AI Bard para adolescentes a partir de 13 anos. O Google diz que “implementou recursos de segurança e salvaguardas para ajudar a prevenir a exibição de conteúdo inseguro, como substâncias ilegais ou restritas por idade, em suas respostas aos adolescentes”, e que verificará automaticamente as respostas dos usuários adolescentes que podem não estar cientes de alucinações. Ao contrário dos bots de IA da Meta e do Snapchat, o Google Bard não tem um personagem avatar para representar a IA.

Enquanto isso, o TikTok está testando um bot de IA chamado Tako, que pode compartilhar receitas relacionadas ao conteúdo do TikTok, combinar vídeos de viagens com uma lista de atrações turísticas relacionadas, e assim por diante, de acordo com o Verge.

Os avatares de IA são os novos desenhos do Joe Camel?

As ações judiciais dos procuradores-gerais contra a Meta estão sendo comparadas às que prejudicaram a indústria do tabaco na década de 1990. Ao mesmo tempo, alguns pais acreditam que esses personagens de IA são equivalentes aos sofisticados desenhos do Joe Camel, que eram exibidos em revistas com grande número de jovens leitores para introduzir suavemente o fumo, de 1988 até a década de 1990. “Assim como aquele desenho do Joe Camel, [as IAs] dão a perspectiva de que isso pode ter um impacto mais profundo em nossos filhos”, diz a terapeuta Kushnir, que acredita que as IAs podem viciar as crianças nas mídias sociais desde cedo, prejudicando sua capacidade de ter relacionamentos pessoais offline.

Mas enquanto Joe Camel era apenas um mascote, como o Michelin Man ou o Ronald McDonald, parece que a Meta está competindo lançando esses chatbots de celebridades, o que preocupa muito as mães e os clínicos. “Com brinquedos, há um forte componente de imaginação, um forte reconhecimento de que isso é um brinquedo, isso não é real, eu escolho o que faço com ele”, diz Kushnir. “Com IA, é como se fôssemos os brinquedos”.

Kushnir está especialmente preocupada com crianças neurodivergentes, com transtorno de déficit de atenção/hiperatividade e com transtorno do espectro do autismo que usam essa tecnologia. “Se as crianças confidenciarem informações a um robô, elas perderão oportunidades de confiar em pessoas que podem realmente conectá-las aos melhores recursos, que realmente as entendem em um nível mais profundo, que as conhecem potencialmente durante toda a vida ou por anos e têm a oportunidade de fazer o que é certo por elas em um nível mais profundo do que um bot de IA seria capaz”, diz ela. “Alguns dos meus pequenos pacientes que estão no espectro, especialmente, acham que estão formando uma amizade verdadeira com alguém. Eles acham que isso é um relacionamento, e isso cria autoestima elevada, o que teoricamente é ótimo, mas a realidade é: não é um relacionamento real, então pode, na verdade, ser prejudicial ao bem-estar deles”.

A cautela que alguns pais sentem em relação à crescente disponibilidade de bots de IA está intimamente ligada aos seus sentimentos e desconfiança das redes sociais. “Não há nenhum pai que tenha esperado para dar aos seus filhos algo do Meta ou algum tipo de rede social e agora esteja dizendo retrospectivamente: ‘Droga, eu deveria ter dado isso a eles mais cedo'”, afirma Natalia Garcia, mãe de crianças em idade escolar e chefe de assuntos públicos do Common Sense Media, que avalia a adequação da mídia para crianças de diferentes idades.

É óbvio que o Meta e seus acionistas podem se beneficiar ao ter usuários jovens estabelecendo relacionamentos significativos com a tecnologia, aumentando as chances de que se tornem usuários vitalícios. E também parece que o grupo de famosos ultrapopulares que se tornaram AIs do Meta fecharam acordos incríveis com a empresa. The Information relata que o Meta está pagando a uma estrela US$ 5 milhões ao longo de dois anos por aproximadamente seis horas de trabalho em um estúdio.

McAlister, do Meta, disse que a empresa vai continuar a melhorar os personagens de IA com o tempo e o feedback dos usuários, e observou que o Meta consulta de perto pais, especialistas em saúde mental, psicologia, privacidade juvenil e comportamento online enquanto desenvolve seus produtos de IA generativa.

Nada disso está desacelerando os planos da empresa para bots de IA. Embora os personagens de IA do Meta ainda estejam em fase de testes “beta”, sua seleção de bots de IA de celebridades está se expandindo. Em breve, serão lançados vários personagens de IA, incluindo um baseado no galã da Geração Z Josh Richards.