O ator Stephen Fry diz que sua voz foi roubada dos audiobooks de Harry Potter e replicada pela inteligência artificial e adverte que isso é apenas o começo.

Stephen Fry afirma que sua voz foi roubada e replicada por inteligência artificial nos audiobooks de Harry Potter, alertando que isso é apenas o começo.

Entre aqueles que alertam sobre o potencial da tecnologia de causar danos está o ator e escritor britânico Stephen Fry, que contou à plateia do Festival CogX, em Londres, na quinta-feira, sobre sua experiência pessoal de ter sua identidade digitalmente clonada sem sua permissão.

“Sou um orgulhoso membro da [união de atores SAG-AFTRA], como vocês sabem, estamos em greve há três meses. E uma das questões urgentes é a IA”, disse ele.

A união de atores SAG-AFTRA, que tem cerca de 160.000 membros, entrou em greve no mês passado por causa de salários, condições de trabalho e preocupações relacionadas ao uso da IA na indústria cinematográfica. Ela se juntou ao Writers Guild of America – um sindicato que representa milhares de roteiristas de Hollywood – que entrou em greve no início de maio, marcando o maior fechamento da indústria em mais de seis décadas.

Um ponto crucial para os atores em greve é a possibilidade de os estúdios usarem a IA para criar digitalmente sua imagem sem compensá-los de forma justa pelo uso de sua semelhança.

• Por que minha fintech em crescimento decidiu não ser um banco
• FTSE 100 sobe quase 1% à medida que dados da China impulsionam os m...
• Sonhos quebrados, famílias despedaçadas nos apartamentos inacabados...

Falando em uma coletiva de imprensa quando a greve foi anunciada, a presidente do sindicato, Fran Drescher, disse que a IA “representa uma ameaça existencial” para as indústrias criativas e que os atores precisavam de proteção contra a exploração de “sua identidade e talento sem consentimento e pagamento”.

Durante seu discurso no Festival CogX na quinta-feira, Fry mostrou um clipe para a plateia de um sistema de IA imitando sua voz para narrar um documentário histórico.

“Eu não disse uma palavra disso – foi uma máquina. Sim, me chocou”, disse ele. “Eles usaram minha leitura dos sete volumes dos livros de Harry Potter, e a partir desse conjunto de dados, uma IA da minha voz foi criada e fez essa nova narração”.

Fry – que atuou em filmes como Gosford Park, V de Vingança e O Guia do Mochileiro das Galáxias – é o narrador dos audiolivros britânicos de Harry Potter, enquanto o ator Jim Dale narrou a versão americana da série.

“O que você ouviu não é resultado de uma mistura, isso é de uma voz artificial flexível, onde as palavras são moduladas para se adequar ao significado de cada frase”, Fry disse à plateia do Festival CogX na quinta-feira.

“Portanto, poderia me fazer ler qualquer coisa, desde um chamado para invadir o parlamento até pornografia hardcore, tudo sem o meu conhecimento e sem a minha permissão. E isso, o que você acabou de ouvir, foi feito sem o meu conhecimento. Então, soube disso, enviei para meus agentes nos dois lados do Atlântico e eles ficaram furiosos – não tinham ideia de que tal coisa era possível”.

Fry acrescentou que, quando descobriu que sua voz estava sendo usada em projetos sem seu consentimento, viu isso como apenas o começo de uma ameaça emergente ao talento criativo, advertindo seus agentes irritados: “Vocês ainda não viram nada”.

“Isso é áudio”, ele disse a eles. “Não vai demorar muito até que vídeos deepfake completos sejam igualmente convincentes”.

À medida que a tecnologia de IA avançou, imagens adulteradas de celebridades e líderes mundiais – conhecidas como deepfakes – têm circulado com frequência cada vez maior, o que levou especialistas a emitirem avisos sobre os riscos da inteligência artificial. Fry alertou na quinta-feira que essas tecnologias ainda têm muito a avançar.

“Temos que pensar sobre [IA] como o primeiro automóvel: impressionante, mas não o produto final”, disse ele, observando que quando os carros foram inventados, ninguém poderia ter previsto o quão difundidos eles são hoje.

“Tecnologia não é um substantivo, é um verbo, está sempre em movimento”, disse ele. “O que temos agora não é o que será. Quando se trata de modelos de IA, o que temos agora avançará em um ritmo mais rápido do que qualquer tecnologia que já vimos. Uma coisa com a qual todos podemos concordar: é um momento estranho para estar vivo”.

Não é o primeiro

Fry não é o único ator famoso a manifestar publicamente suas preocupações com a IA e seu lugar na indústria cinematográfica.

Em um comício no Reino Unido realizado em apoio à greve da SAG-AFTRA durante o verão, o premiado ator de Succession, Brian Cox, compartilhou uma anedota sobre um amigo na indústria que foi informado “sem rodeios” de que um estúdio manteria sua imagem e faria o que quisesse com ela.

“Essa é uma posição completamente inaceitável”, disse Cox. “E é essa posição que realmente devemos combater, porque é o pior aspecto. Os salários são uma coisa, mas o pior aspecto é a ideia de IA e o que a IA pode fazer conosco”.

O vencedor do Oscar, Matthew McConaughey, disse ao CEO da Salesforce, Marc Benioff, durante um evento em painel na conferência Dreamforce deste ano, que estava preocupado com o aumento da inteligência artificial em Hollywood.

“Temos uma chance real, se formos irresponsáveis, de nos canibalizarmos e criar esse deus digital ao qual nos curvaremos, e de repente nos tornaremos ferramentas desse instrumento”, disse ele.

Enquanto isso, o astro de Star Trek e Missão Impossível, Simon Pegg, chamou a inteligência artificial de “preocupante” para os atores.

“Estamos sendo substituídos de certa forma”, disse ele no comício em Londres em julho. “Devemos ser compensados e devemos ter voz em como nossa imagem é usada. Não quero aparecer em um anúncio de algo com o qual não concorde… quero poder manter minha imagem, minha voz e saber para onde ela está indo.”

Um porta-voz da Aliança de Produtores de Cinema e Televisão (AMPTP), representante oficial de negociações coletivas da indústria do entretenimento, não estava disponível para comentar quando contatado pela ANBLE.