O chefe de IA de Biden diz que clonagem de voz é o que o mantém acordado à noite

O chefe de IA de Biden revela o assunto que o mantém acordado à noite clonagem de voz

• O chefe de IA de Biden, Bruce Reed, está preocupado com deep fakes de áudio.
• Ele disse que “clonagem de voz” é a única coisa que o mantém acordado à noite, segundo o Politico.
• As plataformas de clonagem de voz estão propensas a abusos devido à sua acessibilidade.

A tecnologia de IA que pode recriar de forma convincente vozes humanas está se tornando uma preocupação chave entre os legisladores. 

“A clonagem de voz é uma das coisas que me mantém acordado à noite”, disse Bruce Reed, Chefe Adjunto do Estado-Maior da Casa Branca, ao Politico. Reed, que foi encarregado de liderar a estratégia de IA da administração Biden, chamou a tecnologia de “assustadoramente boa”, mesmo que ainda seja relativamente nova. 

“A sociedade ainda não percebeu o quanto a ideia de falsificações perfeitas de voz pode virar nossas vidas de cabeça para baixo. Ninguém atenderá o telefone se não puder ter certeza se a voz do outro lado é real ou falsa”, ele disse ao Politico. 

Por exemplo, golpistas telefônicos já estão explorando avanços na clonagem de voz para tornar seus esquemas mais convincentes. 

• As tropas dos EUA voltaram para casa se sentindo ‘amaldiçoada...
• Tyson retira do mercado quase 30.000 libras de nuggets de frango em...
• Tyson recolhe 30.000 libras de Nuggets de Frango Dino

Em março, a FTC afirmou que golpistas estavam usando tecnologia de IA para “aperfeiçoar” seus golpes de emergência familiar – utilizando programas de clonagem de voz para convencer as pessoas de que seus familiares estavam em perigo.

Em abril, uma mãe no Arizona recebeu uma ligação de um golpista que usou software de clonagem de voz para fingir que tinha sequestrado sua filha. “Era completamente a voz dela. Era a entonação dela”, ela disse a uma agência de notícias local na época. Golpistas precisam de apenas três ou quatro segundos da voz de alguém para criar um clone convincente com 85% de correspondência, de acordo com um relatório da empresa de segurança McAfee. 

Ao mesmo tempo, o prefeito de Nova York, Eric Adams, diz que clones gerados por IA de sua própria voz o ajudaram a se conectar com uma parcela maior da população da cidade.  

Desde o ano passado, ele vem enviando mensagens gravadas para os residentes em várias línguas que ele não fala, incluindo mandarim, espanhol e ídiche. Adams afirma que as mensagens gravadas o ajudaram a alcançar mais residentes da cidade que não falam inglês. As pessoas até o abordaram na rua para perguntar se ele fala mandarim. Alguns acadêmicos e especialistas em privacidade dizem que a iniciativa de Adams ainda é enganosa, ou pelo menos mostra que os políticos precisam estabelecer regras mais claras sobre como eles usam a IA. 

Muitas dessas plataformas estão propensas a abusos. Elas são acessíveis e seu uso é bastante simples.

Adams está utilizando uma plataforma de clonagem de voz da ElevenLabs, que é gratuita e requer menos de um minuto de áudio de um indivíduo para gerar um clone de “alta qualidade”, de acordo com seu site. Pouco tempo depois de seu lançamento beta, em janeiro, a ElevenLabs emitiu um comunicado afirmando que havia percebido um aumento de “casos de mau uso da clonagem de voz”.

A ElevenLabs não ofereceu detalhes específicos sobre os casos, mas o Vice relatou que trechos deepfake de áudio de Joe Rogan, Ben Shapiro e Emma Watson fazendo comentários racistas, violentos e transfóbicos, gerados por meio de seu software, foram enviados para o site 4chan.

• AI
• Joe Biden