Meses depois que um deepfake de IA do pontífice usando um casaco fofo se tornou viral, o Papa Francisco está alertando sobre os perigos da IA

Meses depois do deepfake viral do Papa Francisco com casaco fofo, ele alerta sobre perigos da IA.

  • Um dos maiores momentos de IA deste ano envolveu uma imagem deepfake do Papa usando um casaco grande.
  • Agora o Vaticano divulgou uma declaração na qual o Papa Francisco alerta sobre os perigos da IA.
  • O Papa disse que a IA pode levar à discriminação, mas deve haver um diálogo aberto para garantir que beneficie a humanidade.

O Papa Francisco esteve no centro de uma das controvérsias de IA mais virais deste ano e agora ele alertou sobre os perigos dessa tecnologia emergente.

Em uma declaração compartilhada pelo Vaticano na terça-feira, Francisco pediu um diálogo aberto sobre a IA porque ela está “dotada de possibilidades disruptivas e efeitos ambivalentes”.

Esse tipo de confusão foi generalizada em março, quando uma imagem gerada por IA do pontífice usando um extravagante casaco branco provocou elogios e indignação antes que todos percebessem que era uma farsa.

Pablo Xavier, um trabalhador da construção civil de Chicago que disse ter gerado a imagem usando Midjourney e se recusou a compartilhar seu nome completo, disse ao Buzzfeed que “achou engraçado ver o Papa usando um casaco engraçado”, mas ficou chocado com sua popularidade e pediu uma maior regulamentação.

A declaração desta semana da Santa Sé foi divulgada antes do Dia Mundial da Paz de 2024, com o tema “Inteligência Artificial e Paz”.

O Papa falou sobre a ameaça de viés nos algoritmos de IA, pedindo garantias de que “uma lógica de violência e discriminação não se enraíze na produção e uso desses dispositivos, em detrimento dos mais frágeis e excluídos”.

Alguns moderadores do ChatGPT que vivem no Quênia estavam recebendo apenas $2 por hora de trabalho, que envolvia revisar conteúdo extremo, e alguns dizem que isso os deixou traumatizados, de acordo com relatos do Time e do The Guardian.

Em vez disso, o Papa disse que a IA deve estar “a serviço da humanidade e da proteção do nosso lar comum”.

Sam Altman, CEO da OpenAI, disse anteriormente ao The Wall Street Journal que acredita que deveria haver uma renda básica universal para compensar as perdas de empregos relacionadas à IA.

“A proteção da dignidade da pessoa e a preocupação com uma fraternidade efetivamente aberta a toda a família humana são condições indispensáveis para que o desenvolvimento tecnológico contribua para a promoção da justiça e da paz no mundo”, acrescentou o Papa.