Os escritórios da OpenAI receberam milhares de clipes de papel em uma pegadinha elaborada para alertar sobre um apocalipse de IA.
O escritório da OpenAI invadido por milhares de clipes de papel em hilariante brincadeira sobre o apocalipse de IA
- Um funcionário da rival Anthropic enviou milhares de clipes de papel em forma de logotipo para a OpenAI.
- A brincadeira foi uma provocação sutil sugerindo que a abordagem da OpenAI em relação à inteligência artificial poderia levar à extinção da humanidade.
- A Anthropic foi formada por ex-funcionários da OpenAI que saíram da empresa devido a preocupações com a segurança da inteligência artificial.
Um dos maiores rivais da OpenAI pregou uma peça elaborada na startup de inteligência artificial, enviando milhares de clipes de papel para seus escritórios.
Os clipes de papel com o logotipo em espiral distintivo da OpenAI foram enviados para os escritórios da startup de AI em San Francisco no ano passado por um funcionário da Anthropic, em uma provocação sutil sugerindo que a abordagem da empresa em relação à segurança da inteligência artificial poderia levar à extinção da humanidade, de acordo com um relatório do The Wall Street Journal.
Eles faziam referência ao famoso cenário do “maximizador de clipes de papel”, um experimento de pensamento do filósofo Nick Bostrom, que hipotetizava que uma inteligência artificial com a única tarefa de produzir o máximo possível de clipes de papel poderia inadvertidamente exterminar a raça humana para atingir seu objetivo.
“Precisamos ter cuidado com o que desejamos de uma superinteligência, porque podemos conseguir”, escreveu Bostrom.
- Acabei de me mudar do Reino Unido para os Estados Unidos. Aqui estã...
- Sovcombank, sancionado pela Rússia, solicita licença nos Estados Un...
- Dentro da contagem dos veículos elétricos
A Anthropic foi fundada por ex-funcionários da OpenAI que deixaram a empresa em 2021 devido a divergências no desenvolvimento seguro da inteligência artificial.
Desde então, a OpenAI acelerou rapidamente suas ofertas comerciais, lançando o ChatGPT no ano passado com sucesso recorde e fechando um acordo de investimento multibilionário com a Microsoft em janeiro.
Preocupações com a segurança da inteligência artificial voltaram a assombrar a empresa nas últimas semanas, no entanto, com a demissão caótica e posterior reintegração do CEO Sam Altman.
Relatos sugerem que as preocupações com a velocidade do desenvolvimento de IA dentro da empresa e o medo de que isso possa acelerar a chegada de uma IA superinteligente que possa ameaçar a humanidade foram os motivos pelos quais o conselho sem fins lucrativos da OpenAI decidiu demitir Altman em primeiro lugar.
O cientista-chefe da OpenAI, Ilya Sutskever, que participou do golpe no conselho contra Altman antes de pedir dramaticamente pela sua reintegração, tem sido incisivo sobre os riscos existenciais que a inteligência artificial geral poderia representar para a humanidade e, segundo relatos, confrontou-se com Altman sobre a questão.
De acordo com o The Atlantic, Sutskever comissionou e queimou uma efígie de madeira representando uma IA “desalinhada” em um retiro recente da empresa, e ele também liderou os funcionários da OpenAI em um cântico de “feel the AGI” na festa de fim de ano da empresa, depois de dizer: “Nosso objetivo é criar uma IA que ame a humanidade”.
A OpenAI e a Anthropic não responderam imediatamente a um pedido de comentário da Business Insider feito fora do horário de trabalho.
