O medo de que a IA possa um dia destruir a humanidade pode ter levado à expulsão (potencialmente breve) de Sam Altman da OpenAI.

O pavor de que a inteligência artificial possa um dia aniquilar a humanidade pode ter gerado a expulsão (talvez temporária) de Sam Altman da OpenAI.

• Os temores sobre a rapidez no desenvolvimento da IA na OpenAI podem ter gerado discórdia entre os principais membros.
• Alguns membros do conselho da OpenAI podem ter discordado da abordagem de Altman em relação à inovação em IA.
• O co-fundador da OpenAI, Ilya Sutskever, sempre pediu cautela devido às preocupações de que a IA possa prejudicar a humanidade.

Possivelmente demitido brevemente da OpenAI, Sam Altman expôs uma cisão entre os principais líderes da empresa sobre como conter a ameaça existencial representada pela IA.

Embora Altman tenha falado sobre os perigos da IA “potencialmente assustadora” e a necessidade “crítica” de regulá-la, o ex-CEO da OpenAI sempre foi um grande defensor da inovação rápida em IA. Altman era conhecido por posicionar agressivamente a OpenAI para estar à frente na corrida armamentista da IA, buscando grandes quantias de financiamento e desenvolvimento rápido.

Em setembro, Altman tentou obter $1 bilhão em financiamento da Softbank para um dispositivo de hardware para executar ferramentas como o ChatGPT. O CEO do conglomerado japonês, Mayoshi San, disse anteriormente que usa o ChatGPT todos os dias e acredita no poder da IA. Já Ilya Sutskever, co-fundador da OpenAI, cientista-chefe e membro do conselho que desempenhou um papel na demissão de Altman, preferia ser mais cauteloso devido às ameaças potenciais que a IA representa para a sociedade.

Sutskever criou uma equipe de “Super Alinhamento” dentro da empresa para garantir que as futuras versões do GPT-4, a tecnologia por trás do ChatGPT, não sejam prejudiciais à humanidade, de acordo com o The New York Times.

• Neonazistas desfilando suásticas, cantando ‘haverá sangueR...
• Bayer ordenada a pagar $1,56 bilhões em mais recente julgamento nos...
• Os americanos estão putos por sobreviverem a uma pandemia e pagarem...

Outros dois membros do conselho da OpenAI – Helen Toner, diretora do Center for Security and Emerging Technology da Georgetown University, e a empreendedora de tecnologia Tasha McCauley – também têm ligações com o chamado movimento do altruísmo eficaz, que trabalha para garantir que os avanços em inteligência artificial estejam alinhados com o melhor interesse dos humanos.

Se preocupações sobre o compromisso de Altman com o movimento do altruísmo eficaz estiverem por trás de seu afastamento, não seria a primeira vez que essas discordâncias sobre os perigos da IA levam pessoas a saírem da empresa.

Em 2021, Dario Amodei e vários outros funcionários da OpenAI deixaram a empresa para fundar a Anthropic, uma concorrente da OpenAI que tem como missão construir uma IA mais segura.

Até Elon Musk, que deixou o conselho da OpenAI em 2018 alegando conflito de interesses com a Tesla, estava preocupado com o quanto (ou o quão pouco) a empresa priorizava a segurança, segundo a Wired. O conselho da OpenAI não ofereceu mais detalhes sobre o que levou à demissão de Altman, além de observar que eles “perderam confiança” nele e que ele não foi “consistente e franco” nas comunicações.

No entanto, as repercussões pela demissão abrupta não demoraram a chegar. Vários executivos saíram em protesto e agora muitos funcionários da OpenAI estão pedindo o retorno de Altman.</p

• AI
• Elon Musk
• OpenAI