OpenAl está construindo a tecnologia mais poderosa do mundo. O público deveria saber sobre o que Sam Altman mentiu para a diretoria.
OpenAl está construindo a tecnologia mais poderosa do mundo. É hora do público descobrir as mentiras de Sam Altman para a diretoria.
- A OpenAI está trabalhando em IA que corresponde ou supera a inteligência humana, tecnologia potencialmente perigosa.
- O conselho acusou o CEO Sam Altman de não ser “franco” quando o demitiu.
- O público precisa saber sobre o que, se é que algo, ele mentiu.
Elon Musk tem várias razões para criticar a OpenAI e seu cofundador Sam Altman. Mas o CEO da Tesla fez um ponto válido no meio de um fim de semana caótico para a startup de inteligência artificial.
Os eventos começaram na tarde de sexta-feira quando a OpenAI deixou claro em um comunicado que Altman mentiu para o conselho sobre algo tão importante que eles decidiram demiti-lo como CEO.
“Ele não foi consistentemente franco em suas comunicações com o conselho, prejudicando sua capacidade de exercer suas responsabilidades”, afirmou a OpenAI.
Esta é uma medida drástica e altamente perturbadora que os conselhos raramente tomam. Para qualquer empresa privada comum, esse tipo de intriga corporativa provavelmente ficaria apenas como um assunto interno. Mas a OpenAI é um caso especial.
- A corrida para reinstalar Sam Altman como CEO da OpenAI atinge um i...
- Manhã de Oferta China vista como estável em relação às taxas
- O ministro das Finanças da Grã-Bretanha diz que não implementará co...
A startup desenvolveu a tecnologia mais poderosa do mundo. O GPT-4 é atualmente o modelo de IA mais capaz e influente e há uma nova versão em desenvolvimento que se espera ser ainda mais poderosa. O próprio Altman tem pedido aos reguladores e outras instituições para se prepararem para a inteligência artificial geral, quando as máquinas igualarem e possivelmente superarem as capacidades humanas.
“Dado o risco e o poder da IA avançada, o público deve ser informado sobre o motivo pelo qual o conselho sentiu que precisava tomar uma medida tão drástica”, publicou Musk em sua conta do Twitter no domingo.
A carta de governança da OpenAI, o documento que controla a empresa e instrui seu conselho e executivos sobre como se comportar, afirma claramente que o “dever fiduciário primário da empresa é para com a humanidade”. Ela também se compromete na carta a usar qualquer influência que a OpenAI tenha sobre a implantação da IA geral para garantir que essa tecnologia beneficie a todos e não “prejudique a humanidade ou concentre poder indevidamente”.
Essa é uma carta incomum para uma startup de tecnologia ou a maioria das outras empresas privadas, que normalmente existem para principalmente obter lucro e proporcionar um retorno para os investidores.
“Muito poucas pessoas sabem com certeza o que aconteceu neste caso, mas minha melhor suposição é que quando os membros do conselho disseram ‘ele não foi consistentemente franco em suas comunicações com o conselho, prejudicando sua capacidade de exercer suas responsabilidades’, eles estavam se referindo a ele ter repetidamente ocultado informações que interferiam em suas obrigações legais de garantir o desenvolvimento seguro da IA”, escreveu Toby Ord, pesquisador sênior da Universidade de Oxford, em publicação no X no domingo.
Musk originalmente apoiou a OpenAI como uma organização de pesquisa focada na segurança da IA. Ele desistiu há alguns anos e pode se sentir prejudicado por perder a evolução de uma entidade tão inovadora. Musk também lançou um grupo de pesquisa em IA concorrente, então o caos na OpenAI pode ser relativamente bom para essa iniciativa.
Sob a liderança de Altman, a startup já arrecadou bilhões de dólares e lançou vários produtos com grande potencial comercial. O último evento da empresa foi recheado de atualizações e lançamentos no estilo corporativo das gigantes de tecnologia. Isso está bem distante de suas raízes na pesquisa sobre a segurança da IA.
É por isso que é importante para o público saber exatamente o que aconteceu com a demissão de Altman. Perguntei ao departamento de imprensa da OpenAI sobre isso no domingo e não obtive resposta.
Talvez o conselho tenha reagido exageradamente e esteja exagerando o que aconteceu com Altman. Ou poderia ter sido um golpe mais simples onde o CEO foi expulso por outro motivo, ou sem motivo algum.
No entanto, existem outras teorias sobre o que aconteceu, juntamente com vários relatórios da mídia.
A Bloomberg relatou que Altman tem tentado levantar quantias enormes de dinheiro para uma nova startup de chips de IA chamada Tigris. O conselho perguntou sobre isso? Se sim, como Altman respondeu? O CEO da OpenAl deveria estar tentando iniciar outra grande empresa. Musk já fez isso várias vezes, mas é incomum e provavelmente o conselho da OpenAl esperaria ser informado sobre isso.
Outras publicações escreveram que o cofundador da OpenAl, Ilya Sutskever, queria prosseguir com o desenvolvimento da IA de forma mais cautelosa do que Altman, dada a ameaça potencial que a tecnologia representa para a sociedade.
O New York Times relatou que Sutskever criou uma equipe de “super alinhamento” para garantir que futuras versões do GPT-4 não causassem danos à humanidade. O conselho discutiu isso com Altman? Como ele respondeu?
Esse tipo de cisão dentro da OpenAl já causou uma série de cofundadores da OpenAl a deixar e lançar uma nova startup chamada Anthropic, que afirma estar mais focada na segurança da IA.
Altman está, de acordo com uma foto de si mesmo postada em X no domingo à tarde, na sede do OpenAI enquanto escrevo isso, negociando para voltar a comandar a OpenAl. Se isso acontecer, é ainda mais importante saber o que ele disse, ou não disse, ao conselho.
