O mundo da tecnologia está sendo dividido em ‘ricos em GPU’ e ‘pobres em GPU’. Aqui estão as empresas de cada grupo.
O mundo da tecnologia está dividido em 'ricos em GPU' e 'pobres em GPU'. Aqui estão as empresas de cada grupo.
- SemiAnalysis, uma respeitada empresa de pesquisa, acabou de dividir o mundo da tecnologia em 2 grupos.
- Um grupo é “pobre em GPUs”, com acesso limitado aos mais recentes chips de IA da Nvidia.
- O outro é “rico em GPUs” e tem uma enorme vantagem inicial. Abaixo estão as empresas de cada grupo.
A Nvidia produz as GPUs necessárias para treinar os modelos de IA mais poderosos. Se você puder obter muitos desses chips, terá uma vantagem em relação à maioria das outras empresas. Se você não tiver um suprimento adequado, estará atrasado desde o início.
Não se trata mais de dizer “IA” o maior número de vezes possível em uma conferência de ganhos. Agora, você realmente precisa ter os componentes tecnológicos, outras infraestruturas e um plano inteligente para implantar esse equipamento incrivelmente caro. Estar na frente da fila para as GPUs da Nvidia e ter um bom relacionamento com essa empresa são requisitos básicos agora.
Dylan Patel e Daniel Nishball, da empresa de pesquisa SemiAnalysis, capturaram essa situação em um post convincente este fim de semana. Grande parte deste artigo está disponível apenas para assinantes, então qualquer pessoa que esteja interessada em IA deve assinar a ótima newsletter deles. Estou apenas compartilhando meus pensamentos sobre as partes gratuitas do post aqui.
O Grupo Pobre em GPUs
Patel e Nishball dividem a indústria de tecnologia em 2 grupos principais: os “pobres em GPUs” e os “ricos em GPUs”. Os pobres em GPUs são principalmente startups e pesquisadores de open source que estão lutando com um suprimento limitado de GPUs.
- 30 anos de taxas de hipoteca Compare as taxas atuais
- Muitos estudantes que possuem empréstimos estudantis estão tendo di...
- OpenAI lançando versão do ChatGPT para grandes empresas
Primeiro, temos as startups europeias e os supercomputadores financiados pelo governo, como o Jules Verne, que os escritores do SemiAnalysis descrevem como “completamente não competitivos”.
Em seguida, temos empresas de IA conhecidas, como Hugging Face, Databricks e Together, que também são pobres em GPUs.
Há um pequeno grupo intermediário, que tem comprado muitas GPUs da Nvidia, mas não está recuperando o dinheiro investido: Cohere, Arábia Saudita e Emirados Árabes Unidos, de acordo com o SemiAnalysis.
O Grupo Rico em GPUs
Patel e Nishball então listam algumas empresas com mais de 20.000 GPUs A100 e/ou H100 da Nvidia.
Os principais líderes aqui são OpenAI, Google, Anthropic, Inflection, X de Elon Musk e Meta, “que terão as maiores proporções de recursos de computação para pesquisadores”, escreveram os autores.
Algumas dessas empresas, além de várias empresas chinesas, terão garantido mais de 100.000 GPUs até o final de 2024. Meta ocupará o segundo lugar no mundo com base no número de GPUs H100, observaram eles.
Qual é a empresa mais rica em GPUs? É o Google, de acordo com o SemiAnalysis. O gigante da internet é “a empresa mais rica em recursos de computação do mundo”, com uma “arquitetura imbativelmente eficiente”, escreveram Patel e Nishall.
A empresa, que se declarou uma empresa voltada para a IA há anos, em breve lançará seu próximo grande modelo de IA chamado Gemini e já está treinando a próxima iteração. OpenAI, fique atenta.
“O Google acordou e está iterando em um ritmo que vai superar em 5 vezes o total de FLOPS de pré-treinamento do GPT-4 antes do final do ano”, escreveram os analistas. “O caminho está claro para 20 vezes até o final do próximo ano, dada sua infraestrutura atual. Se o Google tem a coragem de lançar esses modelos publicamente sem neutralizar sua criatividade ou seu modelo de negócios existente é uma discussão diferente.”
