Recentemente, a empresa de pesquisa independente SemiAnalysis lançou um relatório que lança luz sobre a DeepSeek, uma emergente no cenário da inteligência artificial. O estudo desafia algumas narrativas predominantes sobre os custos associados às operações da DeepSeek e as compara com tecnologias concorrentes no mercado.
Uma das alegações mais destacadas é que o treinamento do modelo DeepSeek V3 teria um custo em torno de US$ 6 milhões. No entanto, o relatório da SemiAnalysis desconstrói essa cifra, afirmando que ela não considera vários fatores críticos.
O valor estimado de US$ 6 milhões leva em conta principalmente as despesas de pré-treinamento com GPUs, negligenciando investimentos significativos em pesquisa e desenvolvimento, infraestrutura e outros custos essenciais acumulados pela empresa. O relatório destaca que o investimento total da DeepSeek em servidores (CapEx) atinge impressionantes US$ 1,3 bilhão, grande parte direcionada à operação e manutenção de suas extensas clusters de GPUs, que são a espinha dorsal de seu poder computacional.
A DeepSeek possui aproximadamente 50.000 GPUs Hopper, o que gerou algumas interpretações equivocadas na indústria. A SemiAnalysis esclarece que isso não significa que a empresa possua 50.000 H100s, como alguns inferiram anteriormente. Em vez disso, o inventário de GPUs é composto por uma mistura de modelos, incluindo H800s, H100s e os H20s, específicos para o país, produzidos pela NVIDIA em resposta às restrições de exportação dos EUA. Essa compreensão detalhada do hardware da DeepSeek destaca as decisões estratégicas na obtenção e eficiência operacional da empresa.
Um aspecto notável do relatório é a reflexão sobre a estrutura organizacional da DeepSeek. Diferentemente de alguns dos grandes laboratórios de IA, a DeepSeek opera seus próprios data centers e emprega um modelo enxuto que contribui para sua agilidade e eficiência. À medida que o cenário de IA se torna cada vez mais competitivo, essa capacidade de adaptação rápida torna-se um ativo vital.
Em termos de desempenho, a análise indica que o modelo R1 da DeepSeek demonstra capacidades de raciocínio comparáveis ao o1 da OpenAI. No entanto, o relatório não chega a rotular a DeepSeek como líder indiscutível em todas as métricas de desempenho. Embora a estratégia de preços da DeepSeek tenha atraído atenção e elogios, há uma ressalva importante: o Gemini Flash 2.0 do Google, que possui capacidade semelhante, é ainda mais econômico quando acessado por meio de serviços de API. Isso coloca a DeepSeek em uma encruzilhada onde equilibrar desempenho e custo é fundamental para seu sucesso futuro.
A tecnologia Multi-Head Latent Attention (MLA) é uma inovação destacada no relatório. Essa abordagem de ponta reduz significativamente os custos de inferência em impressionantes 93,3% por meio da diminuição do uso de cache de chave-valor (KV), representando um grande avanço em direção a soluções de IA mais econômicas. Especialistas sugerem que as inovações que surgiram da DeepSeek provavelmente serão adotadas rapidamente por laboratórios de IA ocidentais ansiosos para permanecer competitivos.
Embora haja otimismo sobre possíveis melhorias e ganhos de eficiência, a SemiAnalysis alerta para desafios externos. O relatório especula que os custos operacionais podem despencar mais cinco vezes até o final do ano, impulsionados pela capacidade de adaptação da DeepSeek em comparação com seus concorrentes maiores e mais burocráticos. No entanto, escalar operações em meio ao endurecimento dos controles de exportação dos EUA representa um obstáculo significativo que a DeepSeek deve navegar com cuidado.
