Uma série de eventos fez os preços da RAM explodir: - Sam Altman encerrou 40% do suprimento mundial de DRAM em outubro. - Chips de IA (GPUs e TPUs) requerem HBM. Apenas SK Hynix, Samsung e Micron conseguem produzi-lo em escala. - O Google tentou garantir mais HBM para TPUs e foi informado de que era "impossível." O executivo do Google que não conseguiu garantir o suprimento de memória foi demitido. - A Microsoft voou para a Coreia para negociar o fornecimento de memória. SK Hynix disse não. Um executivo saiu furioso da reunião. A IA consumiu a cadeia de suprimentos. O mesmo pen de RAM agora custa cerca de 3 vezes o que custava há um ano. O primeiro trabalho que a IA mata: gamers.

Empresas chinesas de memória podem vir ao resgate. - CXMT está produzindo em massa DDR5 - A Huawei está tentando burlar a Samsung & SK Hynix para construir sua própria linha de produção HBM As GPUs chinesas também estão crescendo: A Moore Threads acabou de entrar em IPO, a ação subiu 4,7 vezes no primeiro dia de negociação.

Esta foi a primeira máquina de GPU que fizemos DIY na Hyperbolic no final de 2023 (para rodar alguns LLMs open-source). Agora, os componentes mais caros são esses 3 pen drives de 32GB de RAM. Preço da RAM: subiu 4 vezes. GPU AMD RX 7900 XTX: queda de 30%. A economia do silício se inverteu.