Episode 2: Wawasan dari IEDM 2025 @vikramskr merangkum topik menarik dari IEDM: - Memori flash NAND tingkat Penta dapat mengganggu pasar SSD - Chiplet GaN-on-Silicon meningkatkan efisiensi daya - Osilator cincin dengan FET Komplementer - Peningkatan optik memiliki masalah daya - Masa depan transistor masih cerah Bonus: Dasar-dasar NAND dan CFET juga dijelaskan dalam episode ini. Bab Pengantar Konferensi IEDM (00:00) Pentingnya IEDM untuk Insinyur dan Investor (02:38) Jaringan dan Wawasan di IEDM (04:21) Fotonik Silikon untuk AI Hemat Energi (07:06) Kemajuan dalam FET Pelengkap (13:34) Masa Depan Inovasi Transistor (21:42) Memahami Memori Flash NAND dan Potensi Gangguannya (22:45) Teknologi Sel Multi-Situs Inovatif (28:08) Masa Depan SSD dan Kepadatan Data (32:42) GaN Intel pada Chiplet Silikon (34:55) Integrasi Heterogen Monolitik dalam Teknologi RF (40:51) @vikramskr @theaustinlyons @ieee_iedm $NVDA $INTC $TSM $SNDK $MU $WDC $AMAT $LRCX

Teaser: Episode 2 dari Semi Doped. Vik memecah flash NAND dari prinsip pertama. Nantikan episode lengkapnya, di mana @vikramskr membahas mengapa sel tingkat penta "multi-situs" SK hynix dapat mendorong kepadatan SSD lebih tinggi tanpa penalti latensi dan ketahanan yang biasa.

Episode 1: Nvidia "Mengakuisisi" Groq Dari @vikramskr dan @theaustinlyons Takeaways Inti: - GPU tidak mati. HBM belum mati. - LPU memecahkan masalah yang berbeda: inferensi deterministik, latensi sangat rendah untuk model kecil. - Model perbatasan besar masih memerlukan sistem berbasis HBM. - Langkah Nvidia memperluas area permukaan portofolio inferensinya daripada menggantikan GPU. - Masa depan infrastruktur AI adalah pengoptimalan khusus beban kerja dan penerapan berbasis TCO. Topik Utama: - Apa yang sebenarnya dibeli Nvidia dari Groq dan mengapa itu bukan akuisisi tradisional - Mengapa kesepakatan tersebut memicu klaim bahwa GPU dan HBM sudah usang - Trade-off arsitektur antara GPU, TPU, XPU, dan LPU - SRAM vs HBM. Kecepatan, kapasitas, biaya, dan realitas rantai pasokan - Dasar-dasar LPU Groq: VLIW, eksekusi terjadwal kompiler, determinisme, latensi sangat rendah - Mengapa LPU berjuang dengan model besar dan di mana mereka unggul - Kasus penggunaan praktis untuk inferensi latensi hiper-rendah: -- Personalisasi salinan iklan pada anggaran latensi penelusuran -- Perutean model dan orkestrasi agen -- Antarmuka percakapan dan terjemahan waktu nyata -- Robotika dan AI fisik di tepi -- Aplikasi potensial dalam AI-RAN dan infrastruktur telekomunikasi - Memori sebagai spektrum desain: SRAM saja, SRAM plus DDR, SRAM plus HBM - Pendekatan portofolio Nvidia yang berkembang untuk inferensi perangkat keras daripada satu ukuran untuk semua