Grens tussen GPU en HBM vervalt... Volgende generatie HBM om GPU-kernen in te bedden Een methode om Graphics Processing Units (GPU's) op de volgende generatie High Bandwidth Memory (HBM) te monteren, wordt onderzocht. Dit is een nieuwe technologie die door wereldwijde grote technologiebedrijven wordt geprobeerd om de prestaties van Kunstmatige Intelligentie (AI) te verbeteren. Het betekent dat de grenzen tussen halfgeleiderbedrijven worden afgebroken te midden van de convergentie van geheugen en systeemhalfgeleiders. Volgens uitgebreide rapportage op de 26e, bekijken Meta en NVIDIA plannen om GPU-kernen op HBM te monteren. Dit houdt specifiek in dat GPU-kernen worden ingebed in de basis-die die zich aan de onderkant van de HBM-stapel bevindt, en ze verkennen momenteel samenwerking met SK Hynix en Samsung Electronics. Meerdere insiders uit de industrie die bekend zijn met de zaak verklaarden: "Er worden gesprekken gevoerd over 'aangepaste HBM'-architecturen voor de volgende generatie, en onder hen wordt een structuur nagestreefd die GPU-kernen direct in de HBM-basis-die integreert." HBM is een high-performance geheugen dat is gemaakt door meerdere DRAM-chips te stapelen. Het is ontworpen voor AI-toepassingen die enorme hoeveelheden gegevens moeten verwerken. Momenteel is de basis-die verantwoordelijk voor de communicatie tussen het geheugen en de buitenwereld aan de onderkant van de HBM-structuur. Een stap vooruit vanaf hier is de opname van een 'controller' zoals geïmplementeerd in HBM4. De industrie probeert de prestaties en efficiëntie te verbeteren door een halfgeleider toe te voegen die in staat is om geheugen te controleren. HBM4 is een product dat volgend jaar op grote schaal in massaproductie zal worden genomen. Het inbedden van GPU-kernen wordt geïnterpreteerd als een technologie die verschillende stappen voorloopt op de HBM4-controller. In GPU's en CPU's is een kern de basis eenheid die in staat is tot onafhankelijke berekeningen. Bijvoorbeeld, een 4-kern GPU betekent dat er vier kernen zijn die in staat zijn tot berekeningen; hoe meer kernen er zijn, hoe meer de rekenprestaties verbeteren. Kernen in HBM plaatsen is een poging om de rekenfuncties die geconcentreerd waren in de GPU te verdelen naar het geheugen, waardoor de databeweging wordt verminderd en de belasting op het hoofd-GPU-lichaam wordt verlaagd. Een functionaris uit de industrie legde uit: "In AI-berekeningen is een belangrijke factor niet alleen snelheid, maar ook energie-efficiëntie," en voegde eraan toe: "Het verminderen van de fysieke afstand tussen geheugen en rekenunits kan zowel de latentie van gegevensoverdracht als het energieverbruik verminderen." Echter, technische uitdagingen blijven bestaan. Vanwege de kenmerken van het Through-Silicon Via (TSV) proces is de ruimte die beschikbaar is om GPU-kernen in de HBM-basis-die te bevatten zeer beperkt. Voedingsvoorziening en warmteafvoer zijn ook grote problemen. Aangezien GPU-rekenkernen veel energie verbruiken en aanzienlijke warmte genereren, kan thermische controle een bottleneck worden. Deze ontwikkeling kan zowel een kans als een crisis zijn voor de binnenlandse halfgeleiderindustrie. Als bedrijven de foundry- of verpakkingscapaciteiten bezitten om CPU's of GPU's te implementeren, wordt het een kans om HBM verder te ontwikkelen en de AI-halfgeleider markt te blijven leiden. Er is echter bezorgdheid dat als de reactievermogen ontbreekt, ze ondergeschikt kunnen worden aan de systeemhalfgeleiderindustrie. Kim Joung-ho, een professor aan de School of Electrical Engineering van KAIST, zei: "De snelheid van technologische transitie waarbij de grens tussen geheugen en systeemhalfgeleiders vervalt voor AI-vooruitgang zal versnellen," en voegde eraan toe: "Binnenlandse bedrijven moeten hun ecosysteem uitbreiden van geheugen naar de logica-sector om de volgende generatie HBM-markt voor te zijn."