Laut TechPowerUp gestaltet Samsung sein HBM4E-Speicherstromversorgungsnetzwerk neu, um den steigenden Strom- und Wärmebedarf in KI-Chips der nächsten Generation zu bewältigen.
Der Schritt folgt auf die erste Einführung von Samsungs erstem kommerziellen HBM4, der mit 11,7 Gbit/s arbeitet und eine mögliche Skalierung auf bis zu 13 Gbit/s ermöglicht. Da KI-Beschleuniger immer leistungshungriger werden, müssen sich Speicherarchitekturen weiterentwickeln, um Stabilität und Effizienz bei höheren Bandbreiten aufrechtzuerhalten.
Von HBM4 zu HBM4E: Mehr Leistung, mehr Komplexität
Durch den Übergang von HBM4 zu HBM4E erhöht sich die Anzahl der Stromstöße deutlich von 13.682 auf 14.457 bei gleicher physischer Stellfläche.
Eine dichtere und dünnere Verkabelung erhöht die Stromdichte und den elektrischen Widerstand. Wenn der Widerstand steigt, schwächt sich die Spannung auf dem Weg durch die Schaltkreise ab, ein Phänomen, das als IR-Abfall bekannt ist. Der höhere Widerstand erzeugt außerdem zusätzliche Wärme, wodurch eine Rückkopplungsschleife entsteht, die sich sowohl auf die Leistung als auch auf die langfristige Zuverlässigkeit auswirken kann.
Neugestaltung des Stromnetzes auf dem Basischip
Um diesen Herausforderungen zu begegnen, hat Samsung das interne Stromversorgungslayout des HBM4E überarbeitet.
Die Ingenieure segmentierten den zuvor zentralisierten MET4-Stromversorgungsblock auf dem Basischip. Die große MET4-Struktur im Wabenstil wurde in vier kleinere Abschnitte unterteilt, um die Verteilungseffizienz zu verbessern.
Die oberen Metallschichten wurden ebenfalls geteilt, um die Überlastung der Leitungen zu verringern und die Stromlieferwege zu verkürzen. Durch die Minimierung von Abstand und Widerstand auf diesen Pfaden wollte Samsung die Spannung stabilisieren und die Wärmeentwicklung begrenzen.
Gemessene Verbesserungen
Samsung meldet erhebliche Zuwächse durch das HBM4E-Redesign.
Das Unternehmen erreichte im Vergleich zu HBM4 eine Reduzierung der Metallschaltkreisdefekte um 97 %. Die IR-Drop-Leistung wurde um 41 % verbessert, wodurch der Speicher mehr Spannungsspielraum für höhere Betriebsgeschwindigkeiten erhält.
Diese Änderungen verbessern auch die Gesamtzuverlässigkeit, was immer wichtiger wird, da KI-Beschleuniger in Richtung höherer Leistungsumfänge und größerer Speicherstapel skaliert werden.
Blick über HBM4E hinaus: Trennung von Speicher und GPU
Samsung erwägt auch radikalere architektonische Änderungen.
Ein derzeit untersuchtes Konzept besteht darin, HBM mithilfe fortschrittlicher Verbindungstechnologien physisch von der GPU zu trennen. Photonische Verbindungen, die auf optischer Übertragung basieren, könnten Datenraten von Terabit pro Sekunde ermöglichen, möglicherweise rund 1.000 Mal schneller als herkömmliche Kupferverbindungen.
Verbesserungen bei der Substratverkabelung können dazu führen, dass HBM- und GPU-Komponenten mehr als 5 Zentimeter voneinander entfernt sitzen. Eine stärkere Trennung könnte das Wärmemanagement in KI-Beschleunigersystemen, in denen die Wärmedichte weiter zunimmt, erheblich verbessern.
Das HBM4E-Redesign von Samsung signalisiert einen umfassenderen Wandel in der KI-Hardwaretechnik, der sich auf Energieeffizienz, Skalierbarkeit und langfristige Zuverlässigkeit konzentriert, da die Nachfrage nach leistungsstarker KI-Infrastruktur steigt.
In anderen Entwicklungen haben SK Hynix und SanDisk HBF-Speicher eingeführt und ihn als potenzielle Alternative zu herkömmlichen HBM-Designs positioniert.
Gleichzeitig wird allgemein erwartet, dass die kommende Rubin-Architektur von NVIDIA die Nachfrage nach HBM4 beschleunigen wird, da KI-GPUs der nächsten Generation den Bedarf an Speicherbandbreite und Strom noch weiter steigern.
*️⃣ Quelllink:
TechPowerUp, Samsungs erster kommerzieller HBM4, SK Hynix und SanDisk haben HBF-Speicher und NVIDIAs kommende Rubin-Architektur vorgestellt.