Qualcomm und AMD setzen auf SOCAMM2-Speicher, um KI-Hardware zu beschleunigen
Der Wettlauf um KI-Hardware beschleunigt sich immer weiter und das Speicherdesign steht mittlerweile im Mittelpunkt der Innovation. Nachdem Microsoft mit seinem Maia 200-Chip auf den Markt kam und sich durch einen Deal mit SK Hynix die Lieferung sicherte, haben andere Chiphersteller damit begonnen, alternative Wege zur Skalierung der KI-Leistung zu erkunden.
SOCAMM2 gewinnt an Aufmerksamkeit, da der Bedarf an KI-Speicher steigt
Laut TechPowerUp prüfen Qualcomm und AMD Berichten zufolge die Verwendung von SOCAMM2-Speicher in zukünftigen KI-fokussierten Produkten. Der Ansatz zielt auf eine höhere Speicherkapazität und Bandbreite ab, zwei kritische Faktoren für moderne KI-Workloads.
Das erneute Interesse folgt auf NVIDIAs „Vera“-CPU, die LPDDR5X-Speicher im SOCAMM-Formfaktor verwendet. Dieses Design liefert eine Speicherbandbreite von bis zu 1,2 TB/s und unterstützt bis zu 1,5 TB LPDDR5X-Speicher, sodass große KI-Modelle vollständig im schnellen Systemspeicher verbleiben können.
Wie Qualcomm und AMD SOCAMM übernehmen könnten
Qualcomm und AMD wollen SOCAMM als Ergänzung zum HBM-Speicher nutzen, der bereits auf KI-Beschleunigern eingesetzt wird. SOCAMM würde als großer Hochgeschwindigkeitsspeicherpool fungieren, die Abhängigkeit von SSD- oder Flash-Speicherübertragungen verringern und die Gesamtsystemeffizienz verbessern.
Mögliche Integrationspfade für AMD umfassen die Paarung von Instinct MI-Beschleunigern mit EPYC-CPUs mithilfe von SOCAMM oder die Entwicklung einer neuen KI-Systemarchitektur, die auf dem Speicherformat basiert. Qualcomm könnte seine bestehenden AI200- und AI250-Beschleuniger, die bereits bis zu 768 GB LPDDR5 pro Karte unterstützen, durch SOCAMM-basierte Speichererweiterung anstelle von gelöteten Designs erweitern.
Über Leistungssteigerungen hinaus ermöglicht SOCAMM modulare Systemkonfigurationen. Hersteller können die Speicherkapazität skalieren, indem sie Module hinzufügen oder entfernen, ohne dass größere PCB-Redesigns oder komplexe Lötarbeiten erforderlich sind.
Diese Flexibilität wird immer wertvoller, da die Speicherpreise weiter steigen und selbst DDR4 erhebliche Preisspitzen erlebt.
*️⃣ Quelllink:
Maia 200-Chip, Deal mit SK Hynix, TechPowerUp, DDR4 erlebt deutliche Preisspitzen,