Samsung brengt in-memory processing naar meer toepassingen

Abonneer je gratis op Techzine!

Samsung heeft zijn nieuwste ontwikkelingen met processing-in-memory (PIM)-technologie gepresenteerd op de jaarlijkse halfgeleiderconferentie Hot Chips 33. Zo toonde het bedrijf de eerste succesvolle integratie van diens PIM-enabled High Bandwidth Memory (HBM-PIM) in een gecommercialiseerd acceleratorsysteem.

In februari introduceerde Samsung de eerste HBM-PIM (Aquabolt-XL), die de AI-verwerkingsfunctie integreert in Samsung HBM2 Aquabolt, om de snelle gegevensverwerking in supercomputers en AI-toepassingen te verbeteren. De HBM-PIM is sindsdien getest in de Xilinx Virtex Ultrascale+ (Alveo) AI-versneller, waar het volgens Samsung meer dan twee keer snellere systeemprestaties en een meer dan 60 procent lager energieverbruik toonde.

Sneller en energiezuiniger

“HBM-PIM is de eerste speciaal voor AI gemaakte geheugenoplossing, die wordt getest in AI-acceleratorsystemen van klanten, met een enorm commercieel potentieel,” zegt Nam Sung Kim, senior VP bij Samsung Electronics. “Door standaardisatie van de technologie zullen er tal van toepassingen komen, die zich uitbreiden naar HBM3 voor supercomputers en AI-toepassingen van de volgende generatie, en zelfs naar mobiel geheugen voor AI op het apparaat, en voor geheugenmodules die in datacenters worden gebruikt.”

De Acceleration DIMM, of AXDIMM zoals Samsung het noemt, brengt gegevensverwerking naar de DRAM-module zelf. Daarmee is veel van het traditionele dataverkeer tussen de CPU en DRAM overbodig en dat verbetert onder andere de energie-efficiëntie van AI-versnellersystemen. “Met een AI-engine die in de bufferchip is ingebouwd, kan de AXDIMM parallelle verwerking van meerdere geheugenrangen uitvoeren, in plaats van slechts één rang tegelijk te gebruiken, waardoor de systeemprestaties en efficiëntie aanzienlijk worden verbeterd,” legt het bedrijf uit. “De AXDIMM wordt momenteel getest op klantservers en biedt ongeveer twee keer betere prestaties in op AI gebaseerde aanbevelingstoepassingen, met een vermindering van 40 procent in het systeembrede energieverbruik.”

Samsung wil voor diens AI-geheugenportfolio samenwerken met andere marktleiders, om zo de standaardisatie van het PIM-platform in de eerste helft van 2022 te voltooien.