Megduplázhatják a teljesítményt az AI-gyorsító chipek
A Samsung megduplázhatja a neurális hálók teljesítményét a memóriában történő feldolgozás technológiájával.

Az elmúlt években a számítástechnikát a párhuzamos feldolgozás felé való elmozdulás és a neurális hálózatok méretének jelentős növekedése jellemezte. Emiatt azonban a processzoroknak gyorsabban kell több adathoz hozzáférniük a memóriából - ennek ellenére „a DRAM és a processzor közötti teljesítménykülönbség nagyobb, mint valaha” – mondja Joungho Kim, a 3D-s memóriachipek szakértője a Korea Advanced Institute of Science and Technology kutatóegyetemről.

Forrás: IEEE Spectrum

Mi van azonban, ha ehelyett a feldolgozás legalább egy része magában a memóriában történik? Így kevesebb adatnak kellene mozognia a chipek között, és mindez még energiamegtakarítással is járna. Az ötlet nem új, s úgy tűnik, végre elérkezett megvalósításának pillanata. 

Tavaly a Samsung, a világ legnagyobb dinamikus véletlen hozzáférésű memória (DRAM) gyártója megkezdte a process-in-memory (PIM) technológia bevezetését. Az első PIM-ajánlat, amelyet 2021 februárjában mutattak be, mesterséges intelligencia-központú számítási magokat integrált az Aquabolt-XL nagy sávszélességű memóriájába. A HBM az a fajta speciális DRAM, amely körülvesz néhány AI-gyorsító chipet. Az új memória a hagyományos HBM chipek „beugró helyettesítőjeként” működik – magyarázta Nam Sung Kim, az IEEE munkatársa, aki akkoriban a Samsung memória üzletágának alelnöke volt.

Tavaly augusztusban a Samsung nyilvánosságra hozta egy partneri rendszerben végzett teszt eredményeit. A Xilinx Virtex Ultrascale + (Alveo) AI-gyorsítóval együtt használva a PIM technológia közel 2,5-szeres teljesítménynövekedést és 62 százalékos energiafogyasztás-csökkenést eredményezett a beszédfelismerő neurális háló esetében. A Samsung mintákat kínál a nagy sávszélességű DRAM, a HBM2 jelenlegi generációjába integrált technológiából. Emellett fejleszti a PIM technológiát a következő generációhoz, a HBM3-hoz és a mobileszközökben használt alacsony fogyasztású DRAM-okhoz. Utóbbi szabványát a JEDEC-kel várhatóan 2022 első felében fejezi be.

A teljes cikk az IEEE Spectrum oldalán olvasható.