A Palo Alto-i székhelyű SambaNova AI-chipes startup egy új félvezetőt mutatott be, amely a nagy teljesítményű számítástechnikai alkalmazások futtatásához használható, a modellek gyorsabb betanításával, alacsonyabb összköltség mellett.

Az új termék az SN40L nevet viseli, és 5 trillió paraméteres modellt képes kiszolgálni, 256k+ szekvenciahosszúságú szekvenciákkal, amelyek egyetlen rendszercsomóponton lehetségesek. A félvezetőt az NVIDIA legerősebb chipje alternatívájaként ajánlják. Az NVIDIA chipje GH200 480 GB CPU RAM-ot és 96 GB GPU RAM-ot képes támogatni.

A SambaNova chipje elsősorban a SambaNova Suite vállalati alkalmazást fogja segíteni, amely magán- és kormányzati szervezeteknek kínálja generatív AI-alkalmazások létrehozását és telepítését. A vállalat szerint az új chip legnagyobb előnye, hogy egyesíti a több memória címzésének képességét a legokosabb számítási maggal.

A vállalat egyben megállapodott a Taiwan Semiconductor Manufacturing Company-val az új chipek gyártásáról, ami fontos eredményt jelent. Szakértők szerint a félvezetőkből hiány van, és hosszú várakozási idővel kell számolniuk a vállalkozásoknak, hogy hozzájuthassanak az NVIDIA legkeresettebb chipjeihez, amelyek segítenek a hatalmas AI-alkalmazások és modellek futtatásában és betanításában. Ennek az űrnek a betöltésére vállalkoznak olyan cégek, mint a SambaNova, az AMD és az Intel.

Az NVIDIA üzleti modelljével ellentétben a SambaNova nem különálló egységként, hanem a SambaNova Suite nevű, egyedi fejlesztésű technológiai csomag részeként fogja értékesíteni a chipjeit. Szakértők szerint ez nagyobb kihívás lesz, mert az Nvidia a teljes vállalati, AI-piacra is belépett a DGX Cloud szolgáltatással.

„A chip jelentős előrelépés, de nem hiszem, hogy jelentősen meg fogja változtatni a piacot" – mondta Dylan Patel, a SemiAnalysis tanácsadó cég vezető elemzője a Spektrum nevű lapnak.

Forrás: Spectrum / SambaNova / Interesting Engineering