Technológia

NVIDIA ÚJ AI GYORSÍTÓJA: 1400 W TDP-KERETTEL ÉS 288 GB-NYI MEMÓRIÁVAL KÉSZÜL A FORRADALOMRA!

2024-12-29

Szerző: Attila

Az NVIDIA éppen most terjeszkedik a mesterséges intelligencia (AI) és a nagy teljesítményű számítástechnika (HPC) piacán, ahol a kereslet robbanásszerűen nőtt az AI iránti érdeklődés miatt. E folyamat révén nemcsak a vállalat árbevétele és profitja emelkedik, hanem a versenytársak is felfigyelnek a lehetőségekre, hogy saját AI gyorsítóik fejlesztésébe kezdjenek. A közeljövőben ez a verseny a kínálat növekedését hozhatja, de jelenleg az NVIDIA termékei iránti kereslet még mindig csúcson áll.

Az NVIDIA Blackwell architektúrájára épülő új AI gyorsítók, mint például a B100, B200 és GB200 modellek, már forgalomba kerültek, de a kezdő mennyiségek nem érik el az előre megcélzott szintet. A TSMC által felfedezett dizájnhibák miatt az indítás nem volt zökkenőmentes, amit az NVIDIA vezérigazgatója is elismert, ám már folynak a megrendelések teljesítése, és az új generációs gyorsítók teljesítménye jelentősen túlszárnyalja a korábbi modellekét.

Az új B300-as AI gyorsító várhatóan forradalmasítani fogja a memóriaarchitektúrát. Az NVIDIA a HBM3E chipek helyett újabb, fejlettebb 12-Hi konfigurációjú memóriamodulokat fog használni, amely lehetővé teszi a 288 GB memóriakapacitás elérését, míg korábban ez 192 GB volt. Ez a bővülés különösen kedvező hatással lesz a nagy nyelvi modellek (LLM) teljesítményére. A B300-as GPU emellett a TDP keretét is 1400 W-ra növeli, így jelentős teljesítménynövekedés várható, szemben a B200-asával, amely esetében ez az érték 1000 W volt. A spekulációk szerint a B300-as gyorsító az FP4-es műveleteknél 1,5-ször nagyobb teljesítményt fog nyújtani.

Egy másik érdekes fejlesztés, hogy a GB300-as SuperChip két B300-as chipből fog állni, amely a memóriakapacitást 576 GB-ra növeli, így jelentősen kibővülnek a számítási lehetőségek. Az új hűtési rendszerek is megérkeznek, amelyek fejlett folyadékhűtő blokkokkal és hatékony gyorscsatlakozókkal lesznek felszerelve.

Ráadásul, a hálózati kommunikáció terén is nagy előrelépések várhatóak: a régi ConnectX 7 hálózati kártyákat új, gyorsabb ConnectX 8 modellek váltják fel, amelyek már 1,6 Tbps sebesség elérésére is képesek. A GB300 alapú NVL72-es szekrényekben szabványosított kondenzátortálca áll rendelkezésre, amely opcionálisan akkumulátoros rendszerrel is kiegészíthető (BBU - Battery Backup Unit). Az NVIDIA tehát nem csak egy erős GPU-t fejleszt, hanem egy átfogó rendszert, amely a következő generációs AI alkalmazási igényekhez igazodik.