„Nvidia“ pristatė naują DI lustą H200

Pagrindinis patobulinimas – H200 lustas turi 141 gigabaitus (GB) naujos kartos, didelio pralaidumo atminties HBM3, kai H100 turėjo 80 GB. CNBC rašo, kad H200 lusto bandymus „Nvidia“ atliko su bendrovės „Meta“ didžiosios kalbos modeliu „Llama 2“.
Planuojama, kad H200 pirmuosius pirkėjus pasieks 2024 m. Anot „Nvidia“, tarp pirmųjų debesijos paslaugų tiekėjų, siūlysiančių prieigą prie H200 lustų, bus „Amazon Web Services“, „Google Cloud“, „Oracle Cloud“ ir „Microsoft Azure“.
Dėl DI lustų paklausos „Nvidia“ tapo karščiausia šių metų technologijų sektoriaus bendrove – šiemet jos akcija pakilo apie 240%. Anksčiau ji peržengė simbolinę 1 trln. USD rinkos kapitalizacijos kartelę bei yra viena iš vos 5 biržose kotiruojamų technologijų įmonių su didesne nei 1 trln. USD kapitalizacija.
„Nvidia“ dominuoja lustų DI segmente – jos sukurta produkcija užima per 80%, tuo metu konkurentai ieško būdų, kaip atkąsti dalį „Nvidia“ užimamos ir itin pelningos rinkos dalies. Pavyzdžiui, finansinių paslaugų bendrovė „Raymond James“ skaičiuoja, kad H100 procesorius kainuoja 25.000–40.000 USD, o didiesiems kalbos modeliams reikia šimtų tokių procesorių.
Štai konkurentė „Advanced Micro Devices“ savo DI grafikos procesorių MI300X pristatė birželį, taigi, sparčiai augant paklausai, didėja ir pasiūla.
H200, kaip pastebi CNBC, galingiausiu „Nvidia“ DI lustu gali būti gana neilgai, nes bendrovė spalį ketvirčio rezultatų pristatyme užsiminė, kad naujus lustus nuo šiol išleis kiekvienais metais, o ne kas dvejus metus, kaip buvo iki šiol. Vienoje iš pristatymo skaidrių buvo užsiminta, kad 2024 m. bus išleistas B100 lustas su nauja „Blackwell“ architektūra.