Procesory Nvidia Grace i Nvidia H100 zostały zaprezentowane na Nvidia GTC 2022. Nvidia ogłosiła dziś architekturę GPU nowej generacji Hopper i GPU Hopper H100, a także nowy układ centrum danych, który łączy GPU z wysokowydajnym procesorem, nazwanym „ Grace CPU Superchip” (nie mylić z innymi produktami Nvidii) Gracja superchip).
Procesor Nvidia Grace: specyfikacja, cena i data wydania
Nvidia GPU Superchip to pierwsza próba firmy w zakresie wyspecjalizowanego procesora w centrum danych. Zgodnie z informacjami ujawnionymi przez Intela, chip oparty na Arm będzie wyposażony w oszałamiające 144 rdzenie i 1 terabajt na sekundę przepustowości pamięci. W rzeczywistości łączy dwa procesory Grace połączone przez interkonekt Nvidia NVLink — co jest porównywalne z architekturą Apple M1 Ultra.
Nowy procesor, który będzie zasilany szybką pamięcią LPDDR5X, ma zostać dostarczony w pierwszej połowie 2023 r. i będzie oferować dwukrotnie wyższą wydajność niż konwencjonalne serwery. Nvidia przewiduje, że chip osiągnie 740 punktów w teście SPECrate®2017_int_base, stawiając go w szranki z zaawansowanymi procesorami AMD i Intel Data Center (chociaż niektóre z nich osiągają wyższe wyniki, ale kosztem niższej wydajności na wat ).
„Pojawił się nowy typ centrum danych — fabryki sztucznej inteligencji, które przetwarzają i udoskonalają góry danych w celu uzyskania inteligencji. Grace CPU Superchip oferuje najwyższą wydajność, przepustowość pamięci i platformy oprogramowania NVIDIA w jednym układzie i będzie błyszczeć jako procesor światowej infrastruktury sztucznej inteligencji”.
-Jensen Huang, założyciel i dyrektor generalny Nvidia
Ten nowy chip, pod wieloma względami, jest naturalną progresją Superchipów Grace Hopper i procesorów ogłoszonych w zeszłym roku. ten Superchip Grace Hopper łączy CPU i GPU w jeden system na chipie. Ten system, który również zadebiutuje w pierwszej połowie 2023 roku, będzie zawierał procesor graficzny o pojemności 600 GB dla dużych modeli, a Nvidia twierdzi, że przepustowość pamięci będzie 30-krotnie większa niż w przypadku podstawowego procesora graficznego serwera. Według Nvidii procesory te są przeznaczone do zastosowań sztucznej inteligencji o „gigantycznej skali” i wysokowydajnych aplikacji obliczeniowych.
Grace CPU Superchip to oparty na ARM v9 układ SoC, który może być używany do tworzenia samodzielnych procesorów lub serwerów z maksymalnie ośmioma procesorami graficznymi typu Hopper.
Firma wskazuje, że współpracuje z „wiodącymi klientami HPC, superkomputerów, hiperskalowania i chmury”, co oznacza, że te systemy będą ostatecznie dostępne u dostawcy usług w chmurze w Twojej okolicy.
Nie udostępniono jeszcze żadnych informacji o cenie.
Procesor graficzny Nvidia H100: specyfikacja, cena i data wydania
Nvidia wprowadza na rynek szereg nowych i ulepszonych technologii z Hopperem, ale nacisk architektury na modele transformatorów, które stały się preferowaną techniką uczenia maszynowego dla wielu aplikacji i które modele zasilania, takie jak GPT-3 i asBERT, mogą być najistotniejsze. .
Nowy Transformer Engine układu H100 obiecuje przyspieszyć trenowanie modeli nawet sześciokrotnie, a ponieważ ta nowa architektura obejmuje również nowy system NVLink Switch firmy Nvidia do łączenia wielu węzłów, masywne klastry serwerów obsługiwane przez te układy będą mogły skalować się w celu obsługi ogromne sieci z mniejszym obciążeniem.
„Największe modele sztucznej inteligencji mogą wymagać miesięcy nauki na dzisiejszych platformach obliczeniowych. To za wolno dla firm. Sztuczna inteligencja, obliczenia o wysokiej wydajności i analityka danych stają się coraz bardziej złożone, a niektóre modele, takie jak modele w dużym języku, osiągają biliony parametrów. Architektura NVIDIA Hopper jest zbudowana od podstaw w celu przyspieszenia tych obciążeń SI nowej generacji dzięki ogromnej mocy obliczeniowej i szybkiej pamięci do obsługi rosnących sieci i zbiorów danych”.
-Dave Salvator
Rdzenie tensorowe klientów, które w razie potrzeby mogą łączyć 8-bitową precyzję i 16-bitową połowiczną precyzję, zachowując jednocześnie precyzję, są używane w nowym Silnik transformatora.
Nie udostępniono jeszcze żadnych informacji o cenie.
