Google zaprezentował szczegóły dotyczące swojej jednostki przetwarzania tensora Ironwood (TPU) na Hot Chips 2025, po pierwszym ogłoszeniu w Google Cloud Next ’25 w kwietniu. Ironwood reprezentuje TPU z siódmą generacji Google, specjalnie zaprojektowaną do obciążeń dotyczących wnioskowania na dużą skalę, co oznacza przejście od poprzednich pokoleń koncentrujących się na szkoleniu. Każdy chip Ironwood zawiera dwie matryce obliczeniowe, dostarczając 4614 TFLOPS wydajności FP8. Zawiera osiem stosów HBM3E, zapewniając 192 GB pamięci na chip z przepustowością 7,3 TB/s. Architektura systemu skaluje się do 9 216 układów na kapsułkę, ułatwioną 1,2 TB/s przepustowości we/wy, eliminując potrzebę logiki kleju i osiągając łącznie 42,5 wykładów wydajności. Kluczową atrakcją Ironwood jest pojemność pamięci. Pojedynczy kapsułek zapewnia 1,77 pb bezpośrednio adresowalnego HBM, który, jak twierdzi Google, jest nowym rekordem świata dla superkomputerów pamięci współdzielonej. Ta obszerna pojemność pamięci jest możliwa dzięki przełącznikach obwodów optycznych, które łączą stojaki ze sobą. Ironwood TPU podkreśla również niezawodność i odporność. Sprzęt może automatycznie ponownie skonfiguruje wokół nieudanych węzłów i przywrócić obciążenia z punktów kontrolnych. Funkcje obejmują główny pierwiastek zaufania, wbudowane funkcje autotestu, łagodzenie cichego uszkodzenia danych i funkcje naprawy logiki w celu poprawy wydajności produkcyjnej. Według Google nacisk na RAS (niezawodność, dostępność i obsługa) jest widoczny w całej architekturze. Chłodzenie jest obsługiwane przez rozwiązanie na zimno zintegrowane z infrastrukturą chłodzącą cieczą Google trzeciej generacji. Google twierdzi, że Ironwood osiąga dwojaką poprawę wydajności na wat w porównaniu do swojego poprzednika, Trillium. Dynamiczne skalowanie napięcia i częstotliwości dodatkowo zwiększają wydajność podczas zróżnicowanych obciążeń. Do projektowania Ironwood zastosowano również techniki AI w celu optymalizacji obwodów ALU i planów pięter. Dodano Sparsecore czwartej generacji w celu przyspieszenia osadzania i operacji zbiorowych, wspierając obciążenia, takie jak silniki rekomendacji. Ironwood wdrożenie jest obecnie w trakcie Hyperscale w Centrach danych Google Cloud. Jednak TPU pozostaje platformą wewnętrzną i nie jest bezpośrednio dostępna dla klientów Google Cloud. Ryan Smith z Servethehome skomentował prezentację Google na Hot Chips 2025, stwierdzając: „To była niesamowita prezentacja. Google widział potrzebę stworzenia wysokiej klasy AI obliczania wielu pokoleń temu. Teraz firma na każdym poziomie od wiórów, po wzajemne połączenia i do infrastruktury fizycznej.
Source: Google Szczegóły Ironwood TPU dla wnioskowania na dużą skalę
