NVIDIA sử dụng CPU Xeon Sapphire Rapids của Intel để tăng sức mạnh cho Hệ thống AI hỗ trợ GPU DGX H100

NVIDIA đã xác nhận rằng họ đã chọn CPU Sapphire Rapids Xeon của Intel để cung cấp hiệu năng cho hệ thống DGX H100 chạy bằng GPU Hopper của họ cho các Trung tâm dữ liệu & AI.

Hệ thống AI DGX H100 của NVIDIA với GPU có kiến trúc Hopper để trang bị cho CPU Sapphire Rapids Xeon của Intel

Xác nhận đến từ Giám đốc điều hành của NVIDIA, Jensen Huang, trong Hội nghị Công nghệ Toàn cầu BofA Securities 2022, báo cáo của The Register. Trở lại GTC 2022, khi NVIDIA công bố hệ thống DGX H100 mới của mình, họ chỉ đề cập đến việc sử dụng CPU x86. Người ta vẫn chưa cho biết liệu CPU sẽ là thiết kế của Intel hay AMD. Nhưng bây giờ NVIDIA đã xác nhận rằng DGX H100 thực sự có CPU Sapphire Rapids Xeon sắp tới của Intel.

Việc lựa chọn CPU Sapphire Rapids Xeon của Intel chắc chắn là một sự lựa chọn thú vị khi gã khổng lồ AI đã chuyển từ Intel sang AMD trên hệ thống AI trước đây của mình, DGX A100 chạy bằng GPU Ampere. A100 có hai CPU AMD EPYC Rome với tối đa 64 lõi. Chúng tôi không biết Xeon SKU sẽ được sử dụng để cung cấp hiệu năng cho DGX H100 nhưng Sapphire Rapids đạt tối đa 56 lõi và 112 luồng. Chắc chắn đây là số lõi ít hơn so với dòng sản phẩm EPYC hiện tại của AMD nhưng NVIDIA muốn tận dụng khả năng đơn luồng cao hơn mà chip hỗ trợ kiến trúc Golden Cove của Intel cung cấp.

Nếu NVIDIA đang xem xét hiệu suất đa luồng, họ có thể vẫn đi theo lộ trình AMD EPYC, đặc biệt là khi Genoa ở ngay gần góc và sẽ cung cấp tới 96 lõi & 192 luồng dựa trên kiến trúc Zen 4 mới hơn. Trước đây, ServerTheHome đã báo cáo rằng NVIDIA có hai bo mạch DGX H100 được cấu hình xung quanh CPU máy chủ AMD và Intel. Chúng tôi không thể nói chắc chắn liệu NVIDIA có phát hành một biến thể EPYC của hệ thống DGX H100 trong tương lai hay không nhưng hiện tại, đó sẽ là tất cả của Intel Sapphire Rapids.

Thống số kỹ thuật NVIDIA DGX H100 

Với GPU Hopper, NVIDIA đang phát hành hệ thống DGX H100 mới nhất của mình. Hệ thống được trang bị tổng cộng 8 bộ gia tốc H100 trong cấu hình SXM và cung cấp lên đến 640 GB bộ nhớ HBM3 & lên đến 32 PFLOP cho hiệu suất máy tính cao nhất. Để so sánh, hệ thống DGX A100 hiện tại được trang bị 8 GPU A100 với bộ nhớ 640GB HBM2e và chỉ tạo ra tối đa 5 PFLOP của AI và 10 PFLOP của sức mạnh tính toán INT8.

Bản thân hệ thống này có các CPU Intel thế hệ thứ 5 với hỗ trợ đầy đủ PCIe Gen 5. Đầu ra hiển thị được cung cấp thông qua thẻ bộ điều hợp màn hình DGX rời, cung cấp 4 đầu ra DisplayPort với hỗ trợ độ phân giải lên đến 4K. AIC có giải pháp làm mát tích cực của riêng nó. Hệ thống có bốn NVSwitch, 2TB bộ nhớ hệ thống, hai bộ nhớ 1,9 TB NVMe M.2 cho hệ điều hành và 8 ổ SSD 3,84 TB NVMe U.2 cho bộ nhớ trong.

Nói về giải pháp làm mát, DGX H100 có các GPU H100 ở mặt sau của khung máy. Tất cả bốn GPU và CPU đều được bổ sung bằng hệ thống làm mát bằng chất làm lạnh hoạt động êm ái và không cần bảo trì. Máy nén cho bộ làm mát nằm trong khung DGX. Công suất tiêu thụ được đánh giá là 10,2kW (cao điểm). DGX H100 dự kiến sẽ ra mắt vào quý 3 năm 2022.