Thông số kỹ thuật xem thêm các máy chủ Supermicro được chứng nhận cho GPU NVIDIA

Sau event chào làng của kiến ​​trúc Ampere và GPU bức tốc AI A100 mới, NVIDIA cũng từng ra mắt bạn dạng PCIe của bộ tăng cường này để bước đầu cho sự kiện ảo ISC Digital. GPU A100 PCIe đc chào làng vào thời điểm tháng 6 năm 2020, thi công bên trên tiến trình 7nm và dựa theo bộ cách xử lý đồ họa GA100, card không hỗ trợ DirectX bắt buộc nó có thể ko chạy đc toàn bộ những trò chơi mới nhất. A100 GPU mang 432 lõi tensor giúp cải thiện tốc độ của các phần mềm học máy. NVIDIA đã ghép nối bộ lưu trữ HBM2e 40GB sở hữu A100 PCIe, đc kết nối bằng giao diện bộ lưu trữ 5120-bit. GPU đang hoạt động ở tần số 765 MHz, mà thậm chí đc boost lên 1410 MHz, bộ lưu trữ chuyển động ở tần số 1215 MHz, dẫn đến hiệu suất đo lường đa nhiệm trẻ trung và tràn đầy năng lượng hơn.

là một trong những GPU sở hữu kích thước 2 Dắt cắm (double-width), NVIDIA A100 PCIe phải hỗ trợ nguồn điện là một nguồn EPS 8 chân duy nhất, sở hữu mức tiêu thụ điện năng tối đa là 250W. GPU này không có cổng màn hình, vì nó không có thiết kế để có màn hình kết nối. A100 PCIe được kết nối với phần còn sót lại của khối hệ thống bằng giao diện PCI-Express 4.0 x16. Card với chiều dài 267mm và giao tiếp PCIe truyền thống, giúp đáp ứng những quý khách chỉ việc cắm vào máy chủ họa tiết thiết kế tiêu chuẩn. Nhìn tổng thể, A100 PCIe cung ứng hiệu năng cao nhất cũng như SXM4 A100, cung ứng khoảng 90% hiệu suất đối với phiên bản SXM4 bên trên workload GPU đơn, do TDP giảm mạnh. Điều ấy giúp cho A100 PCIe phù hợp hơn với các khối hệ thống AI trong Data Center tỷ lệ cao nhưng tiết kiệm ngân sách và chi phí hơn về TCO.

>>> Xem thêm: bán máy r940

NVIDIA GPU A100 PCIe chính là kiến trúc A100 hoàn hảo, chỉ khác là nằm trong một form-factor PCIe & có TDP thích nghi hơn. Về hiệu năng, A100 PCIe cũng biến thành nhanh chóng tương đồng bản SXM4. Do đó, bạn dạng PCIe mang tất cả toàn bộ trang bị mà A100 cung ứng vào bên trong nó, với cùng trọng tâm tập trung vào các phép toán tensor, bao hàm các chuẩn FP32 và FP64 mang độ đúng đắn cao hơn, cũng giống như suy luận số nguyên nhanh hơn.NVIDIA Ampere A100 PCIe GPU Accelerator_Specs

cách giải quyết hạ tầng

Bảng đối chiếu cấu hình những bộ bức tốc NVIDIA

A100

(PCIe) A100

(SXM4) V100

(PCIe) P100

(PCIe)

FP32 CUDA Cores 6912 6912 5120 3584

Boost Clock 1.41GHz 1.41GHz 1.38GHz 1.3GHz

Memory Clock 2.4Gbps HBM2 2.4Gbps HBM2 1.75Gbps HBM2 1.4Gbps HBM2

Memory Bus Width 5120-bit 5120-bit 4096-bit 4096-bit

Memory Bandwidth 1.6TB/sec 1.6TB/sec 900GB/sec 720GB/sec

VRAM 40GB 40GB 16GB/32GB 16GB

Single Precision 19.5 TFLOPs 19.5 TFLOPs 14.1 TFLOPs 9.3 TFLOPs

Double Precision 9.7 TFLOPs

(1/2 FP32 rate) 9.7 TFLOPs

(1/2 FP32 rate) 7 TFLOPs

(1/2 FP32 rate) 4.7 TFLOPs

(1/2 FP32 rate)

>>> Xem thêm: mua máy chủ dell r740

INT8 Tensor 624 TOPs 624 TOPs N/A N/A

FP16 Tensor 312 TFLOPs 312 TFLOPs 112 TFLOPs N/A

TF32 Tensor 156 TFLOPs 156 TFLOPs N/A N/A

Relative Performance (SXM Version) 90% 100% N/A N/A

Interconnect NVLink 3

6 Links? (300GB/sec?) NVLink 3

12 link (600GB/sec) NVLink 2

4 liên kết (200GB/sec) NVLink 1

4 link (160GB/sec)

GPU GA100

(826mm2) GA100

(826mm2) GV100

(815mm2) GP100

(610mm2)

Transistor Count 54.2B 54.2B 21.1B 15.3B

TDP 250W 400W 250W 300W

Manufacturing Process TSMC 7N TSMC 7N TSMC 12nm FFN TSMC 16nm FinFET

Interface PCIe 4.0 SXM4 PCIe 3.0 SXM

Architecture Ampere Ampere Volta Pascal

bên cạnh sự biến đổi ở form-factor & TDP, khác biệt đáng kể ở A100 PCIe đối với bản SXM là kinh nghiệm kết nối NVLink. Đối với card PCIe , NVIDIA một lần nữa sử dụng quá những cầu nối NVLink để kết nối qua phía trên của các card A100, có thể chấp nhận được hai (và chỉ hai) card đc link mang nhau qua NVlink Brigde. Có NVlink Brigde, A100 PCIe và 3 NVLink connector của nó mà thậm chí đạt vận tốc NVLink bandwidth lên đến 600GB/s, giúp khối hệ thống AI của công ty tiện lợi tăng tốc & nâng cao hiệu suất của những phần mềm và workloads quan trọng.

>>> Xem thêm: mua server dell r740xd