Nvidia công bố siêu máy tính AI nhanh nhất với 4.608 GPU H100

Ảnh: Tom's Hardware

Nvidia gần đây đã phát hành một video cận cảnh về kiến ​​trúc của Eos, siêu máy tính tập trung vào doanh nghiệp mới nhất của hãng được thiết kế để phát triển các ứng dụng AI quy mô lớn.

Máy tính Eos của Nvidia là siêu máy tính mạnh thứ chín trên thế giới trong danh sách top 500 hiện nay. Được biết, thiết bị này hiện có thể hoạt động ở tốc độ cao nhất trong các tác vụ AI thuần túy.

Nvidia giải thích trong video: “Eos được thiết kế để giải quyết những thách thức của hàng nghìn nhà phát triển đang tiến hành nghiên cứu AI. Siêu máy tính Eos sẽ giúp họ giải quyết những vấn đề khó khăn trước đây.”

Về thông số kỹ thuật, Eos được trang bị 576 hệ thống DGX H100, mỗi hệ thống chứa 8 GPU H100. Tổng cộng có 4.608 GPU được sử dụng, bao gồm 1.152 chip Intel Xeon Platinum 8480C, mỗi bộ xử lý có 56 lõi.

Theo Tom's Hardware, siêu máy tính này dựa trên kiến ​​trúc DGX SuperPOD và sử dụng mạng và phần mềm Nvidia Quantum-2 InfiniBand với tốc độ truyền dữ liệu 400 Gbps, nâng sức mạnh tính toán lên 121,4 petaflops (triệu tỷ) mỗi giây. theo phép đo FP64. Theo phép đo của FP8, máy đạt công suất xử lý 18,4 exaflops cho các tác vụ AI.

Eos được biết là có thể xử lý khối lượng công việc AI lớn như đào tạo các mô hình ngôn ngữ lớn, hệ thống khuyến nghị, mô phỏng lượng tử, v.v. Sản phẩm còn đáp ứng nhu cầu về “nhà máy AI” và giúp phát triển các mô hình AI quy mô lớn.

“Thế giới đang thay đổi nhờ AI sáng tạo, từ chatbot đến máy tự động, v.v. Để đạt được những đột phá này, họ cần một nhà máy AI”, Nvidia giải thích trong video. Theo công ty, việc tạo ra một nhà máy AI như Eos giúp các công ty đảm nhận những dự án có yêu cầu khắt khe và đạt được mục tiêu về AI của con người trong hiện tại và tương lai. Bản thân Nvidia cũng sử dụng siêu máy tính này.

Theo Tom's Hardware, mỗi chip H100 hiện có giá từ 30.000 đến 40.000 USD tùy theo số lượng, do đó, việc sản xuất một chiếc máy như vậy có thể tiêu tốn của Nvdia hàng trăm triệu USD.

Theo Phần cứng của Tom

Tiến Dũng

Leave a Reply

Your email address will not be published. Required fields are marked *