Ngày 9/5/2024, Tập đoàn FPT thông báo đã nhập khẩu hệ thống máy chủ DGX H100 đầu tiên của NVIDIA về Việt Nam, đánh dấu bước triển khai dự án hợp tác chiến lược giữa hai doanh nghiệp nhằm phát triển trí tuệ nhân tạo (AI) và điện toán đám mây.
Mỗi hệ thống DGX H100 có giá tham khảo trên thị trường từ 300.000-500.000 USD, tùy cấu hình và thời gian nhận hàng, tương đương khoảng 7,5-12,5 tỷ đồng.
Trước đó, ngày 23/4/2024, FPT công bố hợp tác với NVIDIA triển khai dự án AI Factory, với khoản đầu tư dự kiến 200 triệu USD. Dự án hướng đến xây dựng hạ tầng tính toán phục vụ nghiên cứu, phát triển AI và cung cấp dịch vụ điện toán đám mây GPU cho khách hàng doanh nghiệp.
Theo FPT, đợt nhập khẩu đầu tiên nhằm bảo đảm tiến độ tích hợp công nghệ và xây dựng các hệ thống máy tính phục vụ phát triển AI. Những hệ thống DGX H100 tiếp theo dự kiến được đưa về Việt Nam để hoàn thiện hạ tầng, thúc đẩy nghiên cứu và phát triển các sản phẩm, dịch vụ AI và Cloud thế hệ mới.
Hệ thống máy chủ tích hợp 8 GPU NVIDIA H100
DGX H100 là hệ thống máy chủ chuyên dụng cho các tác vụ tính toán AI hiệu năng cao. Mỗi hệ thống được trang bị 8 bộ xử lý đồ họa NVIDIA H100 Tensor Core, kết nối với nhau thông qua công nghệ NVLink nhằm tăng tốc độ trao đổi dữ liệu giữa các GPU.
Ngoài ra, hệ thống sử dụng hai bộ xử lý Intel Xeon Platinum 8480C, tổng cộng 112 lõi xử lý, cùng bộ nhớ hệ thống 2 TB. DGX H100 sở hữu hiệu suất cao hơn 6 lần và kết nối mạng nhanh hơn 2 lần so với máy chủ thế hệ trước, đáp ứng các yêu cầu tính toán khổng lồ với hàng nghìn tỷ thông số của các mô hình ngôn ngữ lớn (LLM), hệ thống khuyến nghị, nghiên cứu y tế và lĩnh vực khoa học khí hậu.
Được biết, DGX H100 là hệ thống máy chủ tiên tiến nhất của NVIDIA, và được nhận định là cỗ máy AI mạnh nhất hiện nay, được hàng loạt công ty công nghệ hàng đầu thế giới như Tesla, Meta, Microsoft… săn đón. Từ cuối năm 2023, nhu cầu đối với DGX H100 tăng mạnh, khiến thời gian chờ giao hàng có thể kéo dài từ 36 đến 52 tuần, theo báo cáo phân tích của Omdia.
DGX H100 giúp xây dựng nền tảng trí tuệ nhân tạo tinh chỉnh, hệ thống hóa và có khả năng mở rộng giúp các doanh nghiệp xử lý ngôn ngữ, phân tích dữ liệu… Đây cũng là hệ thống nền tảng tạo nên Eos - siêu máy tính mạnh nhất của NVIDIA, đứng thứ 9 trong số các siêu máy tính nhanh nhất thế giới. NVIDA khẳng định: DGX H100 có thể vượt qua các ranh giới về công nghệ và cơ sở hạ tầng AI.
Đầu tư 200 triệu USD xây dựng hạ tầng AI
Theo thỏa thuận công bố tháng 4/2024, FPT dự kiến đầu tư 200 triệu USD (5.200 tỷ đồng) để xây dựng AI Factory trên nền tảng công nghệ của NVIDIA, bao gồm GPU H100 Tensor Core, phần mềm và bộ công cụ NVIDIA AI Enterprise.
Khác với nhà máy sản xuất phần cứng, AI Factory được định hướng là hạ tầng tính toán chuyên dụng, cung cấp tài nguyên GPU và nền tảng phần mềm để doanh nghiệp phát triển, huấn luyện và triển khai các ứng dụng AI.
FPT cho biết hệ thống sẽ phục vụ các nhu cầu như AI tạo sinh (Generative AI), phát triển mô hình ngôn ngữ lớn, xe tự hành và chuyển đổi xanh. Thông qua dịch vụ đám mây GPU, khách hàng doanh nghiệp có thể tiếp cận năng lực tính toán mà không nhất thiết phải tự đầu tư toàn bộ hệ thống máy chủ chuyên dụng.
AI Factory của FPT đã được trang bị hàng nghìn GPU NVIDIA H100 và chuẩn bị cung cấp dịch vụ từ tháng 1/2025. Đây là bước tiếp theo trong quá trình phát triển hạ tầng AI sau khi những hệ thống DGX H100 đầu tiên được nhập khẩu.
Việc đầu tư hạ tầng tính toán AI diễn ra trong bối cảnh nhu cầu xử lý dữ liệu, phát triển mô hình AI tạo sinh và tự động hóa ngày càng tăng. Với các doanh nghiệp công nghệ, năng lực tiếp cận GPU hiệu năng cao là một trong những yếu tố quan trọng để rút ngắn thời gian nghiên cứu, thử nghiệm và triển khai sản phẩm.
Bên cạnh phát triển hạ tầng, FPT và NVIDIA cũng đặt mục tiêu đào tạo nhân lực công nghệ, mở rộng hệ sinh thái AI và điện toán đám mây, hướng đến cung cấp dịch vụ cho khách hàng tại Việt Nam và thị trường quốc tế.