NVLink NVIDIA là giao thức kết nối tốc độ cao độc quyền của NVIDIA, được thiết kế để tăng hiệu suất trao đổi dữ liệu giữa các GPU hoặc giữa GPU và CPU. Công nghệ này giúp vượt qua giới hạn băng thông của PCIe, hỗ trợ các hệ thống AI, HPC và deep learning, cho phép truyền dữ liệu nhanh hơn, giảm độ trễ cho các ứng dụng tính toán hiệu năng cao.

Ý Chính Quan Trọng

NVLink là giao thức kết nối tốc độ cao độc quyền của NVIDIA , được thiết kế để vượt qua giới hạn băng thông của PCIe, tạo ra liên kết trực tiếp giữa các GPU hoặc GPU và CPU.

Ưu điểm Vượt trội ✨:

Băng thông Cực cao: NVLink 4.0 (trên GPU H100) đạt đến ~900 GB/s (bidirectional), cao hơn gấp nhiều lần so với PCIe Gen5 x16 (~128 GB/s).
Kết nối Chuyên dụng: Là liên kết point-to-point, giúp giảm độ trễ và tránh tình trạng nghẽn bus chung.
Bộ nhớ Chia sẻ Đồng nhất: Hỗ trợ các GPU truy cập trực tiếp bộ nhớ của nhau (peer-to-peer), loại bỏ overhead sao chép dữ liệu qua CPU.

Ứng dụng Thực tế 🔬: NVLink là yếu tố then chốt giúp mở rộng quy mô đào tạo các mô hình Deep Learning lớn (như LLMs) và tăng hiệu suất cho Siêu máy tính (HPC), mang lại hiệu suất gần như tuyến tính khi mở rộng đa GPU.

Thách thức 💰: Là công nghệ độc quyền của NVIDIA, dẫn đến chi phí phần cứng cao (GPU hỗ trợ, NVLink Bridge/NVSwitch) và nguy cơ vendor lock-in.

1. Tổng quan về NVLink

1.1. NVLink là gì?

NVLink là công nghệ giao tiếp và kết nối độc quyền, do NVIDIA thiết kế với mục đích loại bỏ hạn chế băng thông mà các kết nối PCIe Gen3/4 truyền thống gặp phải. Qua đó giúp tăng hiệu suất xử lý dữ liệu lớn và các tác vụ tính toán song song.

Xuất hiện lần đầu vào năm 2016, công nghệ kết nối này được định hình là giải pháp kết nối “GPU-to-GPU” liền mạch, tăng tốc quá trình xử lý dữ liệu truyền thống.

NVLink là giao thức dùng để liên kết GPU với GPU hoặc GPU với CPU. — NVLink là giao thức kết nối độc quyền do NVIDIA phát triển, được thiết kế để tạo ra liên kết tốc độ cao giữa các GPU hoặc giữa GPU và CPU

NVLink Switch

Cho đến hiện nay NVLink đã phát triển vượt bậc thông qua công nghệ Switch, cho phép các thiết bị riêng lẻ kết nối với nhau để tạo cụm GPU kích thước lớn hoạt động thời. NVLink Switch cũng thúc đẩy băng thông truyền tải đạt đến con số 260 TB/s trên dòng card NVIDIA Vera Rubin NVL72.

NVLink Fusion

NVLink Fusion là một bước đi chiến lược từ NVIDIA, mở ra cơ hội hợp tác với các đối tác như Intel, Fujitsu, Qualcomm, SiFive… Bằng cách tối ưu hóa khả năng tương thích vượt trội giữa các cụm linh kiện đa dạng thông qua mạng lưới kết nối đa GPU tốc độ cao.

NVIDIA NVLink Fusion giúp các đối tác dễ dàng chuẩn hóa và mở rộng quy mô hạ tầng rack server chạy AI một cách linh hoạt, đáp ứng nhu cầu tính toán khổng lồ của kỷ nguyên AI tạo sinh.

1.2. Lịch sử phát triển qua các Kiến trúc GPU

Dưới đây là bảng tóm tắt lịch sử phát triển các thế hệ theo các kiến trúc GPU chính, từ thế hệ đầu đến hiện tại.

NVLink Gen	Năm / GPU kiến trúc chính	GPU mẫu tiêu biểu	Số liên kết (links)/GPU	Băng thông tổng hướng hai chiều mỗi GPU (approx)	Đặc điểm chính
NVLink 1.0	2016 / Pascal (GPU Tesla P100)	Pascal / P100	4 links	160 GB/s	Cho phép liên kết GPU‑GPU và GPU‑CPU (với CPU hỗ trợ NVLink như IBM POWER)
NVLink 2.0	2017 / Volta (GPU Tesla V100)	Volta / V100	6 links	300 GB/s	Hỗ trợ cache‑coherence & unified address space giữa CPU‑GPU; cải thiện hiệu quả so với PCIe.
NVLink 3.0	2020 / Ampere (GPU A100)	Ampere / A100	12 links	600 GB/s	Được dùng rộng rãi trong hệ thống máy chủ/ HPC đa GPU, thường kết hợp với NVSwitch để mở rộng quy mô.
NVLink 4.0	2022 / Hopper (GPU H100)	Hopper / H100	12 (hoặc 18) links tùy biến thực tế	900 GB/s	Sử dụng mã hóa PAM4, hỗ trợ NVSwitch – phù hợp cho hệ thống GPU lớn, server AI/HPC.
NVLink 5.0	NVIDIA Blackwell	GB200	18	1.800 GB/s	Công nghệ giao tiêp Chip-to-Chip cho phép mở rộng kết nối với các thiết bị từ hãng khác như MediaTek hay Qualcomm
NVLink 6.0	NVIDIA Rubin	Rubin NVL72	36	3.600 GB/s	Thế hệ mới nhất trang bị tính năng quản trị và khả năng phục hồi và thay thế nóng. Phù hợp cho huấn luyện và suy luận các mô hình AI phức tạp nhất.

2. NVLink so với PCIe có gì khác?

NVLink NVIDIA là một bus chuyên dụng kết nối các phần cứng chuyên dụng, nhờ đó tránh tình trạng chia sẻ làn và nghẽn mạng như trên PCIe. Giao thức truyền tải này cung cấp băng thông cao hơn nhiều lần, có thể gấp khoảng 3 lần tốc độ với PCIe Gen5.

Dưới đây là bảng so sánh chi tiết:

Tiêu chí / đặc điểm	NVLink	PCIe Gen5
Băng thông (bandwidth)	Với NVLink 4.0 (thường dùng cho GPU như H100) – tổng băng thông có thể lên đến ~ 900 GB/s (bidirectional) per GPU.	PCIe Gen5 x16 có băng thông tối đa ~ 128 GB/s (bidirectional).
Kiểu kết nối (topology / bus)	Là kết nối chuyên dụng point‑to‑point, GPU‑to‑GPU hoặc GPU‑to‑CPU (nếu phần cứng hỗ trợ), tức không phải bus chia sẻ chung.	PCIe là bus chung/phổ quát, dùng để kết nối nhiều thiết bị (GPU, ổ cứng, mạng…) trong hệ thống.
Độ trễ (latency)	Có độ trễ thấp hơn so với PCIe khi trao đổi dữ liệu giữa GPU, do kết nối trực tiếp.	Vì giao tiếp qua bus chung với thêm overhead, độ trễ thường cao hơn so với giao tiếp của NVIDIA khi làm việc multi‑GPU.
Chia sẻ bộ nhớ / memory pooling / coherence	Hỗ trợ chia sẻ bộ nhớ / unified address space giữa các GPU (và đôi khi CPU, nếu kiến trúc hỗ trợ), giúp GPU‑GPU có thể trực tiếp truy cập dữ liệu của nhau.	PCIe không tự hỗ trợ unified memory giữa GPU – các GPU thường có bộ nhớ riêng (VRAM riêng), việc sao chép dữ liệu giữa GPU cần qua CPU hoặc bộ nhớ hệ thống.
Phù hợp với mục đích sử dụng	Rất phù hợp với hệ thống đa‑GPU, HPC, AI / Deep Learning, khi cần truyền lượng lớn dữ liệu giữa GPU nhanh và hiệu quả.	Phù hợp với mục đích chung — GPU đơn lẻ, đồ họa, gaming, kết nối các thiết bị ngoại vi, vì tính phổ quát rộng và chi phí thấp hơn.

3. Các công nghệ NVlink và mức băng thông

3.1 Hiệu suất thế hệ 6.0 băng thông lên đến 3.6 TB/s

NVLink 6.0, dùng trên GPU NVIDIA Rubin NVL72, có thể đạt băng thông tổng hướng hai chiều lên đến 3.6 TB/s, giúp truyền dữ liệu nhanh chóng cho tác vụ trainning AI, mô hình ngôn ngữ lớn.

3.2 Bộ nhớ chia sẻ đồng nhất

Giao thức truyển tải của NVIDIA hỗ trợ bộ nhớ chia sẻ đồng nhất giữa các GPU, cho phép các GPU truy cập trực tiếp bộ nhớ của nhau. Điều này giúp giảm overhead sao chép dữ liệu qua CPU và tăng hiệu quả cho các ứng dụng AI, HPC và deep learning.

3.3 Giải pháp Peer-to-Peer

Peer-to-Peer (P2P) cho phép các GPU có thể trao đổi dữ liệu trực tiếp mà không cần đi qua CPU hay hệ thống bus chung. Giải pháp này cải thiện tốc độ truyền dữ liệu, giảm độ trễ và tối ưu hiệu suất cho các hệ thống đa GPU.

mô phỏng cách thức hoạt động của NVLink và PCIe — Mô phỏng cách thức hoạt động của NVLink và PCIe

4. Ứng dụng Thực tế của NVlink Nvidia

4.1. Tác động trong lĩnh vực Trí tuệ nhân tạo (AI)

Hệ thống DGX A100 (8x GPU A100) sử dụng NVLink để đạt hiệu suất gần như tuyến tính khi mở rộng lên 8 GPU, nhờ khả năng truyền dữ liệu nhanh giữa các GPU.

4.2. Vai trò trong Siêu máy tính và Tính toán Hiệu suất cao

Siêu máy tính Summit (DOE, Mỹ) sử dụng NVSwitch, giúp đạt hiệu suất gấp 8 lần so với hệ thống tiền nhiệm.
Giúp các ứng dụng mô phỏng khoa học giảm độ trễ truyền thông, tăng hiệu quả khi xử lý các workload HPC lớn.

4.3. NVLink trong Card đồ họa Workstation (RTX A-series)

Trong môi trường đồ họa chuyên nghiệp, NVLink Bridge cho phép kết nối 2 GPU (ví dụ RTX A6000) để gộp bộ nhớ VRAM và tăng cường sức mạnh rendering.

5. Thách thức khi sử dụng

5.1. Nhược điểm: Chi phí, và Độ phức tạp

Việc triển khai trong các trung tâm dữ liệu có thể tăng tiêu thụ điện năng và yêu cầu giải pháp tản nhiệt hiệu quả, do băng thông cao và số lượng GPU lớn.
Chi phí phần cứng NVLink (GPU hỗ trợ, Bridge/NVSwitch) cao hơn đáng kể so với giải pháp PCIe thông thường, khiến việc mở rộng quy mô trở nên tốn kém.

5.2. Các giải pháp cạnh tranh (AMD Infinity Fabric / Intel CXL)

AMD Infinity Fabric / XGMI là công nghệ kết nối các GPU hoặc chiplet của AMD, cung cấp băng thông cao và khả năng chia sẻ bộ nhớ giữa các GPU.
Intel CXL (Compute Express Link) là chuẩn kết nối mới, hỗ trợ truyền dữ liệu tốc độ cao giữa CPU, GPU, FPGA và bộ nhớ, hướng tới khả năng mở rộng trong trung tâm dữ liệu.
Các giải pháp này cạnh tranh trực tiếp với NVIDIA trong các hệ thống HPC, AI, và data center, đặc biệt khi cân nhắc chi phí, độ phổ biến và khả năng mở rộng.

5.3. Tương lai của NVLink: Fusion và công nghệ quang học

NVLink Network với công nghệ quang học (photonics): kế hoạch mở rộng để kết nối hàng triệu GPU trong các siêu máy tính và trung tâm dữ liệu AI, hứa hẹn băng thông vượt trội và giảm hạn chế của kết nối điện truyền thống.
NVIDIA đang nghiên cứu với các tập đoàn lớn như Microsoft, CoreWeave, Oracle để xây dựng nền tảng mới – NVIDIA GB300 NVL72. Hệ thống này được xây dựng trên nền tảng kiến trúc Blackwell và NVLink™, NVLink Switch. Đây sẽ là tương lai của của huấn luyện AI đa ngữ cảnh phức tạp.

Tối đa hóa sức mạnh băng thông NVLink với GPU Server tại VinaHost

Công nghệ NVLink mang đến tốc độ giao tiếp đa GPU vượt trội, nhưng để khai thác trọn vẹn sức mạnh này trong các tác vụ Deep Learning hay training LLM, bạn cần một nền tảng máy chủ đủ mạnh để loại bỏ tình trạng nghẽn cổ chai dữ liệu. Nếu hạ tầng hiện tại chưa đáp ứng đủ, dịch vụ cho thuê GPU Server tại VinaHost chính là giải pháp phù hợp.

Chúng tôi cung cấp các cụm máy chủ chuyên dụng tích hợp card đồ họa cao cấp, hỗ trợ thiết lập NVLink tối ưu giúp tăng tốc độ xử lý lên mức tối đa. Với Data Center đạt chuẩn Tier 3, đường truyền mạng tốc độ cao và cam kết hỗ trợ kỹ thuật 24/7, VinaHost đảm bảo hệ thống của bạn luôn vận hành ổn định với hiệu suất cao nhất.

Câu hỏi thường gặp

NVLink có cần thiết cho chơi game phổ thông không?

Thường không cần thiết, vì hầu hết game phổ thông không yêu cầu giao tiếp giữa nhiều GPU. NVLink chủ yếu dành cho HPC, AI và workloads multi‑GPU.

Bộ nhớ chia sẻ đồng nhất (Coherent Shared Memory) trong NVLink có ý nghĩa gì?

Cho phép CPU và GPU truy cập trực tiếp vào bộ nhớ của nhau mà không cần CPU làm trung gian, từ đó tăng tốc độ truy xuất dữ liệu và giảm overhead khi xử lý các tác vụ cần trao đổi dữ liệu lớn.

NVLink Network khác gì so với mạng InfiniBand truyền thống?

NVLink Network là giao thức độc quyền của NVIDIA, tối ưu hóa cho giao tiếp trực tiếp giữa các GPU.
InfiniBand là công nghệ mạng mở, được sử dụng rộng rãi trong các HPC clusters, hỗ trợ nhiều loại thiết bị và chuẩn kết nối.

Thế hệ GPU NVIDIA nào là thế hệ đầu tiên hỗ trợ NVLink?

Pascal P100 (2016) là GPU đầu tiên được giới thiệu với NVLink 1.0.

Tóm lại, NVLink NVIDIA là giải pháp kết nối GPU tốc độ cao, giúp tăng băng thông, giảm độ trễ và tối ưu hiệu suất cho AI, HPC và các ứng dụng tính toán nặng, mang lại khả năng mở rộng và hiệu quả vượt trội so với các kết nối truyền thống như PCIe.