CPO switch của Nvidia bước vào sản xuất hàng loạt, trung tâm dữ liệu AI bước vào "kỷ nguyên silicon quang"!

Nvidia thông báo rằng công tắc quang phổ Ethernet Spectrum-X đã chính thức bước vào giai đoạn sản xuất hàng loạt quy mô lớn, đánh dấu một bước ngoặt quan trọng trong kiến trúc mạng trung tâm dữ liệu AI.

Sản phẩm lõi của đợt sản xuất lần này tích hợp sâu công nghệ quang học đóng gói chung (CPO) với chip chuyển mạch, hoàn toàn thay đổi phương thức chuyển đổi tín hiệu của các module quang cắm truyền thống. Phía Nvidia cho biết, so với mạng quang học cắm truyền thống, kiến trúc mới giúp nâng hiệu quả tiêu thụ năng lượng mạng tăng gấp 5 lần, thời gian hoạt động liên tục cho ứng dụng AI tăng gấp 5 lần, và thời gian trung bình giữa các sự cố tăng gấp 10 lần. Sự nhảy vọt về hiệu năng này mang ý nghĩa trực tiếp về chi phí và độ tin cậy đối với các nhà cung cấp dịch vụ đám mây và vận hành hạ tầng AI đang mở rộng quy mô cụm GPU lớn.

Việc sản xuất hàng loạt này liên quan đến một chuỗi cung ứng đa nhà cung cấp hàng đầu: TSMC chịu trách nhiệm sản xuất chip quang silicon, Siliconware Precision đảm nhận đóng gói và kiểm tra ở cấp độ chip, Lumentum và TFC cung cấp module laser, Foxconn chịu trách nhiệm R&D và lắp ráp hệ thống chuyển mạch tổng thể. Nvidia thực hiện kiểm tra cuối cùng các sản phẩm chuyển mạch trước khi xuất kho. Bố cục chuỗi cung ứng này cho thấy công nghệ tích hợp quang học đang thâm nhập vào lõi phần cứng AI, các doanh nghiệp trong chuỗi công nghiệp liên quan sẽ hưởng lợi từ sự mở rộng nhu cầu này.

Mạng trung tâm dữ liệu truyền thống cắm các module quang độc lập vào từng bảng điều khiển chuyển mạch, hoàn thành chuyển đổi giữa tín hiệu điện và tín hiệu quang. Cách làm này dẫu đã trưởng thành, nhưng tồn tại nhiều nhược điểm cố hữu như tiêu thụ điện năng cao, áp lực tản nhiệt lớn, nhiều điểm sự cố—trong các cụm đào tạo AI với hàng nghìn GPU liên lạc đồng thời, những vấn đề này bị phóng đại lên nhiều lần.

Giải pháp quang phổ Ethernet Spectrum-X của Nvidia tích hợp động cơ quang học với chip chuyển mạch trong cùng một module đa chip, hoàn thành chuyển đổi tín hiệu ở vị trí gần ASIC chuyển mạch, rút ngắn đáng kể đường dẫn điện, từ đó giảm suy hao tín hiệu và tổn thất năng lượng. Module nguồn sáng laser bên ngoài sử dụng thiết kế cấp quang tập trung, đồng thời cung cấp tín hiệu quang cho tất cả động cơ quang học, số lượng laser cần thiết giảm 75% so với giải pháp truyền thống, tiếp tục thu hẹp tiêu thụ năng lượng và nhiệt lượng.

Hệ thống này hiện thực hóa mật độ cổng cực cao trong thùng server làm mát bằng chất lỏng. Phiên bản thùng 2U SN6810 chứa 128 cổng 800 Gb/s, tổng băng thông đạt 102,4 Tb/s; phiên bản thùng 5U SN6800 tích hợp bốn ASIC chuyển mạch, cung cấp 512 cổng 800 Gb/s hoặc hơn hai nghìn cổng 200 Gb/s, tổng băng thông gộp đạt 409,6 Tb/s. Thùng máy lớn hơn được tích hợp module kết nối quang nội bộ, hỗ trợ mở rộng theo chiều ngang mà không cần thêm tầng chuyển mạch mới, kiểm soát độ trễ mạng hiệu quả.

Công nghệ CPO trước đây gặp phải nút thắt về sản xuất hàng loạt do quy trình chế tạo phức tạp và khó kiểm soát tỷ lệ sản phẩm đạt chuẩn. Nvidia đạt được sản xuất hàng loạt quy mô lớn lần này nhờ cải tiến hệ thống quy trình lắp ráp.

Động cơ quang học được cố định trực tiếp trên bo mạch module bằng quy trình hàn, quy trình này tương thích với dây chuyền sản xuất tiêu chuẩn hiện hành, giảm độ phức tạp sản xuất. Thiết kế đầu nối quang mặt trên còn nâng cao độ chính xác lắp ráp và tỷ lệ thành phẩm. Chuỗi cung ứng đa nhà cung cấp hợp tác, gom chuyên môn từng khâu gồm chế tạo quang silicon, đóng gói kiểm thử, cung ứng laser và tích hợp hệ thống, tạo nền tảng kỹ thuật cho sản xuất quy mô lớn.

Công tắc CPO chỉ là một phần phần cứng trong nền tảng Spectrum-X, nền tảng này cũng có thiết kế hệ thống hóa đặc biệt cho tác vụ AI ở cả tầng phần mềm và kiến trúc.

Nền tảng tích hợp các khả năng định tuyến thích ứng, kiểm soát tắc nghẽn và giám sát đầu-cuối, giúp duy trì lưu lượng ổn định trong các kịch bản giao tiếp đồng thời giữa hàng nghìn GPU. Kiến trúc mạng đa mặt phân phối các kết nối trên nhiều mặt mạng độc lập, phòng ngừa lỗi điểm đơn gây gián đoạn toàn bộ nhiệm vụ. Nvidia còn ra mắt Spectrum-XGS, mở rộng kiến trúc mạng chung này trên quy mô toàn tòa nhà hay thậm chí cả khuôn viên, hỗ trợ hợp nhất nhiều trung tâm dữ liệu thành một hệ thống hợp tác thống nhất.

Nvidia cho biết, so với Ethernet truyền thống, nền tảng Spectrum-X có thể nâng tốc độ mạng AI lên 1,6 lần đồng thời duy trì tương thích với các công cụ mở phổ biến như SONiC, giảm chi phí di chuyển và vận hành cho người dùng.