Marvell ra mắt hạ tầng bộ nhớ AI thế hệ mới, tăng hiệu quả token

Marvell Technology công bố danh mục giải pháp bộ nhớ mới cho hạ tầng AI, gồm lưu trữ AI cấp máy chủ, mở rộng và chia sẻ bộ nhớ CXL trong rack, cùng bộ nhớ dùng chung liên rack qua kết nối quang.

Các giải pháp này nhằm xử lý nút thắt về dung lượng và băng thông bộ nhớ khi mô hình AI mở rộng, cửa sổ ngữ cảnh dài hơn và nhu cầu KV Cache tăng trong quá trình suy luận Agentic AI.

Danh mục gồm bộ điều khiển SSD PCIe 6.0 Bravera SC6 cho lưu trữ suy luận AI. Giải pháp hỗ trợ các nhà cung cấp dịch vụ đám mây chuyển thêm KV Cache sang SSD hiệu năng cao. Marvell dự kiến bắt đầu lấy mẫu sản phẩm trong quý IV/2026.

Marvell Structera X là giải pháp mở rộng bộ nhớ dựa trên công nghệ CXL, cho phép mở rộng và gộp tài nguyên bộ nhớ ở cấp rack. Cách tiếp cận này giúp trung tâm dữ liệu phân bổ bộ nhớ linh hoạt hơn giữa các hệ thống.

Marvell Photonic Fabric Optical Interconnect Memory sử dụng kết nối quang để xây dựng kiến trúc bộ nhớ dùng chung giữa nhiều rack, hỗ trợ chuyển tối đa 32 TB KV Cache nóng và ấm.