Kinh tế Nhật báo Hàn Quốc: Khi AI CPU nuốt chửng DRAM - Tình trạng "thiếu hụt" bộ nhớ sẽ kéo dài thêm một năm nữa!
Ngành công nghiệp bộ nhớ đã đạt thành tích kỷ lục nhờ giá DRAM hàng hóa tăng vọt hơn 100%, và với việc bộ xử lý trung tâm (CPU) được thiết kế riêng cho AI hiện đã được đưa vào sử dụng, dự báo cho thấy tình trạng thiếu hụt sẽ kéo dài thêm một năm nữa.
“AI CPU” vừa mới ra mắt của Intel được dự đoán sẽ chứa lượng DRAM hàng hóa gấp bốn lần các thế hệ trước DRAM. Kết hợp với nhu cầu tăng đột biến về DRAM dung lượng cao từ các bộ xử lý đồ họa (GPU), các chuyên gia dự báo khả năng cung ứng bộ nhớ của Samsung Electronics và SK Hynix sẽ không đủ đáp ứng nhu cầu.Theo nguồn tin trong ngành ngày 2,các nhà sản xuất CPU đang tìm cách tích hợp 300–400GB DRAM vào AI CPU. Con số này cao gấp bốn lần so với các sản phẩm CPU thông thường (96–256GB), một bước nhảy đáng kinh ngạc.CPU nổi lên như "người điều phối AI"Nhu cầu về DRAM dung lượng cao từ AI CPU đã tăng mạnh, có liên quan chặt chẽ đến sự chuyển đổi cấu trúc trung tâm suy luận trong ngành AI. Trước đây, việc suy luận AI chỉ giới hạn trong các câu hỏi đơn giản, nhưng giờ đây nó đã trở thành “người điều phối” các AI tác tử khác nhau.Yếu tố then chốt trong quá trình này là “bộ nhớ ngữ cảnh”. Để CPU có thể điều phối toàn bộ quy trình công việc bằng cách tham chiếu đầu ra của từng AI tác tử, nó cần phải ghi nhớ nội dung. Điều này khiến việc mở rộng bộ nhớ — tức không gian lưu trữ — trở nên vô cùng quan trọng.Từ trước đến nay, các trung tâm dữ liệu AI luôn dựa vào GPU được trang bị bộ nhớ băng thông cao (HBM) để xây dựng cơ sở hạ tầng tính toán. Tận dụng ưu thế vượt trội của GPU trong xử lý khối lượng dữ liệu lớn để đào tạo AI, trọng tâm vẫn đặt vào “đào tạo AI”. Cấu hình máy chủ vì thế chủ yếu theo mô hình 8 GPU cho 1 CPU. Tuy nhiên, với việc dịch chuyển trọng tâm sang suy luận, cấu hình máy chủ với tỷ lệ CPU lớn hơn đang dần lan rộng.Trong cuộc họp báo cáo tài chính gần đây, lãnh đạo Intel giải thích: “Trong hạ tầng suy luận AI, cơ cấu tính toán đã chuyển sang tỷ lệ CPU : GPU là 1:4 và xu hướng này thậm chí còn tiến gần hơn tới 1:1.”Sau GPU, CPU tham gia cuộc đua bộ nhớ – cầu tăng vọt như quả cầu tuyếtCuộc chạy đua nâng cấp dung lượng bộ nhớ đã mở rộng từ GPU sang CPU với quy mô tăng mạnh như quả cầu tuyết. Chip AI thế hệ tiếp theo của NVIDIA –Vera Rubin– tích hợp 8 bộ HBM với tổng dung lượng 288GB, trong khi dòng GPU thế hệ tiếp theo của AMD MI400 còn lớn hơn với dung lượng khổng lồ 432GB.Con chip tùy chỉnh thế hệ thứ tám mà Google vừa ra mắt –Tensor Processing Unit (TPU 8i) – cũng dự kiến sẽ được trang bị 288GB HBM. Cộng thêm việc “Xeon” AI CPU của Intel và "EPYC" của AMD bắt đầu sử dụng DDR5 dung lượng lớn với tối đa 400GB, tình trạng thiếu hụt bộ nhớ dự kiến sẽ kéo dài lâu hơn nữa.Sức nóng của thị trường đã được phản ánh rõ nét trên giá giao ngay. Theo dữ liệu của Kiwoom Securities, giá DDR4 cũ (chuẩn 16GB) đã giảm 16% chỉ trong một tháng vào tháng 4, trong khi giá giao ngay DDR5 (chuẩn 16GB) dùng cho AI CPU lại tăng 2,8% trong cùng thời kỳ, duy trì mức chênh lệch giá mạnh.Một nguồn tin trong ngành cho biết:“Thị trường DRAM hiện tại được đánh giá thiếu hụt khoảng 10%. Ngoài HBM, cầu về DRAM hàng hóa tăng vọt, khả năng cao siêu chu kỳ sẽ kéo dài từ dự đoán 2026 tới tận 2027.”
Tuyên bố miễn trừ trách nhiệm: Mọi thông tin trong bài viết đều thể hiện quan điểm của tác giả và không liên quan đến nền tảng. Bài viết này không nhằm mục đích tham khảo để đưa ra quyết định đầu tư.
Bạn cũng có thể thích
Biện pháp bảo vệ thanh thiếu niên của Meta (META.US) chỉ áp dụng cho người dùng tại Mỹ, nguy cơ sao chép quy định toàn cầu xuất hiện
Những thay đổi của Meta đối với Instagram và Facebook hiện chỉ áp dụng cho người dùng tại Hoa Kỳ, bao gồm việc giới hạn thời gian thanh thiếu niên dành trên ứng dụng và hạn chế việc tắt các cài đặt an toàn. Những thay đổi này là một phần của loạt thỏa thuận giải quyết có tính chất bước ngoặt nhằm giải quyết các cáo buộc về việc mạng xã hội gây ra rủi ro an toàn cho trẻ em, và có thể khiến công ty thiệt hại lên tới 18 tỷ đô la.
Lợi nhuận ròng quý 2 của Bilibili tăng vọt 55%, quảng cáo trở thành động lực tăng trưởng, biên lợi nhuận gộp cải thiện liên tục 16 quý | Tin tức báo cáo tài chính
Doanh thu quý 2 của Bilibili đạt 7,94 tỷ nhân dân tệ, tăng 8% so với cùng kỳ năm trước; lợi nhuận ròng đạt 339 triệu nhân dân tệ, tăng 55%. Doanh thu từ quảng cáo đạt 3,13 tỷ nhân dân tệ, tăng 28% và trở thành động lực tăng trưởng số một; doanh thu từ game giảm 14% do mức nền cao trước đó. Biên lợi nhuận gộp đã được cải thiện liên tục 16 quý lên 37,2%, lợi nhuận từ hoạt động kinh doanh tăng 48%. DAU đạt 116,5 triệu, với thời gian trung bình hàng ngày là 113 phút.
“Gấu lớn” Michael Burry mua quyền chọn mua Nvidia để "hedge", đồng thời tăng vị thế bán khống
Burry tiết lộ trên nền tảng mạng xã hội Substack rằng ông đã mua quyền chọn mua với giá thực hiện 200 USD, đáo hạn tháng 12 ở vùng trung cao trước báo cáo tài chính của Nvidia (chiếm 3,5%-4% danh mục), nhưng ông nhấn mạnh đây chỉ là “biện pháp phòng ngừa rủi ro cho vị thế bán khống” chứ không phải đặt cược vào chiều tăng giá. Ông cho rằng lợi thế độc quyền của Nvidia khó duy trì lâu dài và chi tiêu vốn cho AI sẽ làm giảm lợi nhuận, hiện tại, vị thế bán khống của ông đối với Nvidia, Oracle và nhiều cổ phiếu khác đã vượt 21% danh mục đầu tư.
Giá tiền điện tử
Thêm
