Công ty chip nghìn tỷ đô tiếp theo

1.Công ty chip trị giá 1 nghìn tỷ USD tiếp theo có thể xuất hiện từ những bộ gia tốc suy luận thời hậu GPT, nhưng điều kiện tiên quyết là phải đi đầu trong sản xuất hệ thống cấp rack và giành được khách hàng tiên phong làm đối tác then chốt.Hiện tại cửa sổ thời gian đang thu hẹp lại, Tenstorrent, Etched và SambaNova dự kiến sẽ xuất xưởng sản phẩm cấp rack vào năm 2026, hiện đang tạm dẫn đầu.

2.Groq và Cerebras đã chứng minh rằng, ngay cả khi kiến trúc có khiếm khuyết, chỉ cần sở hữu chip sản xuất hàng loạt đúng thời điểm và đánh bại GPU ở các chỉ số then chốt như tính tương tác, vẫn có thể đạt thành tựu quy mô 10 tỷ USD.Hiện tại, nhu cầu token vượt xa nguồn cung, token tiên tiến có độ trễ thấp càng đặc biệt khan hiếm, điều này đã mang lại cơ hội tương tự cho bộ gia tốc hậu GPT. Tuy nhiên, chỉ cần trễ một năm sẽ phải trả giá rất đắt, các công ty xuất xưởng vào năm 2027 và sau đó sẽ đối mặt với thử thách lớn hơn nhiều.

Công ty chip nghìn tỷ tiếp theo có thể xuất hiện từ bộ gia tốc suy luận hậu GPT, nhưng điều kiện tiên quyết là phải đi đầu sản xuất hệ thống cấp rack và giành khách hàng cung cấp đầu tiên.Hiện tại cửa sổ thời gian đang thu hẹp lại, Tenstorrent, Etched và SambaNova dự kiến sẽ xuất xưởng rack vào năm 2026, hiện đang dẫn đầu.

I. Công ty chip trị giá 1 nghìn tỷ USD tiếp theo

Câu trả lời có thể đơn giản hơn bạn tưởng. Etched, Fractile, MatX, Positron, Rebellions, SambaNova, Tensordyne, Tenstorrent, v.v.

Trong năm vừa qua, hai startup AI chip đã đạt được thành tựu tài chính lớn.Groq được mua lại với giá 20 tỷ USD, Cerebras đạt giá trị vốn hóa thị trường sau IPO hơn 40 tỷ USD. Quy mô rất lớn nhưng vẫn chưa đạt nghìn tỷ. Với môi trường hiện tại, nếu một hệ thống chú trọng suy luận, có thể vận hành các mô hình tiên tiến và mở rộng đến tính toán tầm gigawatt có thể tăng trưởng liên tục và niêm yết, thực sự có cơ hội đạt giá trị 1 nghìn tỷ USD.

Nhưng kiến trúc mà Groq và Cerebras theo đuổi không hề hoàn hảo.Cả hai đều được thiết kế trước khi các mô hình ngôn ngữ lớn trở thành xu hướng, các lựa chọn ở giai đoạn đầu không thật sự phù hợp với các mô hình hiện đại. Tôi gọi chúng là bộ gia tốc “trước thời GPT”.

Ví dụ nổi bật nhất, điều này đã được thảo luận rộng rãi, là chúng chỉ sử dụng SRAM.Ngay cả khi chỉ phục vụ một mô hình nhỏ hơn, vẫn cần rất nhiều rack Groq; trong khi sức mạnh tầm wafer-level của Cerebras tích hợp 900.000 lõi trên một phiến bán dẫn, nhưng cũng không chứa nổi toàn bộ trọng số của mẫu tiên tiến trên một phiến. Vì vậy phải mở rộng ra nhiều wafer-level. Kinh tế không tốt, cache KV cũng khó mở rộng mượt mà, và nhiều vấn đề khác.

Thành thật mà nói, sau khi nghiên cứu các chi tiết kỹ thuật, tôi từng nghĩ những công ty này chẳng có cơ hội gì trong lĩnh vực mô hình ngôn ngữ lớn.Tất nhiên, công bằng mà nói, ai mười năm trước lường trước được mô hình sẽ phình to đến vậy? Nhưng không có mô-đun bộ nhớ băng thông cao hỗ trợ bối cảnh dài... sống sót thế nào? Càng dài càng tốt... Phát triển sẽ rất khó?

Điểm mấu chốt là: cả hai đều có chip sản xuất hàng loạt!Dù kiến trúc SRAM thuần túy thiếu sót, nhưng ở chỉ số then chốt như tính tương tác, chúng vẫn vượt qua GPU. Như Jensen đã trình diễn rõ ràng, dùng chip SRAM để giải mã đã mở ra khả năng Pareto mới vào năm 2026:

Đó chính là lý do giúp họ đạt thành tựu quy mô chục tỷ USD.Hàng chục tỷ đô, đúng là hơi “điên rồ” phải không!

Tôi từng sai lầm lớn khi nghĩ rằng thiếu sót kiến trúc sẽ kìm chân họ thành công.

Nhìn lại, điều quan trọng nhất là gì?Thời điểm.

Khi Nvidia tìm tới, Groq vừa kịp bước vào sản xuất hàng loạt; OpenAI cũng đã tìm đến Cerebras như vậy.Quên đi những thiếu sót về kiến trúc đi. Nếu bạn thực sự giao sản phẩm và mở ra biên Pareto mới, mọi chuyện tốt đẹp tự nhiên sẽ đến. Sự thật là, tôi từng nghĩ vấn đề lớn của Groq và Cerebras là đi quá sớm, quyết định thiết kế trước khi Transformer ra đời. Quá sớm với sai lầm chẳng có khác gì nhau...

Phải, đi quá sớm chút nữa là sụp đổ thật; cả hai từng gần như cạn tiền mặt.Nhưng bắt đầu sớm lại chính là lợi thế tất cả, bởi khi sóng suy luận bất ngờ tràn tới, họ đã có chip sẵn sàng sản xuất. Dù vậy, trước khi Meta ra mắt Llama, cả hai đều ở trạng thái “mặc định chết”. Llama là mô hình ngôn ngữ quy mô lớn, trọng số mở đầu tiên thực sự hữu dụng, nhờ đó Groq cho cả thế giới trải nghiệm chatbot siêu tốc.

Nhắc lại lần nữa, chỉ có hai điều thực sự quan trọng: sở hữu chip sản xuất hàng loạt vào đúng thời điểm, và mở ra biên Pareto vượt ngoài tầm GPU.Sau đó, Dynamo của Nvidia càng củng cố lợi thế, nó tách biệt công việc, cho phép nhiệm vụ giải mã bị giới hạn về bộ nhớ chạy trên chip SRAM.

II. Thời đại hậu GPT

Nếu thời đại suy luận đầu tiên thuộc về GPU, thì Groq và Nvidia mở ra thời kỳ mới bằng suy luận GPU + LPU.Nhưng một kỷ nguyên mới nữa sắp tới: các bộ gia tốc hậu GPT. Từ phép nhân ma trận, kết nối liên thông đến bộ nhớ, các hệ thống cấp rack này được thiết kế dành riêng cho suy luận mô hình ngôn ngữ lớn ngay từ đầu.

Lĩnh vực này có rất nhiều startup, chưa kể các chip XPU tùy biến như Maia, MTIA, Trainium, v.v.Vậy ai có thể trở thành Groq hay Cerebras tiếp theo, giành được các khách hàng khổng lồ và IPO hoặc bị mua lại?

III. Muốn trở thành công ty chip nghìn tỷ tiếp theo cần gì?

Bài học lớn nhất đến giờ, đó là đừng quá ám ảnh kiến trúc kỹ thuật.Hiển nhiên, về lâu dài kiến trúc quan trọng nhưng trong bối cảnh nhu cầu hiện nay, đối thủ chỉ cần đáp ứng bốn yêu cầu:

1. Vận hành được mô hình tiên tiến từ 1T+ tham số trở lên
2. Giao hàng được hệ thống cấp rack
3. Đánh bại đối thủ lớn ở một chỉ số hiệu suất cốt lõi
4. Có khách hàng tiêu chuẩn tiên phong

Vận hành được mô hình tiên tiến 1T+ tham số.Mô hình tiên tiến là nơi quy mô và giá trị thực sự; khách hàng tiên phong sẽ có động lực và ý định triển khai quy mô lớn bộ gia tốc hậu GPT. Hệ thống không chạy được mô hình 1T+ chỉ tranh chấp ở phân khúc cận tiên tiến. Tôi vẫn đánh giá cao tính thực dụng của mô hình cận tiên tiến, nhất là cho doanh nghiệp, nhưng quy mô thị trường tiềm năng rất nhỏ. Chúng không thể tạo nên Groq hay Cerebras tiếp theo.

Giao hàng được hệ thống cấp rack.Cuộc đua suy luận gigawatt ở cấp rack. Muốn thắng, bạn phải có khả năng thiết kế và triển khai rack hoàn chỉnh bao gồm các bộ gia tốc một cách nhanh và ổn định.

Đánh bại đối thủ lớn ở chỉ số hiệu suất quan trọng nào đó.Kẻ thách thức không cần làm tốt mọi mặt, nhưng phải vượt trội một chỉ số ít nhất một bậc.

Thu hút được khách hàng tiên phong.Kẻ thách thức cần một khách hàng nghiêm túc dám đầu tư gigawatt, công nhận kế hoạch cũng như sẵn sàng gắn bó lâu dài. Phòng thí nghiệm mô hình hoặc nhà cung cấp đám mây hyperscale là lựa chọn tốt nhất, cũng có thể là một hãng cloud mới lớn, nhưng rất khó là khách hàng chủ quyền quốc gia.

Tất nhiên, hỗ trợ phần mềm chỉ là điều kiện tiên quyết cơ bản.

Ngoài ra, tôi nghĩ mọi chuyện đơn giản thế thôi.

Đúng là, chi tiết kỹ thuật rất quan trọng, gồm lượng hóa, cấu trúc bộ nhớ, quy mô expansion domain theo chiều dọc v.v.Nhưng thành thật mà nói, hiện tại yếu tố duy nhất là có mang lại hiệu quả khác biệt không, tức là “có chỉ số hiệu suất nổi bật so với đối thủ lớn.” Kiến trúc phía sau mỗi đối thủ đều có thể mổ xẻ - ở đây chỉ cần lấy performance rồi đánh giá!

Đây là một thời kỳ đặc biệt.Nhu cầu token cao hơn nguồn cung rất nhiều; với token tiên tiến độ trễ thấp là siêu hiếm, vì GPU không thể đáp ứng hoặc chỉ đáp ứng một cách phi kinh tế. Độ khan hiếm token tương tác cao này khiến “có sẵn sản phẩm và kiến trúc đủ tốt” trở thành át chủ bài của Groq và Cerebras.

Nhưng cơ hội này có hạn; cửa sổ đã mở và Groq/Cerebras đã bắt kịp.Đi đầu là cốt lõi.

Vậy câu hỏi tiếp theo: cửa sổ mới là gì, ai đến trước?

Chọn ra người thắng cuộc, có lẽ chỉ cần hỏi: ai sẽ triển khai bộ gia tốc hậu GPT cấp gigawatt đầu tiên?

Để trả lời, các nội dung tiếp theo của bài viết gồm:

1. Đua tranh tiên tiến: Xếp hạng & timeline xuất xưởng rack cấp tiên tiến của 11 công ty
2. Tenstorrent giải mã toàn diện: hiện là công ty duy nhất cung cấp rack cấp tiên tiến, cũng là sample miễn phí cho nội dung thẩm định
3. 10 công ty còn lại phân tích: từng cái được đánh giá và nêu nguồn, bao gồm nhóm cạnh tranh tiên tiến, card mở rộng giải mã và sản phẩm cận tiên tiến
4. Bằng chứng: trong 8 công ty cấp tiên tiến chỉ 2 có dữ liệu bên thứ ba đáng tin cậy
5. Ai thực sự có thể trở thành công ty chip nghìn tỷ tiếp theo và một luận điểm có thể định nghĩa lại toàn bộ bảng xếp hạng

IV. Đua tranh tiên tiến: Ai sẽ cán mốc rack-level trước?

Vậy, “Startup nào đủ sức vượt qua 4 cửa này?Nếu xếp theo thứ tự xuất xưởng sản phẩm tiên tiến cấp rack, thì ai trước ai sau?” Hãy cùng xem. Dữ liệu được sắp xếp theo thời gian các công ty công bố sản phẩm rack cấp tiên tiến. Nên lưu ý vẫn cần cẩn trọng và nhớ chúng ta chưa so sánh hiệu năng, chỉ so thời gian công bố chip.

Lưu ý rằng nhiều công ty đã có sản phẩm, nhưng đời đầu là loại cận tiên tiến, sau đó chuyển dần sang phát triển hệ thống cấp rack cho mô hình ngôn ngữ lớn hiện đại.Do đó, tôi chỉ chú trọng sản phẩm trên lộ trình có năng lực tiên tiến thực sự, xem khi nào xuất xưởng.

Tìm hết nguồn mở (bản tin, blog, podcast) thu được kết quả sau:

Biểu diễn trực quan như sau:

Nhưng cần lưu ý, mỗi mốc trên đây là cho rack đầu hoặc mẫu đầu, chưa phải gigawatt-level.Theo tôi, rack đầu rất ý nghĩa, nhưng thời gian cán mốc gigawatt quyết định lớn nhất.

Rack đầu chứng minh hệ thống chạy được, gigawatt-level chứng minh công ty vận hành được quy mô.

Ai kịp xuất xưởng năm 2026, ai không?

Tenstorrent, Etched và SambaNova sẽ xuất xưởng rack sản xuất hàng loạt trong 2026.

Positron, Tensordyne và Rebellions tụt lại 1 năm.Rebellions tuy rằng công bố sẽ xuất xưởng năm 2026, nhưng mẫu REBEL tiên tiến vẫn ở mức gửi mẫu thử, rack thực sự sẽ sát hơn về 2027.

Fractile và MatX tụt lại 2 năm.Lộ trình cả hai đều có mốc 2027, nhưng mới là thử nghiệm/mẫu đầu, chưa thể sản xuất đại trà. Khách hàng có rack sản xuất hàng loạt thực tế, hợp lý phải năm 2028.

Với tình trạng thiếu cung hiện nay, chỉ chậm 1 năm là quá lớn.Không phải các công ty xuất xưởng 2027 trở đi yếu kém về kỹ thuật, không phải không thể thắng lâu dài. Cuối cùng chỉ cần 1 khách hàng lớn cũng đủ scale lên. Nhưng muốn tranh tài phải vào sân! Dù kiến trúc có chắc chắn, nếu không vào sân thì không là đối thủ thực thụ.

Ai sẽ vào sân trước?

Tenstorrent tuyên bố “hiện đang giao chip sản xuất đại trà”.Khả quan! Nhưng khách hàng ra sao? Tenstorrent đã có khách cloud mới và khách hàng chủ quyền; chưa tiết lộ khách phòng lab tiên tiến/hyperscaler. Liệu các khách sớm này có giúp Tenstorrent chạm gigawatt? Phân tích kỹ chi tiết sẽ nói rõ phía sau.

Được mua lại có thể giúp Tenstorrent đưa sản phẩm ra thị trường nhanh hơn, nhất là khi các vendor chip lớn vốn có quan hệ với hyperscaler.Có thông tin Qualcomm từng cân nhắc đặt hợp đồng 8-10 tỷ USD vào giữa tháng 6, nhưng Keller gần đây phủ nhận đang đàm phán, vậy lối này tạm bí.

Thực tế, Etched còn mạnh hơn trông thấy so với vài tháng trước.Công ty công bố sẽ xuất xưởng sản phẩm cấp rack vào mùa hè này, sớm vượt MatX, Fractile... Một thời Etched bị xem như đã loại, giờ tỏ ra vẫn còn ở top đầu.

Đáng chú ý, Etched nhấn mạnh gigawatt-level.Công ty tuyên bố “đã có lộ trình chạm gigawatt năm 2027” và đang xây hạ tầng: nhà máy tại Đài Loan, trung tâm dữ liệu/trung tâm kiểm tra/lab sản phẩm mới ở San Jose. Nhà đồng sáng lập Rob Wachen cho biết trong bản tin: “Chúng tôi đi từ nền tảng gigawatt... Sản xuất hàng loạt là sản phẩm.”

Etched chưa tiết lộ khách hàng cụ thể nhưng nói đã ký hợp đồng trên 1 tỷ USD.Khái niệm về “lộ trình gigawatt” cũng như “làm vì gigawatt” ám chỉ khách mà Etched hướng tới là các công ty ở quy mô này.

Etched có thực sự đạt gigawatt năm 2027 không còn chờ xem, nhưng chí ít họ đã chọn đúng mục tiêu nếu muốn lọt cuộc đua nghìn tỷ.

SambaNova cũng tuyên bố SN50 cấp tiên tiến sẽ được triển khai nửa cuối 2026.Nếu cả SambaNova, Etched và Tenstorrent đều xuất xưởng rack đủ cạnh tranh, cuối 2026 đầu 2027 sẽ rất hấp dẫn!

Đến nay, SambaNova đã công khai khách là các doanh nghiệp như JPMorgan & Softbank, nhưng ở đây rõ ràng không phải gigawatt-level.

SambaNova đã ký hợp đồng dài hạn với JPMorgan. Liang nói: “Đây là bước đột phá, vì hầu hết các nhà cung cấp chưa biết vào thị trường doanh nghiệp thế nào. Doanh nghiệp sẽ rất quan trọng; nó không chiếm 100% nhưng là lực lượng không thể xem nhẹ và chúng tôi đã thấy khuynh hướng này.” Liang bổ sung, doanh nghiệp muốn chạy mô hình và dữ liệu riêng tư trong môi trường của mình, điều này khó là trung tâm dữ liệu quy mô gigawatt.