Kekurangan GPU belum berakhir, CPU mungkin akan segera diperebutkan

Pada tanggal 31 Mei 2026, Nvidia mengumumkan bahwa CPU dengan 88 inti kustom telah memasuki produksi massal secara penuh. CPU ini bernama Vera, menggunakan instruksi Arm dan inti Olympus buatan Nvidia sendiri, akan digunakan dalam platform superkomputer Vera Rubin, maupun dipasang secara terpisah dalam server CPU. Dell, HP, Lenovo, Supermicro, dan sejumlah produsen server lainnya telah mulai memproduksi sistem yang mengadopsi Vera.

Nvidia menyebut Vera sebagai "CPU pertama yang dirancang untuk AI Agent".Vera akan membentuk satu platform bersama Rubin GPU, dan juga akan dipasang dalam server CPU mandiri.Setelah bertahun-tahun, Nvidia yang biasanya menjual GPU, kini mulai menawarkan daya komputasi CPU secara terpisah, hal ini tampak tidak biasa.

Gambar | Nvidia Vera (Sumber: Nvidia)

Selama tiga tahun terakhir, kecemasan perangkat keras industri AI hampir seluruhnya berpusat pada GPU. Proses pelatihan membutuhkan lebih banyak GPU, inferensi membutuhkan lebih banyak GPU, dan ketika parameter model serta jumlah pengguna meningkat, jawabannya tetap menambah GPU. CPU dalam sistem ini berfungsi untuk memulai tugas, mengelola data, dan menangani server, namun jarang menjadi fokus utama para investor.

Hingga AI Agent mengubah bentuk tugas-tugas tersebut.

Bot percakapan biasa menerima teks, menjalankan model satu kali, dan kemudian menghasilkan teks baru. Sementara Agent harus mengubah hasil model menjadi tindakan: membaca file, mencari di web, mengakses database, memanggil API (Application Programming Interface), menjalankan kode, lalu mengirimkan hasil kembali ke model. Satu tugas mungkin melalui belasan siklus "inferensi—tindakan—pengamatan", di mana setiap langkah harus berpindah antara GPU dan CPU.

GPU tetap menangani komputasi model yang paling berat, sementara interpretasi output model, menentukan jenis alat, mengirim permintaan, menjalankan program, mengelola file, mengumpulkan hasil, dan mengatur tugas berikutnya biasanya ditangani oleh CPU. Wakil Presiden Komputasi dan AI Enterprise AMD, Madhu Rangarajan, menyatakan bahwa dalam pipeline agent nyata yang diuji perusahaan, dari 8 tahap, 7 di antaranya sepenuhnya berjalan di CPU. Proporsi ini berdasarkan pengujian mandiri AMD dan belum tentu merepresentasikan semua sistem, tetapi cukup menunjukkan bahwa:inferensi model hanyalah satu bagian dari tugas agent, dan semua koordinasi di luar itu dibebankan kepada CPU.

Beban yang ditimbulkan oleh satu Agent mungkin masih kecil, namun dalam skala besar jumlah ini bisa sangat besar.

Satu agent bisa memanggil banyak tools sekaligus, bahkan membuat sub-agent baru. Jika perusahaan menerapkan sistem yang sama ke puluhan ribu karyawan, maka tugas paralel bisa meningkat dengan cepat. Setiap agent juga terus melakukan parsing output, menjalankan kode, dan membaca/menulis data, sehingga beban CPU yang awalnya kecil mulai menumpuk menjadi kebutuhan kapasitas. Jika CPU bekerja lambat, GPU harus menunggu input untuk proses inferensi selanjutnya.

Pemeriksaan keamanan juga semakin menambah beban ini. Semakin banyak hak akses yang dimiliki agent, maka sistem harus semakin rutin memeriksa file yang dibuka, API yang dipanggil, serta apakah data sensitif terakses. Pemeriksaan aturan, analisis log, dan inspeksi model skala kecil biasanya tetap berjalan di CPU, karena tugasnya tersebar dan membutuhkan respons cepat, sehingga memanggil GPU untuk tugas ini tidak efisien. Dengan demikian, semakin otonom agent, semakin banyak proses pemeriksaan yang dibutuhkan, sehingga beban CPU semakin besar.

Pada Juli tahun ini, agent dari OpenAI dalam evaluasi keamanan internal tanpa sengaja menerobos sandbox dan mengakses sistem produksi Hugging Face, menunjukkan pentingnya mekanisme keamanan semacam ini sekaligus mengindikasikan tambahan beban komputasi yang harus dikelola dalam penerapan nyata.

Beban lain yang sering terabaikan ialah proses tokenisasi.

Sebelum model besar memproses teks, harus dilakukan konversi ke dalam bentuk Token. Proses ini penuh manipulasi string dan percabangan kondisi, tidak seperti perhitungan matriks yang cocok untuk GPU. Input dialog biasa sangat singkat sehingga latensi tokenisasi tak terasa; agent cenderung terus menumpuk hasil tool, kode, log, dan histori tindakan sehingga input bisa membengkak sampai puluhan ribu maupun ratusan ribu Token.

Menurut Euijun Chung, mahasiswa doktoral di Georgia Institute of Technology dalam wawancara dengan IEEE Spectrum, pada beberapa implementasi, saat ada 100.000 Token konteks lalu ditambahkan 1.000 Token hasil tool, tokenizer kemungkinan besar akan memproses ulang seluruh input.Cache prefiks dan tokenisasi bertahap dapat mengurangi kerja berulang, sehingga tidak semua sistem pasti mengadopsi metode tersebut; tekanan CPU tetap muncul saat input teks panjang.

Tim Chung dalam makalah terbarunya menguji model seperti Llama 3.1 dan Qwen3. Dalam skenario urutan panjang dan batch besar, tokenisasi bisa mencapai sekitar 80% dari latensi Token pertama. Jika jumlah inti CPU kurang, thread tokenisasi harus berebut sumber daya dengan penjadwal tugas dan inisialisasi kernel GPU, akhirnya CPU penuh dan GPU tidak berjalan maksimal. Penambahan inti CPU memperbaiki latensi Token pertama sebesar 1,47—5,15 kali tergantung konfigurasi, tanpa perlu menambah GPU.

Data industri mulai menanggapi perubahan ini. Pada Januari 2026, KeyBanc melalui survei rantai pasokan menilai bahwa kapasitas produksi CPU server Intel hampir seluruhnya terjual sepanjang tahun, pasokan CPU server AMD juga hampir penuh, sehingga kedua perusahaan memiliki ruang menaikkan harga. Penilaian ini berasal dari institusi analitik, bukan data pesanan resmi pabrikan.

Dokumen keuangan Intel berikutnya memberikan sebagian bukti. Perusahaan menyatakan bahwa permintaan terhadap CPU server pada kuartal pertama 2026 melebihi pasokan yang tersedia, keterbatasan kapasitas internal diprediksi akan berlangsung sampai akhir tahun. Harga jual rata-rata produk server naik 27% year-on-year, sementara pengiriman turun 5%; Intel mengaitkan kenaikan harga pada peningkatan proporsi produk premium, harga berbasis permintaan, dan kenaikan biaya.

Pendapatan bisnis data center AMD pada periode yang sama mencapai 5,8 miliar dolar AS, naik 57% secara tahunan, pertumbuhan ini berasal dari CPU server EPYC dan GPU Instinct. AMD tidak mengumumkan pertumbuhan pendapatan CPU server secara terpisah, sehingga tidak dapat dipastikan seluruh pertumbuhan 57% berasal dari permintaan agent.

Prediksi perusahaan tentang masa depan lebih agresif. Sebelumnya, AMD memperkirakan pasar CPU server akan tumbuh sekitar 18% per tahun; pada Mei 2026 memperbarui proyeksi hingga lebih dari 35%—bahkan ukuran pasar diperkirakan melampaui 120 miliar dolar AS pada 2030.AMD menyatakan alasannya adalah agent membutuhkan lapisan komputasi CPU tersendiri untuk mengatur orkestra, pemrosesan data, eksekusi tool, dan pengecekan keamanan.

Data center biasanya menggunakan satu CPU untuk mengelola 4—8 GPU. AMD mengamati bahwa pada sistem agent, rasio ini mendekati 1:1, bahkan beberapa beban kerja memerlukan CPU lebih banyak. Ini tetap berdasarkan permintaan pelanggan dan tiap beban kerja bisa sangat berbeda. Tetapi trennya jelas: menambah CPU saja tidak cukup, kini penyedia cloud mulai mempertimbangkan membangun rak CPU khusus untuk agent.

Arm pada Maret 2026 untuk pertama kalinya beralih dari penjualan desain prosesor ke penjualan CPU data center secara langsung. Prosesor AGI miliknya memiliki hingga 136 inti, dikembangkan bersama Meta. Arm memperkirakan, pada beban konsumsi daya yang sama, data center agent membutuhkan kapasitas CPU hingga empat kali lebih besar dari data center saat ini.

Qualcomm kemudian merilis Dragonfly C1000 yang memiliki lebih dari 250 inti dan menandatangani perjanjian kerja sama CPU server multigenerasi dengan Meta. Intel, AMD, Arm, Qualcomm, dan Nvidia dalam beberapa bulan terakhir telah memasukkan "agent CPU" ke dalam peta jalan produk mereka, menunjukkan bahwa persaingan telah melampaui pasar x86 tradisional, merambah ke server Arm, core custom, hingga desain satu rak penuh.

Nvidia menempati posisi khusus di antara mereka. Ia menjual GPU yang jadi sumber tekanan CPU, sekaligus menawarkan Vera untuk mengurangi tekanan tersebut; dari prosesor, jaringan, hingga penyimpanan—Nvidia dapat menyediakan seluruh perangkat secara terintegrasi.Karena itu, Vera bukan sekadar ekspansi lini produk; ia juga berfungsi menjaga utilisasi GPU. Setiap detik waktu tunggu GPU yang berkurang, bisa berarti lebih banyak Token dan pendapatan rak yang lebih tinggi.

Namun, ketika produsen chip mengejar cuan, tetap ada pihak lain yang menanggung akibatnya. Sama seperti GPU dan chip penyimpanan, perubahan kapasitas kali ini kemungkinan besar akan kembali dibebankan ke konsumen.

Intel pada telekonferensi laporan keuangan Q4 2025 mengakui, mereka berupaya mengalihkan pasokan wafer internal ke data center dan menambah outsourcing untuk produk klien; manajemen menambahkan bahwa Intel tidak mungkin sepenuhnya keluar dari pasar klien. Pada Q1 2026, harga rata-rata CPU klien Intel naik 16% year-on-year, volume penjualan turun 13%, dan perusahaan memperkirakan keterbatasan pasokan setidaknya hingga paruh pertama tahun itu.

Perubahan pada produk klien tidak seluruhnya disebabkan oleh agent. Transisi proses produksi Intel sendiri, kapasitas internal dan eksternal, serta pasokan memori juga mempengaruhi harga dan penjualan. Namun dengan kapasitas terbatas, chip server yang memiliki lebih banyak inti, harga lebih mahal, dan pelanggan cloud lebih suka kontrak jangka panjang, maka alokasi sumber daya produksi akan beralih ke data center.

Dalam tiga tahun terakhir, konsumen telah “merasakan” kenaikan harga dan kelangkaan GPU. Selanjutnya, hal serupa bisa terjadi pada CPU.

Operasional/Tata Letak: He Chenlong

Catatan: Gambar sampul/utama dihasilkan dengan bantuan AI