Nvidia Kejar Target CPO Penuh pada 2028, Apa Alasannya?

Nvidia memakai Co Packaged Optics atau CPO untuk koneksi antarchip dengan memanfaatkan teknologi fabrikasi TSMC. Perusahaan ini menargetkan generasi Feynman yang dijadwalkan hadir pada 2028 sebagai generasi pertama yang sepenuhnya mengadopsi CPO untuk kebutuhan scale up, yaitu penyambungan ribuan GPU dalam satu domain komputasi raksasa. Langkah ini bukan sekadar pembaruan teknis biasa. Bagi pemilik data center, penyedia layanan internet atau ISP, system integrator, hingga konsultan infrastruktur, keputusan Nvidia ini akan menentukan arah desain rak, kebutuhan daya, dan strategi investasi jaringan AI dalam beberapa tahun mendatang.

Apa Itu CPO dan Mengapa Teknologi Ini Mengubah Arsitektur Data Center AI

Co Packaged Optics adalah teknologi yang menempatkan komponen optik, seperti laser dan modulator cahaya, langsung pada kemasan chip jaringan atau prosesor, bukan lagi sebagai modul transceiver terpisah yang dicolokkan dari luar. Dengan pendekatan ini, data dikirim melalui cahaya pada sebagian besar jalurnya, sehingga hanya menyisakan jalur elektrik yang sangat pendek di dalam kemasan chip itu sendiri.

Tujuan utama teknologi ini adalah memindahkan data dalam volume besar, dengan kecepatan tinggi, jarak lebih jauh, latensi rendah, dan konsumsi daya lebih efisien dibanding solusi tembaga konvensional. Semakin besar kluster AI yang dibangun, semakin jauh pula jarak fisik antar rak dan antar gedung yang harus dihubungkan. Pada fasilitas AI skala besar saat ini, jarak antar titik instalasi bahkan bisa melampaui sepuluh kilometer, sementara volume data antar GPU, CPU, perangkat jaringan, dan storage terus meningkat hingga ratusan gigabit per detik untuk setiap jalur.

Tembaga sebenarnya masih sangat andal untuk jarak pendek. Masalah muncul ketika kebutuhan bandwidth melonjak sementara sistem menyebar lebih luas secara fisik. Pada kondisi itu, kabel tembaga membutuhkan daya lebih besar, menghasilkan lebih banyak panas, dan sulit mempertahankan integritas sinyal. Di sinilah jalur optik menjadi pilihan yang lebih masuk akal untuk interkoneksi jarak jauh dalam skala besar.

Peran TSMC dan Platform COUPE dalam Fabrikasi CPO Nvidia

Realisasi CPO sangat bergantung pada kemampuan fabrikasi foundry, dan di sinilah peran TSMC menjadi sentral. Nvidia menggunakan platform fotonik silikon milik TSMC bernama COUPE, singkatan dari Compact Universal Photonic Engine, untuk mengintegrasikan mesin optik langsung ke dalam kemasan chip jaringan dan GPU. Platform ini menggabungkan proses logika elektronik generasi terdepan, proses fotonik yang sudah matang, serta teknologi pengemasan lanjutan seperti CoWoS dan SoIC melalui teknik hybrid bonding.

Kombinasi ini membawa manfaat signifikan. Berdasarkan data teknis industri semikonduktor, pendekatan COUPE diklaim mampu menurunkan konsumsi daya hingga sekitar 40 persen pada kecepatan yang sama dibanding pendekatan micro bump konvensional, atau sebaliknya memberikan peningkatan kecepatan hingga sekitar 170 persen pada besaran daya yang sama. Konsumsi energi per bit data pun diproyeksikan turun drastis, dari lebih dari 30 picojoule per bit pada jalur tembaga konvensional menjadi di bawah 5 picojoule per bit untuk CPO pada substrat, dan berpotensi turun lagi di bawah 2 picojoule per bit seiring kemajuan integrasi optik pada chip di masa depan.

Teknologi ini sudah diterapkan pada switch Quantum X800 untuk InfiniBand dan Spectrum X800 untuk Ethernet yang dikembangkan Nvidia bersama TSMC. Nvidia pun bukan satu satunya pelanggan platform ini. Broadcom, AMD, Cisco, dan Marvell Technology juga memanfaatkan kapasitas pengemasan lanjutan TSMC untuk kebutuhan fotonik silikon mereka, menandakan bahwa pergeseran menuju CPO adalah tren industri yang lebih luas.

Roadmap Nvidia Menuju CPO Penuh, dari Blackwell hingga Feynman

Nvidia tidak langsung meloncat ke CPO penuh dalam satu generasi. Perusahaan ini menempuh jalur bertahap yang dapat dipetakan dari tiga generasi platform data center terakhirnya.

Pada platform Blackwell, sebagian besar sistem seperti rak GB200 NVL72 masih mengandalkan modul optik tercolok atau pluggable optics untuk interkoneksi standar, meski tersedia opsi konfigurasi dengan switch berbasis CPO untuk kebutuhan kluster yang sangat besar. Pada generasi ini, CPO baru diterapkan pada sisi scale out, yaitu koneksi antar rak dan antar switch, bukan di dalam domain scale up antar GPU dalam satu rak.

Memasuki platform Vera Rubin, pendekatan mulai bergeser. Pada sisi network interface card, Nvidia beralih ke Linear Pluggable Optics atau LPO yang mempertahankan sebagian fungsi digital signal processing di perangkat ujung. Domain scale up dalam satu rak masih memakai desain tembaga penuh seperti generasi sebelumnya, namun untuk menyambungkan delapan rak sekaligus menjadi satu pod NVL576, Nvidia mulai memperkenalkan switch NVLink berbasis CPO. Artinya, CPO mulai merambah ke ranah scale up meski belum menyeluruh.

Barulah pada generasi Feynman yang ditargetkan hadir pertengahan hingga akhir 2028, Nvidia merancang domain scale up agar dapat memakai CPO secara penuh, didampingi CPU baru bernama Rosa, teknologi custom HBM untuk kapasitas dan bandwidth memori lebih tinggi, tumpukan die tiga dimensi atau 3D die stacking untuk kepadatan kemasan lebih besar, serta switch NVLink generasi kedelapan yang membawa CPO sebagai standar interkoneksi utamanya.

Empat Alasan Utama Nvidia Mempercepat Target CPO ke 2028

Rencana awal komersialisasi CPO secara luas sebenarnya diproyeksikan baru terjadi sekitar 2033. Nvidia memilih memajukan jadwal tersebut sekitar lima tahun lebih cepat. Setidaknya ada empat alasan teknis dan bisnis yang mendasari keputusan ini.

Pertama, skala kluster AI tumbuh jauh lebih cepat dari perkiraan. Model AI generatif dan agentic AI menuntut jumlah GPU yang jauh lebih banyak dalam satu domain komputasi yang saling terhubung erat. Semakin banyak GPU yang harus disatukan, semakin besar pula kebutuhan bandwidth antarchip, dan tembaga mulai mendekati batas kemampuannya untuk memenuhi kebutuhan tersebut secara efisien.

Kedua, keterbatasan daya menjadi faktor mendesak. Jika Nvidia bertahan pada solusi tembaga atau modul optik tercolok konvensional untuk menghubungkan ribuan GPU, kebutuhan daya tambahan hanya untuk interkoneksi bisa membengkak signifikan pada setiap sistem. CPO memangkas kebutuhan ini karena jalur sinyal elektrik yang ditempuh menjadi jauh lebih pendek, cukup dari chip menuju komponen optik yang menempel langsung pada kemasan yang sama.

Ketiga, kebutuhan topologi jaringan yang lebih sederhana dan datar. Satu switch berbasis CPO dapat mendukung hingga 144 port dengan kecepatan 800 gigabit per detik di setiap port, memungkinkan arsitektur jaringan dengan lebih sedikit lapisan switch dan lebih sedikit hop. Ini berarti latensi lebih rendah dan desain jaringan yang lebih mudah dikelola untuk kluster AI raksasa.

Keempat, momentum ekosistem industri turut mendorong percepatan ini. Lewat kesepakatan multi sumber bernama Optical Compute Interconnect atau OCI MSA, sejumlah pemain besar seperti Nvidia, Broadcom, AMD, Meta, OpenAI, dan Microsoft sepakat membangun standar terbuka untuk interkoneksi optik. AMD sendiri dilaporkan mengembangkan pendekatan CPO serupa bersama GlobalFoundries untuk generasi akselerator MI500 pada rentang waktu yang hampir sama, sehingga tekanan kompetitif ikut mempercepat keputusan investasi di seluruh rantai pasok optik.

Dampak CPO 2028 bagi Pemilik Data Center, ISP, dan System Integrator

Bagi kalangan profesional infrastruktur, percepatan target CPO ke 2028 membawa sejumlah implikasi praktis yang perlu mulai dipetakan sejak sekarang.

Pemilik data center perlu meninjau ulang kesiapan infrastruktur daya dan pendinginan. Meski CPO menurunkan konsumsi energi per bit secara signifikan, kepadatan komputasi yang jauh lebih tinggi pada rak berbasis Feynman tetap akan menuntut kapasitas daya dan sistem pendinginan cair yang lebih matang dibanding generasi rak saat ini.

ISP dan penyedia jaringan backbone perlu mencermati perubahan topologi. Dengan switch berkapasitas port lebih besar dan jaringan yang lebih datar, desain interkoneksi antar fasilitas, termasuk kebutuhan serat optik jarak jauh antar lokasi data center, perlu direncanakan ulang agar selaras dengan arsitektur baru ini.

System integrator sebaiknya mempelajari karakteristik serviceability pada perangkat berbasis CPO. Komponen laser pada kebanyakan desain CPO umumnya tetap diposisikan terpisah dari kemasan utama agar mudah diganti saat terjadi kegagalan, mengingat usia pakainya cenderung lebih pendek dibanding komponen elektronik di sekitarnya, sehingga perlu diperhitungkan dalam manajemen suku cadang.

Konsultan data center perlu memasukkan variabel roadmap CPO ke dalam model total cost of ownership jangka panjang bagi klien yang berencana membangun fasilitas AI baru. Keputusan investasi tahun ini, terutama terkait desain rak, jalur kabel, dan kapasitas daya, idealnya sudah memperhitungkan arah transisi menuju Feynman pada 2028 agar fasilitas yang dibangun sekarang tidak cepat usang.

Tembaga dan Optik Akan Berdampingan, Bukan Langsung Tergantikan

Penting dipahami bahwa percepatan target CPO ini tidak berarti tembaga akan langsung hilang dari data center pada 2028. Sejumlah pelaku industri interkoneksi menegaskan bahwa tembaga tetap menjadi pilihan layak untuk koneksi sangat pendek di dalam rak hingga 2028, terutama karena faktor biaya dan keandalan yang sudah teruji.

Roadmap Nvidia sendiri mencerminkan pendekatan koeksistensi ini. Untuk domain scale up pada generasi Feynman, Nvidia dilaporkan menyediakan dua opsi, yaitu varian berbasis tembaga yang disebut Kyber dan varian berbasis CPO, sehingga operator data center dapat memilih sesuai kebutuhan biaya, daya, dan kepadatan masing masing fasilitas. Gambaran realistisnya, tembaga akan terus menangani jalur pendek di dalam rak, sementara optik mengambil alih peran untuk jangkauan scale up dan scale out yang lebih panjang.

Pertanyaan yang Sering Diajukan seputar CPO Nvidia

Apa itu CPO pada chip Nvidia. CPO atau Co Packaged Optics adalah teknologi yang menyatukan komponen optik dengan chip jaringan atau prosesor dalam satu kemasan agar data dapat dikirim melalui cahaya, bukan hanya sinyal listrik melalui kabel tembaga.

Mengapa target CPO dimajukan dari 2033 menjadi 2028. Nvidia memajukan jadwal ini karena pertumbuhan kluster AI jauh lebih cepat dari perkiraan, sehingga kebutuhan bandwidth, efisiensi daya, dan jangkauan interkoneksi antar rak mendesak untuk dipenuhi lebih awal.

Apakah CPO akan menggantikan seluruh kabel tembaga di data center. Tidak sepenuhnya. Tembaga tetap dipakai untuk jalur sangat pendek di dalam rak karena faktor biaya dan keandalan, sementara CPO mengambil peran untuk interkoneksi scale up dan scale out jarak jauh.

Apa peran TSMC dalam teknologi CPO Nvidia. TSMC menyediakan platform fabrikasi fotonik silikon bernama COUPE yang memungkinkan integrasi komponen optik dengan chip Nvidia melalui teknologi pengemasan lanjutan seperti CoWoS dan SoIC.

Kesimpulan

Target CPO penuh pada 2028 menandai titik balik penting dalam arsitektur interkoneksi data center AI, didukung oleh kemampuan fabrikasi TSMC melalui platform COUPE dan dorongan kebutuhan skala kluster yang terus membesar. Bagi IT profesional, pemilik data center, ISP, system integrator, maupun konsultan infrastruktur, periode menuju 2028 adalah masa yang tepat untuk mulai menyusun strategi daya, pendinginan, topologi jaringan, dan model investasi jangka panjang agar siap menghadapi generasi Feynman saat teknologi ini benar benar diluncurkan ke pasar.