Google Sambungkan Ribuan Chip Sekaligus Lewat Switch Optik

Google telah memakai OCS di pusat data AI sejak tahun 2020 dan kini mengembangkan teknologi tersebut secara masif, mampu menyambungkan banyak rak sekaligus menjadi satu pod berisi hingga 9.216 chip. Switch optik atau Optical Circuit Switch (OCS) kini menjadi tulang punggung baru bagi infrastruktur komputasi AI raksasa milik Google, menggantikan peran switch elektrik konvensional yang selama puluhan tahun menjadi standar industri pusat data.

Bagi profesional IT, pemilik pusat data, penyedia layanan internet atau ISP, system integrator, serta konsultan pusat data, perkembangan ini bukan sekadar berita teknologi. Arsitektur yang dipakai Google memberi gambaran nyata tentang arah evolusi desain jaringan pusat data berskala besar pada era komputasi AI, mulai dari efisiensi energi, toleransi kegagalan, hingga kemampuan skalabilitas yang jauh melampaui batas arsitektur tradisional.

Ringkasan poin penting dari perkembangan ini adalah sebagai berikut.

1. Google menyambungkan hingga 9.216 chip TPU generasi Ironwood dalam satu pod memakai switch optik atau OCS.
2. Satu pod tersusun dari 144 rak dengan 64 chip pada tiap rak. Substack
3. OCS memakai cermin mikro atau Micro Electro Mechanical Systems atau MEMS untuk mengalihkan jalur cahaya tanpa mengubah sinyal optik menjadi sinyal listrik terlebih dahulu.
4. Teknologi ini memungkinkan satu pod memiliki kapasitas memori HBM gabungan hingga 1,77 petabyte yang bisa diakses bersama. servethehome
5. Google bahkan mampu menyambungkan ratusan pod sejenis menjadi satu kesatuan jaringan logis lewat fabrik jaringan Jupiter miliknya. hpcwire

Apa Itu Switch Optik atau Optical Circuit Switch

Switch optik atau OCS adalah perangkat jaringan yang mengarahkan sinyal cahaya langsung dari satu port ke port lain memakai cermin mikroskopis yang dapat digerakkan secara presisi. Berbeda dengan switch elektrik atau Electrical Packet Switch atau EPS yang harus mengubah sinyal optik menjadi sinyal listrik untuk diproses lalu mengubahnya kembali menjadi sinyal optik, OCS tetap mempertahankan sinyal dalam bentuk cahaya sepanjang proses penyaluran data.

Mekanisme ini membuat OCS jauh lebih hemat energi karena tidak memerlukan proses konversi optik ke listrik dan listrik ke optik atau yang biasa disebut OEO. OCS juga bersifat agnostik terhadap kecepatan data, artinya satu perangkat OCS yang sama dapat terus dipakai meski kecepatan transceiver optik di dalam pusat data meningkat dari generasi ke generasi, mulai dari 40 gigabit per detik hingga ratusan gigabit per detik bahkan terabit per detik.

Satu unit OCS buatan Google umumnya memiliki lebih dari seratus port optik aktif. Dalam praktiknya, puluhan unit OCS dipasang berjajar untuk melayani satu pod penuh, sehingga total port optik yang tersedia bisa mencapai belasan ribu titik sambungan. Jumlah ini sengaja dirancang melebihi kebutuhan minimum agar tersedia cadangan saat terjadi kegagalan komponen, sebuah prinsip yang dalam dunia teknik dikenal sebagai keandalan atau reliability, availability and serviceability. servethehome

Tujuan Google Membangun Infrastruktur Switch Optik Berskala Besar

Lonjakan kebutuhan komputasi untuk melatih dan menjalankan model AI generatif mendorong Google mencari arsitektur jaringan yang mampu menghubungkan puluhan ribu bahkan ratusan ribu chip akselerator sekaligus tanpa mengorbankan efisiensi energi dan biaya operasional.

Tujuan utama Google adalah membangun fabrik jaringan yang fleksibel, dapat dikonfigurasi ulang secara dinamis sesuai pola trafik aplikasi, serta mampu menjaga performa tinggi meski skala pusat data terus membesar. Kebutuhan ini melahirkan proyek riset internal Google yang dikenal dengan nama Project Apollo, cikal bakal perangkat switch optik buatan Google sendiri bernama Palomar.

Tantangan Arsitektur Jaringan Pusat Data Sebelum Era OCS

Dalam arsitektur jaringan pusat data tradisional berbasis topologi Clos, lapisan spine switch yang menghubungkan berbagai blok agregasi memakan porsi besar dari total biaya dan konsumsi daya fabrik jaringan, bahkan dapat mencapai sekitar 40 persen dari keseluruhan anggaran infrastruktur jaringan. howdoesinternetwork

Spine switch elektrik juga bersifat kaku karena harus dipasang dan dikabel secara fisik sejak awal, sehingga setiap perubahan topologi jaringan memerlukan proses pengabelan ulang yang rumit, memakan waktu, dan berisiko mengganggu operasional pusat data yang sedang berjalan. Ketika Google memperkenalkan TPU generasi keempat pada tahun 2021, satu pod baru mampu menampung 4.096 chip lewat kombinasi 64 chip per rak dan 64 rak per pod. Pencapaian tersebut sekaligus memperlihatkan batas atas yang mulai menantang kapasitas arsitektur jaringan elektrik konvensional.

Aksi Google, dari Project Apollo Hingga Superpod 9.216 Chip

Guna menjawab tantangan tersebut, Google mengganti peran spine switch elektrik dengan switch optik Palomar yang mampu mengalihkan koneksi antar blok agregasi secara dinamis tanpa pengabelan ulang. Setiap rak TPU Ironwood berisi 64 chip, dan satu pod penuh dapat menampung hingga 144 rak, sehingga total chip dalam satu pod mencapai 64 dikalikan 144 sama dengan 9.216 chip.

Untuk menyambungkan seluruh rak tersebut, Google memakai puluhan unit OCS dengan ratusan port optik pada tiap unit, menghasilkan total ribuan port optik yang disesuaikan secara presisi dengan jumlah koneksi yang dibutuhkan seluruh pod. Konfigurasi ini memungkinkan rasio antara chip dan modul optik yang efisien, sehingga investasi perangkat keras tetap proporsional dengan kapasitas komputasi yang diperoleh.

Lebih jauh lagi, lewat fabrik jaringan Jupiter yang mengintegrasikan OCS dalam skala penuh, Google dilaporkan mampu menyambungkan ratusan pod berkapasitas 9.216 chip tersebut menjadi satu kesatuan jaringan logis tunggal yang membentang hingga ratusan ribu chip dalam satu fasilitas pusat data. hpcwire

Hasil yang Dicapai: Efisiensi, Toleransi Kegagalan, dan Skala Baru Komputasi AI

Penerapan OCS secara masif memberi sejumlah hasil nyata bagi operasional pusat data Google. Pertama, efisiensi energi meningkat signifikan karena proses konversi sinyal optik ke listrik yang boros daya dapat dihilangkan pada lapisan spine jaringan.

Kedua, toleransi kegagalan menjadi jauh lebih baik. Ketika satu chip atau satu tautan optik mengalami gangguan, sistem OCS dapat mengalihkan jalur dalam hitungan detik memakai pergerakan cermin, tanpa perlu mengirim teknisi untuk menyambung ulang kabel secara manual di tengah operasional pusat data yang sedang berjalan. semianalysis

Ketiga, satu pod Ironwood kini mampu menyediakan kapasitas memori HBM gabungan hingga 1,77 petabyte yang dapat diakses bersama oleh seluruh chip dalam pod, mendukung pelatihan model AI berskala sangat besar yang sebelumnya sulit dijalankan secara efisien.

Keempat, fleksibilitas topologi jaringan meningkat karena OCS memungkinkan pod dikonfigurasi ulang menjadi berbagai bentuk susunan rak sesuai kebutuhan beban kerja, mulai dari pelatihan model besar hingga layanan inferensi dengan latensi rendah.

Dari sisi investasi, Google dilaporkan telah menggelontorkan dana dalam rentang ratusan juta hingga lebih dari satu miliar dolar Amerika Serikat untuk pengembangan dan penggelaran OCS dalam lima tahun terakhir. Angka tersebut menggambarkan bahwa transisi menuju jaringan optik murni bukan perkara murah, namun dipandang sepadan mengingat penghematan daya dan peningkatan skalabilitas yang diperoleh dalam jangka panjang. cignal

Makna Strategis bagi Profesional IT, Pemilik Pusat Data, ISP, dan System Integrator

Bagi pemilik pusat data dan konsultan infrastruktur, langkah Google menunjukkan bahwa arsitektur jaringan berbasis optik murni bukan lagi sekadar riset laboratorium, melainkan sudah terbukti beroperasi pada skala produksi dengan ribuan chip. Hal ini membuka peluang sekaligus tuntutan baru dalam perencanaan desain fasilitas, termasuk kebutuhan kabel fiber berdensitas tinggi, sistem pendingin yang mendukung kepadatan daya lebih besar, serta tata letak rak yang mengakomodasi jalur optik dinamis.

Bagi ISP dan penyedia layanan konektivitas, tren ini menjadi sinyal bahwa permintaan terhadap infrastruktur fiber optik berkapasitas besar antar fasilitas pusat data akan terus meningkat seiring pertumbuhan kebutuhan interkoneksi klaster AI lintas lokasi.

Bagi system integrator, pemahaman mendalam tentang cara kerja OCS, topologi torus, serta integrasi perangkat keras AI akan menjadi nilai tambah penting ketika mendampingi klien yang berencana membangun atau memperluas fasilitas komputasi AI mereka sendiri.

Bagi konsultan pusat data, kasus Google dapat dijadikan rujukan dalam menyusun peta jalan modernisasi jaringan bagi klien, terutama dalam mempertimbangkan kapan saat yang tepat untuk mulai beralih dari arsitektur spine elektrik konvensional menuju pendekatan hibrida yang menggabungkan switch elektrik dan switch optik.

Selain itu, kemampuan OCS menyingkirkan chip mati atau tautan rusak dari susunan pod secara otomatis juga relevan bagi tim operasional yang bertanggung jawab menjaga ketersediaan layanan. Proses pemulihan yang semula memerlukan intervensi fisik kini dapat dilakukan secara jarak jauh dalam hitungan detik, sehingga target waktu operasional atau service level agreement dapat dijaga lebih konsisten meski skala infrastruktur terus bertambah besar.

Pertanyaan yang Sering Diajukan

Apa perbedaan switch optik dengan switch elektrik biasa?

Switch optik mengalihkan sinyal cahaya langsung memakai cermin mikro tanpa mengubahnya menjadi sinyal listrik, sedangkan switch elektrik harus mengubah sinyal optik menjadi listrik untuk diproses sebelum dikirim kembali sebagai sinyal optik.

Mengapa Google memilih OCS untuk pusat data AI?

Google memilih OCS karena kebutuhan efisiensi energi, fleksibilitas topologi jaringan yang dapat dikonfigurasi ulang tanpa pengabelan fisik, serta kemampuan menyambungkan jumlah chip yang jauh lebih besar dibanding arsitektur elektrik konvensional.

Berapa banyak chip yang bisa disambungkan Google lewat OCS?

Dalam satu pod, Google mampu menyambungkan hingga 9.216 chip TPU Ironwood, dan lewat fabrik jaringan Jupiter, ratusan pod tersebut dapat digabung menjadi satu jaringan logis yang mencakup lebih dari seratus ribu chip.

Apakah teknologi OCS dapat diterapkan di luar Google?

Secara prinsip ya, karena produsen perangkat OCS berbasis MEMS sudah tersedia secara komersial, meski penerapannya pada skala seperti milik Google tetap membutuhkan investasi perangkat keras dan keahlian desain jaringan yang signifikan.

Apa dampak OCS terhadap konsumsi energi pusat data?

OCS membantu menekan konsumsi energi karena menghilangkan tahap konversi sinyal optik ke listrik pada lapisan spine jaringan, sehingga turut mendukung efisiensi daya pusat data berskala besar yang kian padat komputasi.

Kesimpulan

Langkah Google menyambungkan 9.216 chip sekaligus lewat switch optik menegaskan bahwa arsitektur jaringan pusat data tengah memasuki babak baru. Bagi profesional IT, pemilik pusat data, ISP, system integrator, maupun konsultan pusat data, memahami cara kerja dan implikasi strategis OCS sejak dini akan membantu mempersiapkan infrastruktur yang relevan menghadapi lonjakan kebutuhan komputasi AI pada masa mendatang.