NVIDIA Memperkenalkan Platform Vera Rubin: Pengkomputeran AI Kini Memasuki Era “Penstrukturan Semula Peringkat Sistem” | CEO Insights

Dalam rentak evolusi pengkomputeran AI yang pantas, pertukaran generasi platform perkakasan lazimnya berlaku setiap tahun. Namun, kurang setahun selepas melancarkan seni bina Blackwell, Jensen Huang sekali lagi mendedahkan platform pengkomputeran AI generasi seterusnya NVIDIA di CES, iaitu Vera Rubin. Ini menunjukkan bahawa teras perlumbaan ini bukan lagi sekadar peningkatan prestasi satu cip, tetapi pentakrifan semula keseluruhan seni bina pengkomputeran AI.

Kemunculan Vera Rubin bukan semata-mata untuk mengejar kuasa pengkomputeran puncak yang lebih tinggi, tetapi untuk menjawab masalah yang lebih nyata: apabila model AI terus membesar dan proses inferens menjadi lebih panjang serta kompleks, reka bentuk tradisional yang berpusatkan GPU dan bergantung pada penyusunan modul semakin menjadi faktor yang mengehadkan prestasi dan kos.

---

Dinamakan Sempena Ahli Astronomi, Metafora bagi Peralihan Peringkat Sistem

Vera Rubin ialah ahli astronomi yang terkenal kerana membuktikan kewujudan jirim gelap. Kajiannya mendedahkan satu fakta penting: yang benar-benar mengawal pergerakan galaksi di alam semesta bukanlah jirim yang boleh dilihat dengan mata kasar, tetapi struktur tidak kelihatan di sebaliknya yang menguasai segala-galanya.

Dengan menggunakan nama ini untuk platform AI generasi baharu, NVIDIA melambangkan perubahan hala tuju teknologinya. Kunci AI bukan lagi terletak pada model itu sendiri semata-mata, tetapi pada struktur sistem yang tidak kelihatan yang menyokong operasi model. Platform Vera Rubin cuba membina semula asas pengkomputeran AI tepat pada lapisan ini.

Extreme Co-Design: Daripada Reka Bentuk Cip kepada Kejuruteraan Sistem

Vera Rubin bukan satu pemproses tunggal, tetapi platform lengkap yang dibina dengan pemikiran extreme co-design. Sejak awal reka bentuk, NVIDIA mengambil kira kerjasama antara enam cip utama secara serentak, menyatukan pengkomputeran, hierarki memori, sambungan dalaman, rangkaian dan prestasi peringkat sistem sebagai satu matlamat reka bentuk.

Pendekatan ini sangat berbeza daripada model lama iaitu “reka komponen dahulu, kemudian integrasikan sistem”. Teras Vera Rubin ialah memastikan data mengalir melalui keseluruhan sistem dengan laluan terpendek, kependaman terendah dan penggunaan tenaga paling rendah, sekali gus mengurangkan masa latihan dan kos inferens dengan ketara. Pengoptimuman peringkat sistem inilah kunci yang membolehkan lonjakan prestasi merentas generasi.

Tanpa Kabel, Tanpa Bukaan, Tanpa Kipas: Reka Bentuk Fizikal untuk Inferens AI

Pemikiran sistem ini turut terserlah secara konkrit dalam reka bentuk Compute Tray Vera Rubin. Untuk memaksimumkan kecekapan penghantaran dan mengurangkan penggunaan tenaga, NVIDIA menggunakan struktur tanpa kabel, tanpa bukaan dan tanpa kipas, dengan menyepadukan penghantaran kuasa dan data ke dalam backplane serta antara muka sentuhan langsung.

Reka bentuk ini bukan sahaja mengurangkan galangan dan risiko kerosakan akibat kabel, malah membolehkan pengurusan penyejukan dan tenaga dioptimumkan pada peringkat rack. Bagi beban kerja inferens AI dan beban kerja berasaskan ejen yang perlu beroperasi lama serta sangat sensitif terhadap kependaman, tingkah laku sistem yang stabil dan boleh diramal seperti ini lebih bernilai secara praktikal berbanding prestasi satu titik.

Apabila Satu Rack Menjadi Pemproses AI Logik

Dari segi skala, Vera Rubin menunjukkan kedudukan peringkat sistemnya dengan lebih jelas. Satu rack terdiri daripada 18 Vera Rubin Trays, dengan jumlah lebih 220 trilion transistor. Tahap ini jauh melangkaui kerumitan yang mampu ditampung oleh satu cip atau satu pelayan.

Pada tahap ini, unit reka bentuk bukan lagi GPU, tetapi keseluruhan kabinet. Penghantaran data, penyegerakan, kawalan kependaman dan kebolehpercayaan mesti dipertimbangkan secara menyeluruh pada peringkat sistem. Falsafah reka bentuk Vera Rubin ialah menganggap keseluruhan rack sebagai satu superpemproses AI logik.

Dibina untuk Inferens: Menjawab Keperluan Model Besar dan Model Penaakulan

Vera Rubin menyahut perubahan struktur dalam hala tuju pembangunan AI. Apabila saiz model terus berkembang, terutamanya dengan kebangkitan model penaakulan (reasoning models), AI bukan lagi menghasilkan keputusan sekali jalan, tetapi perlu menggunakan sejumlah besar token untuk penaakulan berbilang langkah dan berjujukan panjang bagi mendapatkan jawapan yang lebih tepat.

Kesesakan bagi beban kerja seperti ini selalunya bukan pada kuasa pengkomputeran puncak, tetapi pada sama ada kos inferens boleh dikawal dan sistem dapat berjalan dengan stabil untuk jangka masa panjang. Matlamat Vera Rubin ialah menjadikan inferens sebegini satu realiti yang boleh digunakan secara berskala besar.

Daripada Penggunaan Peribadi kepada Agentic Enterprise

Ini juga menjelaskan mengapa sasaran sebenar Vera Rubin ialah perusahaan, bukan sekadar senario penggunaan peribadi. Apabila AI mula memasuki proses teras perusahaan, ia mesti dapat mengakses data dalaman dengan selamat, mematuhi aliran kerja sedia ada, dan bertindak secara automatik selepas memahami serta menaakul, lalu menjadi sebahagian daripada operasi perniagaan.

Dalam senario “Agentic Enterprise” seperti ini, pengurangan kos inferens amat menentukan. Vera Rubin membawa kos setiap inference token yang boleh dikurangkan kepada satu persepuluh daripada generasi sebelumnya, membolehkan perusahaan mengalihkan sumber daripada pelaburan kuasa pengkomputeran asas kepada aplikasi AI dan reka bentuk proses yang benar-benar mencipta nilai.

Apabila Platform Ditakrif Semula, Kemungkinan AI Turut Ditulis Semula

Makna Vera Rubin bukan sekadar peningkatan angka prestasi, tetapi pengisytiharan bahawa pengkomputeran AI telah memasuki fasa baharu. Apabila unit pengkomputeran berkembang daripada cip kepada sistem, daripada pelayan kepada rack, peranan yang mampu dipikul oleh AI juga turut berubah.

Pada pendapat anda, adakah permintaan perusahaan terhadap AI yang lebih pintar dan lebih autonomi yang melahirkan platform seperti ini? Atau kemunculan platform inilah yang membuka imaginasi baharu perusahaan terhadap AI? Kongsikan pendapat anda di ruangan komen.

👉 Hubungi kami