Huawei Cloud: Menumbuhkan Landasan Subur untuk Komputasi, Memberdayakan Pelopor AI untuk Industri

VISI.NEWS | SHANGHAI, TIONGKOK - Pada hari kedua HUAWEI CONNECT 2025, Zhang Ping'an, Direktur Eksekutif Huawei dan CEO Huawei Cloud, menyampaikan pidato utama berjudul "All Intelligence: Empowering AI Pioneers for Industries". Dalam pidatonya, ia membagikan inovasi dan praktik Huawei Cloud dalam layanan komputasi AI, model dasar, AI yang tertanam (embodied AI), agen AI, dan banyak lagi.

Inovasi Berkelanjutan dalam Layanan Komputasi AI: Membuka Potensi Komputasi yang Kuat di Era Cerdas

Tahun ini, Huawei Cloud mengumumkan Layanan Komputasi AI yang didorong oleh CloudMatrix384. Spesifikasi supernode Huawei CloudMatrix akan ditingkatkan dari 384 kartu menjadi 8.192 kartu. Supernode ini dapat mendukung klaster hiperskala yang berjalan pada 500.000 hingga 1 juta kartu, sehingga menyediakan komputasi AI yang kuat, sumber daya tak ternilai di era cerdas. Huawei Cloud juga mengumumkan inovasi penyimpanan memori dengan Elastic Memory Service (EMS), yang mencapai terobosan industri pertama dengan memperluas video RAM dengan memori. Hal ini secara drastis mengurangi latensi percakapan multi-putaran pada model dasar, secara signifikan meningkatkan pengalaman pengguna.

Huawei Cloud telah membangun pusat data AI berpendingin cair sepenuhnya di Guizhou, Mongolia Dalam, dan Anhui, Tiongkok. Pusat data AI ini mendukung dissipasi panas hingga 80 kW per rak, mengurangi efektivitas penggunaan daya (PUE) menjadi 1,1, dan menawarkan O&M yang didukung oleh AI. Ini berarti perusahaan tidak perlu membangun ulang pusat data tradisional atau membangun yang baru. Sebaliknya, mereka hanya membutuhkan sepasang serat optik untuk menghubungkan ke pusat data dan mengakses komputasi AI yang efisien, serta layanan cloud AI khusus full-stack, di Huawei Cloud.

Zhang Ping'an menekankan bahwa Layanan AI Token Huawei Cloud mengabstraksi kompleksitas teknis yang mendasarinya dan langsung memberikan hasil komputasi AI kepada pengguna. Ini memungkinkan pengguna untuk memanfaatkan daya komputasi inferensi dengan cara yang paling efisien. Supernode CloudMatrix384 mewujudkan pemrograman penuh dari sumber daya komputasi, memori, dan penyimpanan, memisahkan tugas komputasi, tugas penyimpanan, dan sistem ahli AI, serta mengubah tugas serial menjadi tugas paralel terdistribusi, yang secara signifikan meningkatkan kinerja inferensi sistem. Dalam skenario yang melibatkan tugas inferensi dengan persyaratan latensi yang berbeda, seperti inferensi online, nearline, dan offline, CloudMatrix384 memberikan kinerja inferensi rata-rata per kartu yang 3 hingga 4 kali lipat lebih cepat dibandingkan dengan H20.