華為云發(fā)布大模型混合云十大創(chuàng)新技術

6月22日，在華為開發(fā)者大會2024期間，以“大模型混合云，十大創(chuàng)新技術引領政企智能升級”為主題的高峰論壇成功舉辦。會上，華為主機上云軍團CEO、混合云總裁尚海峰發(fā)布大模型混合云十大創(chuàng)新技術，通過聚焦根技術突破，幫助政企客戶抓住大模型戰(zhàn)略機遇，加速邁向智能世界。

尚海峰表示：“大模型的創(chuàng)新除了模型本身，更要腳踏實地深入千行萬業(yè)，創(chuàng)造業(yè)務價值。華為云Stack將持續(xù)圍繞AI-Native開展系統(tǒng)性創(chuàng)新，在場景上廣泛探索，在技術上形成突圍，攜手共贏AI的黃金時代?！?/p>

華為主機上云軍團CEO、混合云總裁尚海峰

大模型混合云成為最優(yōu)解

大模型技術正在催生新一輪的技術創(chuàng)新和產(chǎn)業(yè)變革，行業(yè)專屬大模型正在成為大模型應用落地的重要方向。

作為大模型行業(yè)應用的主力軍和排頭兵，政企客戶通常業(yè)務場景復雜多樣，對數(shù)據(jù)安全、訓推效率和開發(fā)成本都有極致的要求。能夠兼顧安全合規(guī)與成本的大模型混合云，正在成為越來越多企業(yè)的優(yōu)先選擇。

2023年，華為云推出業(yè)界首個大模型混合云華為云Stack，幫助企業(yè)一站式建設自己的專屬大模型。

第一，堅實算力底座：華為云Stack從計算、存儲、網(wǎng)絡、安全和運維5大維度打造堅實的算力底座。在算力層面，通過多樣性算力調度和算子加速能力，實現(xiàn)異構算力融合，算力利用率提升50%以上；結合高性能存儲的多層緩存機制、高吞吐無阻塞AI網(wǎng)絡，讓算力發(fā)揮最大價值；四道大模型安全防線，可以智能攔截90%新興攻擊；打破硬件、模型、應用碎片化的運維體系，實現(xiàn)全鏈路可觀測，故障1分鐘發(fā)現(xiàn)、10分鐘定界、30分鐘恢復。

第二，使能百模千態(tài)：華為云Stack提供ModelArts一站式開發(fā)平臺，支持大規(guī)模異構集群調度管理、分布式訓練、云邊協(xié)同部署及全流程工作流，并提供模型開發(fā)套件、全鏈路數(shù)據(jù)工程套件、應用開發(fā)套件3大套件，加速數(shù)據(jù)、模型、應用的一站式開發(fā)。同時，華為云Stack原生集成超過30個業(yè)界主流的基礎模型，實現(xiàn)開箱即用。

第三，賦能千行萬業(yè)：華為云Stack將與政企客戶聯(lián)合創(chuàng)新中的經(jīng)驗和能力固化下來，形成6大階段30多個專業(yè)服務，覆蓋大模型從規(guī)劃設計到建設運營的全流程，讓大模型從可用到好用。

10大創(chuàng)新技術發(fā)布！

大模型的應用是一個復雜的系統(tǒng)工程，不僅僅在于單點技術的持續(xù)演進，更需要基于場景和需求匹配合適的技術，通過全鏈路、多技術融合的系統(tǒng)性創(chuàng)新整體推進。峰會上，尚海峰正式發(fā)布大模型混合云十大創(chuàng)新技術，包括：多樣性算力調度、云邊協(xié)同、AI-Native存儲、增強AI網(wǎng)絡、算子加速、全鏈路數(shù)據(jù)工程、統(tǒng)一數(shù)據(jù)編碼、精細視覺神經(jīng)網(wǎng)絡、無感斷點續(xù)訓、安全護欄，覆蓋從云基礎設施到AI開發(fā)平臺以及模型層，通過系統(tǒng)性創(chuàng)新加速政企大模型應用進程。

隨后，華為混合云數(shù)智領域總經(jīng)理徐強結合動畫演示向大家詳細介紹大模型混合云十大創(chuàng)新技術。徐強在演講中表示：“華為云Stack將持續(xù)深耕根技術，幫助更多的政企客戶，建好大模型、用好大模型、加速邁向智能世界！”

華為混合云數(shù)智領域總經(jīng)理徐強

四項全能，構筑最佳云化算力底座

隨著大模型能力不斷變強，模型參數(shù)不斷增加，對端、邊、云算力協(xié)同的整體架構設計提出了更高的要求。華為混合云CTO劉征輝在會上發(fā)表《打造最優(yōu)混合云底座，使能大模型創(chuàng)新》主題演講。

劉征輝表示，依托全系列產(chǎn)品研發(fā)經(jīng)驗，華為云Stack通過系統(tǒng)性創(chuàng)新，為政企客戶打造大規(guī)模、高性能、高可靠、云邊協(xié)同四項全能的云化算力底座，加速大模型應用進程。

華為混合云CTO劉征輝

在大規(guī)模方面，華為云Stack支持大規(guī)模AI集群和大容量訓練數(shù)據(jù)，支撐千億模型訓練集群部署。

在高性能方面，無阻塞互聯(lián)RoCE網(wǎng)絡可實現(xiàn)訓練效率提升50%，利用高性能存儲的多層緩存機制，小文件加載效率提升了20倍。

在高可靠方面，通過軟硬協(xié)同分鐘級故障感知定界，實現(xiàn)月級長穩(wěn)訓練；智能化的運維管理，覆蓋80%+故障場景、提升故障恢復能力，結合業(yè)界最成熟的安全運營方案、全覆蓋的AI數(shù)據(jù)安全方案以及最高安全等級的算力平臺，打造高安全算力。

在云邊協(xié)同方面，華為云Stack提供多種邊緣輕量化部署形態(tài)，AI高效賦能生產(chǎn)場站；并通過多云合一的管理架構，多云擇優(yōu)的調度策略實現(xiàn)多云算力管理。

深入場景，共筑商業(yè)成功

華為云持續(xù)深入行業(yè)場景，理解業(yè)務痛點，采用系統(tǒng)化思維，聯(lián)合客戶、開發(fā)者、同行、合作伙伴等上下游，持續(xù)構筑大模型的商業(yè)成功。目前，華為云Stack大模型混合云已應用于政府、金融、煤礦、交通、電力等10多個行業(yè)。

在政府，華為云聯(lián)合廣州、紹興、深圳福田等客戶一起基于大模型探索提升政務服務效率、優(yōu)化城市管理。

廣州市政務服務和數(shù)據(jù)管理局副局長梁文謙發(fā)表《數(shù)智引領未來，AI共繪藍圖》主題演講。梁文謙表示，廣州政數(shù)局勇于探索，實現(xiàn)算力、數(shù)據(jù)、算法三位一體協(xié)同發(fā)展，通過模式創(chuàng)新、技術引領，實現(xiàn)廣州跨越式發(fā)展，老城市煥發(fā)新活力，打造數(shù)字經(jīng)濟引領型國際一流智慧城市。

廣州市政務服務和數(shù)據(jù)管理局副局長梁文謙

目前，廣州聯(lián)合華為等頭部企業(yè)，成立數(shù)字廣州創(chuàng)新實驗室，率先啟動大模型合作創(chuàng)新。在政務服務領域，推進“智能辦公”、“智能導辦”等大模型試點應用場景落地，構建市區(qū)統(tǒng)籌的一體化大模型開發(fā)運營平臺；實現(xiàn)政務事項精準問詢導辦，邊聊邊辦，24小時服務不打烊；辦公全程有幫手，智能生成摘要，推薦歷史審批數(shù)據(jù)，實現(xiàn)輔助批示，整體辦公效率大幅提升，加速實現(xiàn)國際一流智慧城市發(fā)展目標。

在工業(yè)，華為云聯(lián)合鄂爾多斯、山能等客戶，探索通過礦山大模型加云邊協(xié)同幫助礦山增安提效，同時推進礦山大模型、工業(yè)互聯(lián)網(wǎng)平臺的融合發(fā)展，賦能礦山產(chǎn)業(yè)集群的智能化。

鄂爾多斯市創(chuàng)新投資集團有限公司副總經(jīng)理廉詠梅出席峰會并發(fā)表演講。

鄂爾多斯市創(chuàng)新投資集團有限公司副總經(jīng)理廉詠梅

廉詠梅在演講中分享，為了加速煤礦產(chǎn)業(yè)智能化發(fā)展，鄂爾多斯市政府與華為聯(lián)合打造內蒙古首個以行業(yè)AI大模型為核心的工業(yè)互聯(lián)網(wǎng)平臺，向煤企和伙伴提供開發(fā)、銷售、運營等一站式服務，實現(xiàn)300+煤企統(tǒng)一接入，提供統(tǒng)一的AI算力資源和創(chuàng)新平臺，賦能生態(tài)企業(yè)。

會上，鄂爾多斯市數(shù)字投資有限公司與華為云聯(lián)合發(fā)布《礦山產(chǎn)業(yè)集群大模型運營最佳實踐》白皮書，希望沉淀平臺運營過程中的實踐經(jīng)驗，為同行數(shù)智化轉型提供參考路徑。

《礦山產(chǎn)業(yè)集群大模型運營最佳實踐白皮書》白皮書發(fā)布

攜手共贏大模型生態(tài)

華為云Stack旨在打造更優(yōu)的大模型底座和基礎能力，通過工具和專業(yè)服務使能懂行的生態(tài)伙伴，共同探索更多大模型與行業(yè)結合的創(chuàng)新路徑。

目前已經(jīng)有政府、金融、礦山、能源等行業(yè)100多個重點伙伴基于盤古大模型及開發(fā)平臺構建行業(yè)場景模型和創(chuàng)新應用，打造了豐富的行業(yè)大模型方案。面向未來，華為云Stack將以堅定的戰(zhàn)略耐心，持續(xù)深入行業(yè)場景，與客戶、合作伙伴一起共迎AI的黃金時代。