【相關(guān)閱讀】華為將發(fā)布AI領(lǐng)域突破性技術(shù) 有望解決算力資源利用效率難題  

　　華為將發(fā)布AI領(lǐng)域突破性技術(shù) 國(guó)產(chǎn)算力投資機(jī)遇凸顯  

　　上證報(bào)11月16日獲悉，對(duì)標(biāo)達(dá)華華為將于本周舉辦2025 AI容器應(yīng)用落地與發(fā)展論壇，英偉源利用效會(huì)上將發(fā)布AI領(lǐng)域突破性技術(shù)成果，為將望解相關(guān)技術(shù)有望解決算力資源利用效率難題。重磅

　　據(jù)透露，發(fā)布該技術(shù)延續(xù) “以軟件補(bǔ)硬件” 的突破題創(chuàng)新思路，可將GPU、性技NPU等算力資源利用率從行業(yè)平均30%-40%大幅提升至70%，決算顯著釋放算力硬件潛能。力資率難

　　據(jù)了解，對(duì)標(biāo)達(dá)華華為這項(xiàng)新技術(shù)將對(duì)標(biāo)英偉達(dá)2024年底收購(gòu)的英偉源利用效以色列公司Run： ai的核心技術(shù)，旨在通過(guò)軟件創(chuàng)新，為將望解實(shí)現(xiàn)英偉達(dá)、重磅昇騰以及其他三方算力的發(fā)布統(tǒng)一資源管理與利用，“屏蔽”算力硬件差異，突破題為AI訓(xùn)練推理提供更高效的資源支撐。

　　2024年12月，英偉達(dá)宣布以7億美元（約合人民幣51億元）價(jià)格，收購(gòu)2018年成立的以色列公司Run：ai。Run：ai的核心產(chǎn)品是基于kubernetes（開(kāi)源容器編排平臺(tái)）構(gòu)建的軟件平臺(tái)，用于調(diào)度GPU的計(jì)算資源，通過(guò)動(dòng)態(tài)調(diào)度、池化、分片等技術(shù)，實(shí)現(xiàn)GPU資源利用率的優(yōu)化，讓深度學(xué)習(xí)訓(xùn)練與推理任務(wù)在企業(yè)級(jí)環(huán)境中高效運(yùn)行。

　　在先進(jìn)制程受限、單顆芯片算力與國(guó)外有差距的背景下，華為積極軟件創(chuàng)新上使力，希望通過(guò)“以系統(tǒng)補(bǔ)單點(diǎn)”“以軟件補(bǔ)硬件”，彌補(bǔ)芯片方面的不足。11月11日，華為公布的第六屆“十大發(fā)明”評(píng)選結(jié)果里，排名第一的Scale-up超大規(guī)模超節(jié)點(diǎn)算力平臺(tái)就是用系統(tǒng)架構(gòu)和互聯(lián)技術(shù)彌補(bǔ)單芯性能短板的技術(shù)之一。

　　上述發(fā)明將超節(jié)點(diǎn)內(nèi)的異構(gòu)并行處理器、CPU、內(nèi)存、存儲(chǔ)等資源，通過(guò)高速互聯(lián)總線形成全對(duì)等互聯(lián)架構(gòu)，實(shí)現(xiàn)共享內(nèi)存池；資源可根據(jù)不同的任務(wù)需求，像搭積木一樣進(jìn)行靈活調(diào)配組合，實(shí)現(xiàn)了“一切皆對(duì)等、一切皆可池化、一切皆可組合”，使數(shù)百、數(shù)千個(gè)AI處理器聯(lián)接起來(lái)，像一臺(tái)計(jì)算機(jī)一樣工作、學(xué)習(xí)、思考、推理。