來(lái)源：中國(guó)基金報(bào)
中國(guó)基金報(bào)記者 邱德坤
記者11月16日獲悉，華為華為將在11月21日發(fā)布AI領(lǐng)域的突破突破性技術(shù)，有望解決算力資源利用效率的華為難題。
具體來(lái)看，突破華為即將發(fā)布AI領(lǐng)域的華為突破性技術(shù)，可將GPU（圖形處理器）、突破NPU（神經(jīng)網(wǎng)絡(luò)處理器）等算力資源的華為利用率，從行業(yè)平均的突破30%至40%提升至70%，顯著釋放算力硬件潛能。華為
據(jù)透露，突破華為即將發(fā)布AI領(lǐng)域的華為突破性技術(shù)，是突破通過(guò)軟件創(chuàng)新實(shí)現(xiàn)英偉達(dá)、昇騰及其他三方算力的華為統(tǒng)一資源管理與利用，屏蔽算力硬件差異，突破為AI訓(xùn)練推理提供更高效的華為資源支撐。
同時(shí)，華為即將發(fā)布AI領(lǐng)域的突破性技術(shù)，與以色列AI初創(chuàng)公司Run:ai的核心技術(shù)路線有共同性，后者在2024年底被英偉達(dá)以7億美元資金收購(gòu)。
公開(kāi)資料顯示，Run:ai自2018年成立以來(lái)，一直專注于GPU調(diào)度技術(shù)，并致力于打造一個(gè)能將AI模型拆分并行運(yùn)行的平臺(tái)，無(wú)論硬件位于本地、云端還是邊緣。
據(jù)悉，管理生成式AI、推薦系統(tǒng)、搜索引擎等工作負(fù)載，需要復(fù)雜的調(diào)度來(lái)優(yōu)化系統(tǒng)和底層硬件的性能。
Run:ai的核心產(chǎn)品是基于kubernetes（開(kāi)源容器編排平臺(tái)）構(gòu)建的軟件平臺(tái)，用于調(diào)度GPU的計(jì)算資源，通過(guò)動(dòng)態(tài)調(diào)度、池化、分片等技術(shù)，實(shí)現(xiàn)GPU資源利用率的優(yōu)化，讓深度學(xué)習(xí)訓(xùn)練與推理任務(wù)在企業(yè)級(jí)環(huán)境中高效運(yùn)行。
校對(duì)：王玥
制作：小茉
審核：木魚(yú)
(責(zé)任編輯：焦點(diǎn))
