《開(kāi)放加速規范AI服務(wù)器設計指南》發(fā)布

在日前舉辦的OCP　ChinaDay大會(huì )上，業(yè)界首個(gè)面向AIGC（生成式人工智能）的《開(kāi)放加速規范AI服務(wù)器設計指南》（以下簡(jiǎn)稱(chēng)指南）正式發(fā)布。

浪潮信息服務(wù)器產(chǎn)品線(xiàn)總經(jīng)理趙帥介紹，該指南面向AIGC實(shí)際應用場(chǎng)景，細化完善了開(kāi)放加速規范AI服務(wù)器的設計理論和方法，明確了硬件設計參考、管理接口規范和性能測試標準等，將為新興的AI芯片創(chuàng )新提供有力的系統平臺支撐，幫助AI芯片企業(yè)縮短研發(fā)和系統適配周期，大大減少開(kāi)發(fā)費用，更快釋放算力價(jià)值，有效加速多元算力產(chǎn)業(yè)發(fā)展，助力AIGC時(shí)代的AI計算產(chǎn)業(yè)跨越“創(chuàng )新”鴻溝。

加速開(kāi)放計算產(chǎn)業(yè)發(fā)展，系統級產(chǎn)品創(chuàng )新是關(guān)鍵。在基礎硬件、基礎軟件、核心應用、上層生態(tài)間建立起統一的技術(shù)路線(xiàn)及標準API接口，將加速器模塊標準化，簡(jiǎn)化人工智能基礎架構設計，能夠有效縮短硬件開(kāi)發(fā)和產(chǎn)業(yè)賦能周期。

(資料圖片僅供參考)

當前，以大模型為代表的AIGC熱潮帶來(lái)了AI算力需求的爆發(fā)式增長(cháng)。更豐富的算力資源成為人工智能競爭的核心基石?？梢哉f(shuō)，計算力就是生產(chǎn)力，智算力就是創(chuàng )新力。IDC預計，全球　AI計算市場(chǎng)規模將從2022年的195億美元增長(cháng)到2026年的346.6億美　元，其中生成式AI計算市場(chǎng)規模將從　2022年的8.2億美元增長(cháng)到2026年的　109.9億美元。生成式AI計算占整體　AI計算市場(chǎng)的比例將從4.2%增長(cháng)到　31.7%。

AIGC技術(shù)創(chuàng )新是一項復雜的系統工程，需要基于海量數據集，在擁有成百上千加速卡的AI服務(wù)器集群上對千億級參數的AI大模型進(jìn)行分布式訓練，這對算力資源的規模提出了極高的要求，也對算力系統設計帶來(lái)了新的挑戰，要求單機具有更高的擴展性、集群具有更高的加速比，由此對卡間互聯(lián)、網(wǎng)絡(luò )帶寬和延遲提出了更高的要求。

隨著(zhù)AI大模型、超大模型的不斷發(fā)展，芯片公司相繼推出了新形態(tài)的AI加速卡來(lái)支持更高的功耗和更強大的卡間互聯(lián)能力。當前，隨著(zhù)數據中心用戶(hù)對AI計算力需求的不斷攀升，全球已有上百家公司投入新型AI芯片的研發(fā)與設計，人工智能芯片發(fā)展呈現多元化趨勢。但各廠(chǎng)商采用不同技術(shù)路線(xiàn)，導致產(chǎn)業(yè)面臨硬件體系孤島和生態(tài)割裂問(wèn)題，帶來(lái)算力產(chǎn)業(yè)發(fā)展高成本和低靈活性的問(wèn)題。

“統一開(kāi)放的產(chǎn)業(yè)標準能有效降低技術(shù)獲取成本，推動(dòng)創(chuàng )新技術(shù)普及，為產(chǎn)業(yè)發(fā)展賦能提速?！崩顺毙畔I&HPC產(chǎn)品線(xiàn)高級產(chǎn)品經(jīng)理張政說(shuō)。

據了解，以OCP為代表的開(kāi)放計算項目，推出全新的、全球化的產(chǎn)業(yè)協(xié)作模式，通過(guò)消除技術(shù)壁壘，加快計算產(chǎn)業(yè)創(chuàng )新的速度。其中，OCP的OAI（開(kāi)放加速器基礎設施）開(kāi)放標準極大地激發(fā)了AI計算基礎設施集成的創(chuàng )新。目前，已有包括浪潮信息、Intel、燧原科技等10+系統和芯片廠(chǎng)商，通過(guò)開(kāi)放、合作為市場(chǎng)推出10余款符合OAM標準的開(kāi)放加速AI服務(wù)器，并在全球范圍內開(kāi)展成功實(shí)踐，充分論證了技術(shù)可行性，構建起茁壯的生態(tài)體系。

張政介紹，早在2019年OCP剛成立OAI小組時(shí)，浪潮信息作為主導的核心成員之一，牽頭組織制定了UBB、OAM（云原生應用）等規范，此后又發(fā)布了業(yè)界首個(gè)開(kāi)放加速參考系統MX1。浪潮信息還協(xié)同合作伙伴，共同完成了早期OAM的技術(shù)驗證和積累，并發(fā)布了首款OAM服務(wù)器，將開(kāi)放加速真正快速投入到產(chǎn)業(yè)應用中。在產(chǎn)業(yè)化落地的過(guò)程中，浪潮信息積累了很多經(jīng)驗，并總結轉化從而形成《開(kāi)放加速規范AI服務(wù)器設計指南》，以加速培育產(chǎn)業(yè)生態(tài)。

“事實(shí)上，我們也是國內最早做AI加速卡間高速互連技術(shù)的企業(yè)，對于如何構建大規模的訓練系統、如何加速AI模型訓練，我們有豐富的經(jīng)驗。浪潮信息AI服務(wù)器在市場(chǎng)規模和技術(shù)方面都有著(zhù)領(lǐng)先的優(yōu)勢?！壁w帥說(shuō)。

據了解，開(kāi)放加速計算的硬件架構正是為超大規模深度神經(jīng)網(wǎng)絡(luò )模型并行計算而生，天然適用于A(yíng)IGC大模型訓練。然而，當前開(kāi)放計算技術(shù)推向產(chǎn)業(yè)落地的過(guò)程中，依然存在大量的定制化工作以及現有OAI標準未能完全覆蓋的領(lǐng)域。因此，浪潮信息基于豐富的開(kāi)放加速計算工程實(shí)踐和產(chǎn)品歷程，發(fā)布面向AIGC的指南，提出四大設計原則、全棧設計方法，旨在幫助社區成員更快更好地開(kāi)發(fā)符合開(kāi)放加速規范的AI加速卡，并大幅縮短與AI服務(wù)器的適配周期，為用戶(hù)提供最佳匹配應用場(chǎng)景的AI算力產(chǎn)品方案。

其中，四大設計原則為應用導向原則、多元開(kāi)放原則、綠色高效原則和統籌設計原則?；谏鲜鲈O計原則，以提高適配部署效率、提高系統穩定性、提高系統可用性為目標，《指南》進(jìn)一步歸納總結出開(kāi)放加速規范AI服務(wù)器的設計方法，即多維協(xié)同設計、全面系統測試、性能測評調優(yōu)。

業(yè)內人士認為，開(kāi)放加速規范的AI服務(wù)器可為AI芯片創(chuàng )新提供成熟的系統平臺支撐，幫助AI芯片廠(chǎng)商聚焦于芯片創(chuàng )新研發(fā)，實(shí)現更科學(xué)合理的產(chǎn)業(yè)分工，避免封閉技術(shù)生態(tài)存在的單點(diǎn)單線(xiàn)風(fēng)險，推動(dòng)智算產(chǎn)業(yè)生態(tài)健康發(fā)展；另一方面，基于開(kāi)放加速工程實(shí)踐和成熟計算平臺總結的設計指南，可加速有競爭力的AI芯片的創(chuàng )新研發(fā)和落地部署，有效節省研發(fā)投入并縮短開(kāi)發(fā)適配周期50%以上，為用戶(hù)提供可以用來(lái)支撐AIGC大模型訓練的多元算力解決方案，以多元算力之道破解當下AI算力供需難題。（經(jīng)濟日報記者 黃鑫）

標簽：