《開放加速規(guī)范AI服務器設計指南》發(fā)布
在日前舉辦的OCP ChinaDay大會上,業(yè)界首個面向AIGC(生成式人工智能)的《開放加速規(guī)范AI服務器設計指南》(以下簡稱指南)正式發(fā)布。
浪潮信息服務器產品線總經(jīng)理趙帥介紹,該指南面向AIGC實際應用場景,細化完善了開放加速規(guī)范AI服務器的設計理論和方法,明確了硬件設計參考、管理接口規(guī)范和性能測試標準等,將為新興的AI芯片創(chuàng)新提供有力的系統(tǒng)平臺支撐,幫助AI芯片企業(yè)縮短研發(fā)和系統(tǒng)適配周期,大大減少開發(fā)費用,更快釋放算力價值,有效加速多元算力產業(yè)發(fā)展,助力AIGC時代的AI計算產業(yè)跨越“創(chuàng)新”鴻溝。
(資料圖片僅供參考)
加速開放計算產業(yè)發(fā)展,系統(tǒng)級產品創(chuàng)新是關鍵。在基礎硬件、基礎軟件、核心應用、上層生態(tài)間建立起統(tǒng)一的技術路線及標準API接口,將加速器模塊標準化,簡化人工智能基礎架構設計,能夠有效縮短硬件開發(fā)和產業(yè)賦能周期。
當前,以大模型為代表的AIGC熱潮帶來了AI算力需求的爆發(fā)式增長。更豐富的算力資源成為人工智能競爭的核心基石??梢哉f,計算力就是生產力,智算力就是創(chuàng)新力。IDC預計,全球 AI計算市場規(guī)模將從2022年的195億美元增長到2026年的346.6億美 元,其中生成式AI計算市場規(guī)模將從 2022年的8.2億美元增長到2026年的 109.9億美元。生成式AI計算占整體 AI計算市場的比例將從4.2%增長到 31.7%。
AIGC技術創(chuàng)新是一項復雜的系統(tǒng)工程,需要基于海量數(shù)據(jù)集,在擁有成百上千加速卡的AI服務器集群上對千億級參數(shù)的AI大模型進行分布式訓練,這對算力資源的規(guī)模提出了極高的要求,也對算力系統(tǒng)設計帶來了新的挑戰(zhàn),要求單機具有更高的擴展性、集群具有更高的加速比,由此對卡間互聯(lián)、網(wǎng)絡帶寬和延遲提出了更高的要求。
隨著AI大模型、超大模型的不斷發(fā)展,芯片公司相繼推出了新形態(tài)的AI加速卡來支持更高的功耗和更強大的卡間互聯(lián)能力。當前,隨著數(shù)據(jù)中心用戶對AI計算力需求的不斷攀升,全球已有上百家公司投入新型AI芯片的研發(fā)與設計,人工智能芯片發(fā)展呈現(xiàn)多元化趨勢。但各廠商采用不同技術路線,導致產業(yè)面臨硬件體系孤島和生態(tài)割裂問題,帶來算力產業(yè)發(fā)展高成本和低靈活性的問題。
“統(tǒng)一開放的產業(yè)標準能有效降低技術獲取成本,推動創(chuàng)新技術普及,為產業(yè)發(fā)展賦能提速?!崩顺毙畔I&HPC產品線高級產品經(jīng)理張政說。
據(jù)了解,以OCP為代表的開放計算項目,推出全新的、全球化的產業(yè)協(xié)作模式,通過消除技術壁壘,加快計算產業(yè)創(chuàng)新的速度。其中,OCP的OAI(開放加速器基礎設施)開放標準極大地激發(fā)了AI計算基礎設施集成的創(chuàng)新。目前,已有包括浪潮信息、Intel、燧原科技等10+系統(tǒng)和芯片廠商,通過開放、合作為市場推出10余款符合OAM標準的開放加速AI服務器,并在全球范圍內開展成功實踐,充分論證了技術可行性,構建起茁壯的生態(tài)體系。
張政介紹,早在2019年OCP剛成立OAI小組時,浪潮信息作為主導的核心成員之一,牽頭組織制定了UBB、OAM(云原生應用)等規(guī)范,此后又發(fā)布了業(yè)界首個開放加速參考系統(tǒng)MX1。浪潮信息還協(xié)同合作伙伴,共同完成了早期OAM的技術驗證和積累,并發(fā)布了首款OAM服務器,將開放加速真正快速投入到產業(yè)應用中。在產業(yè)化落地的過程中,浪潮信息積累了很多經(jīng)驗,并總結轉化從而形成《開放加速規(guī)范AI服務器設計指南》,以加速培育產業(yè)生態(tài)。
“事實上,我們也是國內最早做AI加速卡間高速互連技術的企業(yè),對于如何構建大規(guī)模的訓練系統(tǒng)、如何加速AI模型訓練,我們有豐富的經(jīng)驗。浪潮信息AI服務器在市場規(guī)模和技術方面都有著領先的優(yōu)勢?!壁w帥說。
據(jù)了解,開放加速計算的硬件架構正是為超大規(guī)模深度神經(jīng)網(wǎng)絡模型并行計算而生,天然適用于AIGC大模型訓練。然而,當前開放計算技術推向產業(yè)落地的過程中,依然存在大量的定制化工作以及現(xiàn)有OAI標準未能完全覆蓋的領域。因此,浪潮信息基于豐富的開放加速計算工程實踐和產品歷程,發(fā)布面向AIGC的指南,提出四大設計原則、全棧設計方法,旨在幫助社區(qū)成員更快更好地開發(fā)符合開放加速規(guī)范的AI加速卡,并大幅縮短與AI服務器的適配周期,為用戶提供最佳匹配應用場景的AI算力產品方案。
其中,四大設計原則為應用導向原則、多元開放原則、綠色高效原則和統(tǒng)籌設計原則?;谏鲜鲈O計原則,以提高適配部署效率、提高系統(tǒng)穩(wěn)定性、提高系統(tǒng)可用性為目標,《指南》進一步歸納總結出開放加速規(guī)范AI服務器的設計方法,即多維協(xié)同設計、全面系統(tǒng)測試、性能測評調優(yōu)。
業(yè)內人士認為,開放加速規(guī)范的AI服務器可為AI芯片創(chuàng)新提供成熟的系統(tǒng)平臺支撐,幫助AI芯片廠商聚焦于芯片創(chuàng)新研發(fā),實現(xiàn)更科學合理的產業(yè)分工,避免封閉技術生態(tài)存在的單點單線風險,推動智算產業(yè)生態(tài)健康發(fā)展;另一方面,基于開放加速工程實踐和成熟計算平臺總結的設計指南,可加速有競爭力的AI芯片的創(chuàng)新研發(fā)和落地部署,有效節(jié)省研發(fā)投入并縮短開發(fā)適配周期50%以上,為用戶提供可以用來支撐AIGC大模型訓練的多元算力解決方案,以多元算力之道破解當下AI算力供需難題。(經(jīng)濟日報記者 黃鑫)
標簽:
推薦
財富更多》
-
《開放加速規(guī)范AI服務器設計指南》發(fā)布
《開放加速規(guī)范AI服務器設計指南》發(fā)布-...
-
河南焦作武陟:“甜蜜產業(yè)”讓群眾日子越過越甜
河南焦作武陟:“甜蜜產業(yè)”讓群眾日子...
-
山東武城:一杯清茶化干戈為玉帛
山東武城:一杯清茶化干戈為玉帛---近日...
-
暑期中國熱門城市機票預訂量較2019年同期增四成
暑期中國熱門城市機票預訂量較2019年同...
-
東風集團股份預計上半年利潤同比下降約75%
東風集團股份預計上半年利潤同比下降約7...
動態(tài)更多》
熱點
- realme10系列正式宣布 采用雙曲面屏正面頂部居中挖孔
- 五菱全新微型電動車內飾官圖發(fā)布 座椅采用星際形打孔工藝
- 努比亞Z40星空典藏版正式開售 采用微米級油畫筆觸紋理技術
- iQOO11系列正式官宣 首批搭載驍龍8Gen2機型之一
- 海信34英寸帶魚屏顯示器發(fā)布 支持165Hz刷新率
- OPPO明年將商用240W超級閃充 新一代電芯支持更高倍率充電
- 第一款Android手機渲染圖曝光 橫向滑蓋設計和全尺寸鍵盤
- 吉利首款純電皮卡11月9日上市 車輛續(xù)航里程超過610公里
- 努比亞Z40SPro星空典藏版正式公布 堪稱窄邊框天花板
- vivo無線運動耳機2今日正式上市 首銷只要119元
- 葉縣農商銀召開信貸業(yè)務培訓會
- 依托捷能智電,上汽飛凡與兩桶油、寧王加速換電體系建設
- ?2023年8月15日《今日高新區(qū)》資訊
- 注意!蔚藍鋰芯將于8月30日召開股東大會
- 開學季丨大學新生可購買鐵路學生優(yōu)惠票
- 預計8月底完工!淄博市快速路網(wǎng)昌國路上跨張博鐵路立交橋工程進展順利
- “賡續(xù)歷史文脈·譜寫當代華章”第五屆淄博市少兒詩詞誦讀大賽暨第六屆全省少兒詩詞誦讀大賽淄博地區(qū)選拔賽舉行
- 首次!哈登公開控訴莫X!徹底撕破臉!留在76人只剩一個辦法....
- BubbleAI獲得數(shù)百萬美元 Pre-Seed 輪融資
- 印尼高官:馬斯克最早下月底到訪雅加達,洽談鋰電池領域投資
- 消息稱抖音新成立文娛部門,整合多項業(yè)務
- Pockit獲得1000萬人民幣戰(zhàn)略投資
- 三條新線在此交會!沿江高鐵荊門西站主體結構封頂
- 尼好,戲?。∧愫?,濟寧
- GORO獲得100萬美元Pre-seed輪融資
- 北京治療阿爾茲海默癥的醫(yī)院
- 戲“聚”孔孟之鄉(xiāng) 共享文化盛宴
- 寶豐:電影送到家門口 文化惠民零距離
- 上海精神病醫(yī)院在哪里
- 山東念好“生態(tài)經(jīng)” 讓閑置荒地變身“聚寶盆”
- 列車臨時停車8分鐘 接力救助七旬患病老人
- 臨淄:企業(yè)“夜市”亮崗位 求職者“逛街”找工作
- 消息稱蘋果正在制作兩部梅西紀錄片,揭露獨家幕后花絮
- 私募逆勢加倉,百億私募股票倉位重回八成
- 交互式海報|2023綠碳大會百科⑦優(yōu)選項目總投資超八千億元
- 3品牌召回8.32萬輛乘用車 林肯MKC存發(fā)動機艙起火隱患
- 特斯拉Model Y再降價 降幅達1.4萬元
- 小牛電動Q2營收8.29億元轉盈為虧,凈虧損190萬元
- 傳釘釘將獨立發(fā)展,阿里戰(zhàn)略孵化創(chuàng)新業(yè)務加速
- 全國存款284萬億!知情人:普通人儲蓄超100萬,這3種錢是主力
- 鐵姆肯公司攜手ATEC,提供創(chuàng)新解決方案助力澳大利亞光伏太陽能項目
- 譽衡藥業(yè)擬定增募資不超3億元 近3年扣非后均虧損
- 第二十屆西北五?。▍^(qū))“花兒”演唱會青海開幕
- 精彩體育,相約北京!2023年服貿會體育服務專題將于9月2日在首鋼園舉辦
- 8月14日國內黃金期貨漲0.26%
- 大宗交易:格靈深瞳成交200.12萬元,折價12.55%(08-14)
- 核酸檢測不香了,華大基因上半年凈利潤下降91%
- 人力資源數(shù)據(jù)分析基礎課后測試 人力資源數(shù)據(jù)分析報表
- 鎮(zhèn)原縣召開質量強縣建設協(xié)調推進領導小組 成員單位第二次聯(lián)席會議
- 提示icudt59.dll丟失報錯如何解決
- 寧德時代預計將發(fā)布快充新品:充電10分鐘可行駛400公里
- 強化汛后監(jiān)管 保障食品安全
- 華能國際:2023年8月第一周印尼ICI43800大卡指數(shù)(FOB)51.53美元,去年同期為77.836美元
- 超圖軟件:上半年凈利潤5296萬元 同比轉盈
- 匯中股份2023年上半年凈利4232萬 同比減少10.81%
- 鐵路部門壓緊壓實安全責任 確保暑運安全穩(wěn)定
- 永安行在麗江成立智能科技公司
- 普漲!生豬價格迎來上漲拐點?
- 阿里入股跨境出口電商WOOK 阿里投資沃客非凡
- Rekosistem獲得500萬美元戰(zhàn)略投資
- 《新生活》淄博昌國醫(yī)院 李金巧主任專訪 哪些心臟疾病需要放支架治療?
- 上海臨港榮盛集團成立房地產公司 注冊資本15億
- 國債期貨收盤普漲
- 優(yōu)質服務讓商戶找到家的感覺
- 如何打開xmind文件 xmind文件的打開方法 .xmind文件用什么打開
- FF正式交付首輛FF 91
- 《新生活》淄博市第四人民醫(yī)院 王素玲主任專訪 身體哪些表現(xiàn)可能是患肺???
- 全城嗨?。∽筒┯忠弧俺绷鱅P”火遍全國,吉利雷達邀你暢享2023淄博青島啤酒節(jié)
- 轉會費3000萬鎊!官方:西漢姆簽下普勞斯,合同至2027年
- 三階魔方入門教程 新手(三階魔方入門教程)
- 多省市8月份養(yǎng)老金將重算補發(fā),企退和事退,誰補發(fā)的多?看看
- 我國成功發(fā)射和德三號A-E星
- 長壽年代,誰能成為下階段壽險主打產品?
- 公安部交管局推進交管業(yè)務延伸下放 便利農村群眾申領交管牌證
- 商務部等9部門辦公廳(室)印發(fā)《縣域商業(yè)三年行動計劃(2023-2025年)》
- 2023年服貿會看點滿滿 釋放對外開放信心
- 中國首成iPhone最大市場
- 碳市場激勵效應初顯 綠色產業(yè)擴容迅速
- 斬斷伸向個人簡歷的“黑手”
- 全國中學校長高峰論壇花絮:校長暢談教育 現(xiàn)場座無虛席
- 推動線上線下融合 各地發(fā)力“解鎖”暑期消費新場景
- 阿里在深圳成立文化科技公司 含人工智能業(yè)務
- 接近小鵬人士:特斯拉降價后價格區(qū)間與小鵬G6主銷區(qū)間不重疊,對與G6的競爭格局沒有影響
- 事關蔬菜穩(wěn)產保供,農業(yè)農村部緊急通知→
- 收評:創(chuàng)業(yè)板指跌1.02% 數(shù)據(jù)確權等午后反彈
- 東貝集團:目前,公司超低溫壓縮機已小批量向美的集團等公司供貨
- 收評:滬指探底回升跌0.34%,創(chuàng)業(yè)板指跌超1%,數(shù)據(jù)要素概念表現(xiàn)搶眼
- 國鐵集團回復會否推出60歲以上老人高鐵年票
- 透景生命:公司自產試劑主要圍繞腫瘤標志物、HPV、自身免疫疾病、心血管疾病、優(yōu)生優(yōu)育等領域
- 雞蛋價格大漲 為何不“蛋”定?接下來怎么走?
- 祝賀!我國成功發(fā)射和德三號A~E星
- 周一尾盤異動提醒:天璣科技漲近10%,領漲私有云概念
- 鹽城發(fā)生龍卷風致2死15傷,為何江蘇龍卷風多發(fā)?
- 黃瓜咸菜腌咸了怎么補救(黃瓜咸菜)
- 夏季的褲子應該這樣選,褲長應在膝蓋以下,褲腿要寬,輕松打造大長腿
- 悉智科技獲得A輪投資
- 法國鱷魚千元羽絨服不合格被罰 法國鱷魚因質量問題被罰超167萬
- 恒韌智能完成Pre-A輪融資
- 羽璽新材今日掛牌新三板
- 99元睡大廳酒店被罰10萬 99元睡大廳涉事酒店虛假宣傳被罰
- 手機路由器設置教程_路由器設置教程
- 藝術|中國美術學院教授作品邀請展在南昌開幕
- 微信里面理財通在哪里_微信理財通在哪里找
- 蓬萊區(qū)美德信用建設專場晚會精彩上演
- 馬特烏斯:凱恩轉會的流程不尋常,他太累了讓他德超杯首秀是錯的
- 林州市鑫淼商貿有限公司(關于林州市鑫淼商貿有限公司的簡介)
- 林州市龍山街道西街村志愿服務隊(關于林州市龍山街道西街村志愿服務隊的簡介)
- 2023年6月中國二甲苯進口數(shù)量、進口金額及進口均價統(tǒng)計分析
- 石四藥集團(02005):司替戊醇獲國藥監(jiān)批準登記成為在上市制劑使用的原料藥
- 西麥食品:公司2022年已快速布局零食渠道,全國連鎖休閑零食店大系統(tǒng)基本覆蓋
- 建筑面積碳排放下降7% 湖北省內首個市級公共機構能源項目托管成功
- 龍湖:已提前償還“18龍湖04”17億元債務
- 最新十大熱門手機榜單出爐 三星登頂 小米緊隨其后
- 2000指數(shù)ETF(159521)如何用抽樣復制法高效跟蹤指數(shù)
- 7 個很短的親情故事,感悟很深,尤其最后一個
- 經(jīng)紀人王力威退出肖戰(zhàn)工作室股東 仍任經(jīng)理
- 百亞股份:今年上半年抖音平臺收入約占電商收入40% 實現(xiàn)倍數(shù)增長
- 覓瑞積極推動胃癌診斷IVD產品在美國市場上市
- 國產CRO企業(yè)“出?!?熙華檢測力推國際化、一體化布局
- 風來之國劇情是什么, 風來之國劇情故事
- 復蘇的出口“半年報”,中國家電品牌出海的另類打法?| 創(chuàng)新力量
- 近視防控兒童劇《瞳夢國奇旅》邢臺首映暨“明眸天使”兒童青少年斜視救助項目正式啟動
- 月薪超10萬引BBA銷售跳槽,蔚來為沖銷量“下血本”?
- 梵(關于梵的基本詳情介紹)
- 午評:滬指跌1.01%盤中創(chuàng)逾7個月新低,券商股午前異動拉升
- 一加Ace 2 Pro首發(fā)24GB內存遙遙領先蘋果!一加李杰:歷史性的一天
- 【午盤】A股早盤弱勢震蕩,券商午前急升兩市跌幅收窄
- 用假章“代辦”車輛年審?被告人因詐騙罪獲刑并處罰金
- 無錫晶海8月18日北交所首發(fā)上會 擬募資3.4億元
- 日本藥企給付醫(yī)師財物被罰90萬 藥企給付三甲醫(yī)院醫(yī)師財物被罰
- 太力科技過會:今年IPO過關第204家 民生證券過14單
- 廣廈環(huán)能8月18日北交所上會 擬募資6.53億元
- 電商就侵權易烊千璽道歉 電商就冒用易烊千璽肖像代言致歉
- 阿里巴巴北京總部園區(qū)項目進展順利,預計10月完工
- Archer獲得2.15億美元戰(zhàn)略投資