在由中國信息通信研究院主辦的智能IP廣域網(AI WAN)產業論壇上,中國電信股份有限公司上海分公司(以下簡稱“上海電信”)高級副總工程師張堅平分享了“智云上海智算POD打造算網新服務,助力千行百業高品質用算”的專題演講。張堅平表示,面向企業算力租用以及訓推數據不出園區的用算需求,上海電信基于“智云上海”新型基礎設施,采用華為AI WAN智算廣域網解決方案,構建城域智算POD,加速算力資源在運營商和企業側高效流轉,推動AI技術的普惠化進程。
以央國企,政教醫等多個行業為代表,企業選擇通過租賃運營商的算力資源來滿足自身訓推算力需求。由于企業私有數據敏感,要求數據不出企業園區,越來越多的企業要求租賃的算力資源部署在園區內部。然而因園區機房散熱和供電等條件限制,企業園區內部無法規模部署算力服務器,整體承載算力有限。同時,為了降低采購以及運維的成本,越來越多的企業開始采用園區自建少量算力服務器加租用運營商智算中心算力資源的輕資產運營模式。
上海電信打造的400GE IP城域智算POD將成為聯接企業園區和運營商智算中心的數字底座,并推出云邊協同訓推方案,為企業提供高品質算網一體服務。為了匹配訓推算力快速增長的需求,企業可以優化模型部署,將涉及私有數據的模型部分部署在本地算力服務器,其余部署在運營商智算中心內,本地算力和云端算力通過智算廣域網來傳輸不可還原的中間數據層,保護企業敏感數據不泄露。分布式訓推模式一方面能夠滿足企業數據傳輸安全的訴求,另一方面使得企業可以靈活租賃運營商的算力資源來實現算力按需擴縮容。經現網測試驗證,基于華為AI WAN智算廣域網解決方案提供的RDMA無損傳輸技術可以實現跨240公里拉遠推理效率不下降。
張堅平表示,為了進一步推動我國算力基礎設施高質量發展,作為城市信息化建設主力軍,上海電信與華為及企業多方攜手,一起迎接智算網絡關鍵技術挑戰,在垂直行業場景進行方案驗證,最終實現算網一體服務商業落地。