北京2024年5月13日 /美通社/ -- 5月11日，鯤鵬昇騰開發者大會2024期間，華為舉辦"昇思AI框架及大模型技術論壇"，軟通動力數字基礎設施與集成事業部總經理謝睿受邀出席、軟通動力數字基礎設施與集成事業部技術總監單繼嶺發表《基于昇思Mind Spore，軟通動力賦能客戶應用與實踐》主題分享，全方位展示基于AI框架技術的原生應用及客戶實踐。
會上，單繼嶺介紹了軟通動力在人工智能領域的技術能力，以及結合華為MindSpore框架為客戶帶來創新的應用場景等內容。基于軟通AI訓推一體化平臺，輸出標準模型遷移流程，從而幫助企業實現大模型的"最后一公里"，推動各行業領域數字化轉型。
軟通AI訓推一體化平臺
軟通AI訓推一體化平臺支持大規模集群計算環境下NPU/GPU異構計算資源按需、高效、自動調度，可為客戶提供數據中心、開發中心、訓練中心、模型中心、服務中心等一站式服務能力。平臺基于MindSpore等多種計算框架和算法，內置大語言、圖文、多模態大模型，疊加行業應用，能夠加速大模型落地賦能業務，幫助企業和客戶完成國產化、數字化、智能化的轉型升級。目前，軟通AI訓推一體化平臺已覆蓋央國企、金融、教育等行業，打造多個Offering服務不同客戶，助力用戶快速實現大模型場景訓練/推理"最后一公里"。
在央國企領域，基于司庫應用，打造司庫一體化產品，實現業財深度融合，在客戶實際落地過程中，幫助客戶對現有業務系統、管理模式改造升級，解決業務人工成本高、效率低等問題，幫助客戶構筑數字化生產力堡壘，在集團建設可復用的業務及數據能力。
在教育領域，軟通AI訓推一體化平臺基于AI硬件底座及通用大模型本地私有化部署，打造數字經濟AI分析模型助手，實現自動批量提取經濟新聞、熱點、事件等關鍵信息并導出提取結果，可快速構建系統化數據庫，并通過模擬人工操作以實現流程自動化，顯著提升科研效率。
基于MindSpore模型遷移全流程
1 模型權重轉換：模型分析與準備、權重轉換
2 模型遷移：網絡遷移開發、精度和性能調試
3 推理和訓練代碼遷移：單卡/多卡在線推理+精度驗證、單卡/多卡finetune/peft +精度驗證、單卡/多卡預訓練 +精度驗證等
4 模型精度對齊和模型測評：網絡結構對比、網絡正向結果對比、網絡loss結果對比、基于開源數據集模型評測分數對比等。
未來，軟通動力將攜手華為，依托MindSpore框架，為客戶打造更加優質的人工智能解決方案，不斷提升在AI技術領域的服務能力，共同促進AI技術的進步和廣泛應用。
