產學研用

湘江實驗室·高能效異構計算創新研究院

高能效異構計算體系+國產信創端側人工智能硬件+專項模型加速卡

高能效異構計算創新研究院牌匾

湘江實驗室高能效異構計算創新研究院

湘江實驗室高能效異構計算創新研究院是聚焦國產信創算力體系與端側 AI 硬件架構的前沿技術研究機構。面向國家計算產業戰略需求,致力於解決人工智能在邊緣端落地的高能效與國產化難題,為“人工智能+”行動提供堅實的算力底座。

研究院秉承“軟硬協同、端雲融合、極致能效”的創新理念,聯合芯片廠商與製造企業攻克關鍵硬件技術。重點研究領域包括端側 AI 專用硬件設計及國產信創適配等。旨在推動AI算力從雲端下沉至邊緣,實現大模型在本地設備上的安全、流暢運行。

湘江實驗室是湖南省人民政府主導建設的首個省級實驗室,成立於2022年7月,總部位於湖南湘江新區長沙高新區北斗產業園,定位為先進計算與人工智能領域的重大創新平臺。實驗室由湖南省科學技術廳舉辦、湖南工商大學牽頭組建,按照“總部+分部+創新中心”的“1346”框架佈局,聚焦數據智能、高性能計算等四大主攻方向,覆蓋智能製造、智慧醫療等六大應用領域。

研究定位

面向國產芯片的端側異構計算體系

面向國產芯片的端側異構計算體系

軟硬協同設計的全棧技術生態

軟硬協同設計的全棧技術生態

從技術驗證走向產品與標準

從技術驗證走向產品與標準

多方協同的聯合研發機制

多方協同的聯合研發機制

研究方向

國產端側算力與設備原型

國產端側算力與設備原型

性能與能耗基準測試:對不同國產芯片進行算力、推理速度、功耗、延遲等基準測試,形成系統評測報告,為後續選型與組合提供依據。

端側設備原型設計與集成:基於國產芯片設計端側異構計算原型設備,完成軟硬件集成與調度驗證,驗證在真實負載下的穩定性與性能。

端側設備標準體系建設:圍繞性能基準、接口協議、安全性要求,形成國產端側AI設備標準草案,包括能耗與熱控測試方法。

低功耗推理資源管理方法:探索在低功耗硬件配置下的資源管理與推理調度策略,在功耗和性能之間取得更優平衡。

國產AI框架與推理引擎

國產AI框架與推理引擎

框架調研與評測:系統評估CANN、MUSA等框架在不同國產芯片上的功能特性、性能表現與適配成本,輸出調研與對比分析報告。

推理調度與算子優化:在現有框架基礎上進行推理調度系統設計與算子級優化,提升在端側和邊緣場景下的推理效率。

SDK與開發工具發佈:圍繞優化後的框架,形成 SDK、示例代碼和API文檔,為第三方開發者提供可直接使用的開發環境和工具鏈。

框架適配與遷移規範:制定國產AI推理框架算子接口與調度規範、編譯器適配流程規範,降低模型在不同國產平臺間遷移的門檻。

端側小模型架構與高能效推理

端側小模型架構與高能效推理

大模型架構調研與評估:跟蹤Mamba、圖神經網絡(GNN)、異構Transformer 等模型架構,分析其在端側場景下的適用性與性能特徵。

適配端側的推理框架設計:基於上述架構特性,設計適合端側設備的推理框架,並結合國產芯片平臺進行算子與調度優化。

小參數高效模型架構:探索小參數、高效率模型結構,在保證精度的前提下,通過架構設計降低內存佔用與計算成本。

量化、蒸餾與壓縮技術:結合蒸餾、量化、結構壓縮等方法,為端側場景構建輕量模型,並建立相應的評估與標準體系。

行業與領域端側小模型微調

行業與領域端側小模型微調

領域小模型微調:針對不同行業任務,設計並驗證適配場景的小參數模型微調方案,提升在垂直場景中的精度與響應速度。

行業數據集建設:面向各行業構建高質量數據集,為小模型訓練與微調提供基礎數據保障。

評估標準與接口規範:制定面向財稅、醫療、法律等行業的小模型評估標準與接口規範,保證不同場景下評估口徑的一致性。

場景自適應推理調度:研究根據推理鏈路與設備狀態動態調度任務的方法,使模型在不同負載和硬件條件下保持穩定表現。

研究成果

研究報告與技術白皮書

研究報告與技術白皮書

原型設備與工具鏈

原型設備與工具鏈

輕量模型與行業小模型

輕量模型與行業小模型

標準與專利體系

標準與專利體系

資訊中心

    正在加載資訊…