产学研用

湘江实验室·高能效异构计算创新研究院

高能效异构计算体系+国产信创端侧人工智能硬件+专项模型加速卡

高能效异构计算创新研究院牌匾

湘江实验室高能效异构计算创新研究院

湘江实验室高能效异构计算创新研究院是聚焦国产信创算力体系与端侧 AI 硬件架构的前沿技术研究机构。面向国家计算产业战略需求,致力于解决人工智能在边缘端落地的高能效与国产化难题,为“人工智能+”行动提供坚实的算力底座。

研究院秉承“软硬协同、端云融合、极致能效”的创新理念,联合芯片厂商与制造企业攻克关键硬件技术。重点研究领域包括端侧 AI 专用硬件设计及国产信创适配等。旨在推动AI算力从云端下沉至边缘,实现大模型在本地设备上的安全、流畅运行。

湘江实验室是湖南省人民政府主导建设的首个省级实验室,成立于2022年7月,总部位于湖南湘江新区长沙高新区北斗产业园,定位为先进计算与人工智能领域的重大创新平台。实验室由湖南省科学技术厅举办、湖南工商大学牵头组建,按照“总部+分部+创新中心”的“1346”框架布局,聚焦数据智能、高性能计算等四大主攻方向,覆盖智能制造、智慧医疗等六大应用领域。

研究定位

面向国产芯片的端侧异构计算体系

面向国产芯片的端侧异构计算体系

软硬协同设计的全栈技术生态

软硬协同设计的全栈技术生态

从技术验证走向产品与标准

从技术验证走向产品与标准

多方协同的联合研发机制

多方协同的联合研发机制

研究方向

国产端侧算力与设备原型

国产端侧算力与设备原型

性能与能耗基准测试:对不同国产芯片进行算力、推理速度、功耗、延迟等基准测试,形成系统评测报告,为后续选型与组合提供依据。

端侧设备原型设计与集成:基于国产芯片设计端侧异构计算原型设备,完成软硬件集成与调度验证,验证在真实负载下的稳定性与性能。

端侧设备标准体系建设:围绕性能基准、接口协议、安全性要求,形成国产端侧AI设备标准草案,包括能耗与热控测试方法。

低功耗推理资源管理方法:探索在低功耗硬件配置下的资源管理与推理调度策略,在功耗和性能之间取得更优平衡。

国产AI框架与推理引擎

国产AI框架与推理引擎

框架调研与评测:系统评估CANN、MUSA等框架在不同国产芯片上的功能特性、性能表现与适配成本,输出调研与对比分析报告。

推理调度与算子优化:在现有框架基础上进行推理调度系统设计与算子级优化,提升在端侧和边缘场景下的推理效率。

SDK与开发工具发布:围绕优化后的框架,形成 SDK、示例代码和API文档,为第三方开发者提供可直接使用的开发环境和工具链。

框架适配与迁移规范:制定国产AI推理框架算子接口与调度规范、编译器适配流程规范,降低模型在不同国产平台间迁移的门槛。

端侧小模型架构与高能效推理

端侧小模型架构与高能效推理

大模型架构调研与评估:跟踪Mamba、图神经网络(GNN)、异构Transformer 等模型架构,分析其在端侧场景下的适用性与性能特征。

适配端侧的推理框架设计:基于上述架构特性,设计适合端侧设备的推理框架,并结合国产芯片平台进行算子与调度优化。

小参数高效模型架构:探索小参数、高效率模型结构,在保证精度的前提下,通过架构设计降低内存占用与计算成本。

量化、蒸馏与压缩技术:结合蒸馏、量化、结构压缩等方法,为端侧场景构建轻量模型,并建立相应的评估与标准体系。

行业与领域端侧小模型微调

行业与领域端侧小模型微调

领域小模型微调:针对不同行业任务,设计并验证适配场景的小参数模型微调方案,提升在垂直场景中的精度与响应速度。

行业数据集建设:面向各行业构建高质量数据集,为小模型训练与微调提供基础数据保障。

评估标准与接口规范:制定面向财税、医疗、法律等行业的小模型评估标准与接口规范,保证不同场景下评估口径的一致性。

场景自适应推理调度:研究根据推理链路与设备状态动态调度任务的方法,使模型在不同负载和硬件条件下保持稳定表现。

研究成果

研究报告与技术白皮书

研究报告与技术白皮书

原型设备与工具链

原型设备与工具链

轻量模型与行业小模型

轻量模型与行业小模型

标准与专利体系

标准与专利体系

资讯中心

    正在加载资讯…