当前位置: 首页
> 最新动态 > 研究动态
科技创新2030—“新一代人工智能”重大项目——大小模型端云协同进化与系统
发布时间: 2023-04-24 15:03
浏览次数:
字号:[ ]

课题三:模型更新升维融合技术

针对大小模型端云协同进化与系统中“多端更新高效聚合”的关键科学问题,重点研究异构模型多模态切片分离和匹配方法,拟在多模态切片裁剪、非可靠模型传输、低开销升维融合等方面取得突破,形成一套端侧异构模型高效更新聚合方法,提出端侧软硬件环境自适应感知技术;提出面向异构端侧设备的模型多模态切片分离、裁剪、适应方法;提出针对动态网络环境的自适应模型传输协议;提出海量异构模型的高效融合方法,实现模型线性聚合。通过以上研究,解决大小模型端云协同进化中分布终端资源受限适配难的核心问题。

主要研究内容:

如图 1所示。针对端侧模型更新升维融合效率低问题,研究①多模态切片裁剪:提出多模态切片分离方法,构建端侧异构适变冗余切片消除机制,实现模型增量最小化;②非可靠模型传输: 提出表征相似模型参数重要性度量算法,设计速率自适应容错传输协议,实现低延迟模型增量传输;③低开销升维聚合:设计异构模型同构映射升维机制,实现线性收敛聚合。


打印本页 关闭窗口
Produced By 大汉网络 大汉版通发布系统