科技创新2030—“新一代人工智能”重大项目——大小模型端云协同进化与系统 |
发布时间:
2023-04-24
15:03
浏览次数:
|
课题三:模型更新升维融合技术 针对大小模型端云协同进化与系统中“多端更新高效聚合”的关键科学问题,重点研究异构模型多模态切片分离和匹配方法,拟在多模态切片裁剪、非可靠模型传输、低开销升维融合等方面取得突破,形成一套端侧异构模型高效更新聚合方法,提出端侧软硬件环境自适应感知技术;提出面向异构端侧设备的模型多模态切片分离、裁剪、适应方法;提出针对动态网络环境的自适应模型传输协议;提出海量异构模型的高效融合方法,实现模型线性聚合。通过以上研究,解决大小模型端云协同进化中分布终端资源受限适配难的核心问题。 主要研究内容: 如图 1所示。针对端侧模型更新升维融合效率低问题,研究①多模态切片裁剪:提出多模态切片分离方法,构建端侧异构适变冗余切片消除机制,实现模型增量最小化;②非可靠模型传输: 提出表征相似模型参数重要性度量算法,设计速率自适应容错传输协议,实现低延迟模型增量传输;③低开销升维聚合:设计异构模型同构映射升维机制,实现线性收敛聚合。 |