[[Expanding Deep Learning-based Sensing Systems with Multi-Source Knowledge Transfer, Gaole Dai et al., 2024, v1.pdf]]
本文提出了一种高效的知识传递框架HaKT，用于扩展基于深度学习的传感系统，解决了标签稀缺和数据、设备异质性带来的挑战。HaKT通过以下几个步骤实现有效扩展：
-
模型选择：HaKT采用高效的模型选择协议，首先通过简单的统计特征筛选出多个高质量的源模型，以便降低成本。然后，利用源领域和目标领域之间的特征相似性进一步筛选这些模型。
-
知识融合：针对不同源模型的知识冲突，HaKT引入了一种基于注意力机制的样本级知识融合方法。通过为每个样本分配权重，将选定模型的预测结果进行融合，从而有效集成来自各个源模型的信息。
-
知识注入：将融合后的知识以选择性方式注入到定制的目标模型中，并根据知识质量动态调整知识传递的速度。利用知识字典存储融合知识，确保注入过程的稳定性。
通过在多个模态和任务上进行广泛实验，HaKT在准确性方面相比最先进的基线方法提高了最高16.5%，并减少了最大的39%的通信流量。总的来说，HaKT成功实现了在面对标签稀缺和异质性数据的情况下，扩展传感系统的目标，提供高质量的定制模型。本文的关键贡献包括：
- 定位并解决传感系统扩展问题，提出一个通用的知识传递框架。
- 通过有效选择、融合和注入知识，以低成本提供高质量的定制模型。
- 在多个任务和设置下进行全面评估，展现比现有方法更优越的性能。
这项工作不仅为传感系统的扩展提供了新的思路，也为未来在资源有限的情况下的深度学习模型部署提供了理论和实用依据。