江苏大学学报(自然科学版)

作者：马健,陈良,凌志,章月圆

单位：苏州大学 机电工程学院, 江苏 苏州 215100

关键词：语义分割, 知识蒸馏, 模型轻量化, 自注意力机制, 量纲一化, 相关性矩阵

基金：国家自然科学基金资助面上项目(52375114)

传统的知识蒸馏方法并未对语义分割任务进行优化，且其往往只考虑了模型空间层面的知识对齐,另外还存在师生架构的限制、冗余知识的传播等问题.针对以上不足,使用分割模型的主干部分、特征融合（加强）层和预测标签三者的通道层面特征,并利用自注意力机制、softmax量纲一化、相关性矩阵等理论,最终基于主干层改进的自适应特征蒸馏、融合层通道相关性蒸馏及标签层通道显著性蒸馏设计出了自适应通道特征蒸馏框架.为验证框架的有效性,在PSPNet语义分割网络上进行了系统的试验.结果表明：所提出框架在保持PSPNet-ResNet18学生模型推理效率的同时，将分割精度提升5.79百分点，并且，框架支持师生模型采用异构主干网络.

来源：2025年第5期

《江苏大学学报(自然科学版)》期刊编辑部

查看江苏大学学报(自然科学版)杂志2025年第5期