我院三篇论文(其中一篇入选Oral)被人工智能领域顶级学术会议AAAI'24接收

近日,山西大学大数据科学与产业研究院三篇论文《DC-NAS: Divide-and-Conquer Neural Architecture Search for Multi-Modal Classification》《Cross-Domain Contrastive Learning for Time Series Clustering》《Learning Multi-task Sparse Representation Based on Fisher Information》被2024年人工智能领域国际顶会AAAI人工智能大会(AAAI Conference on Artificial Intelligence)接收。

微信截图_20231216145145.png

《DC-NAS: Divide-and-Conquer Neural Architecture Search for Multi-Modal Classification》(Oral)

论文作者:梁新彦,傅品翰,郭倩,郑珂银,钱宇华(通讯作者)

基于神经架构的多模态分类方法(NAS-MMC)可以自动地为不同的多模态数据集获得最优的分类器。然而,由于训练和评价大量的模型,大多数现有的NAS-MMC是极其耗时的。为此,该论文提出高效的基于演化的NAS-MMC,称为分治神经架构搜索(DC-NAS)。具体来说,首先将演化种群分成k+1个子种群,使用分层抽样将数据集划分为k个小规模数据集,其中k个子种群分别在k个小规模数据集上进行演化,剩余的一个子种群在完整数据集上进行演化。此外,为了解决由部分数据演化造成的子最优融合问题,该论文构建了两个专用知识数据库,用于让部分数据集上演化的子种群和完成数据上演化的子种群进行知识交换。基于上述两种技术,DC-NAS实现了训练时间的减少和分类性能的提升。实验结果表明:相比于比较的NAS-MMC方法,DC-NAS在多标记电影类型分类、动作识别和动态手势识别三个流行的数据集上,实现了最好的分类性能、训练效率和参数量。

微信截图_20231216145350.png

《Cross-Domain Contrastive Learning for Time Series Clustering》

论文作者:彭甫镕, 罗嘉琛, 逯暄(通讯作者),王胜, 李飞江  

在时间序列聚类研究领域,基于深度学习的模型主要关注表示学习导致聚类损失无法指导特征提取。大多数方法仅分析时域信息,而忽略时间序列在频域的特性。为此,该论文提出了一种新颖的端到端跨域时间序列对比学习模型(CDCC)。首先在簇级和实例级使用对比约束将聚类和特征提取过程融合;同时在时域和频域提取特征,并利用对比学习增强域内特征表示;最后通过跨域对齐约束来优化特征表示和样本类簇分布。通过上述策略,CDCC不仅实现了端到端的输出,而且有效地整合了时域和频域特征。在UCR的40个时间序列数据集进行了广泛的实验和可视化分析,证明了所提出模型的优越性能。

微信截图_20231216145319.png

《Learning Multi-task Sparse Representation Based on Fisher Information》

论文作者:张亚宇,钱宇华(通讯作者),马国帅,郑珂银,刘郭庆,张青富

多任务学习通过共享知识同时处理多个相关任务。在经典的深度多任务学习模型中,所有任务使用相同的特征空间并共享全部的潜在知识。然而,当任务弱相关,或者是部分特征负相关时,共享全部知识往往会导致任务之间知识的负迁移。为了克服这一问题,该论文提出了一种Fisher稀疏多任务学习方法。它通过评估参数对任务的重要性来获得每个任务的稀疏共享表示,使得任务间在稀疏子空间上共享特征,以尽可能的确保任务之间知识的正向传递。具体来说,该论文提出了一个稀疏深度多任务学习模型,其将Fisher稀疏模块引入传统的深度多任务学习模型中以获得任务的稀疏变量。通过交替更新神经网络参数和稀疏变量,最终为每个任务学习一个稀疏共享表示。此外,为了减少计算开销,一种经验估计的方法被用来估计神经网络参数的Fisher信息。实验结果表明,与其它方法相比,所提出的方法可以提高所有任务的性能,并具有较高的稀疏性。

微信截图_20231216145407.png

AAAI是具有重要影响力的国际学术组织,由计算机科学和人工智能领域奠基人Allen Newell、Marvin Minsky、John McCarthy等学者于1979年共同创立,旨在推动智能思维与行为机制的科学理解及机器实现,并促进人工智能的科学研究和规范应用。AAAI是国际顶级学术会议——AAAI人工智能大会(AAAI Conference on Artificial Intelligence)的组织者。AAAI'24将在加拿大温哥华举办。