近日，山西大学大数据科学与产业研究院三篇论文《Core-Structures-Guided Multi-Modal Classification Neural Architecture Search》、《Deep Embedding Clustering Driven by Sample Stability》、《PHSIC Against Random Consistency and Its Application in Causal Inference》被2024年人工智能领域国际顶会IJCAI国际人工智能联合会议(International Joint Conference on Artificial Intelligence)接收。

《Core-Structures-Guided Multi-Modal Classification Neural Architecture Search》

论文作者：傅品翰，梁新彦（共一），罗廷金，郭倩，张亚宇，钱宇华（通讯作者）

基于神经架构搜索（NAS）的多模态分类方法（MMC-NAS）能自动从给定搜索空间中发现满意的多模态分类器。然而，随着多模态特征和融合算子数量的增加，搜索空间也急剧增大。从庞大的搜索空间中快速确定满意的多模态融合模型是非常具有挑战性的。研究发现：搜索空间中“好”解往往包含一些“性能优良”的相似子结构，我们将其定义为 “核心结构”。基于此，本文提出了一种基于“先收缩后扩张搜索空间”的高效MMC-NAS方法，称为核心结构引导的神经架构搜索（CSG-NAS）。具体来说，首先通过给定策略评估每个视图、融合算子的性能，基于结果将其分为两组。利用高质量的视图特征和融合算子获取一个收缩子空间，称为核心结构搜索空间；扩张空间由搜索到的核心结构以及剩余特征和融合算子构成。然后，使用进化算法从核心结构搜索空间得到一组核心结构。其次，采用局部搜索算法从扩张空间中找到最佳的MMC模型。此外，引入了一种知识继承策略，进一步提高了整个搜索过程的整体性能和效率。实验结果证明：本研究方法实现了比同类NAS-MMC方法更高的训练效率，且搜索到的多模态分类模型具有更高的分类性能和更少可学习参数。

图1  CSG-NAS 整体架构

《Deep Embedding Clustering Driven by Sample Stability》

论文作者：程占文，李飞江，王婕婷，钱宇华（通讯作者）

深度聚类方法通过联合优化深度表示学习和聚类来提高聚类任务的性能。尽管已经有许多深度聚类算法被提出，但大多数算法都依赖于人为构建的伪目标来执行聚类。这种构建过程需要一定的先验知识，并且很难确定合适的伪目标进行聚类。为了解决这个问题，本文提出一种样本稳定性驱动的深度嵌入聚类算法(DECS)，消除了对于伪目标的需求。具体来说，本文首先使用自编码器构造初始特征空间，然后使用样本稳定性作为约束学习面向聚类的嵌入表示。样本稳定性旨在探索样本与所有簇质心之间的确定性关系，以高确定性将样本分配到各自的类簇中，并使其远离其他类簇。本文利用Lipschitz连续性从理论上分析了优化目标的收敛性，验证了模型的有效性。在5个数据集上的实验结果表明，与现有的聚类方法相比，该方法取得了更好的性能。

图2  DECS模型图

《PHSIC Against Random Consistency and Its Application in Causal Inference》

论文作者：李珏，钱宇华（通讯作者），王婕婷，刘赛雄

基于核函数的希尔伯特-施密特独立准则（HSIC）能够检测变量之间的非线性依赖关系，使其成为关联关系挖掘的常用方法。然而，在小样本、高维或有噪声的数据的情况下，它可能会产生虚假的关联，导致不相关的变量有一定的分数。为了缓解这个问题，该论文提出了一个新的准则，称为纯希尔伯特-施密特独立性准则（PHSIC）。PHSIC是通过从原始HSIC值中减去随机条件下得到的平均HSIC来实现的。该论文通过理论和模拟实验证明了PHSIC 的三个显著优势： (1) PHSIC的基线为零，增强了HSIC的可解释性。(2)与HSIC相比，PHSIC的偏差更低。(3) PHSIC可以在不同的样本和维度上进行更公平的比较。为了验证PHSIC的有效性，将其应用于多个因果推理任务。实验结果表明，与其他方法相比，在涉及小样本量和噪声数据的情况下，基于PHSIC的因果模型在真实数据集和模拟数据集中均表现良好。

图3  PHSIC框架

IJCAI（International Joint Conference on Artificial Intelligence）是人工智能领域的顶级国际会议之一，由国际人工智能学会（IJCAI）主办。该会议每年举办一次，旨在促进人工智能领域的学术交流与合作。会议提供了一个国际性的平台，让学术界和工业界的研究人员、工程师、学生等共同探讨人工智能领域的最新进展、技术创新和应用实践。2024 IJCAI会议将在韩国济州岛举行。