赞
踩
论文链接:https://arxiv.org/abs/2311.02357
代码链接:https://github.com/6lyc/CDNMF
代码简洁,一键运行,欢迎star以及fork。
近日,2024年IEEE声学、语音与信号处理国际会议(2024 IEEE International Conference on Acoustics, Speech, and Signal Processing, ICASSP 2024)发布录用通知,我们的论文"Contrastive Deep Nonnegative Matrix Factorization for Community Detection”被主轨道——Machine Learning for Signal Processing录用。
ICASSP是由IEEE电气电子工程师学会主办的信号处理领域的顶级国际会议,在国际上享有盛誉并具有广泛的学术影响力。本年度会议的主题是“信号处理技术:迈向真正智能的基石”,将于2024年4月14日至19日在韩国首尔举行。感兴趣的同学届时可以莅临会场进一步交流。
在现实产业里,社区检测通常用于金融风控,黑产团伙挖掘等重要场景,考虑到现有的深度神经网络可解释不强、鲁棒性弱等缺陷,我们重新强调使用基于非负矩阵分解(nonnegative matrix factorization ,NMF)的算法进行社区检测。
非负矩阵分解(NMF)算法因其较好的可解释性而被广泛应用于社群检测。然而,现有的基于非负矩阵分解的方法存在以下三个问题:
1)直接将原始网络映射到社区成员空间,难以捕捉层次信息;
2)往往只关注网络的拓扑结构,忽略其节点属性;
3)难以学习到社区检测所需的全局结构信息。
因此,我们提出了一种新的社群检测算法——对比的深度非负矩阵分解(Contrastive Deep Nonnegative Matrix Factorization,CDNMF)。
对原有的NMF算法分别进行了如下改进:
1)对NMF结构进行了深化,以加强其信息提取能力;
2)受对比学习思想的启发,该算法创造性地构建了网络拓扑结构和节点属性作为两个对比的视图;
3)利用去偏负采样层,在社区级别学习节点相似性,从而提高了模型在社区检测中的适用性。
总体的损失函数:
由三个主要模块组成。
1.1)对图的邻接矩阵A进行分解
1.1.0)重构损失
详见:[论文分享] 深度矩阵分解(Deep Matrix Factorization)综述-CSDN博客
1.1.1)非负惩罚函数
将带约束问题转化为无约束规划。
1.2)同理对图的属性矩阵X进行分解
本质是利用图的同质性假设如下
此正则项考虑了连接邻居节点对的几何结构对其所属社区的影响,即图中两个相连的节点应该更有可能属于同一社区。
key:利用对比学习的性质在NMF的框架下融合A和X信息
一致化图的拓扑结构和节点属性所蕴含的社区语义,并构建具有显著社区结构的嵌入空间。
3.1)去偏负样本
利用NMF的可解释性结果Vp构建社区级别的节点相似性。
算法整体的训练流程:
社区检测效果优越
运行效率高,收敛速度快
对比模式的重要性验证
我们首次将NMF与对比学习进行结合,在社区检测中他们之间是相互促进并自然耦合的。一方面引入对比学习,其中正样本的对比是为了让NMF算法可以同时学到图的拓扑信号和属性信号,同时负样本的对比可以让NMF输出更适合社区检测的嵌入空间。另一方面,NMF也被引入我们的框架,借助其输出结果可以在对比学习中得到更精确的负样本,其次还增加模型的可解释性。
一些科研想法:此外,还可以尝试不同的矩阵分解方式(例如ONMF,BNMF,DANMF等)以及其他对比学习算法(例如MVGRL,GRACE等),在CDNMF框架下进一步衍生出其他社区检测算法!!!
[1] Li Y, Chen J, Chen C, et al. Contrastive Deep Nonnegative Matrix Factorization for Community Detection[J]. arXiv preprint arXiv:2311.02357, 2023.
[2] Li Y, Hu Y, Fu L, et al. Community-Aware Efficient Graph Contrastive Learning via Personalized Self-Training[J]. arXiv preprint arXiv:2311.11073, 2023.
[3] Ye F, Chen C, Zheng Z. Deep autoencoder-like nonnegative matrix factorization for community detection[C]//Proceedings of the 27th ACM international conference on information and knowledge management. 2018: 1393-1402.
对社区检测感兴趣的同学还可以关注:
1. 我们实验室18年发表在CIKM的论文DANMF,目前已有200+引用量。
2. ICDM2023举办的关于社区检测预训练模型的比赛
官方推送:IEEE ICDM 2023 图学习挑战赛落幕!探索深度图学习应用潜力
3. 本账号会持续更新有关图自监督学习、图聚类以及社区检测的前沿文章。
[论文分享] 深度矩阵分解(Deep Matrix Factorization)综述-CSDN博客
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。