深度图聚类DGC—Paper Notes

目录

  • Unsupervised Deep Embedding for Clustering Analysis (DEC 2016)
  • Attributed Graph Clustering: A Deep Attentional Embedding Approach (DAEGC 2019)
  • Structural Deep Clustering Network (SDCN 2020)
  • Contrastive Multi-View Representation Learning on Graphs (MVGRL 2020)
  • CommDGI: Community detection oriented deep graph infomax (CommDGI 2020))
  • Adaptive Graph Encoder for Attributed Graph Embedding (AGE* 2020)
  • Graph Contrastive Learning with Adaptive Augmentation (GCA 2021)
  • Multi-view Contrastive Graph Clustering (MCGC 2021)
  • Deep Fusion Clustering Network (DFCN 2021)
  • Graph Debiased Contrastive Learning with Joint Representation Clustering (GDCL 2021)
  • SAIL: Self-Augmented Graph Contrastive Learning (SAIL 2022)
  • Augmentation-Free Self-Supervised Learning on Graphs (AFGRL 2022)
  • Deep Graph Clustering via Dual Correlation Reduction (DCRN 2022)
  • Attributed Graph Clustering with Dual Redundancy Reduction (AGC-DRR 2022)
  • Self-consistent Contrastive Attributed Graph Clustering with Pseudo-label Prompt (SCAGC 2022)
  • Scalable Self-Supervised Graph Clustering(S3GC 2022 )
  • NCAGC: A Neighborhood Contrast Framework for Attributed Graph Clustering (NCAGC 2022)
  • Cluster-guided Contrastive Graph Clustering Network (CCGC 2023)
  • Hard Sample Aware Network for Contrastive Deep Graph Clustering (HSAN 2023)
  • Simple Contrastive Graph Clustering (SCGC 2023)
  • Dink-Net: Neural Clustering on Large Graphs (Dink-Net 2023)
  • Attribute Graph Clustering via Learnable Augmentation (AGCLA 2023)
  • CONVERT: Contrastive Graph Clustering with Reliable Augmentation (CONVERT 2023)
  • Self-Contrastive Graph Diffusion Network (SCGDN 2023)
  • Dual Contrastive Learning Network for Graph Clustering(MVGRL上改进DCLN 2023 )
  • A Contrastive Variational Graph Auto-Encoder for Node Clustering (CVGAE 2023)
  • Multi-level Graph Contrastive Prototypical Clustering (MLG-CPC 2023)
  • Deep Contrastive Graph Learning with Clustering-Oriented Guidance (2024)
  • Reliable Node Similarity Matrix Guided Contrastive Graph Clustering (2024)
  • Deep Masked Graph Node Clustering (2024)
  • Unsupervised node clustering via contrastive hard sampling (2024)
  • GLAC-GCN: Global and Local Topology-Aware Contrastive Graph Clustering Network (2024)
  • Revisiting Modularity Maximization for Graph Clustering: A Contrastive Learning Perspective (2024)
  • Structure-enhanced Contrastive Learning for Graph Clustering (2024)
  • Every Node is Different: Dynamically Fusing Self-Supervised Tasks for Attributed Graph Clustering (2024)
  • ———————————————图重构———————————————
  • AE, VAE,GAE,VGAE
  • Rethinking Graph Auto-Encoder Models for Attributed Graph Clustering (R-GAE 2022)
  • Redundancy-Free Self-Supervised Relational Learning for Graph Clustering(R2FGC 2023)
  • Synergistic Deep Graph Clustering Network(Sync 2024)
  • ———————————————others论文———————————————
  • Contrastive-Clustering (2021)
  • Select The Best: Enhancing Graph Representation with Adaptive Negative Sample Selection (2024)×强化学习
  • Graph-Mamba: Towards Long-Range Graph Sequence Modeling with Selective State Spaces (2024)
  • Provable Training for Graph Contrastive Learning (2023)
  • ——————————————图对比学习论文—————————————
  • Graph Contrastive Coding for Graph Neural Network Pre-Training (GCC 2020)
  • Deep Graph Contrastive Representation Learning (GRACE 2020)
  • Contrastive Multi-View Representation Learning on Graphs(MVGRL 2020)
  • Graph Contrastive Learning with Augmentations(2020)
  • GraphCL: Contrastive Self-Supervised Learning of Graph Representations (2021)
  • Bootstrapped Graph Latents (BGRL 2021)
  • Graph Contrastive Learning with Adaptive Augmentation (2021)
  • SimGRACE: A Simple Framework for Graph Contrastive Learning without Data Augmentation (2022)
  • Neighbor Contrastive Learning on Learnable Graph Augmentation (2023)
  • Self-Supervised Graph Representation Learning via Multi-Modal Contrast(SUGRL 2023 )
  • ——————————————笔记——————————————
  • *创新点
  • 对比学习
  • 模块度损失
  • 正则化项

大多数论文可在 Awesome Graph Clustering下载

Unsupervised Deep Embedding for Clustering Analysis (DEC 2016)

  1. 使用重构损失进行预训练自编码器
  2. 网络使用簇分配硬化损失进行微调
  3. 使用软分配输出聚类结果
  4. 使用KL散度损失优化聚类 端到端优化

Attributed Graph Clustering: A Deep Attentional Embedding Approach (DAEGC 2019)

创新点:

  • 我们开发了第一个基于图形注意力的自动编码器,为了有效地整合深度潜在表征学习的结构和内容信息。
  • 我们提出了一种新的目标导向的分布式图聚类框架。该框架联合优化了嵌入学习和图聚类,使两个组件互惠互利。
    在这里插入图片描述

Structural Deep Clustering Network (SDCN 2020)

  1. 结合GCN与自编码器​​:利用自编码器捕捉节点属性特征,GCN捕获图结构信息,通过传递操作符将两者动态融合。
  2. 双重自监督机制​​:通过聚类损失(KL散度)同时优化自编码器和GCN模块,确保两种信息源的一致性。
    在这里插入图片描述

Contrastive Multi-View Representation Learning on Graphs (MVGRL 2020)

  1. 提出:与视觉表示学习不同,将视图数量增加到两个以上时并不能提高性能。
  2. 对邻接矩阵扩散生成扩散矩阵的视图
  3. 对两个嵌入进行GNN编码,MLP投影得到节点表示
  4. 对两个嵌入进行池化和MLP处理,得到图表示(对整个图的一个特征描述向量)

创新点:

在这里插入图片描述

CommDGI: Community detection oriented deep graph infomax (CommDGI 2020))

  1. Loss = 节点级对比损失 + 社区级簇中心损失 + 图级模块化损失

创新点:
在这里插入图片描述

Adaptive Graph Encoder for Attributed Graph Embedding (AGE* 2020)

现有的基于GCN的方法存在三个缺陷,其中图卷积滤波器和权重矩阵的纠缠()会损害性能和鲁棒性

  1. 精心设计的拉普拉斯平滑滤波器,过滤低频噪声(将滤波器H=I-kL中的k作为超参数,具体看AGE讲解)
  2. 自适应编码器,根据相似度矩阵选择可信赖的正负训练样本(动态阈值)
  3. Loss = 对比损失

创新点:
在这里插入图片描述

Graph Contrastive Learning with Adaptive Augmentation (GCA 2021)

  1. 数据增强方案:边丢弃(重要的边丢弃概率小,不重要的边丢弃概率大);特征掩码(保留重要节点的高频特征)。根据图的结构或节点重要性,自适应选择增强方式和强度,避免过度破坏语义信息。
    节点的重要性是根据节点中心性(node centrality 是度量节点影响力广泛使用的度量),边的重要性则是根据节点对重要性
  2. 对比学习:将相同、不同视图的不同节点都视为负样本对。
    在这里插入图片描述

Multi-view Contrastive Graph Clustering (MCGC 2021)

  1. 每个节点及其 k个近邻(KNN)视为正样本对,使用InfoNce损失
  2. 重构视图损失
    在这里插入图片描述
  3. 对比损失,样本集为特征
    在这里插入图片描述

在这里插入图片描述

Deep Fusion Clustering Network (DFCN 2021)

Graph Debiased Contrastive Learning with Joint Representation Clustering (GDCL 2021)

  1. 图对比学习,先随机选择负样本
  2. KL散度损失
  3. 生成伪标签,从与正样本不同的簇中选择负样本,去偏假负样本
    在这里插入图片描述

SAIL: Self-Augmented Graph Contrastive Learning (SAIL 2022)

  1. 知识蒸馏(将教师模型迁移到学生模型)
  2. 创建模型即为教师模型,注入噪声后降为学生模型,用Ht(教师模型的输出)监督学生模型
  3. Loss = 蒸馏损失(教师学生模型输出差异)+ 正则化项()
    在这里插入图片描述

Augmentation-Free Self-Supervised Learning on Graphs (AFGRL 2022)

  1. 和GALC数据融合部分一样,全局+局部融合(KNN+A+K-means)
  2. 无数据增强
  3. 借鉴BGRL,无负样本

这里的q表示预测网络…

在这里插入图片描述

Deep Graph Clustering via Dual Correlation Reduction (DCRN 2022)

创新点:

  • 我们提出了一种基于孪生网络的算法,以解决深度图聚类领域中表征坍塌的问题。
  • 提出了一种双相关度降低策略(特征级和聚类级),以提高样本表示的判别能力。
    强制跨视图样本级相相似矩阵和跨视图特征级相似矩阵分别近似两个单位矩阵
  • 在六个基准数据集上的广泛实验结果表明,所提出的方法优于现有方法。
    Loss = Ln(节点级嵌入)+ Lf (聚类级嵌入)+ Lr(JS散度:为了缓解由GCN中的过度平滑引起的表征坍塌问题,我们引入传播正则化项)
    在这里插入图片描述
    MLP处理:
    在这里插入图片描述
    图扩散生成新的邻接矩阵
    在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

Attributed Graph Clustering with Dual Redundancy Reduction (AGC-DRR 2022)

  1. AGC-DRR 是首个采用对抗学习机制自适应学习邻接矩阵的属性图聚类算法
  2. 我们提出了一种双冗余减少策略,旨在降低输入空间和潜在特征空间中的信息冗余,从而提升聚类性能。
  3. 无需预训练
    在这里插入图片描述

Self-consistent Contrastive Attributed Graph Clustering with Pseudo-label Prompt (SCAGC 2022)

  1. 是首个无需后处理的对比属性图聚类模型
  2. 通过利用聚类标签,我们提出了一种新的自监督CL损失函数
    数据增强生成两个视图,经过GNN编码后再经过MLP全连接层,一个视图经过MLP生成N*K矩阵得到伪标签(簇对比),另一个视图通过伪标签对比学习(节点对比)。
    在这里插入图片描述

Scalable Self-Supervised Graph Clustering(S3GC 2022 )

  1. 可扩展到超大规模数据集
  2. 随机游走采样,生成与给定节点相似的点
  3. 随机行走生成的节点被认为是正样本,而其余样本被认为是负样本

NCAGC: A Neighborhood Contrast Framework for Attributed Graph Clustering (NCAGC 2022)

  1. 双对比学习(节点对比+自表达对比)
  2. 领域对比模块:与其他对比学习方法不同,NCAGC在原始视图中选择正/负对,而不进行数据增强。
    邻域对比模块利用对比学习方法通过最大化前K个最近邻节点的相似性(即正对)和最小化其他节点的相似性(即负对)来提高提取的节点表示的质量。
  3. 自表达矩阵
    对比性自表达模块被用来通过对比自表达层重构前后的节点表示来帮助学习更具辨别力的自表达系数矩阵。在这里插入图片描述

Cluster-guided Contrastive Graph Clustering Network (CCGC 2023)

  1. 多层拉普拉斯过滤特征,使用MLP作为编码器
  2. 伪标签生成高置信度样本,将不同聚类中心作为负样本。

创新点:

  • 我们提出了一种基于聚类的对比深度图聚类方法CCGC网络提高质量通过挖掘高置信度聚类信息改善正负样本的质量。
  • 不使用精心设计的复杂图形数据增强,我们通过设计非共享参数编码器,从而避免-不恰当的图形数据引起的语义漂移。
  • 六个基准数据集的广泛实验结果证明优越性。

在这里插入图片描述
具体做法是将负样本对的相似度矩阵(通过内积得到)与零矩阵进行比较MSE损失
将正样本对的相似度矩阵的每行之和与1进行比较:(2 - 2 * cosine_similarity)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.tpcf.cn/web/86146.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

获取YARN application 应用列表的几种方法

目录 1. 使用YARN命令行工具 2. 通过REST API获取 YARN 提供了获取YARN集群上运行的应用列表,以下是几种常见方法: 1. 使用YARN命令行工具 最直接的方式是使用YARN提供的命令行工具: yarn application -list 上述命令会显示所有正在运行的应用。 如果要查看所有应用(…

前端如何下载 ‘Content-Type‘: ‘application/octet-stream‘ 的文件

前言 在前端开发中,经常会遇到需要从后端接口下载文件的需求。当后端返回的响应头中 Content-Type 为 application/octet-stream 时,表示这是一个二进制流文件,浏览器无法直接展示,需要前端处理后下载到本地。本文将详细介绍前端…

咨询顾问进阶——顾问公司战略咨询分析模板【附全文阅读】

该战略咨询分析模板围绕企业战略分析展开,先从总体思考战略分析的目的与方法,接着探讨企业及战略定义、战略地位等。外部环境分析通过 PEST、五种竞争力等模型,分析环境、行业、市场等情况以发现机会与威胁;内部环境分析从资源、核…

宝塔服务器调优工具 1.1(Opcache优化)

第一步:宝塔服务器调优工具 1.1(按照下面的参数填写) 第二步:路径/www/server/php/80/etc/php.ini 搜索jit jit1235 其中1235根据服务器情况修改 第三步:路径/www/server/php/80/etc/php-cli.ini 搜索 jit1235 其中…

React Native【详解】动画

基础动画的实现流程 使用支持动画的组件 <Animated.Viewstyle{[{opacity: fadeAnim, // 绑定透明度动画值},]}><Text>动画元素</Text></Animated.View>Animated.View&#xff1a;用于创建动画容器&#xff0c;支持所有 View 的属性。Animated.Te…

如何轻松地将照片从 iPhone 传输到计算机

如果您的照片占据了 iPhone 上最多的存储空间&#xff0c;为什么不将照片从 iPhone 传输到电脑呢&#xff1f;您可能想要这样做&#xff0c;但不知道如何开始&#xff1f;如果是这样&#xff0c;那么本指南就是您所需要的。我们分享了 6 种方法以及步骤详细信息。您可以按照一种…

操作系统之内存管理(王道)

本篇博客依据王道、与我的笔记而写&#xff0c;讲解了内存的基础知识、内存管理的概念、进程的映像、连续分配管理方式、动态分区分配算法、基本分页存储管理、基本地址变换机构、TLB快表、两级页表、基本分段存储管理方式、段页式存储管理方式、虚拟内存、请求分页管理方式、页…

C++11 std::thread 多线程编程详解

C++11 标准首次将多线程支持引入语言标准库,其中最核心的部分就是 <thread> 头文件中的 std::thread 类。 🧱 一、基本概念 什么是线程? 线程是操作系统调度 CPU 时间的基本单位。一个进程中可以有多个线程,它们共享进程的资源(如内存、堆栈),但拥有各自独立的…

设置vscode使用eslint

在 Visual Studio Code (VSCode) 中设置 ESLint 是一个很好的方式来确保代码质量和一致性。以下是详细的步骤&#xff1a; 1. 安装 ESLint 扩展 打开 VSCode。点击左侧的扩展图标&#xff08;四边形图标&#xff09;。在搜索框中输入 ESLint。找到由 dbaeumer 提供的 ESLint …

.NET 生态中主流的前后端生产级框架

文章目录 **1. 后端框架&#xff08;Backend Frameworks&#xff09;****(1) ASP.NET Core**&#xff08;微软官方&#xff0c;主流选择&#xff09;**(2) ABP Framework**&#xff08;企业级应用开发框架&#xff09; **2. 前端框架&#xff08;Frontend Frameworks&#xff0…

Spring Cloud Alibaba整合Sentinel指南

目录 一、Sentinel核心功能概述 1. 控制台安装 2. 项目依赖配置 三、详细整合步骤 1. 基础配置 2. 资源定义与保护 3. 与OpenFeign整合 四、常见问题解决方案 五、最佳实践案例 1. 流量控制场景 2. 熔断降级场景 3. 热点参数限流 六、高级功能 Spring Cloud Aliba…

Win10+PHPStudy 8.1完美运行CRMEB开源商城(附性能优化配置)

环境配置 下载phpstudy https://www.xp.cn/ 安装完成之后打开&#xff0c;在软件管理中安装 nginx mysql 5.7 php 7.4 创建站点 填写域名&#xff0c;根目录选择到public文件夹下 创建完成之后&#xff0c;点击右侧管理&#xff0c;选择伪静态 location / { if (!-e $request…

康谋方案 | ARXML 规则下 ECU 总线通讯与 ADTF 测试方案

目录 一、引言 二、汽车电子控制系统 三、ECU开发流程中总线通讯&#xff1a;ARXML 规则下的标准化协作 四、ADTF&#xff1a;汽车数据与时间触发框架&#xff08;Automotive Data and Time-Triggered Framework&#xff09; 五、应用案例 六、结语 一、引言 随着汽车新…

常见JavaScript 代理模式应用场景解析

常见JavaScript 代理模式应用场景解析 在 JavaScript 开发中&#xff0c;代理模式&#xff08;Proxy Pattern&#xff09; 是一种强大的设计模式&#xff0c;它允许我们通过创建一个“代理”来控制对目标对象的访问。通过代理&#xff0c;我们可以拦截并增强对象的行为&#x…

暴雨信创电脑代理商成功中标长沙市中医康复医院

6月25日&#xff0c;国内科技产业领军企业暴雨信息传来喜讯&#xff0c;其信创电脑成功中标长沙市中医康复医院信息化设备采购项目。此次中标&#xff0c;不仅彰显了暴雨信息在信创领域的技术实力和产品优势&#xff0c;也为长沙市中医康复医院的信息化建设注入了新的活力。 长…

ZYNQ PL高速采集AD7606数据与QT动态显示全解析

从硬件设计到软件优化,打造工业级数据采集系统 在工业自动化、医疗仪器等领域,高速多通道数据采集系统至关重要。本文手把手教你基于Xilinx ZYNQ平台,实现8通道200kSPS高速采集**,并通过QT实现60fps动态波形显示。突破性采用五级流水采集架构和GPU加速渲染,解决传统方案的…

还是工作日志

今天感觉效率有点低&#xff0c;可能是太热了 【100】 开始不懂了 https://www.bilibili.com/video/BV1rL411E7uz?t1193.7&p100 什么新增&#xff0c;什么新增和变化 【101】退单 开头就说不适合做事务型 https://www.bilibili.com/video/BV1rL411E7uz?t26.6&…

青少年编程与数学 01-012 通用应用软件简介 10 云存储软件

青少年编程与数学 01-012 通用应用软件简介 10 云存储软件 一、什么是云存储软件&#xff08;一&#xff09;云存储软件的基本定义&#xff08;二&#xff09;云存储软件的工作原理&#xff08;三&#xff09;云存储软件的类型 二、云存储软件的重要意义&#xff08;一&#xf…

华为云Flexus+DeepSeek征文 | 掌握高效开发:利用华为云ModelArts Studio在VS Code中配置Cline AI编程助手

华为云FlexusDeepSeek征文 | 掌握高效开发&#xff1a;利用华为云ModelArts Studio在VS Code中配置Cline AI编程助手 引言一、ModelArts Studio平台介绍华为云ModelArts Studio简介ModelArts Studio主要特点 二、Cline介绍Cline介绍Cline主要特点 三、开通DeepSeek-R1-0528商用…

Python核心可视化库:Matplotlib与Seaborn深度解析

文章目录 前言一、Matplotlib&#xff1a;科学可视化的基石1.1 核心架构层级后端层&#xff08;Backend Layer&#xff09;艺术家层&#xff08;Artist Layer&#xff09;脚本层&#xff08;Scripting Layer&#xff09; 1.2 核心模块详解matplotlib.figure 模块matplotlib.axe…