特征可视化简介

# 特征可视化简介

特征可视化有助于我们更好的理解深度网络，是深度学习可解释性的重要组成部分。常见的特征可视化方法主要分为三类：特征层的可视化、卷积核的可视化、类激活图的可视化。

而实现这些特征的可视化主要的思路分为前向计算和反向计算。前向计算是指：我们对于一张输入图像，直接进行前向计算，可以得到网络每层的feature map，可以直接对 feature map 进行可视化。后向计算是指：根据网络最后一层最大的激活值，利用感受野关系映射到原始输入图像的某些区域，可以观察到是哪些区域激活了网络，也就是类激活图的可视化。卷积核的可视化就是对于某个输入图像，将卷积核

# 1、类激活图（Class Activation Map）

Learning deep features for discriminative localization

Grad-CAM:Visual Explanations from Deep Networks via Gradient-based Localization

Grad-CAM++: Generalized Gradient-based Visual Explanations for Deep Convolutional Networks

# 2、特征层的可视化

Visualizing and Understanding Convolutional Networks

# 3、卷积核的可视化

# 参考资料

# 参考代码

上次更新: 2021/08/17, 18:07:06

← 后期泛谈类激活热力图可视化→