Captum

什么是Captum？

Captum是一个用于模型可解释性的PyTorch库。它提供了理解和归因PyTorch模型预测的工具和技术，涵盖不同的数据类型，包括视觉和文本。Captum支持大多数PyTorch模型，并允许轻松实现和基准测试新的可解释性算法。

如何使用 Captum？

通过conda或pip安装Captum。导入必要的库，如numpy，torch，以及来自captum.attr的IntegratedGradients。定义并准备你的PyTorch模型。实例化一个可解释性算法（如IntegratedGradients）。将算法应用于你的输入数据和基线，以获得归因和收敛增量。

Captum 的核心功能

多模态可解释性支持
基于PyTorch
可扩展和开源

Captum 的使用案例

#1 理解图像分类模型中的特征重要性
#2 分析文本分类模型中单词的影响