新型神经概率电路实现可解释且高性能的AI预测

原文：Neural Probabilistic Circuits: Enabling Compositional and Interpretable Predictions Through Logical Reasoning.
期刊：Machine learning（影响因子 4.9） |  PubMed | PMC 全文（含 PDF）

在医学影像分析、疾病风险预测等生物医学场景中，人工智能模型常被批评为“黑箱”：它们能给出准确判断，却难以说明依据。事后解释方法（如热力图、代理模型）往往只是近似模拟原模型，可能把决策归因到无关特征，在高风险临床与法律应用中带来隐患。因此，学界呼吁从源头设计“天生可解释”的模型，而非事后补救。

研究背景：从概念瓶颈到逻辑推理

概念瓶颈模型（CBM）尝试用“红色”“圆形”等人类可懂概念作中间层，提升透明度；但后续为提性能改用概念嵌入，牺牲了语义可解释性。另一些方法引入逻辑规则，却多从数据中学得，难以融入先验知识，且缺乏整体性能的理论保证。

核心发现：神经概率电路（NPC）兼顾性能与可解释性

发表于 Machine Learning（影响因子 4.9）的这项研究提出了神经概率电路（Neural Probabilistic Circuits, NPCs）。如图1所示，NPC 由两部分组成：一是神经网络“属性识别模型”，输出各类属性（如“颜色”这一高层类别下的不同取值）的概率向量；二是基于概率电路的“任务预测器”，在属性上进行逻辑推理得出类别预测。

在四个图像分类基准数据集上，NPC 的表现优于三种代表性概念模型，并与端到端深度神经网络性能相当，同时显著增强了可解释性。研究还给出两类解释：最可能解释（MPE）指出对预测贡献最大的属性组合；反事实解释（CE）回答“若调整某些属性概率，模型是否会改判”（算法1）。

方法亮点：三阶段训练与理论保证

作者设计了三阶段训练算法：（1）多任务学习训练属性识别；（2）构建概率电路，支持数据驱动学习规则，也支持“知识注入”方式人工编码逻辑规则（图2展示知识注入电路如何编码加权逻辑规则）；（3）端到端联合优化。

理论上，论文首次证明组合式瓶颈模型的误差上界可由各模块误差的线性组合界定，为整体性能提供了保障。相比二值概念，使用高层“属性”减少了概念筛选需求，并提升了识别表现。

应用意义：为生物医学AI提供透明工具

对科研与临床而言，NPC 能在不牺牲太多精度的前提下，让医生看到模型是基于哪些可解释属性与逻辑规则做判断，并支持“如果……会怎样”的反事实追问。这有助于在医学分析等高 stakes 场景中建立对AI的信任，也为融入领域先验知识提供了可行路径。

关键图表

本文图片转载自 PMC 开放获取全文，仅供学习参考，请以原文为准。