用可视化解析神经网络内部机制，看清神经元如何响应输入。
ConceptLens: from Pixels to Understanding
- 结合深度学习与符号方法，分析神经元激活触发条件。
- 通过误差边界分析，量化神经元响应的置信度。
- 支持实时条形图展示激活状态与误差范围，适合模型调试者。
ConceptLens 是一种创新工具，旨在通过可视化隐藏层神经元激活来揭示深度神经网络（DNNs）的内部运作机制。该工具融合深度学习与符号方法，使用户能够理解神经元被何种输入触发，以及其对不同刺激的响应方式。通过引入误差边界分析，ConceptLens 提供了神经元激活置信度的量化洞察，显著提升了 DNN 的可解释性。本文概述了 ConceptLens 的设计、实现，并展示了其在实时可视化神经元激活与误差边界方面的应用，采用条形图形式呈现结果。
原文摘要 · Abstract (English)
ConceptLens is an innovative tool designed to illuminate the intricate workings of deep neural networks (DNNs) by visualizing hidden neuron activations. By integrating deep learning with symbolic methods, ConceptLens offers users a unique way to understand what triggers neuron activations and how they respond to various stimuli. The tool uses error-margin analysis to provide insights into the confidence levels of neuron activations, thereby enhancing the interpretability of DNNs. This paper presents an overview of ConceptLens, its implementation, and its application in real-time visualization of neuron activations and error margins through bar charts.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。