RetinalGPT是一种基于大型视觉语言模型的视网膜临床对话助手，旨在改善视网膜图像解析的不足。通过构建大型数据集和创新的数据处理管道，RetinalGPT在视网膜疾病诊断中超越传统模型，推动可解释性临床研究的发展。

神经网络中的“暗物质”仍然无法理解，由罕见和稀疏的特征构成，解析和理解困难。可解释性研究面临特征缺失、层叠加、注意叠加、权重干扰和缩小等障碍。智能主要涉及模式匹配。

Gemma Scope是一套工具，帮助研究人员了解Gemma 2开放式语言模型的内部运作。它使用稀疏自编码器来解释模型的激活并识别其使用的特征。Gemma Scope包括数百个免费的稀疏自编码器和一个名为Mishax的工具。发布Gemma Scope旨在促进更具野心的可解释性研究，并帮助构建更强大的系统。该工具允许研究人员研究特征在模型中如何演变和相互作用以生成更复杂的特征。

调查发现工业与学术人工智能实验室的计算资源差距主要影响计算密集型研究主题，学术界在技术推动、评估和传播方面的作用较小。学术研究趋向接纳工业开源、预训练模型。建议通过国家赞助的计算基础设施和开放科学倡议增加学术计算资源获取，重点关注可解释性、安全性和保密性研究。同时提出结构化资源获取计划和第三方审计机制。

PromptIDE是一个用于即时工程和可解释性研究的集成开发环境，通过SDK实施复杂的提示技术，并通过分析可视化网络输出。该IDE的核心是代码编辑器和Python SDK，可优雅地实现复杂的提示技术。