AI“黑盒子”被打开了！Anthropic连发两篇论文：用AI“显微镜”追踪大模型思维

本文介绍了Anthropic公司在理解大语言模型（LLM）内部机制方面的重要进展。他们提出了一种新的可解释性方法，通过构建AI“显微镜”来追踪模型的思维过程。研究发现，Claude模型在生成文本时会提前规划，而非逐字生成；在多语言处理中，不同语言共享抽象概念空间；在数学计算时采用并行路径策略。此外，研究还揭示了模型在推理、幻觉和越狱行为中的内部机制。这些发现不仅提高了对AI系统的理解，也为确保其可靠性提供了新方法。