近日，OpenAI首席科学家雅库布・帕乔基（Jakub Pachocki）在社交平台X上发布推文，就AI模型Astra“不可监控与推理不透明”的争议作出回应。这一话题源于此前The Information媒体的深度报道，该报道指出OpenAI正在测试的“深度循环”（recurrent depth）技术可能使模型推理过程更难被解释，引发了AI领域对模型透明度的广泛讨论。
帕乔基在推文中强调，包括Astra在内的前沿模型，其计算图深度与GPT-4相比并未出现跳跃式增长，差距不到两倍。他指出，模型架构的复杂度并未如外界担忧的那样大幅提升，OpenAI始终将加强思维链监控作为研究核心目标之一。所谓计算图深度，是衡量神经网络模型架构复杂度的关键指标，数值越大意味着模型内部计算层级越多、结构越复杂。
此次争议的源头在于“深度循环”技术的潜在影响。与传统基于Transformer架构的模型不同，该技术通过让模型重复调用同一组网络层并持续更新内部表征，改变了信息处理方式。主流模型如ChatGPT、Claude和Gemini等通常按线性步骤处理信息，部分场景下能以自然语言输出推理过程，但这些输出未必准确反映模型内部的实际计算逻辑。而“深度循环”可能使模型的实际推理更多隐藏在难以直接解读的内部状态中，导致研究人员难以通过思维链追踪决策路径。
帕乔基进一步解释，OpenAI自推出初始推理模型以来，便持续投入资源维护和利用思维链监控技术。他认为这项技术目前仍较为脆弱，且正因一些与架构变更无关的因素向不利方向发展。尽管如此，他表示OpenAI已制定应对措施，加强思维链监控是当前研究项目的重点方向之一。这一技术的重要性在于，它能帮助研究人员理解模型如何将训练分布中的对齐特性泛化到新场景中。
该报道发布后，迅速在AI领域引发热议。部分专家担忧，若“深度循环”技术广泛应用，外部监控工具将更难摸清AI模型的决策逻辑，从而降低模型的透明度。这种担忧反映了业界对AI可解释性的持续关注，尤其是在模型复杂度不断提升的背景下，如何确保技术发展不脱离可控范围成为关键议题。
