分类 AI开发助手
标签 AI 编程
Transformer Debugger (TDB) 是什么
Transformer Debugger 被介绍为由 OpenAI Superalignment 团队开发、用于调查小型语言模型行为的工具。
你可以用它做什么
- 找出促成某行为的组件
- 观察干预如何改变行为
优点与缺点
✓ 我们认可的地方
- 展示自动生成的解释
- 列出神经元、注意力头与自编码器潜在表示
! 需要留意的地方
- 面向小型语言模型
- 调查依赖可解释性组件
常见问题
由谁开发?
资料列出 OpenAI 的 Superalignment 团队。
它解释什么?
资料说明展示特定组件为何强烈激活。
最后评测: 2026-11-15