跳到正文

Transformer Debugger (TDB)

调查小型语言模型的特定行为

访问官网

Transformer Debugger (TDB) 是什么

Transformer Debugger 被介绍为由 OpenAI Superalignment 团队开发、用于调查小型语言模型行为的工具。

你可以用它做什么

  • 找出促成某行为的组件
  • 观察干预如何改变行为

优点与缺点

✓ 我们认可的地方

  • 展示自动生成的解释
  • 列出神经元、注意力头与自编码器潜在表示

! 需要留意的地方

  • 面向小型语言模型
  • 调查依赖可解释性组件

常见问题

由谁开发?

资料列出 OpenAI 的 Superalignment 团队。

它解释什么?

资料说明展示特定组件为何强烈激活。

最后评测: 2026-11-15

更多 AI 编程工具 工具

查看全部 →

评测方法