跳到正文

LLM Transparency Tool

透视 transformer 语言模型内部机制的开源工具包

访问官网

LLM Transparency Tool 是什么

LLM Transparency Tool 被介绍为一个开源的交互式工具包,用于分析 Transformer 语言模型的内部工作机制,目标是提高模型透明度。

你可以用它做什么

  • 选择模型和提示并运行推理
  • 浏览贡献图并调整阈值
  • 用选定的令牌构建图表

模型要点

  • 可查看任何块之后的表示
  • 会展示输出词汇表中的表示
  • 会列出前一个块里被提升或被抑制的令牌

优点与缺点

✓ 我们认可的地方

  • 可选择任何令牌在任何块之后的表示
  • 输出词汇表的表示会显示被提升或抑制的令牌

! 需要留意的地方

  • 资料没有列出该条目的安装步骤
  • 分析从选定的模型与提示开始

常见问题

它可视化什么?

资料说明它以可视化方式展示注意力流动和信息传递路径。

能检查令牌吗?

资料列出选择令牌构建图表,以及查看任何块之后的表示。

最后评测: 2026-11-15

更多 AI 编程工具 工具

查看全部 →

评测方法