transformer可视化

poloclub.github.io/transformer-explainer/

“Transformers 彻底改变了机器学习，但它们的内部工作原理对许多人来说仍然模糊不清。我们推出了 Transformer Explainer，这是一个互动可视化工具，旨在帮助非专业人士通过 GPT-2 模型了解 Transformers。我们的工具通过整合模型概览并在数学操作和模型结构的不同抽象层次之间平滑过渡，帮助用户理解复杂的 Transformer 概念。它在用户的浏览器中本地运行一个实时 GPT-2 实例，让用户能够输入自己的内容，并实时观察 Transformer 的内部组件和参数如何协同工作来预测下一个词元。该工具无需安装或特殊硬件，从而扩大了大众对现代生成式 AI 技术的教育途径。”