Token 与 Embedding
可复习 · 原问题出处待确认检查理解
1 / 3
“unbelievable” 被切成 un、believ、able 三个片段。这说明什么？
来源
- 原问题的出处待确认，见本页开头的说明。
- 参考解释、交互实验和测验由 Claude 编写。分词结果、Token 编号和二维向量都是示意，不来自真实的分词器或模型。
- 学习材料：3Blue1Brown · Transformers, the tech behind LLMs（Deep Learning 第 5 章，讲到了 Token、Embedding 矩阵和 GPT-3 的 12,288 维）。