把这句话变成向量

继续同一句话，而不是换例子

教学分词为 [北京, 是, 中国, 的]，编号 [0,1,2,3]。编号只是向量表的行索引；数值大小不表示词义相近程度。真实分词方式随模型而异，这里并未运行真实分词器。

从编号查到向量

教学表 E=[[2,1],[0,1],[4,2],[1,0]]，四个片段对应四行，每行两个数，形状为 (4,2)。点选北京取出 [2,1]，点选中国取出 [4,2]。若只取北京、是、中国三行，子矩阵形状是 (3,2)。

让向量进入一次计算

取北京的列向量 x=[2,1]ᵀ，与 W=[[3,5],[1,−1]] 相乘。第 1 行点积为 11，第 2 行点积为 1，得到 z=[11,1]ᵀ。W 的列数必须与输入维数一致；少一个权重时不能把剩余项静默忽略。

回到大模型的完整流程

此处展示 Embedding 查表与线性变换。真实 Transformer 后续还包括位置处理、上下文计算、非线性变换等。这个二维结果没有被映射到词表，也不是概率；不能把数字 11 解读成首都。

为什么还要算第二行？

第一次接触时，可以只做查表，不必急着算矩阵。展开选做运算后，再看这个问题：我们故意把 W 设计成两行，所以想得到两个输出数。每一行是一套不同的配方，都需要读取同一个完整输入。第二行 [1, −1] 表示“第一个输入乘 1，再减去第二个输入”。

对北京的 [2, 1]，第一行得到 2×3 + 1×5 = 11，第二行得到 2×1 − 1×1 = 1，所以输出是 [11, 1]。这行权重是教学选择，不是模型必须采用的规律；真实网络中的权重通常由训练调整。本实验把第二行固定，是为了让你一次只观察少量变化。

在线实验的数学设定

教学词表依次为 [北京, 是, 中国, 的]，ID 为 [0,1,2,3]，Embedding 表 E=[[2,1],[0,1],[4,2],[1,0]]，形状为 (4,2)。对 ID i 查表得到列向量 x=E[i]ᵀ。示例权重矩阵 W=[[3,5],[1,−1]]，计算 z=Wx；北京的输出是 [11,1]，中国的输出是 [22,2]。界面可修改选中行 E[i] 的两个元素及 W 第一行；第二行固定。编号与数字均为教学设定，不是模型提取结果。这里不执行上下文融合、Attention、训练或输出解码。

IDs: (4,) → E[IDs]: (4, 2)
x = E[0]ᵀ = [2, 1]ᵀ
W = [[3, 5], [1, −1]] → z = Wx = [11, 1]ᵀ

容易混淆的地方

Token 编号是地址；向量是查到的数据；变换结果是中间表示。三者不能混用。第 1 维、第 2 维也不天然对应人能命名的语义。