数学影像馆

视频目录 / 线性代数

热度排名 #1883

注意力机制里的查询、键与值矩阵

The math behind Attention: Keys, Queries, and Values matrices

用少量向量手算一遍：先让查询与键做点积，归一化得分，再用所得权重加总值向量。跟着讲解记录每一步矩阵的行列数，能看清哪些维度对应位置，哪些维度对应向量分量。

Luis Serrano Academy · 1 串讨论 · 热度 1.418

打开原视频 ↗浏览线性代数

讨论出处