不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
你在生活中见过哪些「强者从不抱怨环境」的例子？
日本AV对中国人的毒害有多大？
《碟中谍 8》都有哪些槽点？
为什么中国主机带宽比美国贵5倍（原来错误的10000倍），比如阿里云？
为什么Rust的热度超过Zig？
写代码的时候总是考虑太多怎么办?
Jetpack Compose 和 Flutter 应该先学哪个呢？
如何看待rust编写的zed编辑器？
为什么中国的英语教育这么失败?
如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？
有一个女儿是种怎样的体验？
国产数据库有什么坑？
Rust 未来会成为主流的编程语言吗？
程序员不租房住车里，称三年多省了差不多十万，被质疑占用公共***，怎样看他的选择？这算占用公共***吗？
如何评价***伊内斯·特洛奇亚的身材？
都说时尚是一个轮回，有哪些老电视剧里面的穿搭到现在都还是很潮的呢？
不住酒店可以去哪过夜？
如何判断鱼缸中的硝化系统是否已经成功建立？
为什么都说 Finder 难用？
显示器选32还是27，2k还是4k?
现代艺术只考虑意义、不考虑美感吗？
买到烂尾楼到底该有多绝望？
你们的腰突是怎么突然好的？
中国核弹头数量什么时候能追上美俄?
一个程序员的水平能差到什么程度?
为什么都说武器越怪，死的越快？
27℃ 的冷空调和 27℃ 的热空调有什么区别？
