不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
地理信息科学这个专业有前途吗?
月之暗面 Kimi 首个 Agent 开启内测，可生成易追溯的万字报告，有哪些技术亮点？
索尼互动娱乐宣布 PS6 的开发工作已经全面启动，你会如何期待索尼的下一代游戏主机呢？
程序员看剧的时候，如果看到有敲代码页面，会暂停看代码吗？
商业史上有哪些降维打击的经典案例？
哪种解压缩软件最好用？
postgresql能取代mongodb吗？
吴柳芳的真实水平如何？
中国不缺厨师，为什么学校食堂的饭很难吃？
个人开发用Ubuntu还是Debian，还有别的推荐吗？
为什么老外泡中国妞那么容易？什么时候中国男人也能泡老外那么容易？
和老公的月子仇导致忘不了想离婚，大家帮我看看应该离婚吗？
娃哈哈被曝 2025 年已关停 18 家工厂，此前曾回应纯净水由今麦郎代工，娃哈哈到底在布局什么？
男朋友说我穿衣服太开放，难道好身材不应该显示出来吗？
为什么要在鱼缸里养水草？
obsidian用一两年后会有多大？全文搜索还快吗？
有一个***约你出去，你会去吗？
照骗能骗到什么程度？
公司就一个后端一个前端，有必要搞微服务吗？
地球上明明有吃塑料的虫子，为什么没有普及？
为什么苹果的Mac不能啃下“游戏”和“软件支持”这2块硬骨头？
Mac上最好用的软件都有哪些呢？
自己拥有一台服务器可以做哪些很酷的事情？
如果意外挖出 10 吨黄金，有那些将它们洗白、正常使用的方法？
如何设计一条 prompt 让 LLM 陷入死循环?
为什么m4max可以轻松堆128g显存，nvidia消费端显卡却长期被限制在24g？
广西举全区之力支持柳州化解债务，是否意味着***隐性债务正受到越来越多的重视？
27寸显示器是否有必要到4K？
请问一下图中***的名字，谢啦？
为什么日本电影很少出现白丝？
