不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
有外媒记者提问，台湾当局称，在过去24小时内，46架解放军战机飞越台湾。有何最新消息吗？
家里想搞个服务器，有什么好的建议方案吗？
做客孩子临走时带走几只玩具，我的孩子抗拒并一直哭，要怎么开导？
为什么网上那么多人说广州没落是因为城中村？
哪些网站可以免费看电影？
历史上，寒潮最南能影响到哪里?有北半球寒潮影响到南半球或南极寒潮影响到北半球的记录吗？
伊朗为什么不买中国战机，却坚持四十年用老旧的苏联米格29、美国F14雄猫战斗机?
为什么腾讯云或者阿里云不让自建dns服务器?
男朋友说我穿衣服太开放，难道好身材不应该显示出来吗？
感觉鱼缸久了底下火山石里脏脏的，能彻底换水清理一遍不？
为什么CCTV-6总是能播一些连院线都上不了的电影？
一个人山林徒步时都要关注哪些点？
有没有一款音乐播放器，能连接nas音乐，创建音乐库，自动匹配歌词封面等等？类似infuse的概念呢？
SwiftUI 是不是一个败笔？
能分享一下你写过的rust项目吗？
伊朗的军事实力是不是打不过以色列？
微信头像会影响第一印象吗？
Node.js 性能为什么这么差？
四十万车和十万的车有什么区别？
有一个***约你出去，你会去吗？
如何看待日本小学校园餐只有一小块鸡肉？
有没有免费的语音转文字的软件？
你曾看到空乘做过的最傻的事情是什么？
PHP现在真的已经过时了吗？
伊朗称袭击以色列「网络首都」，该地聚集英特尔、微软等多家高科技企业，伊朗为何选择这里？会造成哪些影响？
年纪轻轻为什么会得腰肌劳损？
