不要想的太過復雜，就只有隨機數生成的三個矩陣，原始輸入已經通過矩陣相乘關聯在三個隨機數矩陣中，再通過一些代數游戲得到每個token對于整體輸入序列的注意力權重矩陣，再和另外一個隨機數矩陣進行線性的代數變化即可。

反向傳播更新的是這三個矩陣的權重，三個矩陣的維度設計也是為了符合線性代數的運算。

總之這個就是一個巧妙的線性代數游戲，沒有什么復雜的邏輯問題。

。