当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 人气:发表时间:2025-06-25 04:30:10
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 《灵笼》第二季中马克与冉冰在灵息籽中的重逢引发了世纪虐恋的讨论,如何评价这种情感设定?
- Caddy 和 Nginx 比有哪些优点和缺点?
- MacOS的哪个设计让你非常恼火?
- 国际空间站的氧气是怎么来的?为什么一直都用不完?
- 你看过哪些以为是段子新闻,结果发现居然是真的?
- 联想 128GB 超大内存迷你 AMD 主机上架,此款主机有哪些亮点?
- 一个练过功夫的姑娘能打过一个没练过的男人吗?
- 如何评价捞女游戏改名,全网“围剿”,以及导演b站账号被封这件事?
- 中国与敌国发生战争,哪些国家会帮中国?
- 学生校服如何隐藏内衣痕迹?
最新资讯文章
- 江西通报救护车 800 公里收费 2.8 万「不合理,暂停医院转运服务」,该医院要承担怎样的法律责任?
- 陌生人晕倒了,帮他拨打120后,病人不支付120出车费,这个费用谁来承担?
- 做个web服务器,gin框架和go-zero怎么选?
- 为什么国内连 Docker 镜像源都要封禁?
- 什么是稳定币?有人说它是「一场饮鸩止渴的游戏」,你怎么看?
- 猫那么爱干净,却为什么不喜欢洗澡?
- 用J***a写Android的时代是不是要结束了?
- 以色列是如何从三天前的不可一世要灭了伊朗到今天的哭哭啼啼要“为生存而战”的?
- 北大「韦神」粉丝破 2000 万,评论区成高考许愿池,如何看待家长们纷纷从韦神这里「沾福气」的心理?
- 如何看待小米开源项目MiLM-6B?
- 请问买个nas,能够直接把游戏装进去吗?
- 为什么负荷那么大的腰部力量训练的人不会受伤,长期无载荷久坐的人会出现腰肌劳损?
- 程序员如何用好 Cursor 工具?
- 什么是最好的编程用显示器?
- 服务器能否拒绝非浏览器发起的HTTP请求?






关注公众微信号
移动端,扫扫更精彩