格兰：DeepSeek再出大招！打脸马斯克？！

lameihua

　　马斯克为做出全球最聪明的人工智能沾沾自喜的时候，DeepSeek的梁文锋带着最新的新论文，来了。

　　提出了一种新的注意力机制原生稀疏注意力Native Sparse Attention，简称NSA。

　　听起来有点复杂，怎么理解？

　　“注意力”，很重要。

　　目前所有的模型都是全注意力Full Attention，就像我们阅读资料一样，如果非要一个字一个字的仔细阅读，就会消耗大量的脑力与时间，

　　放在模型上，意味着增加极高的计算成本并出现延迟。

　　DeepSeek的新论文采用了一种新方法、直接抓重点。

　　也就是说，能够快速捕捉到某个区域的重点词语，迅速理解资料中包含的真实含义，既省时又省力。

　　从结构来看，整个NSA分为压缩块、选择块和滑动窗口块三个部分。

　　压缩块负责把所有注意力，按时间顺序压缩成块，之后仅粗略地计算一个注意力分数。在这个过程中，只要求全面，不需要有多精确。

　　选择块要从全部注意力中，挑选出最特别最看重的部分，并借用到前面压缩块已经计算过的结果，算出精确的注意力分数。

　　滑动窗口块则是专门在预测的时候，为了提高时间最近的内容的分量，专门计算内容分数。

　　综合下来，通过覆盖了全局、精细和近况，最大化地提高效率。

　　从测试实验的结果来看，NSA在64K序列长度上比全注意力计算效率提升很多，向前传播速度快了9倍，反向传播速度快了6倍，推理阶段少了90%以上的KV-cache访问量，带来了11.6倍的解码加速。

　　展现出的效果确实是比较逆天的。

　　在看到论文后，国外网友直接评论“Holy shit this shits on Grok 3”，

　　文雅的翻译是“天呐！比 Grok 3强太多了”。

　　就像我昨天说的，马斯克的Grok 3，只是在极度充沛的算力资源前提下，搞的另一个“大力出奇迹”罢了。

　　在算法上做出真正创新，才能引领时代潮流，一味堆芯片堆算力，注定是行不通的。

　　指数也在DeepSeek的鼓舞下重拾信心，上涨27个点，4645只个股上涨，591只个股待涨，平均股价上涨2.79%，收回昨天失地。资金也从避险板块银行流进了进攻板块AI和机器人。

　　美中不足是港股高位盘整，没有突破。

　　之前外资流出港股的关键性事件是蚂蚁金服和教培行业整顿，从A股撤出的关键性事件是俄乌冲突。

　　最近，马云参会和美俄谈判，都是对之前事件的修复，那么随之而来的，便是对中国资产风险偏好的修复。

　　最后说说涨上天的机器人板块。

　　在消息面上，机器人的催化一个接着一个。

　　宇树科技的90后企业家王兴兴刚刚参加完民营企业座谈会，又公开表示现在AI驱动机器人进化的速度非常快，是超预期的，可能会在今年年底前达到一个新的量级。

　　特斯拉那边的供应链也传来消息，说特斯拉人形机器人Optimus灵巧手的驱控方案已经基本定型，用腱绳实现三级传动连接模组和末端手指，克服了重量与灵活性的问题。

　　还有就是蚂蚁集团也进入了机器人赛道，在招聘平台发出信息，开放招聘具身智能人形机器人系统和应用等岗位。

　　可具体到股票如何选择，就有大学问了。

　　机器人从最开始的传感器、灵巧手、丝杠三大环节轮动到整机和减速器，今天又更进一步，轮动到更细节的丝杠加工设备、大小脑以及电子皮肤和腱绳等灵巧手关键环节，是不断寻找新品种，不断细致缩圈的过程。

　　之所以出现这种情况，是因为很多公司只是在蹭机器人的热点做市值管理，并没有真正扎进产业链里。

　　和21年光伏锂电那种一窝蜂涌入市场不同，在产业链调研时，会很明显的感受到，有些公司在量产，有些公司在送样，进度梯队之间的差距非常大。

　　以目前的情况来看，流水线上能被机器人取代的空间已经不多了，接下来要取代的是在流水线上从事复杂工作的人。

　　这方面，对机器人需求量的分歧比较大，选股的逻辑，也要从机器人概念转到实实在在的订单上。

　　机器人板块，很快也要出分化了，纯蹭的，还是早点止盈为妙。