（来源：上观新闻）
过去做⬇Agent🇬🇲最头疼👨🦳📌的就是上下文管理🇧🇬——每多一轮对🐴🥼话，token就🥁指数级堆叠🐪🇬🇹，成本⚾🇭🇺和稳定性同🛹时恶化🇧🇩🇮🇱。在计算量方面，K😕🚆V Pac🚅➗ket比🇯🇴🗜传统方🐧法低了⏏5到6个数量级🕍，也就是少算了🐂🍍geo优化怎么做约十万倍到百🥴☦万倍的运算量🏤🌅。这正是🈯前文提到的注意力🕰汇聚效应在作🍛💜怪——模型把每🥰个文档的🔻🏄开头误认🙏为是序列的开头，🎹过度关注这些🇨🇴😈位置，从而无👨👨👧👧🥥法均匀🚹👁地从文🇬🇩🕰档正文中提取信息🛋，导致推🇲🇼📚理质量下降💐。
” “AI🔻🤧军备竞赛失败🔌的后果已不✔🔤再是纸上谈兵🎞😼。此外，正常模🇬🇸式（允许压缩算法🔞自由处😁⬆理整个文件包）💒🦴的效果普遍优于保🏆🧀留适配🚗🇮🇨器模式，这说明训🇰🇮练好的适配器🍷向量本身就具有相👩👩👧当强的抗压缩能力🎞，即便被压👦😵缩算法删除🧡👧一部分，🇧🇸整体性能也不会🍹受到太大🇹🇰♏影响📊。麦奎尔片面地认🤔为，中国AI产✂业生态是🥧⛳建立在美🇦🇿国技术😋之上的，谬称中🇹🇻方利用美国芯片🔵🔻和所谓“非法模🚾🤹♂️型蒸馏”缩小技🇳🇦🏒术差距，💁♂️坚信只要切断✋🌐美西方同👨👨👦👦盟的高端技术🇸🇾😭供应，便⚾能将中美AI领域👺🔑的差距🚞从数月拉🇨🇺🕤大至数年，借🚥💦此维系美🌆国技术优势，👨🏫为本土防御体系升🧡🆒级争取缓冲空间👓。
