（来源：上观新闻）
这正是前🏟文提到的注😛意力汇聚效🇧🇬🍢应在作怪——🚯💅模型把⚓每个文档的开头🈳😨误认为是序列😿🇿🇼的开头，过👩👩👦👯度关注🍈这些位置，从🗻而无法均匀地从文🍀档正文中提取🕷🇸🇨信息，导🚵致推理质量下⛷降🚮。今年是国际宇航🚮联合会🔈成立75周年🐞🇸🇦。
更关键的👩🎓是，这些方法与⏰现代KV缓存压缩🇳🇨🔫技术（一种减少缓♈存占用内存的技🤡🔭术）难以兼容🇬🇪🇲🇩，因为🎷压缩后的缓存结构❓🐆不规整，重计算时🇲🇫找不到对应🎬的位置🍂。
例如在⌚🇺🇸"大海💚捞针"长🤞⚾文本任务中🤥，首To🇦🇩🕖ken时延缩短🔅🌤了19.4🛸🗓5倍；在M📀usiQue多跳📖推理任务中缩🇮🇹短了5.8🐶👯♂️1倍🇺🇸🍨。“幽灵外卖🏫🇸🇯”的空壳店，生产❇许可证大👴✏多是伪造的，接⚜单的生产方更🍶是完全隐身幕🇧🇼后，脱离🔢🔽监管视野👨🦱。
