（来源：上观新闻）
唐文斌：VLA◾6️⃣ 模型的性🐗能和 VLM 🤙🦜的能力都会受影响🗓🧚♂️。研究团队用五种🤛🇵🇼最先进的压缩方法☄🧿（CU🏃♀️R、KVza💁♂️p、L6️⃣🌹everag🍪eScore🤵、TO⛹️♀️VA以🇰🇭及随机剪枝）🚶♀️🔓在10%到50🇯🇴💿%的压缩率下⚪🧐进行了测试，对比🔌了三种配置👩💻🎍：KV P😮acket正常🥏🇨🇿模式（压🐎⚒缩覆盖整个文🇯🇴🏈件包包括适🍶⚡配器）、🚮🥈KV Pa🏠🐷cket🖤保留适配🈯💘器模式（压🇬🇶缩时保护适配器💷📽不被删除）以及单🧹🤮一缓存模式（对完👮整拼接缓存做压缩🇮🇸💜的基线🛸🛡方法）🐚。
我们发明了“提示📿🗿词工程”这个概念🏢🇧🇦，尝试用越来🍾越长的 Prom‼🧕pt 引导模型🎥🔈做出我们想要的行🌍🍡为🈹。接下来🏍，用KV Pac🚐🍶ket的方🚯👨❤️👨式重新处理同样👗👨🔬的内容：把每篇文🍾档单独包🚒⛎裹成文💇件包并🤑🎎预算好缓存，然后🚶拼接在一起🛳◀，再让模型基☢于这个拼接🏄🌘缓存对刚才那段👨👩👦👦问题和回答做🦊前向计算，同样🔛记录每一步🤘的预测概😚💷率分布，这是"学🏫🌇生输出"🥘。
