（来源：上观新闻）
。架构文档、模🐤型权重、推理框架🛐🇹🇿的对接，必须🇳🇴💽在模型🗼🚱正式发布之前就已👔经启动🥌🌁。唐文斌：VLA🚳 模型的🔭性能和🚼👨👨👦👦 VLM 的能👩👩👦👦🚷力都会受影响😚🇩🇪。官方数据显示🥬🇷🇺，在100万to🏪ken👨👩👧👧👨✈️场景下，🏵😋V4-P➰🏖ro的单to🇱🇸ken推理算🔇🇲🇹力仅为V3⭐.2的27%🐪，KV缓🎙存仅为10📐%；V4-Fla🇺🇲sh则分🏳️🌈☎别低至1🇲🇱0%和7%🥕🇸🇭。在Llama模🇸🇬🇫🇯型上，🦓🤽♂️KV Pack🍠et在人物传记任🆚🔈务上比最接近🚇⬆的重计算方🥦案快1.3🧥6倍，🇦🇹在HotpotQ🐽A上快3.🌥3倍🇬🇦。
其实 📼2013 年我🍡🦸♂️们就开始做天⚠🛢元，因为🇪🇨👨🍳当时只有 🎵Caffe（👩❤️💋👩🌳注：最🦎初由伯克利团队🍝👾研发和开🚆源的一个深度🇦🇶学习框架，Me🗞👩✈️ta 基🇮🇪🐷于此开发🇹🇭🔞了 Caff🥶e 2，😣🇹🇱后被并🗂入 PyTo🔋🧮rch🧂）还没有 PyT⬇orch🇳🇷，外部🎷🈸工具是真💫🎥的不好用👩👧👦😗。
