（来源：上观新闻）
实际效果用两个🇷🇪🇲🇭数字就🥾🙍能概括：在💟🅰百万token上🏃💱下文设🚐➿置下，V4-P🇱🇹ro每处🕡理一个🔰toke🤒🏓n的算力消耗🇰🇳只有V3.2🙍☪的27🀄💼%，KV缓💊存占用只有10🔣🇱🇻%🎧。Codex🚥🏧 帮助团队🦷更快地将想🎱法转化为可基准🇹🇿🤪测试的实现，包括🐲绘制草图、搭🌪✂建实验流程，以🌨及帮助☯确定哪些优化👇🐎值得深🍍入投入🖖。实际效果用两个数📌🛌字就能概👁括：在百万🌉☃token🦷👨👨👦👦上下文设置下🌩，V4-P😫ro每处理一个t🌐oken的算力消耗只有V3🏋⏪.2的2🇦🇷7%，KV💮缓存占用只有10🕐%⛏。
因此，K🤾♀️V缓存✌🌊压缩技术应🇺🇦®运而生，核心🗝思路是丢弃那些"🦞不那么重要"的🌂词对应的😎📻缓存，只🤩保留关🎒键词，从而大幅减🍇😈少内存🙀🙋♂️占用🕵️♀️。克里斯·麦❤奎尔（🍠💇♂️右） CFR 🥂🇫🇷根据公开资💅🧁料，曾🇲🇬😱供职于拜😲登政府的美国国🦸♂️家安全委员会🧬（NSC）👩👧，主要负责技🙁🦢术和国家安全事🌺🔂务，并参与🇲🇭制定了针😴💮对AI芯片的🐠🥏出口管制措施🇨🇳。视频截图 就表✋演所使👨🎤🇬🇳用机器人的来源，📨该工作人🇵🇾员称：“机器🚾👇人由校友企业赞📐助使用，👨表演结束之后😠👨🏭，机器人也🇦🇷归还该🎐公司了🇳🇷。开发者 J🚴🇰🇾ess🙊e Vincen🇰🇮🌟如何制作个人网页t 最早意识到🛫这个问题的严🌨🚰重性：“🇲🇶♟️开发者们☪❔发现，虽👨🏫👩🚀然因为 Comp😓6️⃣uter 🇳🇦Use 👩👧🐎的诞生，让📥🇧🇿 AI 🇪🇦有了‘手脚’⚖🐐，但 AI‘脑子🥒’里缺少针对特定🈷🔎任务的专业 💁♂️🇸🇷SOP（📏标准作业程序）🌯🍿。
