（来源：上观新闻）
每百万t😉oken，V4🗯-Fl🌑ash的输入🇲🇹价是1♿🚣♀️元（缓存命中0.✌2元），输出价2🇩🇯元；V4-⏲Pro的输入价🗂🇨🇽12元（缓存🛵🤠命中1元），输出🥢价24元✒。软银公司🕛高管曾考虑过将工🗻🇦🇹厂转向其他用途（🆎包括机器人制造🇸🇾），但最🤧🇲🇵终决定🏖押注能源领域🤨🎢。这种合🙉🌥作关系🇳🇨🖨达到了一个新🖌的里程👢🇳🇴碑，双方共同搭🌸🇵🇱建了首个 GB2😞📴00 NVL7💉🤷♀️2 10 万🏅 GP🎫😁U 集📃⛽群🚣🤛。
作者 | 林克✂🖕 4月🤞24日，备受关🇲🇿🌖注的D💇♂️🍑eepSe❗ek的V4模型🌔预览版终🥒👛于发布并👨✈️同步开源了权🏈重🍟。在推理框架层面🈹，寒武🙍🐴纪在vLLM🇹🇯中实现了TP🕤/PP/S💊P/DP/E🔑P五维混合🇹🇩🇧🇧并行，加上通信计✍算并行、低精度🧴📊量化以及PD🏄分离部署，在🇬🇬满足延时约束的前🧞♂️提下达👲到最佳👣词元吞吐🌼。
