（来源：上观新闻）
IT之家🚋🧼 4 月 24🇲🇦🥂 日消🦞🐁息，据🎙科技媒体 9To🚚5Mac 昨天报🚂道，Perpl👩💼exi🉑👨👨👧ty 首席🌛执行官阿拉温德👨🇵🇳 · 斯里尼瓦斯👀🤷♀️（Aravin🕉d S🇲🇷🛬rinivas🧜♀️）表示，🦷👩👧👧苹果 ♈iPho🍃📗ne 🦖*️⃣不会被 AI🥗泛站群程序 颠覆📂🐂。。它的FLOP💻🐵s与"完全↙不做任⏱何修补直接拼接"🤹♀️的方法相同，🇰🇮👨⚕️几乎只剩下位置编🐾🇭🇹码调整那一点点🇳🇪微小的计🦀🈂算量🕍。
在推理框架🥕🥇层面，寒武纪💨在vLL🇺🇸😦M中实现了🇸🇴🇵🇭TP/PP/SP🛵🙇/DP/EP五🔦🧜♀️维混合并行，加🧝♂️上通信计算并行🍥💵、低精度量化🥫以及P🙋🌬D分离部署，在📲满足延时约🔠🎱束的前提下达🔁到最佳词元吞吐🛬🎙。在市场推广团队，🇫🇲一名员🌝💉工实现了🏖泛站群程序每周业务报🇹🇩告的自动化💽📑生成，每🇨🇼🥃周节省了 5-🍺10 小时🖌。场景端，成都主🧗♀️动释放💇♂️🐱城市场🍕景💀。在Qwen模型上🏴处理Mu📨🥎siQu🇹🇫e数据集时6️⃣👄，KV Pack🥛et与完🇧🇫整重计算🙎🦟之间存在一定差距🔕↘，但考虑到🇲🇬它几乎为🚭🇻🇳零的额外计算成🔚本，这个取舍仍然🌥非常划算👩👩👧👧。
对苹果而言，🍩维持全球🇨🇻🍰供应链🇸🇷☃、尤其是在亚洲🔚🔅的布局，😶仍然是更现🦑🌂实也更经济的选🥈择🇬🇼。在 GPT-🔡5.5 之前🇵🇦👩👩👧👦，加速器上的🛷请求被分割成固👢👾定数量的块🇲🇸👩👩👦👦，以平衡计算核♍🎀心之间🕥的工作负👨👧👦载，确保🔨大小请求都能在🤑同一 GPU 上🛣🔗运行📛🛩。
