|
|
2026年9月1日,科大讯飞正式开源两款端侧大模型星火X2.5-4B与星火X2.5-1.7B,原生支持最长1M token上下文窗口,主打智能体、数学与通用理解能力,定向车载、智能硬件与万物互联场景。一周后9月7日还将发布293B基座模型星火X2.5。端侧AI开源战正式打响,大模型竞争从云端"卷参数"延伸为端侧"卷小而强",每一台车、每一部手机、每一个智能音箱从此都能跑本地Agent。
三件事的三层逻辑
参数规模看,4B与1.7B是当前最卷的端侧尺寸,但1M token上下文是旗舰模型才有的能力,工程上做了大量优化(分组查询注意力、KV-cache压缩、滑动窗口混合)才能下放到端侧,这是星火过去多年在语音、车载深耕的底气。云端模型按API调用收费,端侧模型按"预装授权+开发者生态+硬件溢价"盈利,商业模式完全重构。智能体能力下放到端侧意义更深远——小模型不再只会聊天,还要会调用工具、执行多步任务,这是端侧AI从"语音助手"走向"本地智能体"的关键一步。
三条暗线
第一,端侧AI是下一波"卷"的战场,云端模型竞争已白热化,端侧才刚起步,想想车机、手机、家电、穿戴、工业设备有多少台,每一个"能跑模型的设备"都是端侧AI落地场景,云端是算力集中,端侧是智能分发。第二,押注端侧的不是偶然——科大讯飞在语音、车载深耕多年,端侧场景是基本盘,开源4B/1.7B既能抢占开发者生态又能拉动自家硬件与平台业务。第三,1M上下文对小模型意味着实用体验质变,车载助手要理解整段对话、智能硬件要记住用户偏好、工业设备要保留几小时日志,上下文长度比参数规模更影响落地深度。
对企业的三点启示
第一,2026下半年AI Agent选型应重新评估端侧方案,星火X2.5-4B配合MIT类开源协议可直接商用,适合离线场景、隐私敏感场景、低延迟场景的本地Agent落地。第二,关注硬件适配生态,4B模型在消费级设备即可跑,但要在车规级芯片上稳定运行仍需与芯片厂商联合优化,企业应提前与高通、地平线、寒武纪等端侧芯片厂商对接。第三,智能体框架与端侧模型同步选型,如开源的CAMEL、AutoGen、LangGraph框架适配1M上下文后才能发挥端侧优势;同时应建立端云协同架构,云端做大模型复杂推理,端侧做日常智能响应,两者用向量检索而非整段上下文对齐,系统效率与隐私都可保证。 |
|
发表于 