端侧AI新洞察

中国软件网曹开彬

元空智能创始人、CEO逄大嵬——这个连续创业者,自从加入AI创业大军的那一刻起,就一直有个梦想:努力把“端侧AI”从一个技术概念,变成一个AI产品的新品类。

9月3日,他终于让这个梦想在产业界真正落地。元空智能与惠普当天在上海联合发布会,主题就是“AI,在本地发生”。

发布会现场,逄大嵬提出了一个更大胆的判断:

“我们今天不是简单发布一款端侧模型,我们是在重新定义端侧AI。”

我对逄大嵬的这个判断非常注意。它甚至是我整场发布会印象最深的一句话。

因为在经历了AIPC的高调与低谷、AMD AI mini工作站的热潮之后,我一直对端侧AI的落地性与发展状况抱着非常大的兴趣。

并且我相信,包括我在内的很多业界同仁,在理解端侧AI时,往往都很简单,就是把模型压缩得足够小,然后装进手机、PC、IoT设备。

在端侧设备上能把大模型跑起来,就是端侧AI。

但逄大嵬认为,这样理解太简单,因为“这样的AI没有创造生产力”。

端侧AI,这个新品类不单是把大模型装进电脑

元空智能为什么一直押宝端侧AI?

逄大嵬非常清楚地知道,云端大模型、云端AI存在三大现实问题:数据安全——企业和个人的敏感数据都要上传云端;成本——Token费用随着使用量增加,已经进入企业财务报表;稳定性——长任务跑到一半中断,无法保证持续可预期的输出。

端侧AI新洞察

因此,逄大嵬一直非常坚定地相信,“AI的下一站,不在云端,在本地。”

为什么过去两年端侧AI一直没有真正爆发?

“因为过去的所谓“端侧AI”没有创造生产力,没有为客户创造价值。”

为什么没有创造生产力?

逄大嵬给出的答案很直接:三个条件过去没有同时成熟——模型能力、Agent能力和芯片算力。

现在情况变了。

模型越来越小,但智能密度越来越高;Agent的任务编排和执行能力越来越强;CPU、GPU、NPU等端侧算力也在快速提升。

三条曲线交叉,端侧AI才真正迎来窗口期。

端侧AI新洞察

因为,这个交叉点的出现,意味着一个困扰端侧AI最关键的问题有可能得到解决:

以前的端侧AI,只能跑大模型,不等于能干活。现在有可能更进一步,不仅能跑通大模型,还能干活。

端侧 AI 的答案

逄大嵬用一个方程式很形象地做了表达。

生产力=端侧AI=模型 X Agent X 设备。

端侧AI新洞察

模型是“大脑”;

Agent是“脚手架”,负责把模型变成真正能够执行任务的能力;

设备则是最终的交付载体。

第一个要素——模型

这便是在此次发布会上首次公开的元空自研端侧大模型Boxer。

逄大嵬把任务复杂度、模型参数量和生产成本放在一起衡量,认为真正能够规模化交付生产力的,并不是无限追求大模型,也不是一味追求极小模型,而是处于一个合理平衡区间的中等规模模型。

将20B—100B模型视为更适合生产力交付的区间。Boxer就是定位在这个区间的端侧大模型。

第二个要素——Agent

这便是元空智能在此次发布会上同时推出的两大端侧智能体:元空AI Work Agent和AI 4Science Agent。

一个面向工作,一个面向科研。

元空AI Agent,也有两个让我觉得他们和腾讯WorkBuddy、豆包工作、千问办公等大厂的Agent相比也非常有独特优势的地方。

一个是元空智能联合创始人、北京大学姚佳雨博士在会上介绍他们独特的Memory技术,并为Agent打造的“持续认知系统”。这是他们在AI工程化方面的一个非常重要和极具战略性的创新。

元空智能的另一位联合创始人、北京大学宁鲲鹏博士在元空AI Work Agent的演示时展现出来的独特能力:

在完全断网环境下,元空AI Work Agent能直接连接本地数据库,读取销售、库存、价格、折扣等数据,完成指标计算、商品诊断、渠道分析,再生成动态看板、经营分析报告和PPT。

这完全已经不是AIPC时代,“AI帮你写几句话、出个主意”,而是“AI直接进入企业的数据和工作流程,直接给你干活!”

第三个要素——设备

这便是在元空智能在此次发布会和惠普达成的战略合作。

逄大嵬在发布会上反复强调一个词:生产交付。

他说,什么叫生产交付?不是现场演示一次。而是:

真的卖出去、装进去、交付给企业、稳定运行,出了问题还能找到人。

元空智能负责标准化的端侧AI大模型、Agent和AI应用,惠普负责设备、渠道和FDE式的服务交付。

在惠普的Z系列商用PC和工作站的机器中,已经预装元空AI的端侧大模型Boxer和Work Agent,并且实现完全的开机即用。

要做端侧AI开箱即用,这并非简单就能做到。据逄大嵬透露,元空智能和惠普双方团队在研发、产品等方面进行了深度合作,做了非常多的适配与优化。有了这样的产品技术合作基础,才能保证元空智能和惠普联合发布的端侧AI解决方案,不再只是软件下载安装,而是开始进入标准化硬件交付。

发布会现场还展示了一个非常有意思的方案:一个企业中,不用每个员工都买一台新的AI PC。用目前用的PC,接入惠普ZGX Nano G1n AI工作站,就能享受端侧AI的各种Agent应用。

更关键的是,如中国惠普有限公司副总裁、大中华区个人信息产品事业部总经理周信宏所说,惠普不仅仅是和元空智能合作推出了开箱即用的端侧AI电脑与工作站,惠普还会依托自身覆盖全国的销售体系、服务体系,以及众多的现有客户,立即对这些产品开始全面推广和销售。

“某种程度上,惠普就是现在大家所热议的FDE,解决了端侧AI在企业落地的最后一公里。”周信宏认为,过去解决AI落地的最后一公里很难。现在,通过惠普和元空智能创新性的合作,这成为了现实。他相信,端侧AI市场会很快迎来爆发式增长。

最近中国软件网一直在关注端侧AI的发展状况,元空智能的创新理念、技术与产品,让我判断一家企业是不是真的在做端侧AI,有了三个最重要的指标:

第一,AI能不能真正干活。

不是聊天、总结、润色,而是完成长链路任务。

第二,AI能不能真正落地。

不是实验室Demo,而是进入企业、工厂、实验室等真实生产环境。

第三,AI能不能真正规模化交付。

不是给客户部署一个模型,而是把模型、Agent、设备、Memory和服务打包成标准化产品。

这三个条件缺一不可。

否则,所谓端侧AI,很容易重新变成一轮“把模型装进设备”的技术竞赛。在我看来,这也是今天元空智能提出“端侧AI新品类”真正值得关注的地方。

转载说明:本文转载自微信公众号「中智观察」,原标题《端侧AI新洞察》,原文署名“中国软件网 曹开彬”,发布于2026年9月9日。

原创文章,作者:ChatExcel,如若转载,请注明出处:https://chatexcel.com/blog/%e7%ab%af%e4%be%a7ai%e6%96%b0%e6%b4%9e%e5%af%9f/

赞 (0)
ChatExcelChatExcel
敏感财税数据怕外泄?元空 AI 财务工作站,数据不出本地,智能核票、查账、自动出报告
上一篇 2天前
2025 高等教育 AI 发展报告解读:高校真正该焦虑的,不是“会不会用 AI”
下一篇 2025年12月30日 14:18

相关推荐