AI摘要:近日在世界人工智能大会期间,观察者网与潞晨科技创始人尤洋进行了深度对话,谈到了模型即服务(Model as a Service,Maas)、大模型训练和推理、国产算力适配等话题。潞晨科技专注于AI基础设施领域(即AI Infra),尤洋是清华大学硕士,加州伯克利大学博士,师从该校电子与计算机学院院长James Demmel院士,现为新加坡国立大学计算机系的校长青年教授 (Presidential Young Professor)。
类 CUDA 的通用计算架构,优势是生态兼容性好、开发者门槛低,能快速承接现有 AI 应用,解决当下 “有没有、用得上” 的问题。短期内大模型仍然在快速迭代,因此中国首先需要的是具有较强通用性和可编程能力的计算平台。所谓“类CUDA”,关键不是照搬CUDA的指令集,而是建立成熟的编程模型、编译器、算子库、通信库、调试工具和开发者生态。没有这些软件能力,芯片的理论峰值再高也很难被充分使用。
Open-Sora是我们阶段性的工作,因为当时市面还没有很好的可用模型,这个项目验证了我们在训练推理算法等方面的全流程能力,当时也在这个细分赛道做到了开源指标世界第一等成绩。
近日在世界人工智能大会期间,观察者网与潞晨科技创始人尤洋进行了深度对话,谈到了模型即服务(Model as a Service,Maas)、大模型训练和推理、国产算力适配等话题。
潞晨科技专注于AI基础设施领域(即AI Infra),尤洋是清华大学硕士,加州伯克利大学博士,师从该校电子与计算机学院院长James Demmel院士,现为新加坡国立大学计算机系的校长青年教授 (Presidential Young Professor)。
以下是对话原文:
1. 前段时间有消息说,字节的MaaS收入目标上调到150亿,是去年的10倍。这是不是印证了你之前说的中小服务商不要做MaaS?
答:我觉得它印证的不是“MaaS不能做”,而是没有差异化的MaaS不能做。
目前市场流传的150亿元目标,并不是字节正式公布的财务数据,而是媒体根据知情人士信息作出的报道。即便如此,字节Seedance带来的MaaS增长仍然说明了一件事:拥有顶尖模型、巨大流量、云基础设施、持续降本能力、商业化反馈的企业,才能通过规模效应形成正循环。
所以我过去的判断需要完整理解:中小企业不要做的,是把别人的模型接过来,套壳开源推理方案转成API接口,再依靠价差做通用MaaS,或者直接倒卖API。这样的业务没有壁垒,客户迁移成本还很低,最终一定会陷入价格战。
但中小企业仍然可以做三类事情:第一,围绕垂直场景提供真正能交付结果的模型服务;第二,解决企业私有化部署、异构算力和数据安全问题;第三,在训练和推理系统层面把成本降下来。
这几个方面也是潞晨在发力的方向。未来MaaS不是所有企业都不能做,而是不能只做“模型搬运工”。
2. 现在MaaS行业的真实利润率是多少?不同类型企业之间的差别大吗?
答:首先要区分毛利率和净利润率。行业里经常说某个模型毛利率很高,但训练费用、研发人员、获客、补贴和基础设施投入往往没有完全计入单次推理成本。
不同企业和业务类型之间的差异非常大。以近期部分企业的招股书披露的数据为例,本地化部署业务毛利率约为可能还不错,但云端部署业务毛利率约为可能是负的或者巨亏。这说明即使是同一家公司,私有化部署和公有云MaaS也可能呈现完全不同的经济模型。
从我们的行业观察看,可以大致分为几种情况:
领先且稀缺的模型,在利用率较高、定价权较强的情况下,推理侧的毛利率有机会达到可观数字,26年的市场相比25年的也更加理性;通用开源模型的MAAS如果技术优化水平不够又参与价格战,毛利率可能较低,甚至阶段性为负;企业私有化部署表面毛利率通常较高,但需要承担交付、适配和售后成本;单纯转售模型API的服务商利润和壁垒低。
因此,MaaS的关键不是卷价格,而是模型创造的客户价值、硬件实际利用率、工程优化能力,以及一次研发能够被多少客户复用。
3. 字节MaaS收入的很大一部分来自Seedance 2.0,怎么评价这个模式?对你们的Open-Sora有什么影响?你们会去训练更大参数的视频模型吗?
答:Seedance证明了一种非常有价值的商业模式:模型不是单纯卖Token,而是进入真实生产流程,替代原来昂贵、缓慢的内容生产环节。
Seedance 的模式本质是 “自研模型 + 内部场景验证 + MaaS 商业化变现 + 用户商业化” 的闭环,是非常典型的大厂打法。字节有海量视频数据做训练素材,有 C 端产品做效果验证,最后通过 MaaS 把视频生成能力标准化输出,调用者也可以有较好的商业化,所以回报模型厂商就不必按照算力成本加成定价,而可以按照为客户创造的价值定价。
Open-Sora是我们阶段性的工作,因为当时市面还没有很好的可用模型,这个项目验证了我们在训练推理算法等方面的全流程能力,当时也在这个细分赛道做到了开源指标世界第一等成绩。后续我们会继续发挥潞晨在模型后训练和性能优化方面的优势,做好产品和企业服务。
4. 最近豆包开始收费,但是政策对C端agent产品的监管也在加强,怎么看待C端付费在中国的前景?
答:C端付费是必然趋势,但会是稳步渗透的过程,不会出现爆发式增长。
豆包收费的核心意义,是验证了 “工具属性的 AI 产品有付费价值”。纯聊天的 C 端产品付费意愿很低,但当 AI 能真正切入办公、学习、创作的具体流程,帮用户省时间、提效率,用户是愿意付费的。中国用户对价格敏感,但对价值的判断也很直接 —— 能不能解决真实问题,是付费转化的核心阈值。
监管加强是行业规范化的必经之路,长期是利好。C 端 Agent 直接接触海量用户数据和内容,没有明确的监管边界,反而容易出现风险事件,打击用户整体信任。合规边界清晰后,合规企业才能放心投入产品迭代,用户也才能更安心地使用和付费。
对潞晨而言,我们不直接做 C 端产品,定位是底层的模型与算力基础设施的企业服务商。C 端付费市场越成熟,上层应用厂商对底层模型效率、部署成本的需求就越强,这对我们是正向拉动。
5. 现在资本市场给大模型B端部署的定价很高,智谱站上万亿市值,为什么过去不被看好的B端部署,在大模型时代翻身了?
答:核心原因是:此 B 端部署,非彼 B 端部署。
过去传统 AI 的 B 端部署,是项目制、定制化的 —— 每个客户的需求都不一样,从算法到部署全要定制开发,边际成本几乎不下降,本质是人力密集型的外包生意,规模化很难,所以资本市场不看好。
大模型时代的 B 端部署,逻辑完全变了:
• 标准化底座 + 轻量定制,边际成本骤降。通用大模型基座是统一的,企业只需要做数据微调、知识库对接、Agent 插件开发,几周就能落地一个项目,可复制性比传统 AI 高了一个数量级。
• 价值深度完全不同。传统 AI 是单点工具,解决单个环节的问题;大模型是通用智能底座,可以渗透到企业研发、生产、客服、管理的全流程,客单价和客户付费意愿都上了一个台阶。
• 国产化刚需的加持。政务、金融、能源等关键行业对数据安全、自主可控的要求极高,私有化部署是刚性需求,市场空间远大于传统业务。
智谱的市值,本质是资本市场对 “通用大模型底座 + B 端规模化落地” 这条路径的认可,不是对传统项目制部署的重估。
6. 同样是做企业部署,潞晨跟智谱这样的大模型公司有什么区别?
答:智谱这样的公司核心是研发和商业化自己的基础模型,可以理解为提供AI的“大脑”。
潞晨更关注的是模型下面的计算系统,可以理解为提供训练和运行这些大脑的“操作系统”和“发动机”。
我们并不要求客户只能使用某一个模型。客户可以使用开源模型、自研模型或者其他商业模型。我们解决的是如何让这些模型在不同芯片、不同集群和不同企业环境中更高效地训练、微调和推理。
例如,潞晨Colossal-AI覆盖训练微调推理应用等全流程的性能优化能力,目标是降低大模型开发和部署对特定硬件、特定模型以及少数系统专家的依赖。
因此,我们和模型公司不完全是替代关系,更多时候是合作关系。模型公司决定智能能力的上限,系统公司决定这种能力能否以合理成本运行起来。
7. 大模型训练和推理层面的算力加速空间还有多大?
答:空间依然很大,但未来的加速不会只靠硬件工艺升级,而是算法、系统、硬件协同优化的红利。
训练侧,比如当前大规模集群的分布式训练中,通信开销占比很高,调度策略、并行策略还有很大优化空间;内存方面,HBM 全球产能紧张,通过优化器、显存复用、低精度训练等算法手段,可以在同等硬件下支撑更大规模的模型训练。
推理则是比训练更简单一些的场景。除了量化、KV 缓存、动态批处理这些基础手段,更深层的架构级优化 —— 比如稀疏化激活、专家路由动态调度、场景化算力分配等也还有提升空间。
而在国产算力平台上,因为生态和优化还不成熟,提升空间会更大。
8. 如今国产芯片混用的情况给算力加速带来了什么机会和挑战?你们针对国产芯片做了什么优化吗?
答:机会和挑战都很突出。
机会层面: 第一,单一芯片供给无法满足国内算力缺口,混合部署是刚需,市场迫切需要一套统一的软件层,屏蔽底层硬件差异,实现统一调度、统一运维,这正是我们这类基础设施厂商的核心机会。 第二,国产硬件正处于快速迭代期,硬件本身的性能潜力远没有被释放,软件优化的边际收益极高。通过全栈优化把国产芯片的实际性能提上来,帮客户用国产算力完成业务落地,这个市场价值非常大。 第三,信创政策驱动下,关键行业的国产化替代从硬件延伸到算力 + 模型全栈,适配优化的需求正在爆发。
挑战层面: 一是硬件架构不统一,没有统一的生态标准,每款芯片都要做深度适配,研发成本高、周期长。 二是混合部署的调度复杂度指数级上升,算力异构、通信差异很容易出现短板效应,导致集群整体利用率上不去。 三是算子生态不完善,很多先进的训练推理算法无法直接复用,需要针对性重写和适配。
针对国产芯片,潞晨做了全链路的布局:
• 全栈深度适配:Colossal-AI 已经完成了对升腾、沐曦、摩尔线程等主流国产芯片的适配,从底层算子到上层训练、推理框架全链路打通。
• 算法级补短板:推出Colossal-AI 系列优化技术,弥补国产芯片显存容量的相对不足;针对国产芯片的计算特性,定制化设计分布式并行策略,提升多机多卡的集群利用率。
• 统一硬件抽象层:搭建了跨平台的调度层,支持多品牌芯片混合部署,上层用户通过统一接口调用,系统自动分配最优算力资源,不用感知底层硬件差异。
9. 怎么看待国产芯片的路径选择?类CUDA架构和ASIC谁更适合中国?
答:这不是一个二选一的问题。
类 CUDA 的通用计算架构,优势是生态兼容性好、开发者门槛低,能快速承接现有 AI 应用,解决当下 “有没有、用得上” 的问题。短期内大模型仍然在快速迭代,因此中国首先需要的是具有较强通用性和可编程能力的计算平台。所谓“类CUDA”,关键不是照搬CUDA的指令集,而是建立成熟的编程模型、编译器、算子库、通信库、调试工具和开发者生态。没有这些软件能力,芯片的理论峰值再高也很难被充分使用。
ASIC适合计算模式稳定、调用规模巨大、对成本和能耗高度敏感的推理场景。例如推荐、语音、视觉或者已经稳定的大模型推理,都可能通过专用设计获得更好的能效。或者在大模型的计算模式进一步收敛后,针对训练、推理、视频生成等特定场景设计的专用芯片,能效比会远高于通用 GPU,成本优势会越来越明显。
但如果模型每几个月就发生变化,过早固定为ASIC,可能会失去灵活性。因此当前更现实的路线是:训练和前沿模型研发以通用、可编程的架构为主;成熟且规模巨大的推理负载逐步使用ASIC;中间通过统一的软件系统屏蔽不同硬件的差异。
对潞晨来说,两条路线我们都会深度适配。硬件的竞争最终是生态的竞争,国产芯片要真正站稳脚跟,离不开底层软件生态的协同建设。我们会持续做硬件和模型之间的 “粘合剂”,帮不同路线的国产芯片把性能充分释放出来。
本文系观察者网独家稿件,未经授权,不得转载。