喂饭经理

Hey @grok generate the most authentic image of yourself

开源模型谁厉害？几个关键差异点展开说: DeepSeek 锚定价格地板、覆盖通用任务;Qwen 家族最全、开源许可最宽松(Apache 2.0);Kimi K2 专精 agentic 编程;GLM 在长程编程任务上正面硬刚;Llama 有最深的西方生态和最长上下文,但自定义许可证限制了欧盟使用 Wavect GLM 是今年最大黑马:GLM-5.2 于 2026 年 6 月以 MIT 许可证发布,带百万 token 上下文,在独立榜单上位居中国模型之首,路透社报道其编程和 Agent 能力以极低成本比肩 OpenAI 和 Anthropic 的闭源前沿模型。和 DeepSeek 的区别在于专注点:DeepSeek 优化的是极致成本,GLM 调优的是长程软件工程——全代码库调试、自主纠错、多步 Agent 任务 Geotoolbox 选型口诀(可以直接记):通用便宜用 DeepSeek,自己微调用 Qwen,写代码用 GLM/Kimi,出海合规用 Llama/Mistral,跑手机上用 Gemma。 注意许可证决定商业化路径:DeepSeek(MIT)最宽松,Llama 4 需遵守 7 亿月活限制,Qwen(Apache 2.0)无限制——这个维度做产品的人比跑分更该关心。

上周(7月16日)，Fireworks AI 完成了今年最大的AI基建融资之一，15亿美元D轮,投后估值175亿美元,英伟达、红杉、Index都在股东名单里。 九个月前,它的估值还只有40亿美元。年化营收(ARR)10亿美元,同比涨了4-5倍,每天处理超过40万亿token。 更有意思的是:**它不训练大模型,也不卖显卡。**它做的事,用一句话说就是—— 把别人开源的模型,跑得比所有人都快、都便宜,然后按token收钱。 这家公司是理解AI产业链"中间层"的最好样本。今天把它拆开讲。 一、它到底是干嘛的:AI界的"炼油厂" 先建立一个类比。 DeepSeek、Qwen、Kimi这些开源模型,相当于公开的原油——权重免费下载,谁都能拿。但原油不能直接加进油箱:你得有炼厂(GPU集群)、有工艺(部署优化),才能炼出能用的汽油(API服务)。 Fireworks就是那个炼油厂: 它买/租GPU,把开源模型部署在自己的集群上 开发者调它的API,按百万token付费 它赚的是"硬件+软件优化"的加工毛利 这个赛道有个专业名字:推理服务商(Inference Provider)。国内对标公司是硅基流动,海外同行还有Together AI、Groq。 你可能会问:模型是免费的,这生意有门槛吗? 有,而且门槛就藏在一个数字里——**同样一台H100,普通团队用开源方案部署,每秒吐1000个token;Fireworks用自研引擎,能吐几千个。**实测数据显示,同一个DeepSeek模型,Fireworks的输出速度是官方API的五倍以上。 吞吐量5倍 = 单token成本1/5。它卖的价格,可能比你的成本价还低——你亏本,它还有毛利。这不是"包装开源模型",这是加工效率的碾压。 这也解释了创始团队的成色:CEO乔琳(Lin Qiao)之前在Meta领导整个PyTorch团队——PyTorch是全球最主流的深度学习框架,相当于AI界的安卓系统。整个赛道的规律是:玩家清一色是"让模型跑得快"的系统工程师,不是做模型的科学家。 二、它靠一个客户起飞:Cursor的故事 Fireworks的爆发,离不开一个超级客户:Cursor——目前最火的AI编程工具,自己也是年营收超10亿美元的明星公司。 Cursor曾一度贡献Fireworks超过一半的收入。为什么Cursor需要它? 你在Cursor里每敲几个字,背后就是一次模型调用。百万级用户 × 每人每天几千次调用 = 天文数字的推理量。Cursor不想自建几万张卡的集群,就把这摊活外包给了Fireworks。 但故事到今年3月,变得更精彩了。 "自研模型"大瓜:Composer 2其实是Kimi Cursor发布了号称"自研"的编程模型Composer 2。结果不到两小时,开发者就在API里翻出了内部模型名:kimi-k2p5-rl-0317-s515-fast。马斯克直接回帖:"Yeah, it's Kimi 2.5." 月之暗面确认tokenizer一致。几小时后,画风从"指控"变成"祝贺"——因为Cursor确实通过Fireworks拿到了合规授权。Cursor联合创始人承认:博客里没写基座来源,"是个失误"。 而且这不是第一次:上一代Composer 1的基座是DeepSeek;同期Windsurf用智谱,乐天用DeepSeek V3。五个月内三家海外公司,同一个模式。 Hugging Face的CEO说:中国开源正在成为塑造全球AI技术栈的最大力量。翻译一下:中国模型公司正在成为全球AI应用层的"隐形供应商"——像当年东莞代工全世界,只是这次输出的是模型权重。 Fireworks在里面干的活,远不止"跑推理" Cursor官方披露的技术路线是:强基座 + 继续预训练 + 强化学习 + Fireworks的推理和采样基础设施。用大白话拆: 选基座:评估一堆开源模型,Kimi K2.5最强,拿它当起点(相当于招一个智商最高的学生) 继续预训练(CPT):用海量代码语料继续灌,把通才灌成代码偏科生(送去读三年医学院) 强化学习(RL):让模型在模拟的Cursor环境里真刀真枪干活——修bug、跑测试,做对了奖励做错了惩罚,重复几百万次(实习医生进手术室实操) Fireworks的角色:RL训练的算力大头其实是"让模型做题"(采样/rollout),本质就是天量推理——这正是Fireworks的看家本领。它甚至帮Cursor搭了横跨四大洲的分布式训练集群,每5-15分钟把1TB的模型权重压缩成增量、一分钟内跨洲同步 注意这个升级:Fireworks已经从"卖裸token"爬到了"卖训练+定制全家桶"。它现在超过95%的流量来自用客户私有数据定制过的模型。CEO的说法是:OpenAI和Anthropic卖"通用智能",我们解锁"专用智能"。 为什么要升级?因为裸token是价格战红海(DeepSeek官方把价格打到了地板),而帮客户炼专属模型,才有粘性和毛利。 三、放进投资框架:三个信号 + 两个风险 信号1:企业正在逃离闭源高价 Fireworks的爆发,底层驱动是一个迁移:闭源旗舰模型太贵,企业财务负责人纷纷要求技术团队改用开源替代。开源模型每百万token的成本,已经比闭源旗舰便宜1-2个数量级。 这个迁移对产业链的含义: 利好NVDA:开源推理照样烧卡,而且英伟达自己投了Fireworks——两头下注 利好推理基建层:token消耗从闭源API流向开源部署,Fireworks/硅基流动们承接 警惕闭源模型厂的应用层定价权:当"开源基座+私有数据+RL"能炼出前沿水平的专属模型,闭源旗舰在应用场景的溢价会被持续挤压 信号2:推理中间层第一次跑出10亿ARR 一直有个质疑:推理服务商上有云巨头(AWS/阿里云捆绑销售)、下有模型厂官方API(DeepSeek自己就是价格屠夫),夹缝里能长出大公司吗? Fireworks用10亿ARR回答了:能,至少现阶段能。这给整个赛道(包括未上市的Together、国内的硅基流动)提供了估值锚:175亿估值 ÷ 10亿ARR = 17.5倍PS,增速4-5倍。以后看到同类公司融资,拿这个倍数去比。 信号3:"专精小模型"路线被验证 Cursor研究负责人的核心逻辑:模型权重容量有限,通用模型要分容量给各种杂务;把所有容量倾注在一个任务上,小模型也能达到前沿水平,推理成本低一个数量级。 如果这条路线被更多应用公司复制,AI价值链会被切成清晰的三块: 环节谁在赢收什么钱开源基座中国模型厂(DeepSeek/Kimi/Qwen/智谱)目前免费送,赚生态和影响力私有数据+场景应用公司(Cursor们)订阅费,这是真壁垒训练/推理基建Fireworks们 + NVDA"手术室租金" 风险1:客户集中度 Cursor一家曾占它一半以上收入——命脉握在别人手里。Cursor融了几十亿美元,完全有能力自建推理。这次融资它特意强调客户已多元化(三星、GitLab进来了),但"单一大客户依赖→拼命去集中化"这条路能不能走通,决定它值不值175亿。 眼熟吗?CoreWeave绑微软,Fireworks绑Cursor,SK海力士绑英伟达——整条AI产业链就是一串大客户依赖链,每一环都在讲同一个故事。做「硬度评分」时,订单确定性要拆成两问:订单有多确定 × 来源有多分散。 风险2:护城河是相对的 推理优化的领先窗口不是永久的:开源引擎(vLLM/SGLang)一直在追,模型厂官方API也在提速。Fireworks往定制训练升级,正是在给自己挖第二条河。观察它"定制流量占比"这个指标的变化,比看token总量更重要。 四、一句话总结 Fireworks的故事,本质是AI时代最朴素的一条商业规律: 模型能力在快速通缩(越来越强、越来越便宜),不通缩的是"把能力落地"的工程与效率。 原油免费,炼油厂赚钱。这家公司暂时没上市,但按这个增速,大概率是未来一两年IPO管线里的热门标的——先放进观察池,跟CRWV(算力租赁)、未来的应用层标的凑成"AI基建三层楼"的完整拼图。 本文信息截至2026年7月20日。数据来源:Bloomberg、CNBC、SiliconANGLE、红杉资本播客及公司公告。不构成投资建议。

客服 AI 服务有哪些（成熟市场,分三档） 海外(做出海业务用这些): 1. Sierra——OpenAI 董事长 Bret Taylor 创办,当前最火的 AI 客服创业公司,按"解决量"收费(resolution-based pricing,解决一单收一单的钱),客户包括 ADT、Sonos 2. Decagon——另一家明星创业公司,主打全自动解决复杂工单 3. Intercom Fin——老牌客服 SaaS 转型最成功的,按解决量约 0.99 美元/单 4. Zendesk AI / Salesforce Agentforce——传统巨头的 AI 版,适合已经在用它们系统的企业 国内: 1. 智齿科技、网易七鱼、美洽——老牌智能客服 SaaS,全部已接入大模型重做 2. 阿里晓蜜/瓴羊、火山引擎 HiAgent——云大厂方案,淘宝商家基本被阿里系覆盖 3. 电商场景还有大量垂直玩家(乐言、句子互动等) "垂直推理服务卷不卷"问题的最终答案:看这个名单就明白了——通用客服赛道确实已经卷成红海,巨头、老牌 SaaS、明星创业公司三层夹击。 还有机会的位置只剩两个: 一是别人不愿伺候的垂直缝隙(比如出海短剧的多语言售后、Web3 项目的社区客服); 二是按效果收费的深度交付(Sierra 那种"解决一单收一单"的模式,本质是把 AI 卖成外包团队而不是软件)。 观察 Sierra 和 Decagon 的定价模式演变,对你理解整个 AI 应用层的商业模式变迁很有价值——从卖席位(SaaS)到卖结果(outcome-based),这可能是应用层估值逻辑的下一个范式。

硅基流动同赛道完整版图 赛道玩家从大到小: 第一梯队:云大厂(其实才是真龙头) 火山引擎(字节)、阿里云百炼、百度千帆、腾讯云、以及海外的 AWS Bedrock、Azure AI。论 token 吞吐量,它们碾压所有创业公司——火山引擎的日均 token 调用量长期是国内第一。它们不常被算进"硅基流动赛道",但抢的是同一碗饭,而且带着云资源捆绑销售的降维打击。创业公司真正的威胁不是彼此,是它们。 第二梯队:海外独立推理商 Together AI——开源模型超市,估值最高的独立玩家(几十亿美元级) Fireworks AI——速度之王,实测输出速度可达官方五倍以上,偏企业客户 Weste Groq / Cerebras / SambaNova——自研芯片派,靠专用硬件拼极致速度,本质是芯片公司 Baseten、Replicate、DeepInfra、Novita、Hyperbolic——第二梯队,各有侧重(Replicate 偏图像模型、DeepInfra 拼低价) 第三梯队:国内独立玩家 硅基流动——国内独立推理商龙头,DeepSeek 红利最大受益者 无问芯穹——清华系,主打"异构算力"(把国产芯片、各种杂牌 GPU 统一调度),卡位国产替代 PPIO 派欧云——PPTV 创始人做的,分布式算力起家转推理 潞晨科技——Colossal-AI 框架团队,训练+推理都做 梯队间的区别一句话:云大厂拼捆绑和资源,独立推理商拼速度和性价比,芯片派拼硬件代差,国内玩家在前两者夹缝中拼国产模型的适配速度(新模型发布后谁最快上线、跑得最稳)。 纠正一个概念:vLLM 和 SGLang 不是这个赛道的公司,它们是开源推理引擎(软件工具)。类比:推理服务商是"餐馆",vLLM/SGLang 是"灶台和锅"——几乎所有餐馆都用这两口锅(vLLM 出自伯克利,SGLang 出自 LMSYS 团队),但锅本身不卖饭。商业公司的本事在于把开源的锅改装得比别人火力猛。

推理优化四件套,大白话版 先建立一个总图景:推理的本质是"GPU 每秒能吐多少 token"。吐得越多,单个 token 成本越低。四个技术都是围绕这个目标: 1. vLLM——开源推理引擎(伯克利出品),行业事实标准。你可以理解为"模型的高性能发动机":同一个模型,用普通方式部署 vs 用 vLLM 部署,吞吐量差 5-10 倍。它最核心的发明是 PagedAttention(把显存像操作系统管理内存一样分页管理,减少浪费)。 2. 量化(Quantization)——把模型参数从高精度压到低精度,比如 FP16 压到 INT4,大白话是"把无损音乐压成 MP3":文件小了 4 倍,音质(模型能力)只损失一点点。好处是显存占用减半再减半,原来要 4 张卡跑的模型现在 1 张卡就能跑。 3. Batching(批处理)——GPU 一次算 1 个请求和一次算 50 个请求,耗时差不多(因为算力是并行的)。所以把多个用户的请求"拼车"一起算,吞吐量暴涨。现代做法叫 continuous batching(连续批处理):不用等一车人凑齐才发车,随到随上、随完随下。 4. KV Cache 管理——模型生成每个新 token 时,都要"回顾"前文。KV Cache 就是把前文的计算结果缓存起来,不用每次从头算,大白话是"做阅读理解时的笔记":读过的段落记在笔记上,答每道题不用重读全文。它是显存的最大消耗者,管理好坏直接决定一台机器能同时服务多少用户。 需要多少人? 分两档: 能跑起来:1-2 个熟练工程师。vLLM 是开源的,部署一个 Qwen 模型对外提供 API,一个懂 CUDA 环境和 K8s 的工程师一两周就能搞定。 能做到商业级(接近 Together/Fireworks 的性能和稳定性):10-30 人的核心技术团队,而且必须有几个真正懂 CUDA kernel、懂分布式系统的顶尖工程师——这种人全球稀缺,年薪百万人民币起。差距在于:开源方案能到 60 分,商业竞争要 90 分,最后 30 分全是自研的深度优化。

如果你只想用 DeepSeek,直接用官方 API 通常最便宜，DeepSeek 官方定价本身就是行业地板价。那 Together 这类第三方为什么还有生意?几个真实理由: 1. 官方 API 不稳的时候它稳。DeepSeek-R1 爆火那阵,官方 API 常年拥堵限流、注册都关闭过,第三方部署(Together、硅基流动)成了唯一能用的通道——这时候贵一点也得用。 2. 数据合规。DeepSeek 官方服务器在中国,很多美国企业公司政策禁止把数据发过去。Together 是美国公司、机器在美国,跑的是同一个开源模型——模型一样,管辖权不一样,这一条就能让美国 B 端客户付溢价。 3. 一站式。你的应用往往不止用一个模型:主力用 DeepSeek、备用 Llama、某功能用 Qwen——在 Together 一个平台全搞定,不用维护五套账号五份账单。 4. 附加服务。微调、专属部署(dedicated endpoint,给你独占的 GPU,延迟稳定)、更高的速率上限,这些官方 API 不一定提供。 所以逻辑是:卖水的不怕河里有免费水,卖的是"干净、稳定、送到家"。

推理公司 Together AI(美国):开源模型推理的"超市"——几百个开源模型(Llama、Qwen、DeepSeek)都能一键调用,还提供微调和 GPU 租赁。定位是"开源世界的 OpenAI API"。创始团队学术背景强(斯坦福系),推理优化技术是自研的。 Fireworks AI(美国):Meta PyTorch 核心团队出来创业,主打极致推理速度和企业级服务,客户偏 B 端(Uber、DoorDash 用过)。和 Together 是最直接的竞争对手,差异在 Fireworks 更强调低延迟和 function calling 这类生产级功能。 Groq(美国):最特殊的一家——它不用 NVIDIA GPU,自研了叫 LPU 的推理专用芯片。特点是快得离谱(每秒几百上千 token),适合对延迟极度敏感的场景。它其实是芯片公司,卖 token 只是芯片能力的展示窗口。注意别和马斯克的 Grok 搞混,一个是芯片公司 Groq,一个是 xAI 的模型 Grok。 硅基流动 SiliconFlow(中国):国内版 Together,把 Qwen、DeepSeek、GLM 这些国产开源模型做成便宜好用的 API,DeepSeek-R1 爆火那阵子它是官方 API 之外最主要的第三方渠道。创始人袁进辉是做深度学习框架(OneFlow)出身,推理优化是看家本领。 规律:这几家创始人清一色是"系统/框架工程师"背景,不是做模型的,是做"让模型跑得快"的。这说明这一层的壁垒就是底层软件优化。

GPU 怎么出租,落地形式是什么 本质上就是租客远程控制机器,和租云服务器完全一样。具体分几档: 裸金属(Bare Metal)——整台物理机租给你,给你 SSH 权限和 root,你想装什么装什么。大客户训练用这种,因为性能无损耗、8 卡之间的 NVLink 完整可用。 虚拟机/容器(VM / Kubernetes)——一台 8 卡机切给多个租户,你租 1 张卡或 2 张卡。中小客户用这种,平台方用 K8s 调度。 Serverless / 按需 API——你连机器都看不到,只是提交任务(比如跑一次微调、部署一个模型端点),平台在后台自动分配 GPU,按秒或按 token 计费。 租客的实际体验:打开网页控制台 → 选卡型和数量 → 付款 → 拿到一个 SSH 地址或 Jupyter 链接 → 像操作自己电脑一样传数据、跑代码。机器物理上在爱达荷或芬兰的机房里,租客可能一辈子不知道它长什么样。

假设你有 GPU,按产业链位置从下往上,大概有六条路,越往上技术含量越高、毛利越厚、但也越难: 第一层:卖裸算力(GPU 租赁 / bare metal) 最简单粗暴——机器租给别人,按 GPU·小时收费。客户是模型公司、微调团队、研究机构。这就是CoreWeave(CRWV)和 Nebius(NBIS)的起家业务。 门槛:低,有机器、有电、有网就行 关键变量:电价、上架率(utilization)、GPU 代际贬值速度 残酷之处:这是纯大宗商品生意,H100 租金价格全球透明,散户玩家没有议价权。而且正如你熟悉的 GPU 集群经济学——没有高速互联(NVLink/InfiniBand)的散装 GPU 租不出训练的价格,只能按推理档收费,单价差好几倍 第二层:卖 token(推理 API / Inference-as-a-Service) 不租机器,而是把开源模型(DeepSeek、Qwen、Llama)部署在自己机器上,对外卖 API,按百万 token 计费。这是真正的"token 业务"——机器是面粉,token 是面包,赚的是加工毛利。 对标公司:Together AI、Fireworks、Groq,以及硅基流动(SiliconFlow)这类国内玩家。 核心技术:推理优化——vLLM、量化、batching、KV cache 管理。同样一台 H100,优化好的团队每秒吐出的 token 是不会优化团队的 3-10 倍,这直接就是毛利率差距 这一层的账就是你研究过的 cost-per-million-tokens 模型:收入 = token 单价 × 吞吐量,成本 = 折旧 + 电费,中间全看软件功力 风险:头部模型厂自己 API 一降价(DeepSeek 式价格战),第三方推理商的利润空间被直接挤压 第三层:垂直推理服务(带附加值的 token) 不卖裸 token,卖"场景化 token":比如专门给出海电商做多语言客服推理、给游戏公司做 NPC 对话推理、给内容平台做审核推理。模型可能还做了微调,绑定了客户的工作流。 好处:摆脱纯价格竞争,客户粘性高,毛利能到 50%+ 门槛:需要懂行业 + 有销售能力,不再是纯基建生意 第四层:微调/托管服务(Fine-tuning as a Service) 帮企业客户用他们的数据微调开源模型,然后托管在自己机器上长期收服务费。相当于"私房菜代工厨房"——客户出配方(数据),你出厨房(算力)和厨师(算法团队)。 客单价高、合同周期长,是 B 端好生意 但需要养算法工程师团队,已经不是"老板有服务器"能直接干的,是要重新创业的 第五层:接入算力网络(聚合平台 / DePIN) 如果机器散、规模小、不想自己找客户,可以把算力挂到聚合平台上——传统的如 Vast.ai、RunPod,crypto 系的如 io.net、Aethir、Render。平台负责撮合,你分成。 这条路对 crypto 背景的老板最熟悉,本质就是"算力挖矿" 坦率讲:目前 DePIN 算力网络的真实需求和上架率普遍偏低,代币补贴成分大于真实现金流,更像激励游戏而不是稳定生意。适合当补充收入,不适合当主业 第六层:纯基建出租(托管/Colocation) 如果机器不行但机房、电力指标、网络资源行,那就退一步做房东——出租机柜、电力、带宽给别人放 GPU。电价低于 0.4 元/度的地方(内蒙、四川水电),这生意反而最稳,旱涝保收,这也是很多矿场老板转型的实际路径:矿场 → IDC → AI 数据中心。 怎么选?一个简单的决策框架 最后泼一盆关键的冷水:这个行业的残酷之处在于折旧节奏。GPU 三年左右一代,H100 的租金从 2023 年的 4 美元+/小时跌到现在的 2 美元上下,买机器那天就开始和贬值赛跑。所以整个生意的第一性原理只有一句话:回本周期必须短于 GPU 保值周期。CoreWeave 用长约锁定客户、Nebius 靠自建低成本数据中心,都是在解这道题。如果这位老板的机器是 crypto 挖矿时代留下的旧货,先做的第一件事不是选商业模式,而是诚实地评估这批资产在 AI 语境下还值不值钱——很多矿场的真实答案是:机器不值钱,但电力指标和机房才是真资产。