我已经挑战成功跟Claude全简体中文交流🤓
由于刷到了 @nicongdev 之前的帖子,我现在正在挑战和我的 agent 全英文对话,虽然目前很吃力(短时间内降低了工作效率)
但是我认为,长时间下来我的英文水平应该会进入,输入的话我采用 Google translate(use Gemini)翻译后,自己读几遍,然后语音输入进去(想着加深记忆)。
ai 输出的内容遇到不会的词翻译一下自己读一遍,然后再翻译核对一下。
是的,其实主要卡脖子的就是算力
而且模型迭代速度跟算力的关系是非线性规律的
在只有十分之一算力的情况下,迭代速度不是十分之一,而是只有百分之一(以²为例)
这篇文章太透彻了,推荐阅读
反蒸馏与国产模型追赶
•蒸馏难度明显变高,短期蒸馏成本上升5-10倍,多则20倍
•替代方案效果都不如直接蒸馏:把一个问题拆成10个分别喂前沿模型再拼起来;拿摘要用其他模型做反向rationalization;合成数据、数据生态采购
•曾有人认为可以通过第三方CSP(如Amazon)拿访问权限,但近期Amazon也出现较大封号潮
•coding / agent benchmark已刷到90%+,再卷意义不大;明年下一个市场大概率是AI for Science或机器人,数据壁垒更高。AI for Science真正做药的模型完全封闭(Claude内独立模型层),只有药企合作能用,「连用都用不到,怎么蒸」;机器人基线数据更提取不出来
•反蒸馏的影响是多方面的:
•措施:OpenAI / Anthropic直接拒答或降级,订阅和非定向API都有大量反蒸馏措施,完整推理只有深度合作企业的API能拿到
•算力(认为是最大问题):海外模型普遍5-10T,学生太小听不懂老师,700B蒸3-5T效果很差,最后回到预训练问题。训3-5T模型至少需要几万张B卡
•方向:coding有代码可验证、agent有trajectory,好蒸;但前沿进步方向转向空间理解、computer use、视频生成,很难反向拿到完整数据
•结论:无论算力、数据还是训练方向,国产模型追赶越来越难,有买方认为没有长期价值
偶然发现我的项目交付工作流在几个月前就已经被AI自己优化成了 @DeepSeekHarness super agent的样子了。
要用好AI得不断施压和复盘,人只需要把握一下宏观目标和框架以及做兜底决策就行,剩下的工作流优化AI自己也能复盘实现出来。
推荐一个方便做复盘提效的SKILL:/retro




























