Exploring Gen AI && Builder + Creator👨💻｜vibe coding🧲 K8E Sandbox Creator - https://nitter.cf/t.co/MlGFUg6NEQ Telegram: @xiaods
beijing
Joined September 2008
- Tweets38.1K
- Following1.4K
- Followers4.4K
- Likes1.2K
Tommy Xiao retweeted
ricursive 这次的开源权重发布很不错，是个现代的稠密模型，基准分数看起来很强！
扩展阶梯很漂亮，还有些有意思的选择，比如 value residual（有意思的贡献模式 👀）……还有，滑动窗口注意力又回来了！
ricursive.com/ripple
Today we release Ripple-65B Preview, our 65B dense LLM we pretrained from scratch.
Ripple sets a new state-of-the-art for U.S. open-weight models in agentic coding tasks, surpassing significantly larger models including Muse Spark Open-816B, Beam-501B, Inkling-975B, and Nemotron 3 Ultra-550B.
Learn more: ricursive.com/ripple
Tommy Xiao retweeted
⚡ 单张 5090 吐字突破 1200+ tok/s！日本开发者自研引擎 YASAKANI 刷爆单卡极限。
在单张消费级显卡上跑大模型到底能有多快？
日本开发者 @yasakani_dev 刚刚放出了实锤实测录屏：在单张未超频的 RTX 5090 上跑 Qwen3.8-27B，自研推理引擎 YASAKANI 的单流解码速度直接冲上了 1,220 ~ 1,260 tok/s 的全新天花板！
为了自证没有水分，他把此前号称 5090 最快的 MegaCapybara 1.39 拉到同一台电脑上同题直接对决：
• 代码全文修改与回写（4700 Token） ➔ 跑出 1,241 tok/s 对决后者的 440 tok/s（直接快了 2.82 倍）！更绝的是，两边吐出的 4,711 个 Token 逐字完全对齐，毫无乱码或跳字；
• 超长 JSONL 格式化（8192 Token） ➔ 跑出 1,260 tok/s（后者仅 666 tok/s）；
• 中英翻译任务 ➔ 稳在 613 tok/s 对决后者的 366 tok/s；
• 通杀全网最快公开标杆 ➔ 结构化数据比 NInfer 快 2.5 倍，英文推理比 TensorFold 快 1.4 倍；即便是开启 Qwen 官方的思考模式（Thinking on），综合中位数也高达 381 tok/s（远超 vLLM 的 183 与 SGLang 的 184）。
很多极速引擎靠大砍精度来换速度，但这个引擎甚至在精度上更稳：
采用自研量化格式（12.4GB），与原模型的 KL 散度偏差仅为 0.021，比对手的 0.058 还要精准一倍以上。
作者也在文末坦诚交代了局限：从零写全新代码时优势并不大（仅快 4%~8%），且生成中文文本速度会降到 176~302 tok/s。
引擎和量化格式均为纯自研，作者已正式确认后续将全量免费开源。这把单张游戏卡榨到 1200 帧的怪兽，确实把 5090 的极限给彻底逼出来了。
📎 演示视频来自 @yasakani_dev
#YASAKANI #RTX5090 #Qwen #本地大模型 #推理引擎 #AI算力 #开源技术
Tommy Xiao retweeted
感觉今年就有可能用上 1000万上下文的模型了 github.com/Prefrontal-AI/lat…
Tommy Xiao retweeted
這組照片9年前曾經讓無數人心碎。
照片裡，一個爸爸躺在泥土坑裡，身邊依偎著2歲的女兒。
看起來像是一家人在野餐，其實那是爸爸親手為女兒挖的墳。
這組照片傳遍網路以後，很多人一直惦記著同一個問題：
那個小女孩，後來還好嗎？
9年後的今天，終於有了答案。
時間回到2017年夏天，四川內江的張利勇在自家田邊挖了一個坑。
這個坑是準備給他2歲的女兒張芯蕾的。
芯蕾出生才2個月，就確診重型地中海貧血。
別的孩子學走路、學說話的時候，她在醫院一次又一次地輸血。
醫生說，這種病要輸一輩子的血。
爸爸在玻璃工廠上班，月薪只有2500元人民幣。
兩年下來醫療費超過14萬人民幣，約新台幣60萬元。家裡的存款花光了，村民也一起湊了錢，還是填不滿這個洞。
媽媽又懷了孕，希望肚子裡的寶寶出生後，能用臍帶血救姐姐。
可是移植手術還要一大筆錢，能借的都借過了。
走投無路的爸爸，每天帶女兒到那個坑裡玩，陪她躺在泥土上，看著天空，旁邊還有家裡的小狗。
芯蕾不知道這是什麼地方，只知道爸爸在旁邊，她就安心。
爸爸心裡想的是，萬一有一天她真的要走了，
希望她到了這裡不會害怕，因為這是她和爸爸一起躺過的地方。
照片在當年傳開以後，網路吵翻了。
有人看了心碎，呼籲政府趕快介入。
也有人罵他觸犯禁忌，覺得他拿女兒的病博版面。
不管大家怎麼看，這家人就這樣被看見了。
各地的陌生人開始捐款，當地政府也扛起大部分醫療費。據報導，後續的費用還有一位當地企業家默默幫忙。
2017年8月，妹妹出生了。
她的臍帶血被保存下來，那是姐姐活下去的希望。
.
後來，芯蕾接受了長達8小時的臍帶血幹細胞移植。造血幹細胞移植是重型地貧主要的根治方法。
.
經過漫長的恢復期，她的血液檢查終於回到正常。那個每個月都要扎針輸血的小女孩，現在不用再輸血了。
.
今年8月，《南華早報》引用當地追蹤報導，整理了這家人這些年的變化，故事才又重新被大家看見。
.
據報導，芯蕾已經上小學了。她喜歡畫畫、跳舞，成績也不錯。媽媽說每次健康檢查的結果都很好。
.
至於當年那個坑，沒有埋葬任何人。
家人把它填上土，種滿了向日葵。
.
媽媽叫它「芯蕾的魔法花園」。
曾經為告別準備的地方，現在每年夏天都開滿了花。
來源：South China Morning Post、The Star、NextShark
消消气，以后skill也会消失的
气死我了！今天发现，我的好几个 Skill 被 WorkBuddy 改名换姓上架了。
WorkBuddy，搬运我的开源 Skill，为什么连作者署名都省了？
完全没有获得商业授权，为什么能上架我禁止商业使用的 Skill？
甚至都不敢用我的 Skill 名称，拙劣地改了名字直接上架？
目前已经发现的有四个。
1. Lieflat Charts（github.com/larashero3-dotcom…）
在 WorkBuddy 上，展示名称被改成了“模板图表与报告”，截图里的标识是 `wbzl-lieflat-charts`，还给我加上了面向 Workbuddy 中文用户，谁允许你们用这种方式改编？
这个项目采用非商业使用许可，商业使用需要另行取得授权。请 WorkBuddy 说明，收录的是哪个版本，依据什么授权将它集成到产品并提供给用户使用？
2. Lieflat Gongwen （github.com/larashero3-dotcom…）
在 WorkBuddy 上，展示名称变成了“公文语料写作教练”。
这个项目同样采用非商业使用许可，项目说明明确写了，未经单独书面许可，不得集成到商业产品或商业服务中。请问，上架前有没有核对这些条件？对应的授权依据是什么？
3. 去 AI 味（lieflat-less-ai-tone）github.com/larashero3-dotcom…
到了 WorkBuddy 上，展示名称变成了“AI写作痕迹清理”，完全没有我的署名。
4. 写作 DNA 蒸馏器（writing-dna-skill）github.com/larashero3-dotcom…
安装前的展示页面里，我没有看到作者和原项目来源。安装之后，在正文底部能看到原项目链接和 MIT License 标注。
但作者和来源，为什么不能在用户选择、安装这个 Skill 时就清楚展示？为什么需要安装后翻到正文底部，才能看到出处？
自己花时间写的东西，被放进别人的产品里，换了名字，用户看到了可以直接安装，却不容易知道是谁做的。作为作者，这个感受非常糟糕。
我把作品公开分享，贡献给开源社区，使用条件写得非常清楚，也希望这些条件得到尊重。怎么到了产品上架的时候，内容拿走了，作者署名和使用限制却没有得到同样的重视？
我希望 WorkBuddy 正面回应：
- 说明这四个 Skill 的来源、收录时间、具体版本和授权依据。
- 补全作者署名，在安装前的详情页明确标注原项目链接及许可信息，说明名称和内容做过哪些修改。
- 逐项核查使用许可，停止不符合许可条件的使用，该下架的下架。
- 对涉及未经授权商业使用的项目，说明使用时间、范围及相关分发情况，承担相应责任，并就损失赔偿及合理维权费用提出处理方案。
- 说明以后如何审核来源和授权，避免其他作者遇到同样的问题。
请尊重开源创作者的创作，遵守资源使用规则，珍惜产品口碑。
Tommy Xiao retweeted
I'm speaking at AI Engineer Shanghai 2026!
我会在 AI Engineer 有一个 talk 哈，看到不少朋友都会去，我这里有 5 折的 code 哈~~
- International: luma.com/j9iqfmh8 (codeAIESPEAKERVIP26)
- China: huodongxing.com/event/187904… (codeAIESHSPEAKERVIP)
ai.engineer/shanghai/2026 @aiDotEngineer
Tommy Xiao retweeted
好家伙，大厂发技术报告通常都是“秀肌肉藏配方”
Amazon Rufus 团队这波直接把后训练的施工图纸全掀了？？？
他们基于 GLM-4.5-Air-Base（106B 总参 / 12B 激活），用纯公开数据 + 开源组件（Slime + Megatron-LM + SGLang），在不加一条人工标注、不用内部教师模型蒸馏的前提下，训出的 Rufus-Air 直接反超了智谱官方后训练版🥹
八阶段串行流水线排得极其讲究：
SFT → Reasoning RL → Coding RL → 指令遵循 RL → 通用/代码/搜索三阶段 Agent → RLHF
扒完这篇 Recipe，有三个非常接地气的实战结论：
为什么必须是这个顺序？看奖励信号的“硬度”
很多团队做 RL 容易把模型训偏，核心是软奖励上得太早。Amazon 的做法是：
前半程只认规则、编译器和单测这种硬验证（Verifiable Rewards），中间进Agent 沙箱，最后一步才用 Judge 软模型做人类偏好对齐
SFT 决定下限，难度过滤决定 RL 效率
多样化的高质量 SFT 先把能力地板垫高；到了 RL 阶段，靠 Difficulty Filtering
剔除全对和全错的废题，只留有梯度信号的中等难度样本，训练效率直接拉满
基建不是细节，基建就是配方本身
从异步 Rollout 到 Agent 沙箱调度，论文把每一层的超参、数据构成和阶段涨点全列出来了，甚至支持你只截取其中一两个阶段复用
不管是自己做垂类后训练，还是搭 Agent 强化管线，这篇都是今年少有的硬核参考书：
arxiv.org/abs/2609.29421
Tommy Xiao retweeted
场内最推荐的三只纳斯达克100ETF和一只标普500ETF:
1、国泰纳指100ETF 513100，这是中国版的QQQ
2、嘉实纳指100ETF 159501，这个相当于中国版的QQQM，硅谷居士大佬 @SVScholar 首推，被称为硅谷居士基金
3，易方达纳指100ETF 159696，@ooeli_eth 大佬首推，费率极低仅有0.6%。
4，博时标普500ETF 513100，中国版的VOO.
Tommy Xiao retweeted
MASSIVE. MIT researchers showed that GPT-6 Astra can improve another AI model by changing its weights directly, without training.
Here, GPT-6 Astra raised Qwen3.5-0.8B from 7.9% to 48.1% on MATH-500 by editing 0.016% of its weights, without training.
Astra got Qwen’s weights in a Python notebook, plus a budget of 50 test runs on practice math problems. It saw the model kept repeating itself until it hit its length limit, traced that habit to a single internal signal written by 2 of its layers, and subtracted that signal out of the weights.
With the loop gone, the model could finish answers it was already capable of solving.
That single targeted edit changed 0.016% of the weights and lifted math accuracy from 7.9% to 48.1%.
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math.
It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training.
We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵
Blog: rikiyat.github.io/blog/weigh…
Readers added context they thought people might want to know
LLM was given weights explicitly as text in prompt and used code/forward passes (per authors' logs) to ablate Qwen looping direction, a known thinking-mode issue per model card. Primarily fixed repetition in that mode, not general 'natively' improving weights/math.
rikiyat.github.io/blog/weight-sp…
github.com/RikiyaT/lm_und…
huggingface.co/Qwen/Qwen3.5-0…
huggingface.co/RikiyaT/Qwen3.…
Tommy Xiao retweeted
🚨 AI 自己写的推理引擎，把 Strata 和 Basalt 给办了？
GitHub 上刚冒出一个黑马推理引擎 Infernix，最骚的是作者在主页坦白：这项目的代码和文档，几乎全是 Claude Opus 5.5 和本地跑的 Qwen 联手搓出来的！
在单张 RTX 5090（Windows 11 / 84G 内存预算）上实测 Qwen3.8-Flash-Next：
1️⃣ NVFP4 权重下全面暴走：
首字响应时间（TTFT）比官方 Strata 快了整整 4.6~7.4 倍！在双路并发的 Agent 编码任务里，总耗时直接从 Strata 的 15.9 分钟缩减到 6.7 分钟——连前两天刚刷榜的 Basalt（8.9 分钟）都被它超了。
2️⃣ 不同量化的微妙反差：
- 跑 NVFP4：Infernix 优势明显，直接登顶；
- 跑 IQ3_S：Basalt 在 Prefill 阶段依然更快，但长文本解码时 Infernix 重新反超 25%。
3️⃣ 客观提醒：
目前的实测全部集中在吞吐速度上，具体生成质量和精度损失（Perplexity）还在测、尚未公开。
现在连底层高性能 C++/CUDA 推理引擎都开始由 AI 自己迭代自进化了。
📎 开源仓库：github.com/Wallawalla47/Infe…
harness 里面学到的，直接调用 tooling，就是写提示词加入 context，那么为了节省 context，可以使用 program，如 py 来写调用 tools 的程序，叫 PTC，让大模型来调用。另外用脚本执行就不会一次调用一个 tools，还可以异步调用，对应的结果就是还可以节省一点点时间。
好好学学吧
factory.com/news/frontier-ha…
