Kay,China.Youth,Drinker.Software Silver Bullet. 颜开，皋城人。即加冠，善豪饮。匠软件，自诩银弹。
Shanghai
Joined April 2009
- Tweets61
- Following110
- Followers140
- Likes16
KayYan retweeted
Running DeepSeek V4 from @deepseek_ai on @vllm_project? Upgrade to v0.20.1 — 10+ bug fixes and optimizations, fully tested and verified by the open source community!
A huge thank you to @FireworksAI_HQ, @baseten, @novita, @lightseekorg, @daocloud, @nvidia, @redhatai and more for helping report, fix, and verify the stability and speed of vLLM. 🙏
🔧 DeepSeek V4 Productionization Reliability:
• Persistent topk cooperative deadlock at TopK=1024
• AOT compile cache import error
• Repeated RoPE cache initialization
• Non-streaming tool-call type conversion (DSV3.2/V4)
• torch inductor error on V4
⚡ Optimizations:
• Multi-stream pre-attention GEMM + configurable knob
• BF16 / MXFP8 all-to-all on FlashInfer one-sided comm
• PTX `cvt` for faster FP32 → FP4 conversion
• Integrated `head_compute_mix_kernel` for head computation
📖 Full notes → github.com/vllm-project/vllm…
impress your audience with impress.js - a presentation tool based on the power of CSS3 transforms and transitions bartaz.github.com/impress.js
Mobile Analytics 101: How to get the most out of your mobile applications, a whitepaper from @gocountly count.ly
Google Spanner原理- 全球级的分布式数据库: Google Spanner简介 Spanner 是Google的全球级的分布式数据库 (Globally-Distributed Database) 。Spann... bit.ly/UjoDVA
Google Dremel 原理 - 如何能3秒分析1PB: 简介 Dremel 是Google 的“交互式”数据分析系统。可以组建成规模上千的集群，处理PB级别的数据。MapReduce处理一个数据，需要分钟级的时间。作为... bit.ly/QuqfGh
Java使用"指针"快速比较字节: 如何才能快速比较两个字节数组呢?我将问题描述成下面的接口： public int compareTo(byte[] b1, int s1, int l1, byte[] b2, int s... bit.ly/xrKLJK
Amazon EBS架构猜想: Amazon EBS是专门为Amazon EC2 虚拟机设计的弹性块存储服务。Amazon EBS可以为Amazon EC2的虚拟机创建卷volumes，Amazon EBS卷类似没有格式化的... bit.ly/zCZDBR
Linux大文件传输: 我们经常需要在机器之间传输文件。比如备份，复制数据等等。这个是很常见，也是很简单的。用scp或者rsync就能很好的完成任务。但是如果文件很大，需要占用一些传输时间的时候，怎样又快又好地完成任务就很重... bit.ly/A68pIF
内存究竟有多快？: 一般来说。CPU需要0个周期来访问其寄存器，1-30个周期来访问高速缓存，50-200个周期来访问主存。 对于Intel Core i7来说。这个值可以很具体。Intel Core i7的主频约在2-3G... bit.ly/zLDmoG
并发编程之巧用锁: 背景 程序都是跑在机器上的，并行CPU包含几个部分。 处理器核心。执行线程的设备。一个核心可以执行一个或多个线程(超线程) 互连线。处理器和处理器，处理器和储存器之间的通信通道。一般CPU分两种架构，SM... bit.ly/ywGQij
查询利器-bloom-filter详解: 布隆过滤器（Bloom Filter）是1970年由布隆提出的。它实际上是一个很长的二进制向量和一系列随机映射函数。布隆过滤器可以用于检索一个元素是否在一个集合中。它的优点是空间效率... bit.ly/t3qRFJ
多核平台下的JAVA优化: 现在多核CPU是主流。利用多核技术，可以有效发挥硬件的能力，提升吞吐量，对于Java程序，可以实现并发垃圾收集。但是Java利用多核技术也带来了一些问题，主要是多线程共享内存引起了。目前内存和CP... bit.ly/tXku7l
HBase中文官方文档: HBase – Hadoop Database，是一个构建在Apache Hadoop上的列数据。Hbase有很好的扩展性，被认为是BigTable的一个克隆，可以存储数以亿计的行。 在Hbas... bit.ly/vUbZsv
最小完美哈希函数简介: 什么是保序最小完美哈希函数 我曾经花了很多脑筋来找一个很好很完美的哈希算法，但都没有想到，最近看到了，掩不住一阵激动分享下。最小完美哈希函数是什么，要从定义说起，这个名字很长，一步步解释。 哈希函数 ... bit.ly/nx5XaH
Java调用外部程序技巧: 前些天使用Java调用外部程序的时候，发现线程会堵塞在waitfor()方法。 调用方法如下： Process process = Runtime.getRuntime().exec(cmd); ... bit.ly/qWOpk1