NeurIPS 2026採択の「Dataset Distillation via Drifting」( drifting-distillation.github… )で、データセット蒸留の結果の合成画像が綺麗に整っていて印象深く。
allowfirm retweeted
Can use just 10 images to teach a model what a sea anemone looks like?
In our #neurips2026 paper, "Dataset Distillation via Drifting," we distill ImageNet's 1,300 images per class down to just 10, optimized from noise.
drifting-distillation.github…
More info in thread! ⬇️
1/N
岡野原大輔さんは「AI計算科学」でも「対称性を考慮したAI」の章を設けていますが「対称性と機械学習」刊行時の記事( preferred.jp/ja/blog/lunchti… )に手掛かりが。視点や位置が変わっても対象を同じ物体として認識できる仕組みには、変換の前後で不変な性質の「対称性」の概念が重要とのことです。
3
258
モデルの内部にRISC-VのCPU機能を組み込んでいる「Qwenputer」( gigazine.net/news/20261030-q… )が、すごく興味深く。
150
うわ勘違いしてた。新しいモデル計算方法とかじゃなくて、文字通りモデルの重みの中にRISC-V CPUを内蔵しちゃったのか
LLMに計算を覚えさせるみたいなちゃっちい内容じゃなくて、本当に決定論的なCPUがそのまま入ってる......(困惑)
Gated DeltaNetをRAMとして扱って、元のQwen層の前段にCPU回路を構成する層をぶち込んでるヤベェ設計()
そりゃあ普通のCPUと比較して圧倒的に遅いけど、算術/計算系のベンチマークのスコアが跳ね上がってら......
これつまり、LLMの中に決定論的な構造を外部から持ち込めるってわけで......色々と活用も悪用も出来そうな技術だ
NeurIPS 2026採択の「MoGe-3」( qft-333.github.io/moge3page/ )は、一枚のRGB画像からメートル単位の奥行きや3D点群などを推定して、細い構造や物体の境界付近の形状を修正するモデルで、MITライセンスの実装( github.com/microsoft/MoGe )も公開されていて興味深く。
12
419
まもなく発売される「基盤モデルのための強化学習」は、サポートページ( akifumi-wachi-4.github.io/we… )が作成済みで、ベースとなった講演スライドを読むと、個人的に関心あるRLHFやDPOが解説されていて興味深く、すでに予約しています。
allowfirm retweeted
『基盤モデルのための強化学習』の著者見本が届きました!
LLM などの基盤モデルにおいて、強化学習がどのように用いられているかを体系的にまとめた書籍です。
強化学習は、昨今の AI の進歩の主要因の一つであり、かつ「報酬ハッキング」など安全性に関する議論とも関連があります。いま強化学習を勉強するのはタイミング的にかなり良いのではないかと思います。
この本が、国内の AI・強化学習の研究・開発レベルの底上げにつながると嬉しいです!
Amazon:amzn.asia/d/0bjnVH4N
YOLO26を使う予定は現在ありませんが、わりと正確な人検出のデモ動画が興味深く。
Make workplace monitoring more intelligent with Ultralytics YOLO26! 🔒
Detect people and faces in real time to support occupancy monitoring, access control, and security operations.
Discover more ➡️ ultralytics.com/blog/real-ti…
#Ultralytics #YOLO26 #Survillence
3
228
allowfirm retweeted
Make workplace monitoring more intelligent with Ultralytics YOLO26! 🔒
Detect people and faces in real time to support occupancy monitoring, access control, and security operations.
Discover more ➡️ ultralytics.com/blog/real-ti…
#Ultralytics #YOLO26 #Survillence
DrivingBench( drivingbench.com/ )のリーダーボードと、GPT-6 Astraが2回目で成功した結果( drivingbench.com/trace/gpt-6… )を確認すると「なにが達成できたか」を把握できました。
JUST IN: GPT-6 Astra successfully drives a real Toyota Corolla through an entire obstacle course, becoming the only AI tested by "DrivingBench" to finish.
166
講談社から来月「基盤モデルのための強化学習」( kodansha.co.jp/book/products… )が発売に。基板モデルの性能向上にフォーカスした強化学習の書籍ということと、岡野原さんの推薦文が印象に。
1
2
267
「Kaggleで学んだBERTをfine-tuningする際のTips」の①から③が現在アクセスできないため、⑥( ai-shift.co.jp/techblog/3609 )のリンク一覧からWayback Machineで①( web.archive.org/web/20260112… )と②( web.archive.org/web/20260727… )と③( web.archive.org/web/20260112… )を。
1
2
257
ブログ記事へのアクセスが復旧したとのことです。⑥( ai-shift.co.jp/techblog/3609 )のリンク一覧から、①②③も含めてアクセス可能です。
64
allowfirm retweeted
Kaggleで学んだBERTをfine-tuningする際のTipsが復活したようです!
①〜学習効率化編〜
ai-shift.co.jp/techblog/2138
②〜精度改善編〜
ai-shift.co.jp/techblog/2145
③〜過学習抑制編〜
ai-shift.co.jp/techblog/2170
④〜Adversarial Training編〜
ai-shift.co.jp/techblog/2985
⑤〜ラベルなしデータ活用編〜
ai-shift.co.jp/techblog/3161
⑥〜LLMでも使える学習効率化編〜
ai-shift.co.jp/techblog/3609














