
Drummer @INSANITY_off 。慶應義塾研究員。博士(京都大学) 。YouTube『数理の弾丸』、著書『言語の数理とLLMの知能』オーム社、note: https://nitter.cf/t.co/Bo6uCgYtpv
mathbullet.com
Joined July 2024
- Tweets757
- Following316
- Followers1.7K
- Likes388
おれ自身も動画で勉強することってほぼないし、1人でブツブツと説明してる動画の需要はわからない
ラボのゼミみたいなフォーマットにしているのはこれが理由で、動画である意味をこの形式での発信との親和性に見出してる
精進します。
数理の弾丸 / 船蔵颯 Ph.D. retweeted
「研究者としては非常に優秀なのだと思いますが」みたいなことも言われたんだけど,わたしがたまたま非常に優秀だったからいいものの,ふつうの修士課程生にかける言葉ではない たぶんこれも皮肉のつもりだったんだろう
html スキルを更新しました
github.com/mathbullet/skills…
- 角丸は余計な意匠に感じられたので排除
- 図解をSVGからTikz優先にして安定化
- 用語リストが画面幅を圧迫しすぎないように
- 規範の一部をLintで強制
動画は遊びで作ってみたもの
Fable 5.2の日本語処理能力の簡易評価
note.com/mathbullet/n/n6ffec…
方差とか報酬とかって何?というところからPPOやGRPOに繋げつつ、Kimi K3.1 Pro(@KimiAI_Japan )も紹介
LLMの強化学習入門
youtu.be/_7wtSxhOMUY
27
2,147
hot take: you don't need a software factory, and i don't love the term. it's just marketing
all you need is good software engineering and investing your tokens in the right places. the more deterministic the better (and token efficient)
数理の弾丸 / 船蔵颯 Ph.D. retweeted
AIとの壁打ちで豊かなアイデアを出すために
note.com/mathbullet/n/n0f0c3…
AIとの壁打ちで豊かなアイデアを出すために
note.com/mathbullet/n/n0f0c3…
数理の弾丸 / 船蔵颯 Ph.D. retweeted
新刊発売とセールの情報、もしかして行き届いてない…? lambdanote.com/blogs/news/go…
TSは不要、というのは色々なバックグラウンドで言ってそうなのでともかく、型が不要というのはそもそも型のメリットを理解してなさそうだし、もっと言うとどういう類の型システムについて不要と言いたいのですか、という
数理の弾丸 / 船蔵颯 Ph.D. retweeted
なお依存型意味論や言語モデルについては、『ことばの意味を計算するしくみ』だけでなく『言語の数理とLLMの知能』もあわせて読むと、「ことばを数学する」って雰囲気をがっつり味わえるような気もします link.amazon/B0hNfM3KN
数理の弾丸 / 船蔵颯 Ph.D. retweeted
TorchやJAXなど標準的な実装でsoftmax関数には共通の数値計算誤差があり、
LLMの損失が繰り返しスパイクするSlingshot Mechanismはこの誤差から説明が付く、という話
案の定という再生数ですが面白いので是非
youtu.be/x6tHcZrkid8











