smly (@smly) header
smly (@smly) profile picture

AI Fellow at Rist. ex-PFN / 5x Kaggle GM https://nitter.cf/t.co/Fbnhh888VD / Game AI https://nitter.cf/t.co/LQRTdKP3AO

Joined April 2007
Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)
Hi all, I have a new result I'm excited to share. It turns out that *all existing implementations* of softmax and cross-entropy (that's JAX, PyTorch, textbooks, etc) have a subtle bug --- two bugs, actually. A simple rewrite fixes both, and eliminates "slingshots" when grokking:
135
795
153
6,567
836,657
旅9日目の最終日。江田島経由で広島市内へ。雨で景色を満喫できなくて残念。しかし安全に旅を終えることができたのでヨシ ho.lc/blog/etajima-awajishim…
10
1,326
旅8日目。雨に降られながら呉に到着 ho.lc/blog/mitarai-townscape
12
1,233
旅7日目。しまなみ海道。造船ドックがよかった ho.lc/blog/shimanami-shipbui…
1
13
1,569
旅6日目。尾道倶楽部からの展望が最高に良い ho.lc/blog/onomichi-roman-co…
11
1,481
旅5日目(昨日)。直島の地下美術館に行って倉敷まで。体力回復に専念して1日遅れの記録 ho.lc/blog/naoshima
11
1,361
いま直島なのでがんばって対策モデル作ったヤドキングに近いやつ記念撮影です
25
1,314
やったあああああーーーー 2次ラウンド優勝するぞ!
PTCGABC(ポケカコンペ), Strategy部門の評価も終わりました!みなさんありがとうございました〜! また第二ラウンドや、PlayGroundでお会いしましょう! kaggle.com/competitions/poke…
3
4
52
6,340
第2ラウンド進出!!第2ラウンドはYouTubeで配信されます。引き続き対戦よろしくお願いします!!
PTCGABC(ポケカコンペ), Strategy部門の評価も終わりました!みなさんありがとうございました〜! また第二ラウンドや、PlayGroundでお会いしましょう! kaggle.com/competitions/poke…
1
2
37
3,437
第二ラウンド進出したぜ!優勝するぞ!!!
PTCGABC(ポケカコンペ), Strategy部門の評価も終わりました!みなさんありがとうございました〜! また第二ラウンドや、PlayGroundでお会いしましょう! kaggle.com/competitions/poke…
1
3
63
5,473
旅4日目。白い彼岸花を見るなどした ho.lc/blog/kagawa-white-spid…
9
917
旅の2日目。大塚国際美術館です ho.lc/blog/otsuka-museum
19
1,579
記録していく。大塚国際美術館行きたい ho.lc/blog/tama-tokyu-ferry
12
1,656
旅程を早めて無事乗船。ただし3-5mほどの高波を覚悟とのこと。あと海上 Starlink がいい仕事してる。一度使ってみたかった marinetraffic.com/en/ais/det…
31
1,742
あ、欠航、はい、そうですよね。無念です
1
15
3,539
シルバーウィークの長期旅前に風邪をひいて、台風発生で初手フェリー欠航の可能性が出てきて、楽しいまである
10
1,485
ポケカAIのStrategy部門Writeupが一斉に読めるようになりましたね。弊チームの記事はこちらになります!kaggle.com/competitions/poke…
9
2
113
23,805