Akira T. (@akira_dev) header
Akira T. (@akira_dev) profile picture

技術者 / 企業研究者(因果推論、意思決定のための機械学習)。博士(情報学)← 社D ← JTBC ← 航空宇宙工 / バイオリン / ジャグリング / ロボコン / スマブラ / 自作キーボード / 3Dプリンタ / 筋トレ / 立ち読み / タイパ育児

東京
Joined October 2009
Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)Photo by Akira T. (@akira_dev)
11/30刊行『因果機械学習』の中から、比較的独立して楽しめるコラムを1つずつ公開します!(出版社許可済み) 1つ目は「因果性の定義をめぐる哲学」です。 事前知識としてシンプソンのパラドックス↓をふまえた議論になります。 ja.wikipedia.org/wiki/%E3%82… --- 因果関係というものは、日常やさまざまな専門分野でその存在が仮定されているにもかかわらず、分野間で共通した単一の定義が定まっているわけではありません。むしろ分野によっていくつかの因果があるという多元論的な見方が、科学哲学の分野において提唱されています。そのような因果の定式化の試みをいくつか簡単に紹介します。詳細は科学哲学の書籍を参照してください。 近代的な科学を踏まえて因果について定義を試みた初期の代表的な哲学者がデイヴィッド・ヒュームです。ヒュームは、ギリシャ以来の哲学が重視してきた、理性や論理による思考に基づく真理探究には限界があり、数学以外の真理の探究は経験と観察に基づくと考えました。因果についても同様に、因果とされるものはすべて真理であるとは限らず、単に経験から抽出した規則性のことを人は因果関係としているのだと考えました。ヒューム以後も、規則性を基礎とする定義がさまざまに考案されましたが、いずれも問題を抱えていました。本章で紹介した擬似相関が問題の一例です。 これに対してデイヴィッド・ルイスが提案したのが反事実条件を中心に据える考え方です。植物の種に水をやったから発芽した、というように、ある原因があったからこそ今の結果が生まれた、もしその原因がなかったら違った結果になっていた、という、「ありえた別の結果」を想定し、それと現実との違いに焦点を当てる議論です。この考え方は現在の因果推論における反実仮想に受け継がれています。先のシンプソンのパラドックスの状況においても、「この人が(若いにもかかわらず)もし運動をたくさんしていたら」という反事実条件に対して正しく推論できれば「コレステロールが下がる」という結果を導くことができ、矛盾が生じません。 反事実条件に対しても批判があり、今ある世界と別の可能性は特定できるのか、という問題がその1つです。たとえば「もしこの面接応募者が男性だったら」という条件がどのような世界に対応するのか必ずしも自明ではありません。性別が異なれば、身長や体重、筋力は相応に異なる状態を仮定するのでしょうか。学歴はどうでしょうか。ルイスは、「最も現実に類似した世界」を考えればよい、としましたが、その際に用いる類似度の定義についてコンセンサスが得られるかどうかは別の問題となるでしょう。 反事実説に対するもう1つの批判は、その前提とする可能世界が現実には観測できないということです。ウェスリー・サモンは「知識はあくまで現実の経験に基づくべき」という批判を行い、因果はプロセスであるという説を唱えました。物理学では、ある事象の影響が離れた場所に瞬時に現れることはないとされています。影響は局所的にとどまり、離れた場所に影響しているように見えても、局所的な影響が光の速度以下で伝播しているだけとみなせます。つまり、因果的な関連を分解して微視的に見ると、時空間的に隣接した事象が連鎖するプロセスが常に関与しているはずなので、それをこそ因果と呼ぶべき、というわけです。 ただし、連鎖するように見えるプロセスの中でも、スクリーン上のレーザーポインターの点の動きは、スクリーンの前に障害物があってそれを横切ると、一瞬で障害物上に位置が移動します。つまり、局所性の制約を受けません。このような見かけのプロセスを真の因果と区別するため、運動量やエネルギーといった保存量をもつ対象に注目するのが、プロセス説を精緻化した保存量説です。ビリヤードの球がテーブル上を運動し他の球に当たると、双方の球の速度が変化する、すなわち運動量の交換が発生します。このように、保存量をもつ対象の動き(時空間座標上の軌跡である世界線)と、その保存量の交換を通じた相互作用が因果であると考えれば、物理学に基づいて客観的に因果の考察が可能となります。また、必ずしも物理学のレイヤーまで微視的に分解せずとも、科学の営みは通常、1段階だけ微視的なレベルでの説明で十分とされているとするメカニズム説も登場しました。 プロセス説やメカニズム説は自然科学を学んだ方には特に馴染みやすい考え方かもしれませんが、やはり難点もあります。日常の世界ではしばしば「当然こうすべきもの」というルールが存在し、そこからの逸脱を問題にします。たとえば、「横断歩道を渡っている歩行者がいたら車は停止すべき」というルールがあり、運転者がブレーキを踏まずに事故が起きてしまった場合、この事故の原因は「ブレーキを踏まなかったこと」と考えるのが妥当と思われます。しかし、プロセス説ではこのような「何かの事象が存在しなかったため」という、欠落因果を自然に扱うことが難しいです。 このように、因果といっても適用される分野によってさまざまな考え方があり、要素還元的な定義として統一することは難しいと考えられています。むしろ近年は、因果を考えたい理由、我々が因果と捉えているものの特徴を記述することに焦点が移っているようです。 その1つが、ジェームズ・ウッドワードによる介入説です。介入説は、「原因に介入すれば(その変数としての値を変更すれば)結果が変化する」というものです。反事実条件の流れを汲みつつ、個別具体的な事象に関する反事実を求める代わりに、対象を記述した変数に関して議論することが特徴です。これにより、同種の事例を比較可能とし、観測不能な可能世界に訴える必要なく、現実世界での検証を可能としました。本書で扱う意思決定は基本的に介入説をベースに考えることができます。ただし、先に議論した面接における性別のように、介入不可能な状況に対する分析はやはり反事実説に基づく必要があります。統計的因果推論は主にこれら2つの説に基づいていると言ってよいと思います。 一方でプロセス説やメカニズム説も因果推論と無関係ではありません。たとえば11.1節で紹介するフロントドア基準に基づく因果推論は、原因と結果の間を媒介する変数を用いる手法です。多くの因果推論手法は、シンプソンのパラドックスを引き起こす交絡因子が観測されていない場合には対処ができません。その場合でも、原因と結果の間を媒介する変数を観察することによって、一定の条件下でバイアスのない推定が可能になることが知られています。我々がしばしば統計のみに基づくブラックボックス的な説明に納得できず、詳細なメカニズムの説明を求めたくなるのは、巨視的に見ると背景因子が入り込む余地が増えるため信用できない、という直観に基づくのかもしれません。 #因果機械学習入門 #pr amazon.co.jp/dp/4274235629
2
23
2,206
AI語のhumanizeにも "効く" らしいです。なるほど。
左がclaudeそのまま、右が0.8Bのplamo-3-translate(ローカル) ぱっと見ただけだけど、いいぞこれ
1
1
8
1,101
小さい割には賢い翻訳モデルを作ろうと思ったら、小さいくせに最強のモデルができてしまったそうです。重みもオープンです: huggingface.co/collections/p… 経緯も面白いです preferred.jp/ja/blog/tech/pl…
最近は翻訳特化LLMの開発リードをやっていました。 翻訳特化LLMとしてはぶっちぎりで世界最高クラスで、特にSLM領域のフロンティアを開拓できたと思います 開発秘話とモデル重みを公開したので見てね!4サイズで量子化とかGGUF全部出したので28リポジトリも準備しました
1
57
3
420
29,579
来週の #IBIS2026 @大宮では2件発表します! 1つは時系列基盤モデルを使った制御についてで、夏季インターン生による発表です🎉 予測問題で訓練された時系列基盤モデルはどこまで因果を捉え、制御に使えるのか?試してみると通常の学習器とはかなり様子が違い、興味深い性質が色々見つかりました!ポスター2日目(水曜)前半です。 もう1つは以前から取り組んでいる小データ(サンプル効率的)学習理論に関する、長年の問いへの統一的な回答を(一定)出した話です!CoTや時系列の途中情報、蒸留の確率ラベル、ラベルの信頼度など、学習時のみ使える補助情報を因果構造の面から分類し、それによるサンプル効率化の機序と度合い(特に収束レート)を議論しています。ポスター1日目(火曜)後半です。 どちらも面白いのでよろしくお願いします!
1
5
37
2,967
本書は去年のIBISチュートリアルでの講演がきっかけとなって企画されたそうです(執筆が速い!) そして今年のIBISからは何が生まれるのか!?いよいよ来週です! #IBIS2026 ibisml.org/ibis2026/
強そうな本をいただきました。 最近発展著しいLLM(等)の事後学習の話を中心に、「次の単語予測器」以上の、役に立つモデルに仕上げる部分の話がきれいにまとまっていると思います。スケーリングの話もカバーされているのは嬉しい。 『基盤モデルのための強化学習』和地 瞭良 amazon.co.jp/%E5%9F%BA%E7%9B…
4
1
15
3,233
強そうな本をいただきました。 最近発展著しいLLM(等)の事後学習の話を中心に、「次の単語予測器」以上の、役に立つモデルに仕上げる部分の話がきれいにまとまっていると思います。スケーリングの話もカバーされているのは嬉しい。 『基盤モデルのための強化学習』和地 瞭良 amazon.co.jp/%E5%9F%BA%E7%9B…
1
7
1
70
6,368
プラントチームメンバが農場simコンペで1万チーム中1位!さすがプラントマスター👏
Kaggriculture 1位確定しました! 学部時代からやりたいと思っていたKaggleを社会人になってから本気ではじめられて、しかも1位も取れて感動です チームメイト(大学同期と会社同期)と弊社と対戦相手の皆様に感謝 #kaggle #goldmedal - kaggle.com/certification/com…
1
16
1,303
RT @tanimoto_akira: これは本当にね…昔あったGPTs的なやつとかで公開できればいいのですが… とはいえ自分で勉強しないで済ませられるかというと、 「インジェラ作りたい」 「まずはオフチョベットしたテフをマブガッドしてリットに…」…
This quoted post is unavailable.
1
16
育休中に書き上げる作戦だったのですが、「ここ厳密にはちょっと違うんだよな〜」みたいなところに脚注1つ追加するのに調査含め1週間掛けるペースで修正し続けていたら息子が3歳になっていました😅 そうこうしている内に色々と新しい研究が出てきて取り込めたりしたので良かったとも思います。
著者よりも情報が早い方が・・・! 『因果機械学習入門』という本を書きました! 機械学習を用いて個別化された因果効果を推定する手法群を中心に、「データからよりよい意思決定を行う」ための因果推論とその周辺を、意思決定理論を土台に体系的に解説しています。 使う側としては因果推論でも強化学習でも何でもよいのに、個別に勉強して選べるレベルまで理解するのは大変なので1冊にしました!(ただし濃縮されているので個々の本を読むよりお手軽かというと・・・) ぜひご予約お願いします!!! 目次↓
1
25
1,747
期待効用理論から因果推論への接続や、期待効用最大化にとどまらないマキシミン基準とオフライン強化学習の関係など、「意思決定」を軸に幅広い話題を紹介しています。もちろん因果推論の手法も、深層学習にもとづく手法を含め幅広く(ある程度は深く)扱っています! こういったデータ分析も今後かなりLLMエージェントがやってくれるようになるはずですが、結果を受け取る側にも体系的な理解が必要です。特に因果推論の場合は机上の評価結果も因果的な仮定の上でしか成り立たないため、分析結果は仮定とセットで管理する必要があります。むしろ、分析を実行する手が増えるので因果推論完全理解者は仕事の幅が広がるのでは、と思っています!私も日々因果推論の考え方を仕事で使っています!(手法そのものを使うことは稀ですが) 本書は定理の証明など数理的な面もさることながら、意思決定理論の公理の意味するところを日常的な例で説明するなど地の文も面白くなるように工夫しておりますのでぜひよろしくお願いいたします! ohmsha.co.jp/book/9784274235… amazon.co.jp/dp/4274235629/
26
5
129
10,199
著者よりも情報が早い方が・・・! 『因果機械学習入門』という本を書きました! 機械学習を用いて個別化された因果効果を推定する手法群を中心に、「データからよりよい意思決定を行う」ための因果推論とその周辺を、意思決定理論を土台に体系的に解説しています。 使う側としては因果推論でも強化学習でも何でもよいのに、個別に勉強して選べるレベルまで理解するのは大変なので1冊にしました!(ただし濃縮されているので個々の本を読むよりお手軽かというと・・・) ぜひご予約お願いします!!! 目次↓
2
43
5
261
37,026
経費でOB会を開催しました。みんな各界で大活躍していて採用できそうな気配がなく、弊社の好感度を高めただけに終わりそうです!😃
東大ロボコンOBが集まってる会社、正解はここ。 30人くらい来てるけどみんなAIロボット研究軍事の開発しててヤベー
1
3
1
17
3,074
おそらく、想像されているよりはいわゆるCSの知識の必須基準は高くないと思います。いろんな専門性の人が働いておりますので、ご経歴に合いそうなJDがないか(LLMででも)探してみてください!! プラントチームでも何やら意味ありげなJDを出しております。DMでの質問も歓迎です!
Preferred Networksでは、仲間を募集しています。 私たちは今、AIを社会に届けるための技術と事業を、半導体、計算基盤、基盤モデル、AI製品・ソリューションまで、一気通貫で強化しています。 これほどの規模で、これほど幅広い領域を通じてAIの社会実装に本気で挑める環境は、世界を見ても多くありません。 次の時代に必要な技術や基盤がなければ、自らつくる。そして、つくった技術を研究成果で終わらせず、実際に社会で使われるところまで持っていく。それが私たちの仕事です。 現時点ではまだ公表できない、重要かつ大規模なプロジェクトも数多く動いています。これから世の中に出ていくものを、まさに今、自分たちの手でつくっています。 AIはこれから、国や企業、そして一人ひとりの生活を支える社会の基盤になっていきます。そうした基盤を、自分たちの手でつくっていきたいと考えています。 世界で通用する新しい技術を生み出し、それを社会に届く形にする。その挑戦のど真ん中で、一緒に未来をつくってくれる方に来てほしいと思っています。 スレッドに採用ページを貼ります。興味のある方はぜひご覧ください。質問などあれば、気軽にコンタクトしてください。
1
6
37
12,880
Akira T. retweeted
6/14開催の学ロボに向けて、ルールを読んでいます✋ #ロボコン #学生ロボコン ここ違うんじゃない?のご指摘お待ちしています…
2
20
1
102
7,779
【学生ロボコン】 カンフークエストを制して、#ABUロボコン 香港大会にコマを進めるのはどこだ!?学ロボ、本日開幕🔥 正午開始!ライブ配信は、学ロボOBOGによる解説付きで会場からお届けします。 その解説陣が答えてくれるかも!質問や感想は #学生ロボコン をつけてぜひ投稿してください💬 ((🔴)) YouTube LIVE youtube.com/live/ooDUpc96fwY… ((🔴)) ニコニコ生放送 live.nicovideo.jp/watch/lv35…
56
4
84
23,050
明日からの人工知能学会で1件ポスター発表します。予測が発表(予報)された時に起きる現象自体の変化を織り込んだ予測モデルの学習について議論しています。
1
5
76
11,273
丸の内熱供給様との取り組みの件がニュースになりました。 > プリファード社の開発担当、林孝紀さん(34) 、おめでとうございます! 低迷する日本の基礎研究、揺らぐイノベーションの「土台」…自由な研究への投資不足も一因 / 読売新聞 yomiuri.co.jp/science/202605…
制御に失敗して自社オフィスが灼熱地獄にならないように頑張りたいです
1
1
2
1,464
JSAIでPFNの金で飲めます。抽選となっていますが人数の調整次第なので割と確度高めだと思います!
PFN主催で人工知能学会全国大会 #JSAI2026(高崎市)参加者向け懇親会を開催します! 📅2026/6/10(水)18:45~ 📍GARDEN PARTY cafe(高崎駅東口徒歩5分) ✅こちらからお申込みください: preferred-networks.connpass.… 学会での刺激的な議論の続きを、美味しいお酒とお食事を片手により深く語り合いませんか? PFNのメンバーを中心に、学会の感想戦や最近のLLMトレンドなど、ざっくばらんに交流できる場を設けました。 スポンサーブースでは話しきれなかったあんなことやこんなこと、ぜひこの機会に共有しましょう!
1
8
1,410