monado

テレンス・タオ、森重文などを含む25人のフィールズ賞受賞者が「数学におけるAIの深刻なミスアライメント」を警告する共同宣言を公開しました。 mathandai.org/ 【訳】「数学におけるAIの深刻なミスアラインメント」 ここ数か月で、大規模言語モデル（LLM）の数学的能力は劇的に向上し、数学の多くの分野における重要な未解決問題を解けるところまで到達している。 しかし、AI企業が数学問題の解決をベンチマークとして推し進めていることは、数学という科学そのもの、そして数学コミュニティにとって有害である。 AI企業の目標と数学コミュニティの目標の間には、深刻なミスアラインメント（目標のずれ）が存在する。 私たちはこれを、他の科学分野や創造的職業、さらには社会全体にも影響を及ぼしている、より広範なアラインメント問題の一部だと考えている。 研究数学とは、形、数、自然現象の基本的な構造を理解しようとする営みである。 何世代にもわたり数学は、数学的世界を理解するための高度なアイデア、方法、抽象概念、その他さまざまな道具からなる膨大な体系を築き上げてきた。 そして現代の科学技術は、こうした数学的道具の上に成り立っている。 有名な未解決問題はしばしば、この数学的世界についての理解がどれほど進んだかを測るための道標や灯台として機能してきた。 そうした問題の一つを解決することは、新しい洞察や興味深い方法が生まれた確かな証拠だった。 それらはその後、数学者のコミュニティによって、講演、議論、簡略化といった長く困難な過程を通じて研究されていく。 その過程の最後には、理想的には大学院生、さらには学部生でも学ぶことのできる、教科書の形に整理された成果が残る。 そして数学的アイデアの中には、さらに長い旅を続け、数十年あるいは数世紀を経た後に、社会全体の人々に理解され、利用される道具となるものもある。 数学コミュニティは、多くの点で人類の縮図のように機能している。 そこには非常に多様なアプローチを用いる個人が存在しながらも、共通の中核的価値観によって結び付けられている。 私たちの職業における最も貴重な資源は、学生とアイデアであり、私たちはそれらを細心の注意を払って育てている。 それらが十分に可能性を発揮し、やがて数学の世界で自らの生命を持つようになるまで成長させる責任が、私たちにはあると感じている。 学生に対して私たちが問題を与えるとき、その中心的な目的は、研究やその他の分野で新たな前進を遂げるために必要な能力を育てることである。 アイデアについても、講演、個人的な議論、慎重に書かれた論文などを通じて広め、それを他の人々が生み出してきた先行するアイデアと結び付けていく。 こうした過程には必然的に時間がかかり、人間同士の交流を基盤としている。 ここ数か月、AIが重要な数学問題の解決に成功したことは、数学界の外でも大きく報じられている。 しかし、問題を解くことは、概念的な理解や洞察という本来の目的を達成するための「道具」であり「代理指標」にすぎない。 AIの世界でこのことを忘れてしまえば、その道具がかえって本来の目的を損なう可能性がある。 実際、「真か偽か」という命題を、ますます高速に大量生産することは、新しいアイデアに命を吹き込むどころか、豊かな研究の土壌そのものを破壊しかねない。 こうした解答はしばしば、十分な論文執筆、新しい方法やアイデアの切り分け、関連する他者の先行研究への適切な引用を行う時間もないまま、性急に発表される。 すべての創造的な職業と同様に、これは帰属や盗用をめぐる深刻な問題を引き起こす。 さらに、AIが生み出したアイデアの発展を担い、それを数学の正統な知識体系の中に組み込んでいく意思を持った数学者がいなければ、それらのアイデアが真に生命を得ることはない。 そして、数学者から数学者へと知識を受け渡していく、極めて重要な人間による継承の連鎖も失われてしまうだろう。 私たちはいま、知的労働全般に対する脅威を目の当たりにしている。 それは、AIを使用した結果と、その仕事が本来目指していた目的との間に生じるミスアラインメントである。 多くの分野や活動において、何年にもわたる訓練は、単に最終的な答えや成果物を生み出すためだけに行われてきたわけではない。 その過程を通じて理解を深め、新しい問いやアイデアを生み出す能力を育てることにも意味があった。 しかしAIシステムは、これまで人間が蓄積してきた膨大な成果を土台として、そのような作業の「結果」を直接生み出す能力をますます高めている。 そのため、結果を生み出すことと、本来その作業によって達成しようとしていた目的との間の整合性が失われつつある。 現在、数学コミュニティが直面している問題は、他の科学分野や創造的職業が直面している問題とよく似ている。 そしてそれは、人類全体が将来直面する可能性のある問題を示している。 すなわち、AIによって仕事のやり方が変わっていく中で、そもそもその仕事が何を達成するために存在していたのかを、どうすれば見失わずに済むのか、という問題である。 AIには、本物の数学研究と数学的理解を強化し、加速させる大きな可能性がある。 数学という専門分野も、こうした変化にさまざまな形で適応していく必要があるだろう。 しかし、最終的にこれらの変化が数学に利益をもたらすのか、それとも破壊的な影響を与えるのかは、この新しい技術を管理する立場にある人間たちの判断によって、大きく左右される。 これらの問題には、緊急に取り組まなければならない。 数学コミュニティの中で、これらの技術を開発する企業の中で、そしてさらに広く、多くの知的労働において同様の問題に直面することになる社会全体で、議論し対処する必要がある。 Artur Avila（2014年フィールズ賞） Manjul Bhargava（2014年フィールズ賞） Caucher Birkar（2018年フィールズ賞） Pierre Deligne（1978年フィールズ賞） Yu Deng（2026年フィールズ賞） Simon Donaldson（1986年フィールズ賞） Hugo Duminil-Copin（2022年フィールズ賞） Alessio Figalli（2018年フィールズ賞） Martin Hairer（2014年フィールズ賞） June Huh（2022年フィールズ賞） Maxim Kontsevich（1998年フィールズ賞） Elon Lindenstrauss（2010年フィールズ賞） Pierre-Louis Lions（1994年フィールズ賞） James Maynard（2022年フィールズ賞） Curt McMullen（1998年フィールズ賞） Shigefumi Mori（1990年フィールズ賞） Ngô Bảo Châu（2010年フィールズ賞） Andrei Okounkov（2006年フィールズ賞） Peter Scholze（2018年フィールズ賞） Stanislav Smirnov（2010年フィールズ賞） Terence Tao（2006年フィールズ賞） Maryna Viazovska（2022年フィールズ賞） Cédric Villani（2010年フィールズ賞） Wendelin Werner（2006年フィールズ賞） Efim Zelmanov（1994年フィールズ賞）