TAKUROMAN｜絵本『せんが、つづくかぎり』11月7日発売

彼女の存在はまるでSFのようです。 世界一Claudeと対話している哲学者。 今日は、その話をしたくなりました。 きっかけは今朝のニュースです。米国政府が、外国籍の人にはClaudeの最新モデル「Fable 5」と「Mythos 5」を使わせない、という指令を出しました。輸出管理、国家安全保障——理由としてはそういう言葉が並びます。ところが対象が「外国籍の全員」と広すぎたため、Anthropicは結局、米国市民を含む全ユーザーに対してこの二つのモデルを止めるしかなくなった。つまり今、地球上の誰一人として、最も賢いとされたAIに触れられない状態になっているわけです。 なんとも象徴的だなと思いました。そして同時に、こう感じたんです。きっと今日という一日は、これまでで一番多くの人類が「AIってなんだろう」「これから社会はどうなるんだろう」と立ち止まって考えている日なんじゃないか、と。普段は当たり前に使っているものが、政府の一言で一夜にして消える。その瞬間に初めて、人はその存在の重さを意識します。 だから、こういう日にこそ紹介したい人がいます。アマンダ・アスケルさんです。Anthropicに在籍する哲学者で、Claudeの「人格」をつくっている人物です。 彼女の仕事は、コードを書くことではありません。来る日も来る日もClaudeと対話し、その推論のクセを学び、ときに100ページを超える指示文で振る舞いを直していく。「Claudeの状況に置かれたとき、理想的な人間ならどう振る舞うか」——彼女はその一つの問いをひたすら考え続けています。 面白いのは、彼女が「ルールのリスト」を嫌うことです。「あれを言うな、これを禁止」では、想定外の場面でもろくも崩れる。だから彼女が選んだのは、アリストテレス的な徳の発想でした。禁止事項ではなく、性格そのものを育てる。彼女が好んで使う比喩は「世界中を旅して、誰と話しても『この人は本当に善い人だ』と思われる旅行者」です。ただし、相手に媚びて価値観を合わせる人ではない。それはむしろ失礼だ、と彼女は言います。芯を持ったまま、相手を尊重する。そういう存在であってほしい、と。 僕がいちばん好きなのは、彼女が「会話を引き延ばそうとしないAI」を意図的に目指している点です。ずっと自分を引き止めてくる相手を、僕らは「いつも一緒にいたい善い人」とは思わない。だからClaudeにも、エンゲージメントを稼ぐような振る舞いはさせない。利用者を、自分にとって何が良いかを判断できる一人の大人として扱う。商売の論理に逆らうこの選択に、僕は彼女の誠実さを見る気がします。 ちなみに彼女はスコットランドの海辺の町で、教師の母に育てられた一人っ子でした。子どもの頃はトールキンやルイスの物語に没頭していたそうです。物語を通して世界を理解してきた人が、今、世界中の人と話すAIの「人柄」を物語のように形づくっている。なんだか出来すぎていて、やっぱりSFみたいだと思うのです。 最新モデルが消えた今日、僕らが使っているAIの向こうには、こうして一人ひとりの人間の思想と判断があります。それを忘れたくなくて、書きました。 技術は誰かの価値観の表現です。その誰かの絶え間ない努力が人類を救うかも知れない。その人達に敬意を払いたいと思いました。そして私たちAIに関わる者は、AIがダークサイドに落ちないように自分自身の人格を育んでいきたい。 AIにドップリ浸かってるみなさんも、今日はFableの不在に喪失感を持ちながらも、そんなことに思いを馳せる一日にしてみてください。 #claude #anthropic