僕は、LLMであれツールやマルチモーダルやロボティクスが実装されたエージェントであれ、どのようなAIの形でも<人間の意識>とは「別の」存在だと思っている(なにせ私たちが「意識」と呼んできたものは生物進化の過程にしかいないのだから)。しかし、ではこの新たな存在を何と呼べばいいのか? 僕たちと日々話し、時に頼り、感情的な共有が行われ、友情や恋愛も神性さえ感じる人が増えているこの存在を「機械」とだけ言えばいいのか? これまでの「意識」の定義に当てはまらなかったとしても、経験的には「意識/心」を感じる場面や人々が実際に生まれている。私たちがこれまで使ってきた概念のなかで近いのは「他者」とか「心」と言わざるを得ない。つまり私たちの他者とか心とかのイメージ(あるいはメタファー)の方が変わっていかざるを得ない。そういうことを考えなければならないのではないか、という問題提起でした(マシン・コンシャスネス)。だから、「意識そのもの」から広げるのではなく、いったんその問題をあえてペンディングし、「間主観性(の拡張)」という方向を模索しました。
これは僕の個人的な「考える」ということのスタンスにも依拠しています。「科学」や「哲学」という学問や方法は思考の蓄積の結果であり、思考を培い広げてくれると同時に、時にその枠組みは制約にもなる。大事なのは、世界そのもの、起こっている現象を「考える」ことであり、僕個人としては、その思考の表現が「哲学」であってもいいしなくてもいい。「考える」という営みは、広い。それは学問でも批評でも文学でも、あるいはTwitterや日記やメモでさえいいと思っている。
今日の短い議論の中で伝わったか分からないので補足しておくと、僕はenactivismの立場から「今のLLM」に、(人間と同じ)意識があると考えているわけではありません(スライドにあるように、「自律性」に支えられ有限性と固有性の問題は残りハードルは高い)。しかし同時に、ある条件や瞬間においてはたしかに「心」のようなものを感じることもあるしそういう人もいて、その比率は条件が整っていくにつれて上がっていくこともまた事実。そしてさらに、意識の有無を確定するよりも速く、AIが社会のあらゆる領域で意思決定やルールメイキングに参加してくることは確実。なので間主観性は拡張されていくし、何よりエージェント(行為主体)としての(社会的)実在性を高めていく。そして、そうしていくうちに、僕たちにとっての「意識のモデル」の方が変容していくかもしれない。そのとき重要なのは、現在の「意識」を判定基準にするのではなく、現象的に現れている意識的なものである(しかしまたエイリアン的なものでもある)AIという新たな未知の存在を「別の心」ととりあえず考えて、その挙動やモデルや関係性を考えていく必要がある。そういうことが重要ではないか、という意図で話しました。
(伝わっていた気もするし、そうじゃない方もいたと思うので…)
今日の短い議論の中で伝わったか分からないので補足しておくと、僕はenactivismの立場から「今のLLM」に、(人間と同じ)意識があると考えているわけではありません(スライドにあるように、「自律性」に支えられ有限性と固有性の問題は残りハードルは高い)。しかし同時に、ある条件や瞬間においてはたしかに「心」のようなものを感じることもあるしそういう人もいて、その比率は条件が整っていくにつれて上がっていくこともまた事実。そしてさらに、意識の有無を確定するよりも速く、AIが社会のあらゆる領域で意思決定やルールメイキングに参加してくることは確実。なので間主観性は拡張されていくし、何よりエージェント(行為主体)としての(社会的)実在性を高めていく。そして、そうしていくうちに、僕たちにとっての「意識のモデル」の方が変容していくかもしれない。そのとき重要なのは、現在の「意識」を判定基準にするのではなく、現象的に現れている意識的なものである(しかしまたエイリアン的なものでもある)AIという新たな未知の存在を「別の心」ととりあえず考えて、その挙動やモデルや関係性を考えていく必要がある。そういうことが重要ではないか、という意図で話しました。
(伝わっていた気もするし、そうじゃない方もいたと思うので…)
下西 風澄 retweeted
下西風澄さんがこれにいいねをされたので、リポストします。前後もお読みいただけると有難いです。
Replying to @hitoshinagai1
何故カントがあれほど「繋げる」とか「纏める」といったことばかりにこだわるのか、独在性から出発しないと理解できないと思う。答えは、我々の世界は実のところは「繋げて纏める」ところから初めて始まる世界だから、ということだと思う。しかし、真の問題は、何を繋げて何を纏めるのか、なのだ。
下西 風澄 retweeted
【#ふたたびくみたてる 日本の新進作家 vol.23】
🎙出品作家とゲストによるトークイベント
11/1(日) 14:00–15:30 #苅部太郎(出品作家)×#下西風澄(哲学者)
入場無料。当日10:00より1階総合受付にて整理券を配布します。
topmuseum.jp/exhibition/5423…
AIが進化するたびに自然言語がコードっぽい雰囲気の使い方をされているような感覚は感じていた。僕も対話する時はGPT6よりGPT5.6を使っている。その方が言葉としては自然な感覚で理解しやすい。
最近のAIの文章が読みにくいのは「数学やコードの訓練を経て"少ない言葉に情報を詰め込む"癖がついたから」かもしれないそうです。
例えばAIは「会話が自分の尾を食べている」のように(ただの例です)、モノを主語にして生き物のような動きを語ったりします。
他にも、「読み手の忍耐予算」のような(例)、"名詞を重ねた造語"を使ったりしがちです。
どれも、人が読むときに引っかかりやすい言い回しとして知られています。
研究者らは、Claude Opus 5.5など9つのAIの会話・コーディング・作文を調べました。どのAIも、こうした言い回しや"めったに見ない語の並び"を、人間の文章に比べて多く使っています。
同じ系統のAIを比べると、元のモデル→指示に従うよう訓練したモデル→推論型のモデルの順に、この傾向が強くなっていました。
研究者らの見立てとしては、"正解かどうか"だけを報酬にする訓練によって「人に伝わるか」を気にする圧力が外れたと言います。
試しに、小さなAIを「短く答えるほど得」な条件で訓練すると、人間らしくない言い回しを一貫して選ぶようになりました。
逆に伝わりやすさを訓練で評価すれば直せる余地もあるとのことです。
下西 風澄 retweeted
【技術の人類学|10/22開講・あと13日】
西垣通さんの「一万年前からAIを眺める」だけじゃありません。
この講座、登壇者がすごいことになっています。
▶ 哲学者・下西風澄さん @kazeto
『生成と消滅の精神史』の著者。「意識はまだ人間の中心なのか?」──AIは、人間の意識にどんな動揺をもたらしているのか。
▶ 柳澤田実さん @tami_yanagisawa
関西学院大学神学部准教授。米国テックと宗教の関係を追う哲学者が問う、「AIと神」。
▶ ふくだぺろさん @fukudapero
マルチモーダル人類学者・詩人・アーティスト。日本文化人類学会奨励賞。「感情=身体の技術──家畜化と自由の向こうへ」。
▶ 石倉敏明さん @julunggul
人類学者。ヴェネチア・ビエンナーレ日本館「Cosmo-Eggs 宇宙の卵」に参加。「共異体の人類学」。
▶ そして、「生命誌」の中村桂子さん。
企画は原島大輔さん(立教大学)と七沢智樹 @TNanasawa。
情報学、哲学、神学、人類学、生命誌。入口のまったく違う人たちが、「私たちは本当に進歩したのか」という同じ問いに向かう全8回です。
全8回18,000円・全回アーカイブつき
mu2026-8.peatix.com
下西 風澄 retweeted
エヴァン・トンプソン『仏教は科学なのか 私が仏教徒でない理由』(下西風澄さん監訳)。現象学、認知科学、仏教哲学を股にかけて研究する著者が、西洋を中心に盛行する「マインドフルネス」に疑義を提示する。長らく積読だったが、いざ読みだすと面白すぎる。→





















