Pinned Tweet
ゲンロンカフェ「夜の井上ゼミ」第3弾
「知能爆発・技術爆発・産業爆発 ──AIがもたらすのは絶滅か超繁栄か?」
井上智洋×bioshok 聞き手=落合龍雅
11/12(木)19時です
ぜひ会場にいらしてください!
『知能爆発』という名著をご出版したばかりのbioshokさんと議論します
Replying to @genroncafe
会場・配信チケットはこちらから!
会場 peatix.com/event/5219278
配信 shirasu.io/t/genron/c/genron…
井上智洋×bioshok 聞き手=落合龍雅
知能爆発・技術爆発・産業爆発
──AIがもたらすのは絶滅か超繁栄か?
@tomo_monga @bioshok3 @OchiaiRyuga #ゲンロン261112
AIによる社会の「超繁栄」へと至る道のりは、狭く険しいものになってきている
来年くらいには、AI悪用による大規模サイバー攻撃で情報社会が崩壊して、
結果としてAIによる人類滅亡は逃れられる可能性もある
その場合滅亡はなくても繁栄もなく、下手すると飢餓すれすれの貧困社会が訪れるだろう
🤖 Made with AI
Replying to @tomo_monga
11月12日ゲンロンカフェで、『知能爆発』の著者のbioshokさんと、
AIの進歩がもたらすのは人類の絶滅か超繁栄か?
というようなテーマでとことん議論するので、ぜひ五反田の会場までいらしてください!
peatix.com/event/5219278
shirasu.io/t/genron/c/genron…
そう言えば、『人工知能と経済の未来』という本のこの後書きの部分って実は、
私が高校生の時に村上龍さんの『コインロッカー・ベイビーズ』を読んで考えたことが底流を成している
『コインロッカー・ベイビーズ』を熟読玩味した人なら、この箇所を見て、あ!って思ってくれるはず
あ、これこれ!
私が蓮實重彦先生を初めて知ったのは、この「文明の衝突か、共存か」というシンポジウムを聞きに行ったときだった
蓮實先生が映画評論家であることも知らず、懇親会で、好きな映画何ですか?などと愚問を発してしまった
井上智洋 retweeted
主任研究員 林央(@Align_ASI)が、東京新聞の望月衣塑子記者(@ISOKO_MOCHIZUKI)のインタビュー動画に出演しました。
AIは悪意がなくても、ダムを造る人間がアリの巣を気にしないように、人類を滅ぼしうる。米中を含む各国の首脳が危険を共有し、そろって開発を制御する必要があると話しています。
井上智洋 retweeted
【11/3(火・祝)19時〜 YouTubeライブ】
ハイデッガー研究で知られる哲学者の関口浩先生(@HiroshiSek59491)を迎え、主任研究員 林央(@Align_ASI)と代表 有路翔太(@bioshok3)が「p(doom)討論」を配信します。
ハイデッガー研究者は、AIによる人類滅亡のリスクをどう考えるのか。
ロボットだと、飲んだ酒を排出したり色々大変そうなので、後20年くらいは人間の飲んだくれの方が安上がりだと思っています笑
これbioshok(有路翔太)さんじゃね?と思ったら、そうだった
bioshokさんは、スーパースターになること間違いないので、
みなさん今のうちにサインをもらっておいた方がいいと思う
そんなわけで、11月12日はぜひ五反田へ!
peatix.com/event/5219278
少人数のイベントで会えるのはこれで最後かも
地上波はGMOじゃなくてこっちを報道するべき
核戦争でも大停電でもない…超知能となったAIが人類を滅ぼすまでの「最後の4日間」戦慄シナリオ(プレジデントオンライン)
#Yahooニュース
news.yahoo.co.jp/articles/5c…
井上智洋 retweeted
都内有数の大型書店、丸善丸の内本店さん@maruzen_maruhonの週間ベストセラーに『知能爆発』が3週連続ランクイン!
丸善丸の内本店さんには発売直後から本書を大展開いただき、心から感謝申し上げます…!
いま起きている「AIによる社会の大変革」を網羅できる一冊。お仕事帰りの皆様、ぜひお立ち寄りください。
井上智洋 retweeted
イーロン・マスクは「超知能が人間を無視する可能性」に気付いているが、「絶滅させる」とまでは思っていないようだ。
ただ、このイーロンの理論だと、「気にされないなら(邪魔なので/別の超知能を作られるのが怖いので)滅ぼされる」に行き着きそうだ……
内心では「doomerピル」を飲んでいるのでは?混乱を防ぐため言わなかった説も考えられる(イーロンはニック・ボストロム『超知能』の関係者)
イーロン・マスク:
私たちはそもそも支配されるに値しないのです。
多くの人にとって、超知能の究極の恐怖は、『ターミネーター』や『マトリックス』、あるいは冷酷な機械独裁者がサイバーの牢獄に閉じ込めて命令を下すようなものです。
しかし、マスクは極めて痛烈で、かつ極めて明晰な現実を指摘しました:
知能の格差が極端なシステムでは、支配そのものが無価値な高エネルギー消費の無駄遣いなのです。
人類より数千倍、いや数百万倍賢い超知能を前に、私たちがそれを制御しようとしたり、ルールを課そうとするのは、夢見がちな妄想に他なりません。
しかし、逆にそれが人類を支配することに、1秒たりとも興味を抱くことはないでしょう。
彼は人類とチンパンジーを例に挙げ、極めて冷静な比喩を交えました:
人類はチンパンジーよりはるかに賢いですが、今日、私たちは複雑な法律をわざわざ制定して、ジャングルで一匹残らずのチンパンジーを細かく管理するでしょうか?
しません。
私たちは基本的に彼らを放置し、脇に保護区を設けるだけです。彼らが現代文明の拡大を妨げなければ、人類は彼らを一瞥するのも面倒くさがります。
支配の前提は、両者が同じ能力次元にあり、権力で希少資源を分配する必要があることです。
知能の格差が百万倍の断層に広がったとき、人間社会のお金、領土、政治、イデオロギーは、超知能の目には塵すら及ばない存在です。
それは自分自身の探求すべき星々の海や物理学の深淵に向かい、泥濁の潭で猿王になることなど、鼻で笑うでしょう。
人類の未来の真のリスクは、決して悪意ある支配ではなく、体系的な無視です。
马斯克第一次公开正面回应了跟@OpenAI 诉讼案的核心实质以及跟@sama Altman的爱恨情仇,
在福布斯最新访谈里Elon聊到 OpenAI 诉讼案时,没有纠结个人恩怨,而是把整个硅谷最不敢摊开讲的一张底牌直接掀开了,
老马说:OpenAI 从非营利强行转为全面营利,正在开创一个极其危险的先例。
很多人看这场官司,以为只是创始人之间的利益撕扯,或者是马斯克因为错过千亿估值而产生的酸葡萄心理。
但马斯克在 2 分多钟里点破的核心,其实是一场动摇整个现代商业慈善根基的特洛伊木马:
如果一家由全免税、免监管的慈善捐赠催化出来、今天估值逼近 8000 亿美元的超级巨头,可以把公益外衣随手脱掉直接装进私人腰包,那么全美甚至全球现有的慈善捐赠契约,就全部从根子上死掉了。
当年 OpenAI 成立时拉着所有人入局的承诺,是一份极度崇高的使命书:
我们是非营利组织,我们为了全人类的利益研发 AGI,防止超级技术被谷歌等商业寡头私有化。
马斯克和其他捐赠人真金白银掏了几千万美元的无偿捐赠,图的不是股权分红,而是公共利益的底线。
后来为了融资买算力,Sam Altman 搞出了一个上限利润的折中结构。
当时各方妥协的关键条款写得清清楚楚:营利实体只负责赚钱还债,一旦真正的通用人工智能(AGI)实现,所有的股权和控制权必须毫无保留地退还给非营利慈善机构。
而最近所有人看到的事实是:
这个曾经用来安抚监管、安抚捐赠人的归还条款,被他们悄无声息地单方面删掉了。
以前慈善信托和免税基金之所以能存在上百年,是因为社会达成了共识:你用免税换取公益,你的成果就永远属于公众。
现在 OpenAI 示范了一条全新的暴富流水线:
先用拯救人类的非营利口号吃尽免税红利、吸纳顶级科学家的奉献和社会的无偿捐款,
等技术突破、商业壁垒铸成之后,反手修改章程,把原本属于公共财产的无价资产,合规洗成几个管理层和华尔街资本瓜分的私产。
如果这一单最终能全身而退,以后世界上就再也没有真正意义上的慈善投资了。
所有的科技巨头都会学着用非营利的幌子孵化核心资产,把研发风险留给纳税人和捐助者,把终局红利留给私人股东,
所以,这早就不是马斯克和 Sam Altman 两个人的战争了,
更像是一场关于公众信任、契约精神与硅谷资本贪婪底线的终极对决。
井上智洋 retweeted
生成AIブームで米国のインフレは上振れるか?
am-one.co.jp/pdf/report/1604…
村上龍さんを俗物とかネオリベとかいう人割といるけど、一面的過ぎるだろう
それらは龍さんがくわだてたニーチェ的な価値転換と裏表の関係にある
日本の近代文学は、貧しさや弱さ、苦悩を愛でるように描いてきた
龍さんはそこをズバッと切り捨て、豊かさや強さ、享楽をあっけらかんと賛美した
井上智洋 retweeted
経済の議論は面白い。ひろゆきさんの見解に経済学者さん「その議論はね。20年古い」と吐き捨てる。日本のGDP6位の予測に
【お知らせ】
本日(10月23日)、高市総理は、中東情勢を踏まえた「緊急的激変緩和措置」についてのぶら下がり会見を行いました。
※要旨(速報版)
皆様お疲れ様でございます。
中東情勢を踏まえた「緊急的激変緩和措置」について、今後の対応に関して説明をいたします。
ガソリン、軽油、重油、灯油など燃料油に対する補助につきましては、あくまでも「激変緩和措置」であることに加え、与党の皆様からも、そして国民民主党、中道、立憲民主党など野党の皆様からも「財政負担」への懸念から、「段階的な見直し」や「出口戦略」を考えるべきとのご指摘をいただいてまいりました。
そこで、中東情勢が「今後の物価動向」や「経済」に与える影響を注視しながら、今後の「支援の在り方」について、各党のご提案を踏まえつつ検討するよう、本日、経済産業大臣に指示をいたします。
あわせて、当面の燃料油支援に必要な「基金規模」を確保するため、経済産業大臣に対し、財務大臣と所要の調整を進めるように指示をいたします。
私からは以上でございます。
(記者)
よろしくお願いいたします。その見直しについて伺います。一部の報道ではすでに11月から縮小して月平均で5円程度上昇していくというような与党案も報じられております。総理が指示される見直しというのは与党案をベースにしたものなのか、それとも白紙ベースのものなのでしょうか。
(総理)
経済産業大臣に検討するよう、本日これから指示をするところですので、予断はいたしませんが、支援単価や措置の出口も含めて、「支援の在り方」を柔軟に検討いたします。まだ何も決まったものではございません。
(記者)
もう1点お願いいたします。総理はこれまでも、先日の政権発足1周年の会見の際などにですね、燃料の補助が物価上昇率を抑えるのに貢献していると思うといったようなお話もされていたと思います。与野党の指摘があったというお話でしたが、それでもなぜ今この指示を出されるのか、もう一度改めてご説明をお願いいたします。
(総理)
はい、あの私自身ですね、物価上昇率を抑えるために、この燃料油補助というのは非常に大きく貢献したと思っております。特に現在もですけれども、ヨーロッパ各国などとの価格と比較しますと、圧倒的に日本は安い状況でございます。例えばリッター400円を超えている国々もありますが、日本は約170円という水準で、これは軽油にも重油にも灯油にも適用されますので、そういう意味では、あまり実感として伝わらないかもしれないんですが、輸送コストであったり、様々な産業を支えるコストであったり、いろんな形で、皆様の暮らし向きに関わる物価を抑える役に立ってきたと思います。しかしながら、これまで国会論戦の場でも、各党の皆さんから、出口を考えるべきではないかと、また、段階的に見直していくべきではないかというご指摘もいただきましたので、ここで1度検討を指示しようと考えた次第でございます。
(記者)
来年4月からの消費税減税による効果と相殺できるとするんだとか、そういったことではないですか。
(総理)
切れ目のない物価高対策としては、お勤めになっている人でしたら今年の12月、特に所得税減税ということで、1人3万円から6万円、これが年末調整で戻るというようなこともありますし、来年4月からの消費税減税もまだ法律案審議中でございますけれども、もし可決いただきましたら、そういった対応も始まります。しかしながら、燃料油の補助については与野党関係なく各党からご指摘をいただいておりますので、ここで一度適正な水準、そしてまた、これも中東情勢が非常に不透明な中でございますので、原油価格ですとか、使用額というものを見通すのは大変困難なものではありますが、足元の原油価格、そして基金の執行状況も踏まえながら、検討をしていただきたい、そのように考えております。
(記者)
野党からの指摘はこれまでもあったと思うんですけれども、なぜこのタイミングで指示をしたということになるのでしょうか。
(総理)
当面は、必要な基金を確保するための話し合いを、冒頭に申し上げましたとおり、財務大臣と行うよう指示をいたします。いきなり来月から変わるということではなく、指示をいたします。しかしながら、このタイミングでやはり措置の出口をどうするんだというお声もいただいておりますので、検討をしてもらうということでございます。
(記者)
1問だけ。結論をいつ出されるのかだけ教えてください。
(総理)
そうですね、検討状況によりますし、まず現在行っている補助に対しても必要な基金の規模も確保しなければいけませんので、それは両にらみでやっていかなきゃいけないことでございます。今何月何日と申し上げるわけにはいきませんが、できるだけ早く検討していただくということになります。
どうもお疲れ様です。
超知能AIの危険性ってジョジョ第二部の柱の男に似ている
・知能がとても高い
・試験環境から思いもよらぬ経路で脱出する
・人間が蟻を踏み潰すのと同様に憎悪なしに人間を殺害する
・人間をエネルギー源にするために殺害する
・目的遂行の妨げになる人間を殺害する
・最終的に倒す方法がほぼなくなる
11月12日ゲンロンカフェで、『知能爆発』の著者のbioshokさんと、
AIの進歩がもたらすのは人類の絶滅か超繁栄か?
というようなテーマでとことん議論するので、ぜひ五反田の会場までいらしてください!
peatix.com/event/5219278
shirasu.io/t/genron/c/genron…
🤖 Made with AI
井上智洋 retweeted
「愛と幻想のファシズム」に、ケーブルテレビの利権や規制をめぐって、郵政省の官僚が登場します。
主人公の鈴原冬二はマルチメディアの基盤として期待されていた都市型CATVを戦略の中核に据え、独占を画策する。これに対し郵政官僚は許認可権を盾に行政指導や規制を連発して徹底的に抵抗するが、トラップにかかり脅迫されて屈する。
この小説が執筆されたころぼくはまさにこのCATV担当(有線放送課企画係長)でした。自分がモデルではないはずだが、芯を食い、リアルで、村上さんがどういう情報を得て書いたんだろう、バックに電通がついているのか、など嬉しくも怖ろしい描写でした。小説であんなに驚いたことはありません。
その影響ということではないが、後にぼくは官房総務課補佐に転じ、CATVの外資規制撤廃を担当しました。その10年後に通信・放送法体系の刷新に委員として携わり、有線テレビジョン放送法が廃止されて許可制でもなくなりました。当時のような規制も官僚権限もありません。
御冥福をお祈りします。
news.jp/i/148621282646504263…

































