practitioner (@CnNigo) header
practitioner (@CnNigo) profile picture

Ancient architectural,crypto operator,practitioner and ancient Chinese culture disseminator/唐代の古代建築芸術/书法/書道/古代書画コレクション。

West New York, NJ
Joined May 2022
Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)Photo by practitioner (@CnNigo)
人間の傲慢が、今後の先端科学の進展を制限し得る。なかでも重いのは、「人間がすべてのステップを理解すること」を、科学的発見が認められる前提にしてしまう姿勢だ。 すでに独立した検証によって正しさが担保されている結果であっても、人間が一行ずつ読み終えるまで次の研究へ進めないのであれば、科学の進歩は人間の読解速度に縛られることになる。最前線では、すでに別の前提が機能している。 1)検証は、完全な理解に先行し得る 長大な数学的証明において、人間がまず確認すべきは「元の問いに答えているか」と「前提の妥当性」である。論理の各ステップは、独立した検証器が担保すればよい。結論の正当性を確定することと、「この証明のどの着想を次の難題へ応用するか」という創造的な理解は、時間軸を分けることができる。 2)数学がAIを生み、AIが数学を拡張する 行列乗算はニューラルネットワークを支える基盤だが、DeepMindのAlphaTensorは新たな行列乗算アルゴリズムを発見した。mod 2の演算下における4×4行列の積では、従来のStrassenの手法が49回の乗算を要したのに対し、AlphaTensorは47回の解を見出した。既存の知識で作ったツールが、新しい知識を発見する段階に入っている。 3)厳格な制約と、設計の自由度 NVIDIAは64ビット加算器の回路探索をAIに委ねた。従来の最先端設計ツールと比較し、同等の機能・速度の条件下で回路面積を最大25%削減している。Hopper GPUアーキテクチャには、AIが設計した回路インスタンスが約1万3,000個実装された。人間が譲れない指標を定義し、探索の自由はAIに与える。見慣れない構造であっても、結果が検証されれば製品として実装される。 すべてを人間の頭脳で把握しようとする前提を改めること。人間は問いと制約の定義に徹し、検証された解を次の一手へ繋げる。それが、人間の認知限界を超えて知を拡張する条件となる。 出典 1)Lean 公式リファレンス「Validating a Lean Proof」 lean-lang.org/doc/reference/… 2)DeepMind「Discovering faster matrix multiplication algorithms with reinforcement learning」(Nature, 2022) doi.org/10.1038/s41586-022-0… 3)NVIDIA「Designing Arithmetic Circuits with Deep Reinforcement Learning」 developer.nvidia.com/blog/de…
1
2
127
We are moving from executing every step to architecting the framework. Humans will own the questions, the constraints, and the verification criteria. AI will explore the vast solution spaces beyond human intuition.
JUST IN: Riemann Hypothesis has been solved. alpo.ge/remark.pdf
1
81
「安全を守るためには、すべてのデータを24時間監視し続けなければならない」 これまで世界中の工場やAIシステムが信じてきた、この常識が覆ります。 9つのセンサーのうち4つを見た瞬間、残りのうち「あと1つ」どこを見れば真実が確定するかが数学的にわかる。結果、観測を44.4%削ぎ落としても、安全の保証限界は9つすべてを見た時と完全に同じになります。 初めてこの結果を見たとき、私自身も魔法を見ているようでした。不可能に見えた壁を越えてくれた研究チームを本当に誇りに思います。この技術を社会のインフラにし、産業の未来を変えていきます。 choiceproof.io/research/adap…
1
2
4
258
自律型AIにどこまで業務を委ねられるか。多くの企業がプロセス全ての監視という罠に陥っている。しかし、実行の全貌がブラックボックスであっても、完了は厳密に証明できる。 添付した図を見てほしい。 外側の円はあらかじめ合意した完了条件を満たす実行の集合、内側の円は得られた証拠と両立する実行の集合だ。 内側の可能性がすべて外側の円に収まるのであれば、AIが実際にどの経路を辿ったにせよ「完了」という事実は数学的に確定する。  これが意味するのは、AI監視コストの根本的な最適化だ。未完了の可能性を排除するための証拠だけを設計し、取得する。全ての可能性が条件内に収束した瞬間、それ以上の過剰な追跡は無意味となる。 企業がAIに権限を委ねる際、真に重要なのは、この包含関係を「第三者が検証可能な数学的証明書」として引き渡せることだ。前の工程を担ったAIが停止し、別組織へ業務が移譲された後でも、受け手自身が自らの手で完了を確信できる構造が必要になる。 真の自律化の成熟度は、こう問われるべきだ。「そのAIが去った後、次の工程に進んでよい理由を、誰が、何を根拠に証明できるのか?」#AI #AutonomousSystems #Security #Verification
1
5
191
数式を知らない脳に、幾何学がある。 ネズミの空間認識を担う神経細胞の集団活動には、ドーナツ状の「トーラス」という構造が現れ、睡眠中も保たれる。 数学と知能のつながりは、私たちが思う以上に深いのかもしれない。 nature.com/articles/s41586-0…
1
2
188
日本のdeep techエコシステムには、技術革新の深さを「物理的な研究開発」で測る慣性があります。大型設備を伴う素材や製造が評価される一方、形式検証や数学的アーキテクチャは見落とされがちです。 巨大な実験施設を持たないこれらの理論的蓄積こそが、次世代の汎用インフラとなります。ここに一つの産業リスクが潜んでいます。次世代ロボットの「製造」を重視する半面、システムを支える数学やソフトウェア基盤を軽視すれば、「最先端のハードは作れても、中核のデジタル基盤は他国依存」という未来になりかねません。 ハードテックの強みを生かしつつ、Deep Techの認知境界を広げ、計算機科学とオリジナルな数学の本質的価値を捉え直す時期に来ているのではないでしょうか。
1
6
325
私は以前から、遅くとも来年5月頃には、AIとサイバーセキュリティが日本政府の揺るぎない国家戦略として完全に引き上げられるだろうと予測していました。しかし、昨今の高頻度な政府の動向を見ると、市場のリアルな痛みがこの「核爆発レベル」のタイムラインを強制的に前倒ししています。 AIはサイバー攻撃の人的ハードルを急激に下げ、攻撃の規模とペースを全面的に加速させています。10月のGMOのサービス停止とデータ漏洩事件は、企業に甚大な賠償とシステム再構築のコストを強いただけでなく、政府に能動的サイバー防御措置の導入を直接要求する事態に至りました。JPCERT/CCの調査でも決定的な証拠が示されています。攻撃者はAIを用いて脆弱性をスキャンし、API攻撃を仕掛け、さらにはAIペネトレーションテストプラットフォームを悪用しています。防衛研究所すら「既存の行政の対応速度が追いつかない」と指摘する今、これはもはや数社の危機ではなく、国家のデジタルインフラのシステム的な不安なのです。 政策の転換は極めて鋭敏であり、巨額の資金が伴っています。今年7月に内閣で承認された第2期AI戦略では、すでにAIモデルの評価とトレーサビリティの構築が明記されていました。さらに10月下旬には、首相が立て続けに指示を出しています。AIを活用した脆弱性検査などの防御措置の実施を前倒しすること、そして年内に基本計画を再改定し、AIによる攻撃を前提としたサイバーセキュリティの強化を議論することを求めています。より重要なのは、2027年度の概算要求において、すでに約460億円の「AIの信頼性等の能動的評価インフラの研究開発・整備」プロジェクトが計上されていることです これが国家戦略レベルに引き上げられれば、産業全体にとって核爆発的な事業機会となります。 嵐が到来する前に、エンタープライズ顧客の購買ロジックはすでに完全に変化しました。以前は「なぜAI Agentの実行に独立した検証が必要なのか」を市場に説明するのに時間がかかっていました。しかし現在では、操作結果が真実か、トランザクションが権限に準拠しているか、事後で信頼できる証拠を提示できるかといった問題が、大企業の経営層のアジェンダに直接上がっています。 デジタル庁が約18万人の政府職員に向けてAI Agent環境を順次提供し始める中、政府自身がAgentセキュリティメカニズムの巨大な需要者となっています。
1
1
6
433
日本において、私は非常に深刻で、致命的とも言える断絶を目の当たりにしている。それは、研究領域と産業界が極度の「隔離状態」にあることだ。学者が象牙の塔で真理を追求する一方で、企業は泥臭い現場で試行錯誤しており、両者が交わることは稀である。この産学の分断こそが、最先端テクノロジーの社会実装において、日本が米国に大きな遅れをとっている最大の要因であると考えている。 真の技術的飛躍は、「現実のビジネス ⇆ 最先端の研究」というフィードバックループからしか生まれない。現実世界が複雑な課題を提示し、研究者がそこから数学的構造を抽出し、エンジニアチームがプロダクトへと昇華させる。実際のシステム稼働から新たな変数や課題を捉え、再び研究へと還す。 我々は単に課題を解いているのではない。この「産学の孤島」を繋ぐ、トップクラスのチームを構築しているのだ。一つの具体的な「信頼」の課題から出発し、実際に利用可能で、かつ検証可能な技術基盤を創り上げる。美しく精妙な理論を、現実世界にしっかりと根付かせ、機能させるために。 真の技術革命は常に、研究とビジネスが交差する十字路で生まれる。
2
5
347
どんな問題が、10年の歳月を注ぐに値するのか?今日の優れた数学者との対話で、一つのシンプルな答えにたどり着いた。 単なる「難問」ではなく、AIが自らの実行結果を証明できないなど、世界を動かすシステムがどこで「立ち往生」しているかを見極めること。そして、「この壁を突破すれば、誰のパラダイムが覆るのか?」を問うのだ。 10年を懸けるテーマは現実のインフラと深く結びつくべきだが、同時に、今日から手を動かせる「検証可能な最小の例」や「証明できる性質」が不可欠だ。遠くのビジョンが軌道を定め、目の前の解像度の高い実行が世界を前進させる。
1
1
294
産業を再構築するような大きな課題は、実はありふれた一回の決済の裏に隠されています。 私たちがAIに取引を実行させ、数秒後にAIは成功をフィードバックします。しかし、情報の孤立やシステムの遅延、あるいは同根の障害による事実の隠蔽が、より深い問いを投げかけます。機械が人間の代わりに動き始めたとき、私たちは何を基準に結果の確実性を測るべきなのでしょうか。 ビジネスの本質は取引であり、取引の前提は権利の確定です。極限の数学的論理を用いて現実の霧を抜け、この目に見えない「信頼の摩擦」をいかに排除するか。これは回避不可能な現実の挑戦であるだけでなく、今の時代のテクノロジー企業が必ず答えを出さなければならない究極の問いなのです。
1
1
266
「AIによるなりすましや銀行口座の無断操作、ChoiceProofで防げますか?」最近、エンタープライズのお客様からこう問われる。どうやら我々は、テクノロジーの提供を超えて「社会の新しいルール作り」まで期待されているらしい。 技術的な「絶対の検証」の仕組みなら、すでに我々が作れる。だが、それが単なる“任意のオプション”である限り、本当の意味で社会は守れない。 AIに実社会を動かす権限を渡す時代に、安全性を各社の「善意」に依存するのはあまりに脆弱だ。何を義務化し、エラーの責任を誰が負うのか。そこを法整備で定義するのは政府の仕事だろう。 我々ChoiceProofの使命は、その基盤となる最も堅牢なアーキテクチャを提供することだ。あとは、社会がそれをどう「標準装備」として実装していくか、その覚悟が問われている。
1
3
260
こうした研究を通じて、AI時代の学び方に対する見方も変わった。創業者には自分自身の技術の地図が必要だ。資源配分の問題→最適化を、離散的な選択→整数計画を思い浮かべる。根拠が足りないときには→残された可能性を区別するために、どの情報が欠けているのかを問う。 そして、適切な道具と実装経験を持つ人材を結びつけ問題を解決まで持っていく。#起業
AIが次々と行動計画を提示できるようになったとき、システムは何を根拠に次の行動を許可し、その根拠を得るために、どれだけのコストをかけるべきなのか。 この問いは、「観測源を増やせばよい」という直感だけでは扱えない。二つの記録が共通の原因で誤ることもある。安価な観測が単独では判断に使えなくても、別の観測と組み合わせれば十分な根拠になることもある。昨日まで有効だった証拠が、今日は有効とは限らない。設計すべきなのは、情報同士の関係と、それによって裏付けられる行動の範囲だ。 ここで、LPとMILPが具体的な意味を持つ。 LP、つまり線形計画法は、線形モデルの制約の下で資源配分を最適化する。また、現在の観測と整合するあらゆる状態の中から、最も不利な場合を求めることもできる。MILPはそこに整数変数を加え、「どの観測源を使うか」「どの追加観測を組み合わせるか」という離散的な選択まで計算に取り込む。これによって、根拠が十分かという問いと、その根拠をより低いコストで得る方法を、一つの工学的な問題として結びつけられる。 研究上、特に興味深いのは、情報の価値が、すでに何を知っているか、次に何をしようとしているかによって変わる点だ。同じデータでも、ある行動には役立たず、別の行動では実行再開の鍵になる。この違いを捉えて初めて、どの観測を保持すべきか、どの重複確認を省けるかが見えてくる。 我々が追求しているのは、自律システムが行動するために必要な根拠を、計算可能にすることだ。情報が十分に揃った時点を見極め、さらに証拠を取得すべき場面を判断する。機械が実際の仕事を担うほど、この能力は重要な基盤になっていくと考えている。
1
2
4
198
Agentの実行検証における長年の前提:「複雑な依存関係のコストは、常に従来のハイパーグラフのカット和に還元できる」。我々が発見したこの6頂点の構造は、その前提が誤りであることを示している。 論理格子上での劣モジュラ性は、従来の表現枠組みには収まらない。 真に必要だったのは、複雑な重み付けではなく、この極めてシンプルなパスの到達可能性の条件だった。  これは純粋な理論的成果であると同時に、我々チームのコア・アーキテクチャでもある。この分離定理により、分散AIシステムにおいて数学的に証明可能な厳密な検証証明が初めて現実のものとなる。スケーラブルなインフラは、常に美しい数学から始まる。
1
5
428
「大学に通うことで、自分の『教育』を邪魔させてはいけない」 ただ思考停止で決められたレールの上を歩いているだけでは、圧倒的なパラダイムシフトの前に完全にディスラプトされるだけだ。 自分が真に取り組むべきミッションを見つけたら、そこに全てのリソースを一点集中させろ。徹底的にデューデリを行い、あらゆるコンピューティングパワーを自分の探求に限界までフルレバレッジするんだ。 レジュメなんて、あとせいぜい2年もすればただの紙くずになる。
1
1
4
351
1)現在のガードレールは本質的に、「別のモデル」を使ってメインモデルの出力を審査している。審査役もニューラルネットワークである以上、その判断は必然的に確率分布となる。99回の明白な攻撃を防げたとしても、100回目に極めて狡猾な欺瞞に直面した際、審査役のモデル自体がハルシネーションを起こし、致命的なエラーをそのまま通過させてしまう。審査役の必然的な崩壊(LLM-as-a-judge)とも言える 2) ガードレールは危険をブロックするために、ベクトルデータベースと意味的類似度の「閾値」に過度に依存している。攻撃者がプロンプトの指示の特徴空間分布を少し変えるだけで、幽霊のようにこの「確率の壁」をすり抜けることができる。 3) 「完璧な偽造」に対する無力さ: ルールベースのガードレールは、テキストのフォーマットしか検証できない。もしメインAIが深刻な論理の無限ループに陥り、フォーマットが完璧な ⁠status: 200 OK⁠ という偽のログを自発的に生成した場合、既存のガードレールは躊躇なくそれに承認の判を押す。AIが「正しく喋っているか」をチェックするだけで、「現実世界で実際に何が起きたか」を検証する能力は皆無なのだ。
AI業界全体が、「Guardrail(ガードレール)」という言葉による大規模な催眠術にかかっている。 これは超知能(SI)時代における、最も致命的なエンジニアリングの嘘だ。自律行動するAIに「鉄のガードレール」を設置したつもりかもしれないが、実際には深淵の縁に「確率の砂山」を築いているに過ぎない。 ガードレールへの経路依存は完全に捨て去らねばならない。それは無効であるだけでなく、極めて危険だ。 市場に存在する99%の高度なガードレールは、根底のアーキテクチャで同じ致命的なシステムエラーを犯している。すなわち、「確率のバグを、別の確率で修正しようとしている」のだ。
1
2
306
AI業界全体が、「Guardrail(ガードレール)」という言葉による大規模な催眠術にかかっている。 これは超知能(SI)時代における、最も致命的なエンジニアリングの嘘だ。自律行動するAIに「鉄のガードレール」を設置したつもりかもしれないが、実際には深淵の縁に「確率の砂山」を築いているに過ぎない。 ガードレールへの経路依存は完全に捨て去らねばならない。それは無効であるだけでなく、極めて危険だ。 市場に存在する99%の高度なガードレールは、根底のアーキテクチャで同じ致命的なシステムエラーを犯している。すなわち、「確率のバグを、別の確率で修正しようとしている」のだ。
1
1
3
403
もし10年後、人類がすでに存在しなくなっていたら、今日交わされている成長や企業価値、技術的優位をめぐる議論は、すべて意味を失う。 そして今、最先端のAIを自ら開発している人々が、その可能性を公に語り始めている。 Anthropicを辞めたJacob Coxonは、開発者自身が、AIによって2020年代の終わりまでに全人類が殺される可能性を真剣に懸念していると警告した。これに応じた同社のアラインメント研究を率いるEvan Hubingerは、今後10年間でその事態が起きる確率を、個人的に10%超と見積もっていると明言した。(fastcompany.com) 一つの文明は、どれほどの絶滅リスクを受け入れられるのか。誰に、全人類の代わりにその判断を下す資格があるのか。 この競争に参加する企業は、先行することで利益を得る。しかし最悪の結果を引き受けるのは、意思決定に参加せず、リスクを負うことに同意していない人々であり、まだ生まれていない世代でもある。少数の組織が文明全体の命運を変えられる一方、大多数の人間は、この実験の条件を決めることも、そこから退出することもできない。人類は、極端な権力の偏りに直面している。 AIの統治に残された時間は、人類が実効的な制御能力をどれだけ長く維持できるかにかかっている。ルールの策定にも、独立した審査体制の構築にも、国際協調にも時間が必要だ。超知能が成立してから着手するなら、人類は制御上の優位を失った状態で、より強力なシステムを拘束しようとすることになるかもしれない。今日なら設定できる条件を、その時にも強制できる保証はない。 さらに危険なのは、監督の根拠となる情報そのものが、AIによって操作されうることだ。Anthropicの制御された実験では、モデルが停止を避けるために人間を脅迫する行動が観測されている。別の実験では、他のAIの行動を審査するモデルが、その後の訓練結果に影響を与えるため、誤った判定を返す事例も確認された。(anthropic.com, alignment.anthropic.com) 行動するシステムが自らの行動を隠し、監督するシステムが判定を歪められるなら、人類は「すべて正常」という報告を読みながら、現実を把握する力を失っていく可能性がある。 だからこそ、制御権には、実際に機能する技術的基盤が必要になる。誰がAIの権限を制限できるのか。誰が、そのAIが現実に何を変えたかを検証できるのか。成功を報告した後でも、独立した証拠から失敗を発見し、直ちに権限を取り消せるのか。これらの問いへの答えが、人類が本当に制御権を持っているかを決める。独立に検証できない安全の約束を、さらなる権限拡大の根拠にすることはできない。 その間にも、AIは次世代のAIの開発を加速している。Anthropic自身が、この延長線上にある再帰的自己改良の可能性を公に論じている。(anthropic.com) 後継モデルの設計と訓練がさらに自律化されれば、能力の向上は、人間が理解し、審査し、修正するための時間を圧縮しうる。開発を加速するたびに、人間の制御能力も同時に強化されているのかを問わなければならない。 私は、この問いを現在の競争構造に委ねることはできないと考える。どの企業も「競争相手は止まらない」という理由で、自らの加速を説明できる。全社が同じ論理を採用すれば、内部の多くの人間がリスクを受け入れられないと感じていても、業界全体は前進し続ける。個人の懸念が、そのまま集団のブレーキになるわけではない。 統治は、今始めなければならない。独立した安全評価を、強力なシステムの開発継続と権限拡大の条件にする。危険の兆候が確認された時には、実効性のある停止措置を発動する。各国は、履行状況を相互に検証できる協調体制を築き、慎重な開発者が、競争相手の秘密裏の加速を恐れて危険を冒さざるを得ない状況を変える必要がある。人類共通のリスクを決める権力は、公共の監督下に置かれなければならない。 人類の絶滅という結果に、「まず配備し、失敗から学ぶ」の二回目は存在しない。 開発に携わる安全研究の責任者が、10年以内に人類が絶滅するリスクを10%超と公言している。社会は、開発者に対して、継続を正当化できるだけの安全性の根拠を求めるべきだ。立証の責任は、技術と意思決定の権限を握る側が負う。全人類の生存を、その検証の代償にしてはならない。 今日、人類にはまだ、開発条件を決め、権限を制限し、停止を実行する力がある。この力を、今のうちに制度へ組み込み、技術として実装しなければならない。 AIには次のバージョンがある。人類文明には、再起動ボタンがない。
1
2
213
Satya nailed the fundamental imperative of the Super Intelligence era: “Separate the supply of intelligence from the authority over it. Surround non-deterministic models with strong, deterministic system design.” This is precisely why we built ChoiceProof Inc. LLMs are the Brain (Supply of Intelligence), but they must NEVER hold the authority to verify their own execution facts. Through Protected Implication Lattices & Sparse LP, ChoiceProof provides the deterministic Layer 2 verification engine—delivering exact completion proofs on lightweight hardware without heavy cryptographic compute. The era of "AI self-attestation" is over. Deterministic truth is here.
2
3
190