Music, Engineering, AI, Security sigboost,inc 創業者, 未踏ITスーパークリエータ ex. @MyRoland, @SonyCSL, @masason_f, 本郷テックガレージ, 筑波大, 開成 一児の父
Tokyo, Japan
Joined June 2018
- Tweets1.5K
- Following559
- Followers1.9K
- Likes700
Pinned Tweet
【ご報告】IPA（経産省/デジ庁所管）の2026年度上期 未踏アドバンスト事業に採択されました。
AIは、性善説で成り立っている世界全てを破壊し尽くせるポテンシャルがあると、私は考えています。
AIの強力な能力により、倫理観に劣る少数の人間が、数多くの社会問題を引き起こす手段を既に得ています。
AIレストラン予約の問題、SNS農場の民意操作疑惑、チケット買占めなどは記憶に新しいです。
私はこれらの社会問題、そして今後起こりうる問題に根本的に対処する枠組みの必要性を感じており、AI代理を前提とする匿名認証基盤の設計と開発を、IPA支援の元で実施し、成果を公開します。
ぜひ、応援頂けましたら幸いです。
※今後のPoCのため、toCサービスの認証回りを担当していらっしゃるエンジニアの方と繋がりたいと考えています。同じ課題感をお持ちの方は、ぜひコメント、DMにてご一報いただけましたら幸いです（「興味あります」など簡単なもので結構です）。後ほどコンタクトを取らせていただきます。
＼採択者決定！🎊／
2026年度上期「未踏アドバンスト事業」の公募結果を公表しました🆙
今期は206件の応募の中から17件のプロジェクト（40名）を採択。今後イノベータたちは約8か月間にわたり開発プロジェクトに取り組みます。
詳しくはこちら👇 #未踏
ipa.go.jp/jinzai/mitou/advan…
こういう感じで前提が壊れているのにスコープの内側でガチャガチャやって物事を複雑にするのがAIも人間も大好きなんですが、
解決策は非常に明確で、
Codexを使わない
です。
このパターンはもう半年前から同じで
・Codexがネチネチ重箱の隅をつつく
・せっかく本質を突いていたClaudeが折れる
なので自分の出した答えは
・自動ループさせない（人間が介入する）
が遠回りに見えて一番近道でした
つまり、人間がClaudeの援護をする
「あいつは本質が見えてねぇから…お前が正しいんだよ」
と支援することで、基本的には解決します
その手順で不都合なのはまさに「自動でない」
という部分だったわけですが
その手作業をとにかく軽くする、という方向で作ったのが kanary.to/agents です
宣伝くさくなって申し訳ないけど
本当にこれが現状ではベストなんですよね…
私の考えでは、問題を外部化することを問題解決と呼ぶことはできない。
ただ、AIを乱暴に使っていると「これ、一見解決しているように見えるけどただ問題を外部化しているだけじゃない…？」というのに気づくのが結構難しい。
情報漏洩が起きないことを数学的に保証するバックエンドフレームワーク「Nyxis」を公開しました！
たぶん世界初です。
Nyxisで書かれたバックエンドは、企業の持つ機密情報をより安全に守ることができます。
昨今急増しているサイバー攻撃を防ぐ手段として、このような方法があることをお伝えしたいと思い、今回の発表に至りました。
開発者は「どの権限を持つユーザーが何を実行可能であるか」のルールを管理するだけで、残りのコードをAIエージェントに任せても認可の安全性が担保されます。
Nyxisは大部分がLean言語で記述されており、形式検証によって
「任意のHTTPリクエスト列に対し、認証された主体の正当な権限を逸脱するデータの読取・変更・削除・権限付与は発生しない」
という認可安全性定理を機械的に証明しています。
認可の不備は、OWASP脆弱性ランキングにおいて2019年版から連続1位であり、最優先で対策すべきリスクの一つです。
形式検証を活用したこのフレームワークは、テストに頼る従来の開発に比べて、格段にセキュアなソフトウェアを実現します。
先日MicrosoftとGitHubが、形式検証を用いた開発キット「PDD Kit」を発表しました。
こちらはより幅広い性質を扱える一方、プログラムごとに仕様を作り、それが意図に合っているかを開発者が確認する必要があります。
Nyxisは証明する定理を認可安全性に絞ってあらかじめ定めているため、開発者はポリシーを管理するだけで済みます。
もちろん、一定の仮定は存在しています。証明外コードと実行環境は信頼する前提であり、開発者がポリシーを誤って書けば、意図した保護は得られません。
この定理の範囲内において、数学的保証は非常に強力です。実システムに組み込める技術としてここまでの保証を与えたものは、私の知る限りまだ存在しません。
一方で、表現力の乏しさやLeanのライブラリ不足など、改善すべき点はまだ山積みです。
本当はもっと完成度が高まった時点で公開しようと考えていましたが、昨今のセキュリティインシデントの状況を鑑みて、このタイミングで発表することにしました。
世界をセキュアにする一助になれば嬉しいです。
github.com/NyxFoundation/nyx…
私の考えでは、一定規模以上のウェブサービスの運営には、食品衛生責任者のような資格の取得と配置、講習の受講を義務付けた方がいい。
AIで機能実装が高速になっても、無知は治せないので…
> パスキーを設定した端末が、紛失や故障、機種変更で使えなくなることもあります。そんなときは、登録しているメールアドレスに届く認証コードでログインできます。
2段階認証の機能を、noteの全クリエイターに開放しました。
これまではpro専用機能でしたが、全アカウントの基本機能になります
note.com/info/n/nd031a92f496…
人間とAIの関係を考えていて少し面白い結論が出たので書いておこうと思う
トピックは意味通信と時間制約
A（AIや人間）からB（人間）に物理空間上で何らかの情報を転送することを考える
情報は言葉を使って意味圧縮される
受け手（B）が圧縮された情報を解凍（理解）するためには、A側の意味エンコーダに対応するデコーダを備えている必要がある
例えば送信側Aが「ZKP」という単語による意味圧縮を行っても、受信側BがZKPの意味をデコードできなければ情報は欠落する
ここで、AIなどを使ってZKPを別のより平たい表現に変換し、無圧縮でBに送信すること自体は簡単にできる
ところが、現実的にはBの入力インターフェース（読む、聞く）にはスループットが存在する。現実世界の時間は無限ではない
限られた時間内に送信できる情報の上限は受け手側のデコーダの能力の向上でしか解決できない
AIを使って人間は自分の能力を超える多くのものを作れるようになったが、意味通信そのものは人間の能力（デコーダ）律速になる
AIを使って物を作るだけでなく、人間自身のデコーダの能力をあげることのみがこの問題を本質的に解決する
AGIを目指すだけでなく、AGIが持つデコーダを効率よく人間にインストールする手法も（人類は）研究したほうがいい。言葉遊びだけが解決策とは限らない（生理学的な方法、侵襲的な方法も考えられる）
この文章も情報理論・スループットのバックグラウンドが無いとおそらく理解は難しい。気になる人はAIにこれをコピペすれば解説（解凍/無圧縮化）してくれると思う
一応コード置いておきます。
画像生成とか動画生成機能がまぁまぁ遊べそうなので、いろいろ試してみる予定。
コード: 1NVA2Z
muse.ai/join
