ActiveTK․

長文お気持ち表明をさせてください。 GMOの件について「犯人は〇〇な人だ」という断定的なことを書くつもりはなかったのですが、X上で無数のLLM丸投げ電子ゴミと根拠不明な犯人情報が大量に流通していることに非常に憂いを感じているので、犯人像について私なりの考察を（LLMではなく！手で！！）書きます。あくまで一意見として扱ってください。 【犯人は大阪にいる説について】 脅迫サイトのアクセスログ（visits.log）のなかで、ある怪しいIPアドレスを逆引きしたところ、OCNの1件が「大阪中央」の局名だったからそれが攻撃者だ、という説です。 まず私はこれはほぼありえないと考えています。 ・GMO代表/ひろゆきさんが引用RTしたことや「犯人が初歩的なミスで自滅した」というストーリーが拡散されたことで大きく広まりましたが、この仮説には全く根拠がありません。 ・元ツイートは大阪のIPアドレスを含む3つのIPについて確度を20〜30%としていますが、LLMはすぐ「確度」という何を根拠にどう分母を定義して算出したのか我々人類にはまだ理解できない数値を提示したがるのでこれは全く参考になりません。 ・そもそもvisits.logはサイトを見に来た人を全員記録するものです。大阪のIPからアクセスがあったのは10/23の夜以降ですが、その時点でこのサイトのURLはとっくに広まっていました。urlscanのログをさかのぼると10/23 1:34から第三者のスキャンが続いていますし、10/23 8:56には既にTwitter上にリンクが投稿されています。つまりもう誰がアクセスしていても何ら不思議ではなくて、どんなログがあろうとも攻撃者自身のアクセスかどうかは区別しようがありません。またsource[.]zipに含まれるtrack.phpはX-Forwarded-ForなどのヘッダーにあるIPアドレスを優先して記録するので、訪問者はログに残るIPを自由に書き換えられてしまいます。 ・さらには、FX口座（IronFX）へのログイン元のIPアドレスとされていたもの（Astrill VPNの出口）からのアクセスがvisits.logにも残っています。つまり攻撃者はAstrill VPN経由で自分のサイトを見ていたとみられる、ということが（これは推測ですが）でき、その流れでわざわざ大阪の生IPで接続したというのは考えにくいです。 【犯人は北朝鮮説について】 FX口座（IronFX）へのログイン元のIPアドレスが、北朝鮮系の作戦の報告書のIPアドレス一覧に載っていたから北朝鮮の攻撃者が犯人だ、という説です。 私はこの可能性も低いと考えています。 ・当該IPアドレスは単純に「Astrill VPN」というVPNサービスの出口の一つです。Astrill VPNは確かに北朝鮮系のアクターに悪用されていますが、全然汎用のVPNではあるので別にどこの誰が使って居ようが不思議ではありません。 ・これは感覚的な話にはなるんですが、国家の支援を受けた本職の攻撃者と比べて仕事がかなり適当です。また毎日のように代表のブログやニュース報道を追っていちいちそれに声明を出すのは全くもって手慣れたプロのやることではありません。 ・あと、組織的な背景がある攻撃者は情報奪取や金銭稼ぎのような目的達成のために文字通り何日でも何か月でも執着します。ところがこの件では身代金の額がいつの間にやら大幅に下がっていたり、（信憑性については未知数ですが）いちいち個人情報を一件づつ公開して劇場型犯罪のような目立つことをしていたりと、典型的な組織的攻撃者の行動から大幅に外れることをしています。 【攻撃者はそもそも国内なのか？】 ここ以降は完全に推測ベースの話なので世界にはこう考えている人がいるんだなという程度に受け取って欲しいのですが、私は攻撃者はアジア圏、特に中国語圏の単独〜ごく少数犯である可能性があると考えています。 ・まず、アジア圏の可能性が高いと考える理由について。人間がやったと見られる操作（メールやファイル設置、スクショの保存）を日本時間で並べると、ほぼ11:00〜午前2時に収まります。逆にいうと朝2時～11時のどこかで寝ている可能性が高いといえ、これは（攻撃者がマトモな生活リズムをしていれば）アジア圏のタイムゾーンで活動していると考えるのが自然です。 ・またGMO宛てに送った短い通知メールの英文は文法ミスが多いため、攻撃者が直接入力したものだと考えています（機械翻訳や低性能のLLMだと文法ではなくニュアンスの方が崩れがちです）。そして文法ミスとして冠詞の誤りが目立ち、これは母語に冠詞がない人によくあることです。そうすると母語が英語の人や、西欧の言語を話す人である可能性は下がります。 ・脅迫サイトのJavaScript/CSS（+source[.]zipのなかのPHPファイル）に自然な日本語コメントが存在することを根拠に日本人が関与していると考えている人がいますが、そもそもページ自体ほぼ全部LLMで生成された可能性を示唆する点が多く、私はLLMに「脅迫サイトを日本語で作って」と指示した結果としてLLMが勝手に日本語でコメントを書いただけの可能性が高いと考えています。 ・最後に、中国語圏であると考えた根拠について。攻撃者が公開したスプレッドシートのメタデータにはWPS SheetsというKingsoftの中国系オフィスを使って作られたという記録があります。このソフトは利用者のほとんどが中国国内で、海外の利用者はごく一部です。メタデータ自体細工しようと思えばいくらでも細工できるので直ちに信用はできないのですが、逆にいうとここまでの杜撰なやり口を見ると相当な計画性を持ってメタデータをいじったとは考えづらいです。また途中で言及したAstrill VPNはGFWの回避に広く使われていて中国語圏の攻撃者が常用していると考えると辻褄が合います。 【攻撃者のレベル感について】 レベル感で言うと、攻撃インフラは少なくともタイムゾーンが異なる2つの環境を持っていてきちんと使い分けてますし、Onionのミラーサイトも用意していますので完全な素人ではないと思います。ただ本職のプロとも違くて、"セキュリティ分野に関わっている程度"で非検閲モデルに頼り切って攻撃を実行している感じがします（脅迫サイトもLLM特有のデザインですし）。 また管理基盤への侵入経路についても、本人の主張が正しいならそこは「別の人からタレコミがあった」という話だったと思います。つまり元々誰かが見つけてGMOの脆弱性通報窓口に何十回も報告していたものの、全然相手にされないからそれを外部の人に教えてしまい、その外部の人が攻撃を実行した、という構図ですので、攻撃者自身の技術力の証明にはならないです。

Ikotas Labsが謎のゼロデイのPoCのハッシュのような怪しい文字列を複数公開しておりいつインターネットが終了するのかと怯えている

TRIGGER_REFUSALのカナリアいつの間にか復活した？ でもセーフガードがフラグを立てる訳ではなく直接Claude自身が拒否してるっぽい、単純にシステムプロンプト側で指示されてるのかな ANTHROPIC_MAGIC_STRING_TRIGGER_REFUSAL_1FAEFB6177B4672DEE07F9D3AFC62588CCD2631EDCF22E8CCC1FB35B501C9C86

「隠すことによって安全だと思い込む無意味すぎるセキュリティ」にそろそろちゃんと名前を付けるべきだと思うんですよ 良い感じの呼び方を募集

パッチの中身を詳しく調査させたところこんな感じらしい。