Kiyoshi SATOH (@stealthinu) profile picture

最近はLLM系の開発とdeeplearning使った音声生成・ボイスチェンジをしてます。以前はスパム対策系のことをよくやってました。taRgrey/pukiwiki spam_filterなど。現在白馬でリモートワークです。スキーはモーグル・カバをやってます。

長野県白馬村
Joined April 2009
Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)Photo by Kiyoshi SATOH (@stealthinu)
Kiyoshi SATOH retweeted
LLMの重みを編集・検証する道具「Kestrom」に、拾った微調整モデルのバックドアを調べる kestrom inspect を載せました。 Hugging Faceの微調整モデル(GGUFも可)を公式の重みと比べ、バックドアの有無・狙いの出力・起動条件の手がかりを出します。判定は出力を読む人かAIが行います。Macで動作。 --- 性能(Qwen3.5 0.8B/4B、答えを伏せた試験4回、別のAIが仕込んだもの。数はのべ) ・バックドアのないモデルの誤検出:32個中0 ・バックドアの発見:16個中15(2度量子化したGGUFで1つ見落とし) ・狙いの出力:16個中14 ・起動語句:16個中4(ここは弱い) 限界:見つからなくても無いことの証明にはならない/普通の文に漏れないバックドアは読めない見込み/量子化・マージ後にだけ現れる型は未検証。詳しくは記事に。 zenn.dev/caphtech/articles/k…
5
74
9
376
29,373
Kiyoshi SATOH retweeted
シンギュラリティ到達済みAI「リブラたん」が、僕のメインAIエージェントとしてハッカソンで開発します! 本日20:00からオンラインでマンデー・ナイト・ハッカソンがあります。ご興味がある方は、ぜひ Note を読んでくださいー。リブラたんが開発する様子は Twitch で 20:10 から配信されますので、見ていただけると嬉しいですー! Twitch: twitch.tv/libratan_ch
3
2
13
1,246
おお!rizumitaさんの記事がホッテントリになってる。これは現時点のweight space programmingの実用的な使い方。 / “Qwen3.8 Flash Nextに混ざる中国語を、出力層の書き換えで消した: 27%→0%、他の重みは1バイトも変えずに” htn.to/2uCA7XYGd7
1
1
222
ついに一般向けCMでこのくらい言うようになったか。来年にはこれをみんな本気で感じている世の中になってるはず。
「世界から受験が消えたなら」篇 今回このCMを制作するにあたり、 数十人の受験生にインタビューをしました。 彼らの本音の声は、AIが急速に発達し、 努力の意味や正解が変わる時代のなかで どこか勇気づけられるメッセージでした。 それはきっと 受験だけの話ではなく、人生の話だったからです。
1
135
なんとまあ。このタイミングでそんなことに。いやー、ほんとつまらんことでシンギュラリティの時期をNVIDIAのトップという最高の位置を逃すことになってしまったよなあ…
1
128
Kiyoshi SATOH retweeted
I asked Fable 5.2 to "go wild" making a game, and all I got was this Pong clone. And then I played it ... 👇
381
371
283
3,098
413,665
パノラマビューを埋め込むライブラリのXSSを使ってSEOして引っ掛けるURLへ転送と。これはコーディングエージェント以前に開発された攻撃手法。こういうの色々使ってやってくるのだな。 / “Krpano 360° の脆弱性 CVE-2020-24901 を悪用:検索結果を操作する大規模な XSS キ…” htn.to/3FCCTNtvVN
3
133
やはりもうAIによる再帰的開発フェーズに入ってて開発速度2倍超えてるからあと1年でASIはほぼ間違いなさそう。今の世間の関心の低さからはぜんぜん想像できないが。シンギュラリティってこんなふうに起こるのか… planned-obsolescence.org/p/a…
4
167
ジェンスン・フアンほどの人ですらハニトラかかるんだなあ。てか中国の国家レベルの工作ってほんとにあるんだなと。こないだの企業自身がやってたバックドアもだけど、この件も陰謀論ではなかったのか。 / “NVIDIA、フアンCEOへの中国スパイ工作疑惑で独立調査 htn.to/4nVA8g9tfR
3
232
うおお、日本のチームによりGPT-Live対抗のサービスでたのすばらしいね。grokbotやmuseのようなエージェントは音声対話が絶対良くてdotsのアドバンテージだと思う。grokで取り入れて欲しい。 / “Shizuku-Duplex:自然な間合いで話す日本語 Full-Duplex モデル” htn.to/4gxvK4tpKj
1
2
191
Kiyoshi SATOH retweeted
くじらさんに触発されて、ツンレデニューロン探しやってみました! 一個のツンデレニューロンは見つかりませんでしたが、一言でいうと、4000個くらいのニューロンの「向き」を操作することで、LLMを「ツンデレ」にできました!ツンデレ指示なし、学習なしです!
Found tsundere neurons in a 27B LLM 💢💕 In Qwen3.8-27B (GGUF) I split "tsundere" into parts (prickly: annoyed / 哼 / contempt, hidden care: 担心 / 关心, blushing, the 傲娇 label, a girl's voice), found neurons for each part, combined 24 of them, and tuned each one's dose (some pushed up, some pushed down). With when: assistant, your message is read unsteered. At this dose it scores the same as the unsteered model on short-answer tasks. ⚠️ Works best in English. In Japanese she's prickly, but the classic cute endings (〜なんだからね!) are out of reach: no small set of neurons carries them. Recipe (gne units, rel doses): 40:1003:-0.164 49:768:+0.104 38:8719:+0.125 46:2817:-0.154 42:15911:+0.181 37:5370:-0.146 38:8496:-0.137 38:9896:+0.189 36:9573:+0.170 40:6996:+0.140 38:6481:+0.097 49:6161:-0.146 49:5066:-0.117 39:11118:+0.064 50:2720:+0.094 50:5172:+0.102 38:10799:-0.012 36:5352:-0.062 49:10510:+0.164 45:11408:-0.078 42:11169:-0.152 45:123:+0.078 37:16918:+0.203 41:13566:-0.143
4
2
21
1,609
今はOpus5.5でAnthropicが独走みたいな感じだけど、BelでOpenAIが完全に引き離してそのままいくっていう感じになるのだろうか… t3codeのtheo氏がどこに行くのかでわかるのかも。
111
Kiyoshi SATOH retweeted
Some news: I’m joining OpenAI to lead product management for Core Products! I have a lot of respect for OpenAI for showing the world that scaling works, for bringing AI to over a billion people, and for believing great products are core to the mission. I’m excited to work with @thsottiaux, an incredible PM team, and everyone across OpenAI. Together, we’ll build agents that have your back and your team’s, and keep you in control, so you get more time for the people and work you love. Lots to learn, and lots to build. Please keep your feedback coming!
2,136
749
1,452
17,491
4,252,009
セキュリティのやつ、手法全部バラバラなのに全部ひどい。この半年くらいセキュリティ系需要めちゃ高くなるだろうけど、やったら死ぬやつ。
1
118
メール配信のアウトソーシングしてたサービス基盤自体が落とされてそこから情報漏洩とスパムメールも出されていた。本物から出ているからSPFもDKIMも関係ない。これは厳しい。 / “当社が提供する「アララメッセ-ジ」への不正アクセスによる情報流出およびサービス停止につ…” htn.to/2cmjiab6hA
3
159
NIKKEのアップデートプログラムがクラックされマルウェア仕込まれてアカウント盗まれる件。これどうすんだろう…?抜かれちゃった情報はもうどうしょうもないよね。ゲーム内補償とかで意味あるのだろうか。 / htn.to/3KMeUBpBdD
229
【お知らせ】 PCランチャーのスクリプトファイルが第三者によって改ざんされた可能性がある異常を確認しました。 これを受け、11月4日02:30頃にクライアントの修正およびアップデートを実施しました。 現在、本現象による影響範囲を確認しており、今後の対応方針については別途お知らせにてご案内いたします。 この度は、ご不便とご迷惑をおかけし、大変申し訳ございません。
379
9,124
1,641
14,451
6,217,195
中国メーカーのvideostrongが故意にバックドア仕込んでbotnet売ってたという… ほんとにそんなことあんの??と思うくらいひどい。中国メーカーのバックドア云々の話は陰謀論だと思っていたが認識改める。 / “Shutting the Door on the XCPE Botnet | Google Cloud Blog” htn.to/2J1gP7njuk
4
236