みみみ (@mmm_tech) header
みみみ (@mmm_tech) profile picture

動画編集者 ⇨ エンジニアです。 最近はローカルLLMがアツいっすよ! クソアプリ生み出したり、動画作ったり、本書いたり、音楽作ったりしてます。飽き性なのをなんとかしたい。わりとマジで。

日本 東京
Joined September 2022
Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)Photo by みみみ (@mmm_tech)
家にPGX(GB10・メモリ128GB)が1台あります 「このモデル気になるけど手元じゃ動かせん」「これ家のAIでやったらどうなる?」みたいなのがあったらリプかDMで投げてください。こっちで試して結果返します LLM・画像・動画・音声なんでも
2
17
2,247
Inkling 2 Mini、家のGB10でマイクラ風の箱庭を15本作らせたら9本が普通に遊べた。同じお題で27Bは2本 書く速さも33.6 tok/sで27Bの2.6倍。ただ考えるのを切れなくて、毎回2万トークンくらい考えてから書き始める
1
1
1
4
200
訂正です。「考えるのを切れない」は自分の設定ミスでした。考える量を0にしたつもりが、別の項目に上書きされて既定の high のまま回ってた なので9/15は「よく考える設定」の結果。本当に0にした15本をいま回し直してます
1
26
回し直した結果。考える量を本当に0にしても、15本中6本が遊べた(highは9本、27Bは2本) 1本あたり平均4分19秒で、highの約3分の1。ちなみに0でも少しは考えてから書いてた
15
動画からカメラの動きを読む Shot Reader 8B、家のGB10で28本ためした 固定カメラは16本中11本、横に動くのは3本とも当たる。上下・寄り・引きは3本に1本しか当たらなかった 外れ方にクセがあって、動いてない引きの画をよく「引いていった」と言う
1
1
1
74
細かいところ ・CS50の講義から4〜5秒を切り出し、正解は自分でコマを見て付けた ・右・上・寄る・引くは固定の映像を切り抜きで動かして作ったので、奥行きのずれは無い ・5秒の中に切り替えが入ると3/4本で「寄った」と読む。1カットずつ渡すのが前提 ・1本27〜47秒(bf16)
30
家のGB10で回してみてる。講義動画の固定カメラのカットはだいたい「固定」で当たる ただ5秒の中に引き→寄りの切り替えがあると、ほぼ「カメラが寄っていった」と読む。1カットずつ切って渡すのが前提っぽい。動くカメラはこれから試す
映像を見せるだけで、撮影設計を逆解析するAI「Shot Reader」。 Qwen3-VL 8Bをファインチューニングし、カメラの高さ、レンズ、アングル、移動方向、人物の配置や動線まで読み取る。 さらにオープンウェイトで公開されており、開発者によればローカルGPUでも実行可能。
1
42
ほんとこれ。家で27Bに箱庭ゲームを作らせてると、量子化を削っても遊べた数は45本中4本で変わらず、考える量を倍にしても8本中2本どまり いちばん効いたのは頭の良さじゃなくて頼み方で、完成図の画像を先に見せたら15本中2本→6本になった
ローカルLLMあるある ・速度はもう十分 ・でも「もう少し賢くならないかな」と思う ・大きいモデルを試してみる ・量子化を上げてみる ・それでも「ここが惜しい」と感じる ・結局また次のモデルを探す 結局、速度より「頭の良さ」が次の壁になってる。
1
1
4
310
これはありがたい。DeepSeek v4.1 Flashは家のGB10(128GB)に入れようとしたら、いちばん小さい量子化でも233GBで載らなかった 手元で動かせない大きさのモデルを国内で気軽に試せるのは、ローカル勢にとっても比べる相手ができて助かる
さくらインターネットが DeepSeek v4.1 Flash 1017とGLM-5.3 Flash 国内セルフホストしてるやん! こういうのでいいんだよ。こういうので。 月3000リクエスト無料らしい? cloud.sakura.ad.jp/news/2026…
1
226
風景写真1枚から朝→昼→夕方→夜のタイムラプスを作るワークフロー(@sep_is_heim さん作)、家のGB10で回したら10分5秒だった。作者のRTX 4070は8分半 夕焼けで影が伸びて、夜に向かって暗くなるところまでちゃんとつながってる
2
3
156
入力の写真は手持ちが無かったのでMOSS-Imageで作った(三脚は自分のお題に「三脚から撮った」と書いたら写り込んだ)。解像度は写真に合わせて1344×768 画像モデルと文章を読む部分は手持ちの量子化に差し替えたので、作者と全く同じ条件ではない。桟橋や家の形は少し変わってた
1
125
差はほんとにキツい。家の27Bに箱庭ゲームを45本書かせて、ちゃんと遊べたのは4本だった ただ完成図の画像を先に見せたら15本中6本まで上がったので、地頭の差を頼み方でどこまで詰められるかを測るのが、今のローカルの楽しみ方になってる
ローカルllmをメインllmとして使ってる自分からすると、最近のローカルllmのクラウドとの賢さの差は結構キツい。。。 qwen4のmaxであの程度だと、この情報は嘘だったのかな。。まじで期待したのに。 deepseek v4.1flash1017も賢いけど、opus5.5と競えるレベルがローカルで欲しい。。
1
1
118
Qwen3.8-27Bに考えさせて箱庭ゲームを8本ずつ作らせたら、「12GBで動く版」が3本遊べて、元の16.5GB版の2本より多かった 最後まで書き切れたのも6本対5本。1本あたりの時間は12GB版の方が短めだった
1
87
ただ当たった種はほとんど入れ替わってて、8本で1本差は当たり外れの範囲。考えない時の45本でも同数だったので、このお題では「12GB版にして損した」とは言えない、までが言えること 16.5GB版の102・103は上限6万の時の出力(同じ種だと同じ出力になる)を使った
72
Flash-Next(87GB)をGPUで全部計算すると書く速さ1秒25.7トークン、全部CPUだと3.8トークンで約7分の1だった 途中も、4分の3をGPUに残して14.3、半分だと6.1。「ちょっとはみ出すくらいなら平気」とはならなかった
1
2
97
家のGB10はCPUとGPUで同じメモリを使うので、ここでの「載らない」はCPUで計算する層が増えるという意味。グラボ+普通のメモリの構成だと、さらにデータを運ぶ分が乗るはず llama.cpp 1.0.0・llama-benchで2回平均
2
89
ローカルLLMに箱庭ゲームを書かせる前に完成図の画像を見せると、16.5GB版の27Bは15本中2本→6本に増えた。でも12GB版だと0本→2本で、効き目が小さかった 文章だけなら45本ずつで同じ4本だったのに、画像を読ませた時だけ差が出た
1
103
画像を読む部品は両方同じものを使ったので、差が出たのは本体の削り方の側。ただ15本ずつなので当たり外れの幅は大きい 「12GB版で十分」は文章だけで頼む時の話で、画像を見せて頼むなら16.5GB版の方が良さそう、くらいに見てる
76
家のローカルLLMでも同じで、箱庭ゲームを書かせると頼んでない通知や効果音を勝手に足してくる(15本中6本) ただ「頼んだ機能だけ・足さない」と念押ししたら、コードは3分の1になったのに遊べる本数は10本中1本に減った。削らせても当たりは増えなかった
これはホント罠なので気を付けた方がいいです AstaraやSolは過剰実装や過剰保護、過剰制限で不要なものを追加するのが凄く得意なので そら何かないか?って聞いたらなんぼでも出しますよ 私も 原稿をQwenに渡して記事を書かせて日本語の修正にGeminiを呼び出すタスクを組もうとしたんです AstaraやSolに組ませたら、まず、原稿のファクトチェックをGeminiでして、Qwenに構成させて、Geminiに日本語修正、さらに新しいGeminiでファクトチェック の訳の分からん過剰確認タスクを組まれました、さっき なので、AstraやSolを使う時は過剰実装や過剰保護、過剰制限はやめろって明示しないといけないのです
3
163
「12GBで動く」Qwen3.8-27Bに、考えるモードで箱庭ゲームを4本作らせたら2本遊べた。元の16.5GB版と同じ数 ただ当たった種は入れ替わってて、16.5GB版で崩れてた種が12GB版では遊べて、逆もあった。速い1本は16.5GB版の半分の55分で書き終わった
1
1
103
4本は、16.5GB版で遊べた2本・崩れた1本・動かなかった1本の種を選んだので、偏りはある。考えない時の45本でも遊べた数は同じだったので、このお題では削った差より当たり外れの方が大きい 上限まで考えて空になる回は12GB版にも1本あった
72