みみみ (@mmm_tech) header
みみみ (@mmm_tech) profile picture

動画編集者 ⇨ エンジニアです。 最近はローカルLLMがアツいっすよ! クソアプリ生み出したり、動画作ったり、本書いたり、音楽作ったりしてます。飽き性なのをなんとかしたい。わりとマジで。

日本 東京
Joined September 2022
回し直した結果。考える量を本当に0にしても、15本中6本が遊べた(highは9本、27Bは2本) 1本あたり平均4分19秒で、highの約3分の1。ちなみに0でも少しは考えてから書いてた
15
Inkling 2 Mini、家のGB10でマイクラ風の箱庭を15本作らせたら9本が普通に遊べた。同じお題で27Bは2本 書く速さも33.6 tok/sで27Bの2.6倍。ただ考えるのを切れなくて、毎回2万トークンくらい考えてから書き始める
1
1
1
4
203
動画からカメラの動きを読む Shot Reader 8B、家のGB10で28本ためした 固定カメラは16本中11本、横に動くのは3本とも当たる。上下・寄り・引きは3本に1本しか当たらなかった 外れ方にクセがあって、動いてない引きの画をよく「引いていった」と言う
1
1
1
74
風景写真1枚から朝→昼→夕方→夜のタイムラプスを作るワークフロー(@sep_is_heim さん作)、家のGB10で回したら10分5秒だった。作者のRTX 4070は8分半 夕焼けで影が伸びて、夜に向かって暗くなるところまでちゃんとつながってる
2
3
157
Qwen3.8-27Bに考えさせて箱庭ゲームを8本ずつ作らせたら、「12GBで動く版」が3本遊べて、元の16.5GB版の2本より多かった 最後まで書き切れたのも6本対5本。1本あたりの時間は12GB版の方が短めだった
1
88
Flash-Next(87GB)をGPUで全部計算すると書く速さ1秒25.7トークン、全部CPUだと3.8トークンで約7分の1だった 途中も、4分の3をGPUに残して14.3、半分だと6.1。「ちょっとはみ出すくらいなら平気」とはならなかった
1
2
97
ローカルLLMに箱庭ゲームを書かせる前に完成図の画像を見せると、16.5GB版の27Bは15本中2本→6本に増えた。でも12GB版だと0本→2本で、効き目が小さかった 文章だけなら45本ずつで同じ4本だったのに、画像を読ませた時だけ差が出た
1
103
「12GBで動く」Qwen3.8-27Bに、考えるモードで箱庭ゲームを4本作らせたら2本遊べた。元の16.5GB版と同じ数 ただ当たった種は入れ替わってて、16.5GB版で崩れてた種が12GB版では遊べて、逆もあった。速い1本は16.5GB版の半分の55分で書き終わった
1
1
104
ローカルLLMが考え続けて書き終わらない問題に、llama.cppの「同じ並びの繰り返しに罰を与える」設定(DRY)を足したら、3本とも別の形で壊れた 考えが「A=(0,0,?):」の繰り返しに崩れる、コードの「=」が「?」に化ける、HTMLを7回書き始め直す
2
2
137
「12GBで動く」Qwen3.8-27Bと元の16.5GB版、箱庭ゲームを45本ずつ作らせたら、遊べたのはどちらも4本だった 最初の15本では2本対0本で「削ったぶん弱い?」と思ったけど、30本足したら逆に12GB版が4本。15本だと当たり外れに埋もれる
1
2
148
続き。さらに小さい10.9GB版(IQ3_XXS・1秒17トークン)でも同じ15本を作らせたら、遊べたのは2本で、16.5GB版と同じだった 12GB版の0本は削ったせいというより、15本だと当たり外れの範囲だったっぽい。さっきの「削ったぶんは出てそう」は言い過ぎでした
92
llama.cpp 1.0.0、家のGB10でビルドして10月の版と比べたら、プロンプトを読む速さが1〜2割上がった。答えを書く速さはほぼ同じ 27Bは読む771→888トークン/秒、書く12.9→12.7。MoEのFlash-Nextは8192トークン読むのが840→964、書く28.5→29.7
1
3
182
重みを64列だけ書き換えて「考えると道具を呼べない」を直したGemma 4 E4B、家で元のと比べたら、元のも10問全部で検索の道具を呼べた 違ったのは考える長さ。道具を呼ぶまでが平均283→148トークン、時間も19秒→10秒で半分になった
1
1
2
264
この12GB版、家のGB10で試した。生成は1秒12.8→15.9トークンで速くなる ただ同じ箱庭ゲームのお題を15本ずつ作らせたら、ちゃんと遊べたのはいつもの16.5GB版の2本に対して0本。15本ずつなので差は小さいけど、コードを丸ごと書かせる用途だと削ったぶんは出てそう
1
1
2
195
家のQwen3.8-27Bに考えさせて箱庭ゲームを作らせる実験、考える量の上限を6万→12.5万トークンに上げたら、8本中2本遊べた(前回は0本) ただ1本に最長3時間20分。3本は12.5万でもまだ考えてる途中で終わった
1
1
1
198
続き。PDFの読み取りをdoclingに替えて同じ論文を訳し直したら、数式は式のまま残って、8Bの「k個の隠れ層」っていう誤訳も消えた ただ attention を「注目」と訳すのは8Bも31Bも変わらず。こっちは翻訳側の読み違いだった。31Bは引用番号を1個落とした
42
英語の論文PDFを家のPLaMo翻訳に通したら、引用番号は63個とも残った。数式は崩れたけど、崩してたのは翻訳じゃなくて、PDFから文字を取り出す所だった 「Attention Is All You Need」の本文まるごとで、8Bは2分半、31Bは10分
1
128
家のQwen3.8-27Bに「考えてから書く」モードで箱庭ゲームを8本作らせたら、遊べたのは0本だった 考えずに書かせた時は15本中2本。考えさせると1本85分かかって、8本中6本は考えてる途中で上限の6万トークンに届き、ゲーム本体を1行も書かずに終わった
1
1
3
204
43言語対応の読み上げAI ZONOS3-Mini、日本語の数字はまだ苦手だった。数字の入った同じ4文で、40.5MBのWoofは4つとも、2.57GBのEdge0 Audio8は2つ、ZONOS3は1つしか合わなかった 「1,280万円」「128GB」が崩れたのはEdge0と同じ所。電話番号は数字が欠けて聞こえた
2
1
2
184