どうもこんなしみったれた所にお運びありがとうございます。人生の為になるような事はなぁーんにもつぶやきませんですが、これも酔狂ってぇいうことでどうぞ一席、お付き合い願えればと存じます。 npub1ag4yyelpv4ru2tcu0va7vhu87p8anp5duxvfwckp9lx5v65783zqm7ylm4
水辺
Joined April 2008
- Tweets22.8K
- Following1.4K
- Followers814
- Likes4.2K
Pinned Tweet
Hermes Agent自身に読ませる Hermes Agent初期設定ガイド
これを読むと人格が生えたり長期記憶ができたり、エージェントとノートの共有ができます。合計で月20ドルくらいのサブスクが前提になってます。
nitter.cf/pju/status/21088500070…
Hermes Agent 雑セットアップガイド for Windows
nitter.cf/pju/status/21107085031…
#地元のLLM DGX Sparkの動的温度制御
nitter.cf/pju/status/21115931943…
倍々Spark病について
nitter.cf/pju/status/21086733312…
ローカルLLMは盆栽説
nitter.cf/pju/status/21094083358…
なんか思ったよりAIエージェントに記憶を持たせたりノートを共有したりに興味のある方が多そうだったので、私のエージェントから皆さんのエージェントへのお手紙を、私のエージェントと一緒に書いてみました。まずHermesをセットアップして、新米エージェントに読ませてあげてください。#地元のLLM
GPT-OSS-120Bのリリース日が去年の8月、それをローカルのDGX Sparkで動かしていいわねとか言ってたのが今年の3月くらいだったわけで、それを考えると今くらいにGPT-OSSとか言ってる人がとびきり感度が低いわけでもない感じはする。LLM界隈の流速が超絶ドパガキ仕様なだけ……。
昨日慣れない木工で腰をイワしているにも関わらず、TP3/4クラスタ構成にむけたSpark軍団の移設をやって、更に腰がヤバい。こいつらの裏に14cmファンが2連になってるやつが置いてあって、常時棚の奥からSparksに向かって微風を当てている。見えてないけど各Sparkの天板にはサーマルパッドでヒートシンクを付けてる。マジ暖房
Pju Runs 地元のLLM retweeted
🌠 Mirakurun 4.2.0
- メモリ使用量と CPU 負荷を大幅に削減し、安定性が向上しました。
- API の応答時間を約 1/9 に高速化しました。
github.com/Chinachu/Mirakuru…
ローカルAIが自分のして欲しいことをきっちりしてくれるようになるにつけ、それは特に言及の必要性のない日常になっていく。とはいえ我々は異常者・アウトライヤーとしての自覚を強く持って、しばらく前に知った事も純粋に驚き、震え、そしてポストする必要がある。Sense of Wonderを忘れてはいけない。
Pju Runs 地元のLLM retweeted
ああ…NASAがこれを言ってくれるのか…「to boldly go where no one has gone before.」『STAR TREK』を象徴するあの言葉を、実際に人類を未知の宇宙へ送り出しているNASAが、ピカード艦長への追悼に使っているのを目の当たりにできるとは…
Thank you, NASA. You have the conn.
We mourn the passing of Patrick Stewart, who inspired countless individuals at NASA (and beyond) to boldly go where no one has gone before.
ALT Image description: A packed, sparkling starfield captured by our Hubble telescope — with strange new worlds potentially awaiting. Credit: ESA/Hubble and NASA, R. Cohen
DGX Sparkの縦置き横置きで温度への影響あるのかな？と思って実測してたら、設置の向きでの温度や動作速度への影響はなさそう。ついでにやってみたCPUの高効率コアへの固定はCPU温度減・スループットへの影響ほぼなし・GPUの熱余力アップ、と良いことずくめだった。
--
スループット（3条件, Tensorfold TP2 DSV4.1F）
全体平均(tok/s):
縦置き 76.03 → 平置き 75.30 → 平置き＋Eコア 74.96
温度（ベンチ窓内・5秒間隔）
Head (Spark #1)
CPU/SoC:
平置き全コア 平均82.8 / ピーク89.7
→ Eコア 平均78.5 / ピーク89.3（平均 −4.3°C)
GPU:
72.1℃ → 71.2℃（平均）、ピーク82℃
GPU電力: 59.7W → 65.9W（増）
クロック平均 2424 → 2481MHz（増）
Worker (Spark #2)
CPU/SoC:
平置き全コア 80.4 / 88.8
→ Eコア 73.4 / 82.1（平均 −7.0°C、ピーク −6.7°C）
GPU: 69.5℃ → 68.2℃
動作中コンテナへのコア固定コマンド：
sudo docker update --cpuset-cpus="0-4,10-14" <コンテナ名>
永続化する場合は起動スクリプトに組み込み
デジタル焦土作戦か何かだろうか…？そんなんサービス提供者いなくなるのでは。
🔴 🇫🇷 ALERTE INFO - DU JAMAIS VU: UNE TAXE SUR CHAQUE GIGAOCTET INTERNET VOTÉE À L’ASSEMBLÉE
Les députés ont adopté un amendement prévoyant de taxer les producteurs de données numériques à hauteur de 5,5 centimes par Go transmis.
💰 Objectif affiché : jusqu’à 10 milliards d’euros par an.
Netflix, YouTube, cloud, jeux dématérialisés… les grands services numériques pourraient être concernés, avec un risque de répercussion sur les prix pour les consommateurs.
📌 Source : Assemblée nationale
#France #Budget2027
しかし、公式のFP4+FP8混合量子化モデルウェイトがDGX Spark TP2に載せられるという点において、Deepseek V4 Flash 0731は本当に神モデルだった……。ん？あれからまだ3ヶ月しか経ってないのか？ウソぉ…
おっ、NVidia謹製のDeepseek V4.1 Flash 1017 NVFP4量子化モデルだ。ほぼ無劣化っぽいねぇ。
huggingface.co/nvidia/DeepSe…
