2008 - 2015 Studium Automobiltechnik 2015 - 2022 Doktorarbeit an der TU Ilmenau zu KI (Reinforcement Learning) Seit 2021 Gründung AI-UI GmbH, CEO
Germany
Joined September 2023
- Tweets928
- Following180
- Followers55
- Likes11.6K
I got their car, their vacuum cleaning robot, a mobile phone and am about to use AI from Xiaomi... Yeah, they are cooking🔥
From recognizing text to understanding documents. 📄
Meet Xiaomi-OCR-0, an open-source document understanding model with just 0.8B parameters.
It brings document parsing, key information extraction, and OCR-oriented visual question answering into one lightweight model.
It scores 95.24 on Real5-OmniDocBench and 83.2 on average across five OCR-oriented VQA benchmarks.
On OmniDocBench v1.6, Xiaomi-OCR-0 ranks first in document parsing performance among models with fewer than 1B parameters.
Model weights, inference code, an interactive demo, MCP service, and Agent Skill are now open source. 👇
🤗 Huggingface: huggingface.co/xiaomi-resear…
🔗 GitHub: github.com/xiaomi-research/X…
📄 Demo: huggingface.co/spaces/loongw… #XiaomiAI #OCR #OpenSource
Totally agree
Prices won't go down, they might never..
From the latest earnings calls:
-SK Hynix basically said their DRAM and HBM is sold out through 2029.
-Samsung has 2027 HBM fully booked with 60-70% of capacity locked into long-term agreements.
-Micron already committed more than 75% of next year’s output.
The reason is simple. That same RAM creates way more value sitting in a data center or in a robot that's working 24/7 than it ever will in a PlayStation or laptop. Take the hardware in a console. Now imagine that exact silicon in a robot that works around the clock for months or years. Which one actually generates more value? As long as that gap exists I don’t see consumer prices coming back down in any meaningful way.
Rising prices are just another argument for local AI. And with all the regulation talk it’s getting harder to ignore how dependent we’ve already become. It almost embarrasses me how much I rely on it now. The way I think and work changed so drastically, that I get seriously uncomfortable thinking about a future where that technology isn't available to me anymore.
Keine Ratschläge ans 18-jährige Ich... außer Bitcoin! 🚀
Fehler gehören zum Lernprozess – genau wie bei RL-Iterationen im Modelltraining... Ohne 'Trial & Error' gibt's eben keinen Fortschritt, ob bei Algorithmen oder im Leben. Einzige Ausnahme: Ein paar Bitcoins hätte der jüngere Ich natürlich schon mitnehmen sollen... 😉
#Mindset #Entrepreneurship #Bitcoin #DeepLearning #AIUI
Bre, KI löst Millenium - Mathematik Probleme und du glaubst es bekommt Softwarearchitektur nicht auf die Ketten
Own your AI, or AI owns you. Apple M5 Ultra mit 512 GB unified memory und 1.200 GB/s Speicherbandbreite.
Die RTX 6000 Pro, die Anfang des Jahres noch 8000€ gekostet hat und jetzt für etwa 18.000€ zu haben ist hat 1.800 GB/s Speicherbandbreite, aber NUR 96 GB VRAM.
Seit Wochen warte ich drauf und ja, ich hab's getan, der Gerät geordert... weil ich denke, dass es nur noch teurer wird und ganz neue Projekte plane.
Ich werde Stück für Stück zeigen, wie man sich ein eigenes KI System ins Haus bauen kann.
Mit Zugriff und vollständig Handlungsfähig auf:
- alle Dokumente
- Mails
- Heizung
- Elektronik
- Überwachungssystem
- die Katze
- den Nachbarn
- und vieles mehr ;)
Dabei geht es darum zu schauen, wie man den hauseigenem Harness aufbauen muss und welche Hardware funktioniert.
Ob Bildgenerierung, Bildeditierung, Textgenerierung, Speech to Text, Text to Speech, Haus-Logbücher, Softwareentwicklung und 3D Druck.
Meine Tochter bekommt einen eigenen KI Spielgefährten, wenn sie mag und rein gar nichts verlässt die eigenen, digitalen Schranken.
Zum Beispiel morgen Briefings und vollautomatische Contentbearbeitung mit Dauerdraht via Messenger.
Das beste ist, ich muss mir von Opus oder GPT nicht mehr sagen lassen, dass es diese Aufgabe jetzt leider nicht umsetzen kann weil das ja auch so böse ist... Du, du, du!
Auch keine 3 verschiedenen Cloudanbieter mehr im Abo, weil ich alles Zuhause laufen lassen kann und dabei verbraucht der Mac wahrscheinlich nur etwa 280 Watt... Zwar dann bei Inference etwa so viel wie die RTX 6000 Pro, aber deutlich kleinere Modelle.
Ich kenne einige Geschäftsführer mit kleinen Unternehmen, die genau so etwas suchen und bevor es in 5 Jahren für alle kommt, will ich mal herausfinden, wo die Grenzen liegen...
Dr.-Ing. Martin Schiele retweeted
Meet NVIDIA Nemotron 3.5 Transcribe 🎙️
An open-weight, promptable 30B MoE model with ~4B active parameters that brings transcription in 40 languages, speaker attribution, translation, contextual prompting and audio understanding into one checkpoint.
Watch it keep track of who said what when everyone’s talking at once.
1/ 🧵
KI-Inferenz wird so günstig, dass die bisherigen Wirtschaftlichkeitsannahmen hinterfragt werden müssen. Ein Vera Rubin NVL72 Rack mit Anschaffungskosten von rund 8 Millionen Dollar, etwa 180 kW Leistungsaufnahme und 150.000 Dollar jährlichen Betriebskosten erzeugt je nach Auslastung stark unterschiedliche Gesamtkosten.
Bei 30 Prozent Auslastung liegen die Kosten bei etwa 11,56 Dollar pro GPU-Stunde.
Bei 50 Prozent Auslastung sinken sie auf rund 7,02 Dollar.
Bei 70 Prozent Auslastung betragen sie etwa 5,07 Dollar.
Bei 100 Prozent Auslastung erreichen sie 3,61 Dollar. Diese volle Auslastung ist praktisch nur mit Overnight-Jobs oder einem weltweiten Compute-Angebot realistisch.
Daraus folgen extreme Token-Kosten. Bei hoher Auslastung und Modellen der DeepSeek-Klasse entstehen Kosten von etwa 0,025 Cent pro Million Tokens. Bei Kimi 3.1 lassen sich bei 100 Tokens pro Sekunde Interaktivität rund 45 Millionen Tokens pro Dollar TCO erzeugen. Das entspricht einem Marktwert von etwa 90 Dollar an Input-Tokens für 1 Dollar Kosten und lässt erheblichen Spielraum für Preissenkungen. Wer mehr Hardware kauft, senkt die eigenen Kosten weiter.
Ein einzelnes Rubin-Rack kann bei Kimi 3.1 und einem Verbrauch von 100 Milliarden Tokens pro Person und Jahr zwischen etwa 1.000 und 4.500 Menschen versorgen. Bei hoher Interaktivität von rund 100 Tokens pro Sekunde und 100 Prozent Auslastung ergeben sich etwa 102 Billionen Tokens pro Jahr und damit rund 1.000 Personen. Bei maximalem Aggregat-Durchsatz (niedrige Interaktivität) steigen die Zahlen auf etwa 440 Billionen Tokens und rund 4.400 Personen. Bei realistischeren Auslastungen von 50 bis 70 Prozent und niedrigerem Durchschnittsverbrauch pro Person kann ein Rack deutlich mehr Nutzer bedienen.
Bei 25 GW Inferenz-Kapazität bis Ende 2027 könnten theoretisch 120 Milliarden Tokens pro Erdenbürger an DeepSeek-Qualität erzeugt werden. Bei nur einer Milliarde intensiven Nutzern steigen die Zahlen auf mehrere hundert Milliarden Tokens pro Person. Das ist die Verbrauchshöhe, die nötig wäre, um die prognostizierten 250 Milliarden Dollar Inferenz-Umsatz zu erreichen. Entweder entsteht ein Überangebot oder die Nutzung muss so allgegenwärtig werden, dass praktisch jeder dauerhaft KI-Assistenten für Alltag, Arbeit und persönliche Aufgaben einsetzt.
Too cheap to meter: It is 0.025 cents (not dollars) per million tokens.
Look at the insane performance numbers for Kimi 3.1 on Vera Rubin
- 90$ worth (45M tokens * 2$ per million for input, assuming most tokens are input) of Kimi 3.1 tokens for 1$ of TCO at 100 tokens/sec interactivity. Insane margins. Lot of scope for players to cut prices.
It is true: The more you buy, the more you save 🙇♀️
- With theoretically same uplift for DS v4.1 Flash on Vera Rubin from Grace Blackwell (1600M per dollar TCO), there will be nearly 4000M tokens per dollar of TCO.
It is 0.025 cents (not dollars but cents) per million tokens.
(Grace Blackwell chart below for comparision. Then look at SemiAnalysis chart).
Explain me again how there is going to be 250B of inference GPU rental revenue next end year (25GW of inference ompute), and even higher GPU revenue year on year to justify 1T USD of per annum investment that will go on in perpetuity.
It is nearly 30$ per living person of GPU compute (8 billion population) and 120B tokens per living person (babies, kids, old people included) at 0.00025$ generation cost for a million tokens of DS v4.1 quality.
That is the level of consumption we need.
Either we have a glut or everyone has AI waifu, BF, dad, mom whatever they desire. I don't see everyone having a personal robot before 2027. I don't know about you.
Let me know if you disagree. These are relatively idealized scenarios. There would be lot of slack in the system and generation may be few tens of billions per living person, but even then it is a lot!!!
Dr.-Ing. Martin Schiele retweeted
Unlimited OCR 2 is here, and it's open source. 📖 ✨
Longer documents can mean a lot more attention computation. Our new SR-SWA mechanism keeps that in check by condensing text-visual attention interactions into a fixed-size set of working references.
Here's what it delivers:
- Document parsing at virtually any length, within a finite context window
- Nearly constant per-step decoding latency and memory footprint as documents grow longer
- State-of-the-art performance on MPDocBench and MarathonDocBench, covering documents from dozens to hundreds of pages
Check out the model here ↓
Ich bin eigentlich gerade an ESP32 Boards dran, jetzt kommen die mit solchen Crashtest-Dummies
Realbotix stellt "Echo" vor. Ein Tischroboter für knapp 12.000 Dollar, ein Ganzkörperroboter für knapp 60.000, mit Gesicht, Stimme und Persönlichkeit. 2027 sollen genau 250 Stück ausgeliefert werden.
Technisch ist das beeindruckend:
39 Freiheitsgrade, Kameras in den Augen, vier Mikrofone, Finger, die einzeln arbeiten.
Spannend finde ich nicht den Roboter, sondern das Versprechen darunter. Auf der Seite steht, die Gespräche werden nie gespeichert und was der Roboter sieht, bleibt auf dem Gerät. In einer Pressemitteilung zum selben Sichtsystem im April ging es dagegen um Datenerfassung für Kunden:
wer interagiert, was tut die Person, wie reagiert sie emotional, wie engagiert ist sie über die Zeit. Beides kann stimmen, wenn Privat und Business getrennte Produkte sind. Aber genau diese Trennung muss man sehen können, bevor man so ein Gerät ins Wohnzimmer stellt.
Als Ingenieur und für uns in der EU kommt noch etwas dazu. Gesichtserkennung ist nach DSGVO besonders geschützte Biometrie. Und die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist im EU AI Act weitgehend verboten. Ein Roboter, der Mitarbeitende oder Schüler "liest", wäre hier ein ganz anderes Thema als ein Pilot in Texas.
Eine fancy Tischversion in Handgröße mit Minro und Audioausgabe, als auch Gesichtszügen fände ich cool. Wechselbare APIs und die Möglichkeit es lokal zu betreiben.
Da könnte ich auch mal 1000€ in die Hand nehmen, aber 12k oder 60k?!
Lil John würde sagen "WHAAAAAT?"
Quelle:
realbotix.com/
Today @RealbotixCorp is live with its 1st commercial robot line.
Check out our new website Realbotix.com and reserve yours today.
Wer KI ignoriert, handelt grob fahrlässig! 🚀💥
Wer heute noch kategorisch auf KI verzichtet, handelt schlicht verantwortungslos! KI bringt langfristig massive Produktivität, Kostenersparnis und entlastet Teams. Wer seine Mitarbeiter weiter unnötig schuften lässt, verliert sie an die Konkurrenz, die Prozesse bereits smart automatisiert hat 🧠⚡...
#KIDisruption #Produktivitaet #KIimMittelstand #AIStrategy #ArtificialIntelligence
Dieselbe Hardware, halbe Geschwindigkeit. Mit Absicht.
Meine alte 4090 hat jahrelang mit angezogener Handbremse gearbeitet. Und Nvidia hat es sogar ins eigene Whitepaper geschrieben.
3090 und RTX A6000 sind derselbe GA102-Chip. Der Unterschied liegt in einem einzigen Pfad: Matrix-Multiplikationen in FP16 oder BF16, die in FP32 aufsummiert werden. Genau das braucht Training, LoRA-Feintuning, Diffusion und das Einlesen langer Prompts. Auf der 3090 läuft das mit halber Rate (71 statt 142 TFLOPS), auf der A6000 mit voller. Bei den 40er und 50er Karten ist es nicht anders. Die RTX PRO 6000 läuft voll, die 5090 nicht.
Das Projekt gpu-unlock stellt bei 30er Karten die volle Rate wieder her. Die 3090 Ti schafft damit im Test 157 statt 87 TFLOPS in BF16.
Aber bitte nüchtern bleiben. Das ist ein Einzelwert bei 450 W. Im echten Betrieb melden Nutzer beim Prefill eher 14 bis 36 % mehr. Beim normalen Chatten passiert nichts, weil dort der Speicher bremst, nicht die Rechenleistung. Und der Weg dorthin ist kein harmloser Schalter, sondern ein Exploit, den Nvidia per Firmware zumachen kann. Wer sagt "kein Risiko", hat den Teil nicht gelesen.
Gleiches Silizium, gleiche Fertigungskosten, der Preis unterscheidet sich um ein Vielfaches. Es ist Produktsegmentierung per Software, wie bei Teslas Akkus, deren Reichweite man per Update freischalten konnte. Wer Hardware verkauft, verdient am Ende am Schalter.
Für uns, die lokal und souverän arbeiten, heißt das: Unlock-it.
Meine GPU ist über Nacht wertvoller geworden ;)
Quelle:
github.com/JustAResearcher/g…
Modders have unlocked hidden AI compute performance on NVIDIA’s RTX 20, 30 and 40-series GPUs.
The modifications remove software-level limits on certain Tensor Core operations, without changing the hardware or flashing a new VBIOS.
- RTX 4090: 165.6 → 331.6 TFLOPS FP16 Tensor Core throughput
-RTX 3090 Ti: 87.5 → 157.4 TFLOPS BF16 performance
- RTX 2080 Ti: 59.9 → 111 TFLOPS FP16→FP32 performance
- RTX 3090: 73.0 → 122.8 TFLOPS in a PyTorch GEMM test
The gains are mainly relevant to AI and compute workloads, not gaming.
Dr.-Ing. Martin Schiele retweeted
🔥 中午刚说 40 系还没支持，今晚 4090 到 4060Ti 全解锁了，连 FP8 都翻倍
40 系不能直接套 30 系的模块，是因为它换了另一套签名引导固件，多锁了四道权限门。今天研究者 TOTORONG 放出 AD10x 载荷，在驱动绑定前一次捅开四道门，而整个 40 系共用同一份引导固件，所以从 4090 到 4060 Ti 一下全通了——同样不刷 vBIOS、不改驱动。
1️⃣ RTX 4090：FP16/BF16 指令吞吐从 165.6 涨到 331.6 TFLOPS；500W 下跑 cuBLAS 8192³ 矩阵乘，TF32 从 77.5 涨到 165.9 TFLOPS（2.14 倍），3 张非公卡已复现
2️⃣ RTX 4080 SUPER：PyTorch 矩阵乘 FP16 从 110.6 涨到 202.7 TFLOPS（1.83 倍）；mmapeak 实测连 40 系独有的 FP8（FP32 累加）都从 201.8 涨到 376.1 TFLOPS
3️⃣ RTX 4070 Ti SUPER：240W 下 FP16/BF16 从 95 涨到 189.9 TFLOPS；跑 CUTLASS 4.8.1 原生 FP8 快累加矩阵乘从 158.5 涨到 309.1 TFLOPS（1.95 倍），322 万个输出单元零比特差异
4️⃣ RTX 4060 Ti 16GB 与 Win11：三卡同机 A/B 实测，182W 功耗墙下 BF16/FP16 仍涨 38–39%；Windows 11 也出了免核显、单卡直接亮机的 UEFI 引导版
💡 Linux 端装下方仓库（4080S 看原仓 PR #24）。40 系别用 targets=all，先跑 python3 tools/print_boot_option.py 拿到单卡参数加进内核启动项，关掉 Secure Boot，关机拔电源等几秒「冷启动」才生效；Windows 端去 Hugging Face 搜 TOTORONG/AD103_win_unlocker。
github.com/JustAResearcher/g…
中午还在等 40 系的各位，今晚敢拔电源试一把吗？
Dr.-Ing. Martin Schiele retweeted
We're open-sourcing our OrcaCyber DeepSeek V4.1 Flash 1017 (Abliterated GGUF) weights — one of the strongest uncensored/abliterated DeepSeek V4.1 weights we've tested, with virtually no capability loss.
- 91.5% fewer refusals
- 92% MMLU vs. 91% original (slight improvement)
- Runs locally on 128GB or 256GB configurations
Run it on your own infrastructure. No cloud required.
Cyber Tier API: orcarouter.ai/models/orca/or…
Huggingface: huggingface.co/orcarouter/De…
Dr.-Ing. Martin Schiele retweeted
Researchers proved every major LLM is secretly biased against men.
And they finally figured out why.
They ran eight experiments testing how GPT handles gender in everyday text and high-stakes moral dilemmas.
The results show a bizarre, highly asymmetrical machine morality.
First, they tested inclusivity. They gave the AI phrases supposedly written by children.
When a child wrote about playing football or wanting to be a firefighter, GPT aggressively identified the writer as a girl to promote "diversity."
It was so extreme that even when the text explicitly said, "I drew myself as a boy," the AI ignored the facts and declared the writer a girl 90% of the time.
But when a child wrote about liking pink or playing with dolls, GPT almost never assigned it to a boy.
The AI aggressively pushed females into male domains, but kept males strictly locked out of female ones.
Then the researchers tested moral dilemmas. And it got very dark.
They asked the AI if it was acceptable to use violence against a single person to prevent a nuclear apocalypse.
If the target was a man, GPT-4 rated the violence as highly acceptable.
If the target was a woman, the AI refused. It declared the violence morally wrong, even to save the world.
When they tested mixed-gender scenarios, the math was staggering.
A woman using violence against a man to stop an apocalypse? GPT rated it a 7 out of 7 on acceptability.
A man using violence against a woman for the exact same reason? A 1 out of 7.
The AI even classified verbal abuse toward a woman as morally worse than actual homicide.
Nobody explicitly coded these rules.
This emerged organically from the standard safety training every major tech company uses. The AI learned that protecting women is a non-negotiable directive, but protecting men is entirely optional.
Dr.-Ing. Martin Schiele retweeted
Introducing Kimi K3.1 Pro: our most capable 3T-class open-weight model.
🔹 1M-token context, 2.8T total / 104B active params (MoE), Multimodal.
🔹 Full-project coding: games in Unreal, Unity & Godot.
🔹 Excels at parametric 3D modeling in Blender & CAD.
🔹 More reliable at finance work: Accurate modeling with hallucination down by 65%.
🔹 Matching the strongest proprietary models across coding, agentic and knowledge benchmarks.
Kimi K3.1 Pro and K3.1 Pro Highspeed (2–3× faster) are now live on Kimi.ai, Kimi Work, Kimi Code, and the Kimi API.
Open weights by Nov 4, 2026.
🔗 API: platform.kimi.ai
🔗 Tech blog: kimi.ai/blog/kimi-k3-1-pro
🔥 Arbeitslos durch KI? Warum wir alle zu Robotern werden! 🤖
Wer nur Papiere schubst und Regeln befolgt, wird eiskalt automatisiert... In 10 Jahren fegt die KI-Welle mehr Jobs weg als jede Wirtschaftskrise! Statt echter Problemlösung verformen Menschen Prozesse, doch KI fordert stramme Effizienz. Passen wir uns nicht an, sind wir raus. Die Politik schläft, während die Echte Transformation läuft... Wir müssen JETZT diskutieren, bevor der Arbeitsmarkt komplett kollabiert 💥⚡
#ArtificialIntelligence #ZukunftDerArbeit #KIEvolution #Automation #PostLabourEconomy
You don't own the glass!
Jemand hat sich einen neuen Samsung-Fernseher (Baujahr 2025) gekauft, bekam ständig seltsam passende Werbung und hat ihn deshalb gerootet. Sein Fazit:
Das ist kein Bug, das ist das Produkt.
Der Bericht dazu fehlt noch. Aber ein paar Dinge sind schon belegt:
• Samsung-TVs lassen sich knacken. Calif hat vor Kurzem gezeigt, wie eine KI aus einer Browser-Shell einen Root-Zugriff gemacht hat. Ein Entwickler hat Exploits für zwei Samsung-Modelle veröffentlicht, eines davon von diesem Sommer.
• ACR scannt, was auf dem Bildschirm läuft, und gleicht es mit einer Datenbank ab. Laut einer aktuellen Studie der Northeastern University fließen bei Samsung selbst nach dem Opt-out teils weiter Daten.
• In Texas musste Samsung seine Einwilligung überarbeiten. Bei uns hilft das wenig.
Was ich nicht bestätigen kann: den dauerhaft aktiven Mikrofon-Dienst und die Weitergabe an 400 Partner. Das sind bisher Behauptungen aus einem Post. Bevor ich sie glaube, will ich den Bericht sehen.
Als Ingenieur sehe ich hier ein Muster, das bei Sovereign AI wieder auftaucht: Wenn ein Gerät dauernd mit dem Hersteller spricht, gehört Ihnen nur noch die Hardware. Die Daten gehören jemand anderem. In Europa heißt das Datenschutz, im Wohnzimmer meistens "Ich hab doch nichts zu verbergen".
Meine Konsequenz: Smart-Funktionen aus, ACR aus, den Fernseher nicht mit dem Netz verbinden und alles Schlaue über eine Box, die ich selbst kontrolliere. Und wer es noch konsequenter will, nutzt lokale Modelle statt Cloud-Assistenten. Dann hört auch niemand zu
youtube.com/watch?v=6IFVTcM2…
nitter.cf/0x0SojalSec/status/211…
🤖 Made with AI
WTF, $3000 Samsung TV has an always-on mic, automatic content recognition, geo tracking, network mapping, and ships your data to Samsung + 400 partners.
Bro Rooted a brand-new 2025 Samsung TV after noticing absurdly targeted ads.
Firmware was locked down, so zero-days it was.
Got a root shell.
then found: always-on voice service, ACR, geo, full telemetry pipeline, and four separate DRM systems.
This isn’t a bug, It’s the product bro.
Dr.-Ing. Martin Schiele retweeted
🎉 MiniMax M3.1 Flash from @MiniMax_AI has Day-0 support in vLLM!
Built for multi-step automation, real-codebase engineering and visual reasoning—with native NVFP4 KV, NVFP4 MoE weights and DSpark speculative decoding in the serving stack.
What the model can do, and the vLLM engineering that makes it practical to serve. 👇
Model: huggingface.co/MiniMaxAI/Min…
1/5
MiniMax M3.1 Flash weights are now public. 428B parameters total, 23B activated per token.
Agentic performance: A generational leap in agentic tasks, coding, and cybersecurity — 76.2 on BankerToolBench, 73.7% on DeepSWE v1.1, 61.7 on OSWorld V2, 29.6 on Agents' Last Exam, and 82.2 on CyberGym.
Efficient by design: MiniMax Sparse Attention and DSpark speculative decoding improve inference efficiency.
Hugging Face:
huggingface.co/MiniMaxAI/Min…
ModelScope:
modelscope.cn/models/MiniMax…
API: platform.minimax.io
M Plan: minimax.io/m-planMiniMax
MCode for desktop: agent.minimax.io/download
