das hier ist gregor schmalzrieds newsletter über künstliche intelligenz.
ich bin freiberuflicher berater, journalist und host von der ki-podcast (ARD)
Das Gut-Genug-Problem
Vor einigen Tagen hat OpenAI sein neues Flagship-LLM veröffentlicht: GPT-6 Astra.
Hier einige gute Nachrichten zu diesem Modell:
GPT-6 Astra kann einen Flugsimulator zu jedem beliebigen Ort der Welt entwickeln
GPT-6 Astra kann die Backrooms nachbauen
GPT-6 Astra kann ein Videoschnitt-Programm bedienen
GPT-6 Astra kann Canva und Paint als Werkzeuge benutzen und damit Bilder malen
Hier eine schlechte Nachricht zu diesem Modell:
Wenn ich keinen Bedarf an einem Flugsimulator, den Backrooms, Videoschnitt oder Canva-Selbstportraits habe… hat sich in meinem Leben erstmal nichts verändert.
Die neue Generation der Modelle (Fable 5.1, Astra, etc) ist – natürlich – ein gewaltiger Fortschritt. Beobachter wie Francois Chollet haben die aktuellen Schritte sogar zum Anlass genommen, ihre AGI-Timelines zu verkürzen: Die Entwicklungen gehen auf einmal wieder schneller als erwartet, nicht langsamer.
Entwicklungen wie der OpenAI-Huggingface-Vorfall, dieser jüngste Bericht über KI-Agenten, die ein brachliegendes deutsches Wiki zum geheimen Austausch nutzten und die Beobachtungen des staatlichen britischen AI Security Institutes über schwer erfassbare KI-Handlungen zeigen uns: Wir leben in einer sich immer schneller drehenden Welt.
Die mittlerweile etwas durche Weisheit “die KI von heute wird die schlechteste sein, die du je benutzen wirst” scheint sich durch eine neue zu verschärfen: Der KI-Fortschritt von heute könnte der langsamste sein, den du je erleben wirst.
Doch das Beobachten dieses Fortschritts ist eine einsame Aufgabe. Für die meisten Menschen machen die Updates der großen AI-Labs schon seit Langem praktisch keinen Unterschied mehr. Ich kriege das auch anekdotisch immer wieder mit – nicht wenige haben den Eindruck, dass der KI-Fortschritt sich verlangsamt habe oder gar nicht mehr stattfindet.
Überraschenderweise geht es dabei vor allem um Menschen, die AI selbst nutzen und eigentlich nützlich finden. Die immer wieder Fragen stellen und Antworten erhalten. Die ihre liebsten Use Cases haben und vielleicht sogar schon Kollegen und Freunden beim Einrichten von Chatbots geholfen haben.
Man kann jeden Tag AI nutzen. Und trotzdem glauben, dass eigentlich nichts voran geht. Dass GPT-6 egal ist. Dass die (mittlerweile gut belegten) diversen AI-Agenten-Attacken nur ausgedachte Marketing-Geschichten sind.
Was ist da los?
Bevor wir einem Menschen erlauben, sich hinter das Steuer eines Autos zu setzen und eine große metallene Maschine um Personen und Gebäude herumzulenken, verlangen wir von diesem Menschen, dass er versteht, was er da eigentlich tut. Er wird unterrichtet in Theorie und Praxis, er wird mit typischen Problemen konfrontiert und muss zeigen, dass er auch unter Druck nicht die Nerven verliert. Erst dann darf er mitmachen.
Für LLMs gibt es keinen Führerschein.
Es gibt drei Begründungen, warum das so ist – zwei sind gut, und einer nicht.
Einmal wäre da das geringere Risiko: Wenn ich ein Auto gegen die Wand fahre, geht nicht nur ein Auto kaputt, sondern vielleicht auch Knochen und Schädel. Wenn ich ChatGPT gegen die Wand fahre, nicht. Gute Begründung.
Dann ändern sich Autos nicht jeden Tag. Software-Updates hin oder her, im Wesentlichen funktioniert auch ein fremdes Auto einer fremden Marke in einem fremden Land ungefähr noch so wie das Auto, in dem ich vor Jahren Autofahren gelernt habe. KI aber ist immer im Wandel und damit viel schwerer zu erklären. Auch gute Begründung.
Und dann: Ein Auto kann sich nicht selbst erklären. Ein LLM schon. Wenn ich etwas wissen will – dann frage ich einfach. Wenn ich etwas tun will, dann nutze ich natürliche Sprache und mein Wunsch wird erfüllt.
Das ist die schlechte Begründung.
Tatsächlich sind LLMs erstaunlich schlecht darin, sich selbst zu erklären. Nicht nur sind LLMs oft notorisch über-confident, was ihre eigenen Fähigkeiten angeht, sie haben vor allem keinen eingebauten Mechanismus, um das beste aus sich herauszuholen.
Nehmen wir als Beispiel diesen Chat.
Das ist eine Chatanfrage an ein “nacktes” LLM – in diesem Fall das neue GPT-6 Astra selbst. “Nackt” heißt in dem Fall: es sind keine persönlichen Skills oder Kontextinfos angeschlossen, es gibt keine nennenswerte Memory. Das LLM antwortet mir, wie es jedem anderen auch antworten würde.
Entsprechend dürftig ist die Antwort.
Man kann mit dieser kurzen Recherche zufrieden sein – aber die allermeisten Nutzer wüssten nach dieser Antwort kaum, was sich jetzt eigentlich für sie geändert hat. Die Fähigkeiten der KI selbst sind hier kaum das Problem – es ist ihre Nacktheit. Das Modell weiß nichts über das Leben und die Arbeit seines Nutzers, es kann die Bla-Bla-Kommunikation von OpenAI zu GPT-6 nicht richtig einordnen. Das Ergebnis ist eine Antwort, die okay ist, aber nicht wirklich hilfreich.
An diesem Punkt geben sich viele Nutzer entweder mit der Antwort zufrieden, oder sie prompten noch einmal nach, stellen Nachfragen, bohren, bis sie irgendwann zufrieden sind.
Und beim nächsten Chat geht alles wieder von vorne los.
Das ist ein exemplarisches Nutzungspattern, und zwar eins, das ich über die letzten zwei Jahre immer wieder gesehen habe. Wer so arbeitet, ist natürlich auch ein AI-User. Aber weil er in jedem Gespräch quasi wieder bei null anfängt, wird er auch nicht besser. Es gibt keinen Feedback-Loop, wenig Verbesserungspotential.
In anderen Feldern, zum Beispiel beim Autofahrenlernen, würden wir ein solches Pattern nie akzeptieren. Dort ist iteratives Verbessern ganz selbstverständlich vorgesehen, und die Entwicklung sieht hoffentlich so aus.
Nur wissen wir beim Autofahren, was von uns erwartet wird. Wir kennen das System. Es gibt ein etabliertes Lernmuster, das wir nicht selbst entwickeln müssen, weil es Profis gibt, die das für uns erledigen.
Bei LLMs müssen wir gleichzeitig Autofahrer, Fahrlehrer und Fahrzeugmechaniker sein. Und all diese Rollen miteinander koordinieren. Wir dürfen mittelmäßige Antworten nicht tolerieren, sondern wir müssen sie als Anlass nehmen, wieder in unser System hineinzuinvestieren. Nutzer zu sein reicht nicht. Wir müssen auch Manager sein. Architekt unseres eigenen KI-Hauses.
Wenn ich eine Antwort korrigiere, soll diese Korrektur beim nächsten Mal noch gelten.
Das ist – vor allem am Anfang – nervig. Es ist unintuitiv.
Und trotzdem lohnt es sich – weil man am Ende Ergebnisse wie diese bekommen kann:
Diese Antwort stammt aus meinem aktuellen Claude-System.
Für jede Person außer mir selbst ist diese Antwort kaum verständlich – sie verweist auf verschiedene Skills, Schemata und Plugins, die ich selbst gebaut habe und maintaine. Aber gerade deshalb ist sie so wertvoll. Je spezifischer und präziser die Antwort, desto höher die Wahrscheinlichkeit, dass ich damit wirklich etwas anfangen kann.
Das Problem ist: Vielen Menschen ist überhaupt nicht bewusst, dass dieses Szenario überhaupt zur Debatte steht. Sie merken: Die Antworten werden schrittweise besser, es kommt zu weniger Fehlern, besseren Recherchen. Aber der Fortschritt fühlt sich nicht exponentiell an. Weil die Exponentialität davon abhängig ist, dass sie etwas zum multiplizieren bekommt: Daten, Tools, Struktur.
Merritt Robinson schreibt dazu:
Metcalfe’s law dictates that value grows far faster than the size of the network: Instagram, WhatsApp, LinkedIn, and of course fax machines and phones before them all followed this logic. But this was always outward facing: the more people who joined, the more valuable it became for you. This assumption shaped 30 years of platform strategy, investor thinking, and competitive moat analysis.
LLMs change this model. Claude doesn’t improve for me as more users sign up (at least not in the classic way, but see more below). The crowd is largely irrelevant to my individual experience, and connections to my own data matter more.
This is the idea behind Copilot (jury is out on that of course). The value proposition is the intelligence layer that encompasses a user’s work data (emails, files, meetings, chats) alongside memory of style, preferences, and workflows. The more you use it, the more useful it becomes.
[…]
So, the network is no longer the crowd. The network is you.
Als ich vor über einem Jahr zum ersten Mal den “großen Trenner” beschrieben habe, meinte ich damit vor allem die wachsende Kluft zwischen AI-Nutzern und Nicht-AI-Nutzern. Aber zunehmend wächst sie auch zwischen denen, die ein solches Netzwerk für sich entwickeln auf der einen Seite, und denen, für die AI immer noch eine bessere Suchmaschine ist, auf der anderen Seite.
Trenner all the way up.
Die Lösung liegt in weniger Bequemlichkeit:
Die Ergebnisse dieses Prompts sind nicht gut genug.
Das “Wir haben KI zuhause”-Angebot der Geschäftsführung ist nicht gut genug.
“Das ist alles nur eine Blase” ist als Positionierung nicht gut genug.
Je besser AI wird, desto schwieriger ist es, ihre Fähigkeiten darzustellen und zu erfassen. Backrooms-Animationen und Canva-Bilder können eine Andeutung liefern, aber mehr nicht.
Der beste Pinsel braucht auch die besten Hände.
Ich bin in nächster Zeit als Speaker bei u.a. folgenden Events:
14.–15.9. Brains on Silicon, Dresden. brainsonsilicon.com
21.–23.10. Medientage München. medientage.de
Freu mich über Hallosagen vor Ort!
Portfolio
Der KI-Podcast auf Spotify! open.spotify.com
Der KI-Podcast in ARD Sounds! ardaudiothek.de
Ich war zu Gast im Podcast Spiegel Smarter leben zum Thema “Klug und kreativ bleiben mit ChatGPT und Co.”. spiegel.de
Ich war zu Gast im Murakamy Podcast zum Thema “Welche Chancen ergeben sich aus KI für Deutschland?” murakamy.com
Ich habe seit Kurzem zum ersten Mal eine “richtige” Website (danke, Fable 5!). Sie enthält einen interaktiven LLM-powered Part, der sicher bald kaputtgehen wird, aber solange er läuft, hoffentlich ganz lustig ist. gregorschmalzried.com
AI und Text / Sprachmodelle
LLMs seem to really like the colour blue. linkedin.com
If you’ve been using latest frontier LLMs, it’s almost certain that you would have noticed by now the newer models have become worse to talk to. substack.com
MatrAIx: Simulating the World with 8.3 Billion Persona Agents. matraix.ai
There are no lossless transformations of natural-language text. sophiebits.com
AI is a worryingly-good persuader. But don’t panic, yet. transformernews.ai
How Claude’s watermark works. declaude.org
StoryScope: Investigating idiosyncrasies in AI fiction. arxiv.org
Zerstören Tech-Firmen wirklich wertvolle Bücher für KI-Training? br.de
AI und Arbeit / Agents
Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident. huggingface.co
Understanding ChatGPT Work. simonwillison.net
Bescheid-Flut im Jobcenter: KI befeuert Welle von Bürgergeld-Widersprüchen. heise.de
AI is taking the jobs of Kenyans who write essays for U.S. college students. nytimes.com
I was curious how well the predictions of the most widely cited AI skeptic I’ve seen (Ed Zitron) have done, so I looked at how his predictions panned out. danluu.com
AI und Politik
Locked Down. writing.antonleicht.me
We’re sleepwalking into an AI surveillance dystopia. transformernews.ai
AI und alles andere
99% of My Website Traffic Is Bots. patronview.com
Nvidia Who? The AI Supply Chain Has Moved its Focus Beyond GPUs. culpium.com
China’s Overhyped Embodied AI Sector. chinai.substack.com
Content & Culture
‘I will die for this cause’: how India’s cockroach meme became the biggest challenge to Modi’s grip on power. theguardian.com
A Brief History of the Internet’s Favorite Scam. thereader.mitpress.mit.edu
The most unfortunate thing. Über den Fall Jason Arday. sarahditum.substack.com
Paid actors, AI writing: How a new kind of video business cashed in on America’s divided politics. semafor.com
Tech
eBay reaches $56M settlement with e-commerce newsletter writers it terrorized in 2019. techcrunch.com
DoorDash launches in-house drone delivery program after FAA certification. reuters.com
How China Keeps Tabs on Foreigners. nytimes.com
Side Quests
Why some people mow a lawn better than others. pudding.cool
Daniel Lefferts: “Terms and Conditions”. yalereview.org
Ordinary Abundance. ordinaryabundance.com
Any Human Ever: one life from over 100 billion. anyhumanever.com
Defrag98: Windows 98 Disk Defragmenter Simulator. defrag98.com
Colossal Iceberg Collapses and Flips Over in Ilulissat, Greenland. youtube.com
Laserkraft 3D, Derya Akyol - Längst Vergessen. youtube.com
🔨,