das hier ist gregor schmalzrieds newsletter über künstliche intelligenz.
ich bin freiberuflicher berater, journalist und host von der ki-podcast (ARD)
Das Tempo der Anderen
In den letzten zwei Wochen haben mich zwei Meldungen sehr beschäftigt. Jede für sich genommen ist schon interessant. Zusammengenommen sind sie ein Horrorfilm.
Eine Zelle von Huthi-Rebellen hat Anthropics Claude genutzt, um eine Steuerungssoftware für Langstreckenraketen zu programmieren. Als einer der Raketentests fehlschlug, besprachen sie die Ursachen ebenfalls mit Claude. Anthropic erkannte das Verhalten und sperrte die Accounts. Die Huthi-Raketen-Vibe-Coder dürften seitdem einfach auf ein chinesisches Open Source-Modell gewechselt haben und dort weiter machen (meine Spekulation).
Nach dem Hacker-Angriff auf die Berliner Senatsverwaltung im August versuchten Berliner Senatsmitarbeiter fieberhaft herauszufinden, welche Daten abgeflossen waren. Wie der Tagesspiegel berichtet, wurde dafür ein kleines Team aus vier Senatsmitarbeitern zusammengestellt, welches die betroffenen Datensätze händisch durchsuchte. Zur Deadline der Hacker am 4. September war noch kein Überblick zustande bekommen. Die Hacker veröffentlichten die Daten im Darknet. Der Senat selbst erfuhr den Inhalt der Daten zu großen Teilen erst nach der Veröffentlichung, nachdem Journalisten und Privatleute die Daten selbst heruntergeladen und mit KI-Tools durchsucht hatten.
Offiziell heißt es, der Senat hätte die Daten aus “Sicherheitsgründen” händisch durchsuchen müssen wegen “Sicherheitsgründen”. Man hätte nicht garantieren können, dass die Daten nicht in die USA abfließen würden. Das ist erstens erklärungsbedürftig (es gibt Open Source-Modelle, die man lokal betreiben kann). Und zweitens mittlerweile egal. Die Daten sind inzwischen nicht nur in die USA abgeflossen, sondern in die ganze Welt.
Das sind die neuen Machtverhältnisse des KI-Zeitalters: Eine Miliz kann die beste Technologie der Welt nutzen (oder nach der Sperrung zumindest die dritt- oder viertbeste). Die Organe eines deutschen Bundeslandes können das nicht, oder behaupten das zumindest.
Von William Gibson stammt der berühmte Satz: “Die Zukunft ist schon da, sie ist nur noch nicht gleichmäßig verteilt”.
Das “noch” in der Mitte dieses Satzes hat etwas Tröstendes. Es sagt uns: “Jetzt gerade mag die Situation etwas chaotisch sein, aber früher oder später renkt sich das schon alles wieder ein.”
Wer die Realität beobachtet, sieht aber, dass der Satz heute kein “noch” verdient hat. Eher im Gegenteil. Wir leben in einer Welt, in der KI-Systeme nicht nur enorm stark sind, sondern auch in hohem Tempo noch stärker werden. Bei Anthropic übernehmen KI-Systeme mittlerweile bei rund einem Viertel der R&D-Arbeit des Unternehmens eine “leitende” Rolle. Das sorgt für einen Lawineneffekt: Jede neue Modell-Veröffentlichung ist nicht nur besser als die zuvor, die Verbesserungen verstärken sich dabei selbst und sorgen für immer größere Sprünge in immer kürzerer Zeit.
Die Zukunft ist schon da.
Sie ist nicht gleichmäßig verteilt.
Und sie ist jeden Tag ungleichmäßiger verteilt.
In der Praxis sieht diese ungleichmäßige Verteilung in etwa so aus:
Am hinteren Ende haben wir die Welt der Behörden und von vielen (deutschen) Unternehmen.
Die verfügbaren KI-Modelle sind dort meist etwas veraltet, teilweise stark veraltet. Sie sind oft eingebunden in speziell gebaute Oberflächen. Aus Kosten-, Sicherheits- und Compliance-Gründen fehlen oft Funktionen wie Websuche oder agentische Fähigkeiten.
An diesem Ende der Verteilung wird KI über das definiert, was sie kann. Man entwickelt eine Liste von Use Cases, für die die KI geeignet ist und testet diese. Man arbeitet viel an der Ausarbeitung von Prompts.
Wenn man das hinbekommt, ist man übrigens gar nicht so schlecht dabei. Man ist schonmal weiter als all die Behörden, Instituten und Unternehmen, in denen KI praktisch gar nicht eingesetzt wird.
Aber man ist meilenweit entfernt vom vorderen Ende der Verteilung. Natürlich geht es hier nicht nur um die Huthi-Rebellen, sondern einfach um jeden, der sich keine großen Gedanken darüber machen muss, welche KI er einsetzen darf. Es geht um jeden, der einfach mal ausprobieren und machen kann.
Die verfügbaren KI-Modelle an diesem Ende sind State of the art. Sie sind in der Lage, sich quasi-autonom zu Schwärmen zusammenzuschließen, um über viele Stunden an Problemen zu arbeiten. Sie können sich in anderen Programmen, Datei-Systemen und digitalen Schnittstellen quasi frei bewegen.
Und das hat den vielleicht wichtigsten Shift zur Folge, den ich seit dem Start des KI-Booms beobachtet habe:
Am vorderen Ende der Verteilung wird KI mittlerweile über das definiert, was sie nicht kann.
Ich arbeite jeden Tag mit Claude Code und ChatGPT. Es ist über ein Jahr her, dass ich nach einem “Use Case” gesucht habe. Stattdessen habe ich ein gewaltiges Grundvertrauen entwickelt, dass jedes Problem, das ich kommunizieren kann, auch lösbar ist.
Claude Code hat z.B. – trotz zahlreicher anderer Funktionen – keinen eingebauten Bildgenerator. Was kann Claude Code aber tun? Es kann einfach in meinem Browser ChatGPT öffnen, sich von ChatGPT ein Bild generieren lassen und dieses herunterladen.
Jetzt ein neues Problem: Dieses Bild sieht zwar auf den ersten Blick aus wie der Geschwister-Scholl-Platz in München, ist es aber nicht.
Was also tun? Einfach die Anweisung ändern.
Zur Erklärung: ChatGPT hat sich hier tatsächlich ein originales Bild von diesem Ort besorgt, es zu einer anderen Wetteroptik und einem anderen Blickwinkel umgestaltet (das Original liegt hier) und dann dort die Ente eingefügt. Ich hatte diesen Anwendungsfall vorher noch nie ausprobiert. Ich hatte einfach Vertrauen, dass es klappt. Und das tat es natürlich.
Das ist ein relativ simples Beispiel. Aber so sieht Arbeit mit KI-Agenten am vorderen Ende der Verteilung aus. Man geht erstmal davon aus, dass der Agent das hinkriegt. Und der Rest passiert dann von alleine.
Die Basis hier ist: KI kann erstmal – quasi – alles. Mit folgenden Ausnahmen:
alles, was zu teuer oder aus Sicherheitsgründen blockiert ist
alles, wofür die Infrastruktur fehlt, weil die KI auf Daten zugreifen müsste, an die nicht herankommt
alles, wofür man Hände, Füße oder ein Metallgehäuse braucht
alles, wofür man menschliches Urteilsvermögen braucht
Das sind aktuell die harten Limits. Noch.
Das, was heute noch zu teuer oder aus Sicherheitsgründen blockiert ist, wird morgen wahrscheinlich deutlich günstiger und über ein freies Modell verfügbar sein. Die Kosten für künstliche Intelligenz fallen rasant, nach einer Messung um den Faktor 13 jedes Jahr. Selbst bei einer Verlangsamung des Hypes lägen noch riesige Effizienzgewinne vor uns, auf denen bislang noch nicht genug Aufmerksamkeit lag.
Dass die Infrastruktur fehlt, weil die KI auf Daten zugreifen müsste, an die nicht herankommt, ist der Hauptgrund, weshalb die Fähigkeiten dieser Systeme bislang nur teilweise in der echten Wirtschaft angekommen sind. Sam Altman & Co haben das nicht verstanden, weil sie die echte Wirtschaft nicht verstehen. Und ich habe in diesem Newsletter schon viel darüber geschrieben, wie man dieses Problem angeht. Mittelfristig dürfte dieses Limit vermutlich weiter bestehen, aber je nach Branche und Firma sind alteingesessene Player natürlich auf einmal angreifbar geworden. Wenn man fünfzehn Legacy-Systeme mit sich herumschleppt und deshalb nicht von KI profitieren kann, kann ein junges Konkurrenz-Unternehmen, das KI von Anfang an mitdenkt, natürlich sehr viel bedrohlicher werden als früher.
Das, wofür man Hände, Füße oder ein Metallgehäuse braucht, können KI-Systeme aktuell noch nicht sonderlich gut. Es ist schwer, einzuschätzen, ob das so bleibt – GPT-6 Astra kann schon einigermaßen okay ein Auto steuern, obwohl es nie speziell auf diesen Anwendungsfall trainiert wurde. Aber die Entwicklungen sind hier langsamer als im Software-Bereich. Möglich, dass das so bleibt.
Das, wofür man menschliches Urteilsvermögen braucht, ist in meinen Augen der klarste und stabilste Vorteil, den wir Menschen gegenüber einer KI haben. Moderne LLMs sind zwar großartig im Umsetzen von Plänen, aber auch Claude Opus 5.5 ist sehr schlecht darin, mir neue Pläne vorzuschlagen. Zumindest bei Projekten, bei denen das Ziel am Ende nicht maschinell überprüfbar ist (“Welche Strategie ist die richtige?” “Welcher Text gefällt mir besser?”) habe ich hier in den letzten Jahren wenig bis keinen Fortschritt gesehen.
Zusammengefasst: eins dieser vier Limits halte ich für relativ stabil, eins für sehr bröckelig. Bei zwei würde ich aktuell kein Urteil wagen.
Es macht Spaß, am vorderen Ende der KI-Verteilung zu arbeiten. Es gibt ständig neue Probleme zu lösen, Abenteuer zu bestehen, Ideen zu entdecken.
Aber Unternehmen, Behörden und Staaten können es nicht zulassen, weiter am hinteren Ende zu bleiben. Sie dürfen KI-Einsatz nicht als eine Liste von Optionen sehen, von der sie auswählen können. “Wir setzen mittelmäßige KI-Systeme ein, wenn es unsere bestehenden Regeln und Systeme bequem zulassen” darf einfach nicht mehr der Default sein. Der Default muss sein: “Wenn Frontier-Modelle ein Problem lösen können, dann finden wir heraus, wie wir deren Einsatz möglich machen.” Wir können es uns nicht leisten, schlechter ausgerüstet zu sein als die Huthis.
Es wird noch viele Berlin-Hacks geben. Viele HuggingFace-Vorfälle. Und gerade dann brauchen wir unser menschliches Urteilsvermögen, um die richtigen Entscheidungen zu treffen.
Der Verzicht auf KI mag sich anfühlen, als würde man einer solchen Entscheidung ausweichen. Selten wird man gefeuert, weil man etwas nicht eingekauft hat.
Aber das ist eine Täuschung. Ohne die wichtigste Technologie der Zukunft zu arbeiten ist Selbstentwaffnung. Und Selbstentwaffnung ist eine Entscheidung. Irgendwann die wichtigste von allen.
Ich bin in nächster Zeit als Speaker bei u.a. folgenden Events:
20.–23.10. Medientage München. Am 20. beim KPMG-Kick-Off-Event, am 22. mit einer Live-Folge “Der KI-Podcast”, am 23. bei einem Panel rund um die Zukunft der Medien. medientage.de
12.11. AI Media Leaders Conference, Hamburg. nextmedia-hamburg.de
Freu mich über Hallosagen vor Ort!
Portfolio
Der KI-Podcast auf Spotify! open.spotify.com
Der KI-Podcast in ARD Sounds! ardaudiothek.de
Ein paar Podcast-Auftritte von mir in anderen sehr geschätzten Formaten:
Unboxing News: USA vs. China: Führt das KI-Wettrennen in die Katastrophe? deutschlandfunknova.de
IQ – Wissenschaft und Foschung: KI-Apokalypse verhindern – Ist verantwortungsvolle KI möglich? ardsounds.de
Haken dran – das Social Media-Update: Showdown zum Slowdown. spotify.com
AI und Text / Sprachmodelle
Integrity Bench. integrity-bench.com
Everyone is Reading Lonesome Dove. notboring.co
The Original Sin of AI. theatlantic.com
Can AI spot mistakes in IKEA assembly? epoch.ai
How To Write With An LLM. sockpuppet.org
A Warning About ‘Model Welfare’. mustafa-suleyman.ai
AI und Arbeit / Agents
I Gave My Life Over to Meta’s A.I. Agent and Was Blown Away. nytimes.com
We already know what a world without work looks like. asteriskmag.substack.com
AI und Bild/Video/Audio
Time is a Limited Allowance. youtube.com
AI und Policy
No Ed Zitron, AI bond issuance is not AI’s “Subprime Mortgage Crisis”. crisesnotes.com
Hacking is the least worrying part of OpenAI’s Australia incident. transformernews.ai
Why Europe has been absent from the great AI safety debate. theguardian.com
Google rolls out pay-per-value AI licensing program to publishers. digiday.com
AI und alles andere
Are Self-Driving Cars Safe? spectrum.ieee.org
How Accurate Have AI Progress Forecasts Been So Far? x.com
Jev introduces a new shape of LLM – System One, aka Decision Models. simonw.substack.com
A Digital Fly Brain Has Taken Over the Internet. 404media.co
Side Quests
Everyone Hates Monopoly. Apparently, That’s Because We’ve Been Playing It All Wrong. slate.com
Detach from your work to make it work. productidentity.co
Why Saudi’s $500 Billion Megaproject Collapsed. Das Wall Street Journal erklärt, warum Saudi-Arabiens Wüsten-Megaprojekt NEOM mit der geplanten Bandstadt The Line gescheitert ist. youtu.be
Steve Reich, “Music for 18 Musicians”. youtube.com
🦆,