das ist gregor schmalzrieds newsletter über künstliche intelligenz.
ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)
Die toten Augen der AI
1 DER SCHUSTER
Hier ist ein schöner Test:
Fällt dir an dem Bild dieses Schusters etwas Eigenartiges auf?
Falls nein… dann bist du ein halbwegs normaler Mensch.
Falls ja… dann steckt dein Kopf vielleicht so tief im Thema AI wie meiner.
Das Foto an sich zeigt eine zuplakatierte Fensterfront eines Geschäfts in Downtown Vancouver. Dort habe ich es letzte Woche gemacht.
Aber was ist mit dem Foto des Schusters, das auf dem Poster zu sehen ist? Hat das jemand gemacht? Oder wurde es einfach mit der AI generiert?
Wenn ich sage, dass mir etwas Eigenartiges an dem Bild auffällt, dann sind es keine offensichtlichen Hinweise – doppelte Finger, verhunzte Buchstaben, oder so. Es ist einfach die ganze Aura des Bildes. Ich kann es nicht in Worten greifen. Wie ein paranoider Verschwörungstheoretiker, der glaubt, die Weltbevölkerung sei durch Aliens ersetzt worden, starre ich in die Augen dieses Mannes und denke an die Zeilen von Quint aus Steven Spielbergs Jaws.
"He's got lifeless eyes, black eyes, like a doll's eyes."
Qua meines Berufes verbringe ich sehr viel Zeit damit, AI-generierte Inhalte anzuschauen und selbst zu generieren. Wenn man das tut, wird man ganz automatisch besser darin, ihre Ästhetik zu erkennen. Mir fehlt leider die Ausbildung, um das konkret benennen zu können, was ich da sehe. Ist es das Licht? Die Komposition? Etwas an einem menschlichen Gesicht, das wir erkennen, die AI aber nicht?
Was es auch ist… auf immer mehr Straßen, ob in Vancouver oder sonstwo, sehe ich heute tote Augen. Die toten Augen synthetischer Menschen.
2 EINE ZEITREISE
Eine wichtige Sache zu meiner Tätigkeit als AI-Detektiv: Dieses Schuster-Bild sieht ganz konkret nach ChatGPT aus.
Das aktuelle Bildmodell in ChatGPT wurde im Frühjahr 2025 gelaunched (viele haben es über den “Studio Ghibli”-AI-Trend mitbekommen) und es wird seitdem von Millionen Menschen genutzt.
Das ist vor allem deswegen interessant, weil dieses Modell eine ganz eigene Ästhetik hat.
Hier ist das ChatGPT-Bildmodell mit dem Auftrag “Besucher einer futuristischen Tech-Konferenz”:
Auch hier hätte ich vermutlich recht schnell erkannt, dass es sich um ein ChatGPT-generiertes Bild handelt – und nicht um eine menschliche Zeichnung.
Das bedeutet aber nicht, dass ich besonders gut darin bin, AI-Inhalte allgemein zu erkennen. Ich erkenne wirklich nur ChatGPT.
ChatGPT-Bilder haben – for better or worse – einen bestimmten Look. Und da dieser Look jeden Tag von Tausenden LinkedIn- und Instagram-Nutzern verwendet wird, um Bilder herzustellen, sieht man ihn so oft, dass man sich mit der Zeit daran gewöhnt – und besser darin wird, ihn zu erkennen.
Vor dem großen ChatGPT-Bildmodell-Update nutzte ChatGPT noch den Bildgenerator “DALL-E 3” – und der hätte eine futuristische Tech-Konferenz noch ganz anders bebildert:
Auch dieser überladene Look kommt jedem bekannt vor, der vor einem Jahr auf Social Media unterwegs war.
Und spulen wir noch weiter zurück, landen wir in den frühen Tagen von anderen Bildmodellen wie Midjourney, die wieder eine ganz eigene Ästhetik hatten (die ich manchmal sogar ein bisschen vermisse).
Der Punkt ist: AI-Modelle werden nie neutral in die Welt entlassen. Sie haben immer bestimmte Verzerrungen, bestimmte Biases, bestimmte Vorlieben und Abneigungen.
Und sobald diese Verzerrungen überall sind, fallen sie auf.
Wenn man sich beim Generieren keine Mühe gibt (und zwar nur dann!), bleiben die Augen tot.
3 TOTER TEXT
Eine der spannendsten Veröffentlichungen der letzten Monate ist die Liste “Signs of AI writing” auf Wikipedia. Die Liste taugt nicht zur absoluten Beweisführung (es ist nach wie vor nicht möglich, gesichert einen synthetischen Text von einem menschlichen zu unterscheiden), aber sie ist ein sehr interessantes zeitgeschichtliches Dokument darüber, wie Sprachmodelle (insbesondere die in ChatGPT) Mitte 2025 klingen.
In der Liste werden dutzende Merkmale für AI-generierte Texte genannt, darunter…
Drei-Punkte-Aufzählungen (“Es ist groß, schwer und allumfassend.”)
Negative Parallelismen (“Es ist nicht nur groß. Es ist riesig.”)
Werbliche Sprache (“Wow. Das ist größer als alles, was wir uns hätten vorstellen können.”)
Für sich genommen fallen diese einzelnen Punkte oft nicht auf, aber wenn man sie zusammenschmeißt…
Dann landet man auf LinkedIn.
Als die Trump-Regierung im Juli ihren “AI Action Plan” vorstellte, war eine meiner ersten Begegnungen damit dieser Post eines AI-LinkedIn-”Influencers”:
Uff.
Dieser Post ist das Text-Äquivalent zu den toten Augen des Schusters – er liest sich wie substanzloses AI-generiertes Aufplustern.
Vor allem aber stört mich daran, dass sich irgendwo in diesem Post vielleicht ein interessanter Gedanke versteckt haben könnte. Ich werde es nur nie herausfinden: Im KI-Kleister geht dieser völlig unter.
Was also tun?
Ich habe dieses Sommersemester mein erstes Hochschul-Seminar an der Hochschule Landshut gegeben (lots of fun, Grüße an meinen Kurs und Prof. Krause!).
Meine Studis mussten am Ende eine Präsentation halten – und meine Guidance war in etwa diese:
Nutzt gerne AI. Aber wenn euer Vortragstext klingt, als hätte ihn eine AI geschrieben, dann ist es kein guter Text. Egal, wie viel AI ihr dabei wirklich benutzt habt.
Für mich ist diese Haltung der einzige Weg raus aus der Misere, in der sich Schulen und Hochschulen gerade befinden. AI mit absoluter Sicherheit zu identifizieren, geht nicht. Aber wenn ein Text so klingt oder ein Bild so aussieht, als hätte ChatGPT etwas Identisches erzeugen können, dann ist das keine sehr kreative Arbeit.
Wir Menschen sind soziale Wesen. Wir sind Geschichtenerzähler.
Egal, ob es eine Email ist oder ein LinkedIn-Post oder ein Podcast-Skript… Ich möchte keine Geschichte hören, die auch ein Roboter hätte schreiben können.
Das bedeutet nicht, dass man AI nicht nutzen sollte. Mit den richtigen Prompts, den richtigen Modellen und einem persönlichen, kreativen Zugang, entstehen oft fantastische Texte und Bilder.
Aber es gibt einen Unterschied zwischen dem faulen Weg und dem interessanten Weg.
Das unterscheidet einen langweiligen LinkedIn-Post von einem Projekt wie der “Poetry Camera”, die Foto-Input mit Claude in automatische Gedichte verwandelt. Das unterscheidet ein ödes Bild wie den falschen Schuster von wirklich interessanter AI-Kunst wie von Holly Herndon oder Merzmensch.
AI hat keine toten Augen, wenn ein Mensch dahinter zu sehen ist.
4 STAY HUMAN
Ich bin mir ziemlich sicher, dass ich in diesem Newsletter noch nie einen komplett AI-generierten Satz unmarkiert habe stehen lassen. Nicht weil ich das moralisch verwerflich finde oder so… Ich habe nur den Anspruch an mich, dass ich interessanter sein will als ChatGPT. Und I like to think, dass dieser Ansatz etwas mit dem Erfolg dieses Newsletters (mittlerweile fast 9.000 Abonnenten, vielen Dank!) zu tun hat.
Aber natürlich nutze ich AI trotzdem.
Ich habe einen frühen Draft dieses Texts vor etwa einem Monat geschrieben. Dabei suchte ich noch nach einem griffigen Begriff für das Phänomen, um das es in diesem Text geht.
Hier waren ChatGPTs Vorschläge:
Ich bin mal so frei und erlaube mir das Urteil: All diese Ideen sind furchtbar. Sie wirken abgenagt, durchgenudelt, was auch immer.
Also überlegte ich ein bisschen – mal mit mir selbst, mal mit dem Chatbot. Und landete irgendwann bei einem etwas anderen Prompt (und im besseren “GPT-5 Thinking”-Modell):
Dieser zweite Vorschlag ließ mich nicht los. Ein Porträt mit leblosen Augen…? Da steckt vielleicht irgendwas drin, dachte ich. Vielleicht ein Theme, sogar ein Titel für eine Newsletter-Ausgabe?
Einige Wochen später stand ich vor dem Plakat in Vancouver und starrte in genau diese Augen. Auf einmal passte alles zusammen.
Der Rest schrieb sich fast von selbst.
Außerdem
Hinweis
Wenn jemand Ende des Monats auch auf der Bits & Pretzels in München ist, feel free to reach out! :)
Portfolio
Der KI-Podcast (ARD) – der Podcast von Marie, Fritz und mir auf Spotify. open.spotify.com
Der KI-Podcast (ARD) – der Podcast von Marie, Fritz und mir in der ARD Audiothek. ardaudiothek.de
AI und Text / Sprachmodelle
Crisis of Mystery. nguyenterry.substack.com
Wired and Business Insider remove articles by AI-generated ‘freelancer’. theguardian.com
Anthropic to pay authors $1.5B to settle lawsuit over pirated chatbot training material. Spannend, aber zwei wichtige Caveats: 1. gilt nur für Amerika. 2. gilt nur für Bücher, die per Raubkopie erworben wurden. npr.org
The Jailbreak Tax. Tief integrierte LLMs sorgen für neue Kosten, weil sie sich gut als Angriffsziel von Hackern eignen. words.narain.io
Why We Don't Believe MIT NANDA's Weird AI Study. Interessantes Follow-Up zu der “95% aller AI-Projekte versagen”-Studie, die ich in der letzten Ausgabe dieses Newsletters beäugt habe. futuriom.com
AI und Bild/Video/Audio
Fans loved her new album. The thing was, she hadn't released one. bbc.com
Will Smith’s concert crowds are real, but AI is blurring the lines. waxy.org
Fashion models reckon with AI models and digital clones after controversial ad appears in Vogue. latimes.com
AI und alles andere
Netflix’ Guidelines für Generative AI in Content Production. partnerhelp.netflixstudios.com
How chess became AI's model organism. learningfromexamples.com
How the UK tech secretary uses ChatGPT for policy advice. newscientist.com
KI aus Deutschland: Hingewurschtelt in Germany. golem.de
ASML becomes Mistral AI’s top shareholder after leading latest funding round. Wäre ein Huge Deal für Europas unterentwickeltes AI-Ökosystem. reuters.com
Content & Tech
The Economics of Fitness Influencing. youtube.com
The Color of the Future. (Blau.) hopefulmons.com
Your Phone Already Has Social Credit. We Just Lie About It. thenexus.media
The Rise and Fall of Music Ringtones: A Statistical Analysis. statsignificant.com
Cinematography of “Andor”. pushing-pixels.org
Side Quests
Why 536 was the worst year to be alive. science.org
30 minutes with a stranger. pudding.cool
👀,