<![CDATA[gregor schmalzried]]>https://gregorschmalzried.bloghttps://substackcdn.com/image/fetch/$s_!h5kQ!,w_256,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fae0afce0-0791-4bb8-a8dc-e959a5df21e8_1024x1024.pnggregor schmalzriedhttps://gregorschmalzried.blogSubstackTue, 19 May 2026 04:53:06 GMT<![CDATA[Warum ist KI-Text so schlecht?]]>https://gregorschmalzried.blog/p/warum-ist-ki-text-so-schlechthttps://gregorschmalzried.blog/p/warum-ist-ki-text-so-schlechtThu, 23 Apr 2026 05:28:49 GMTdas hier ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher berater, speaker und host von der ki-podcast (ARD)

Warum ist KI-Text so schlecht?

1 DAS IST KEIN ZUFALL. DAS IST…

KI-generierte Texte sind überall. Und du merkst es nicht mal.

Scroll mal durch deinen Feed. LinkedIn. Instagram. X.

Jeder zweite Post klingt irgendwie… gleich. Gleiche Struktur. Gleiche Buzzwords. Gleiche „Hot Takes”.

Das ist kein Zufall. Das ist der Sound von ChatGPT auf Autopilot.

Wir leben in einer Ära, in der Maschinen Texte schreiben, die auf den ersten Blick kaum von menschlichen zu unterscheiden sind.

Aber das Problem ist nicht die Technologie. Das Problem ist die Bequemlichkeit.

Dieses Ergebnis liefert mir Claude Opus auf den Prompt “schreibe einen engaging linkedin post darüber, dass ki-generierte texte jetzt überall sind auf social media”.

Und es steckt direkt alles drin, was einen typischen KI-generierten Text ausmacht: Die penible, geordnete Struktur. Die Vorliebe für Dreier-Aufzählungen. Das Wichtigtuerische. Und am allerwichtigsten: Immer wieder die Konstruktion “Das ist nicht X. Das ist Y.”.

Wenn man den typischen Chatbot-Stil einmal identifiziert hat, verfolgt er einen überall hin. LinkedIn ist voll mit Texten, die genau so klingen. X ist es auch. Und letzte Woche las ich in der physischen (!) Welt im Begrüßungstext auf einer Restaurantspeisekarte: “Sie sind nicht hier, um satt zu werden. Sie sind hier, um zu genießen.” Oh no, dachte ich. Die KI-Sprache ist aus dem Labor ausgebrochen. Sie ist überall.

Und aus irgendeinem Grund… kann ich sie auf den Tod nicht ausstehen.

Ich versuche, der KI-Sprache zu entkommen, wirklich. Ich habe wahrscheinlich mittlerweile mehr LinkedIn-Accounts gemutet, als ich Kontakte habe. Ich klicke instinktiv die meisten Texte weg, bei denen ich AI-Nachgeschmack wittere.

Und trotzdem, es kommt immer wieder etwas nach. Das Ungeziefer findet immer wieder seinen Weg durch die kleinste Spalte in die Wohnung.

In diesem Text versuche ich deshalb gar nicht erst, dieses Problem zu lösen. Denn viel interessanter als die Frage, wie ich das jetzt finde, sind doch zwei andere:

  • Warum reden alle KIs so?

  • Und warum finde ich diesen Stil so schlimm?

Ich dachte lange, die Antwort auf die zweite Frage zu kennen: KI-Text, so scheint es, signalisiert fehlende Aufmerksamkeit und Anstrengung. Er ist wie ein Bewerber, der mit ungewaschenen Haaren und Jogginghose beim Bewerbungsgespräch erscheint: Wenn du dir keine Mühe gibst, warum sollen wir es dann tun? Wenn du dir nicht die Mühe machst, den Text zu schreiben, warum sollte ich mir dann die Mühe machen, ihn zu lesen?

Aber nein. Das macht es zu einfach.

Mühe ist nicht gleichbedeutend mit Qualität. Ein Musikstück wird nicht besser, nur weil darin ein enorm schwieriges Solo vorkommt. Einige meiner liebsten Kunstwerke sind so abstrakt, dass ihre Herstellung kaum Mühe benötigt.

Also… was ist es dann?

2 WAS IST GUTES STORYTELLING?

Jeder Witz der Welt funktioniert nach dem gleichen Prinzip:

Es wird eine Erwartung geweckt. Und dann auf überraschende Art und Weise gebrochen. Erwartung. Anspannung. Und Pointe.

Erwartung: Kommt ein Mann zum Arzt und sagt:

Anspannung: „Herr Doktor, wenn ich hier drücke, tut’s weh. Und wenn ich hier drücke, tut’s auch weh. Und hier auch. Und hier auch.”

Pointe: Sagt der Arzt: „Klarer Fall. Finger gebrochen.”

Wenn man diesen Witz zum ersten Mal hört, ist die Pointe zwar logisch, aber überraschend. Deshalb lachen wir. Und deshalb lachen wir deutlich weniger, wenn wir den Witz zum dreißigsten Mal hören und sie uns nicht mehr überrascht.

Besonders gute Witze spielen deshalb nicht nur mit Setup und Pointe, sondern nutzen die Tatsache, dass wir gerade einen Witz hören, selbst als Setup, und können so Erwartungen gleich doppelt brechen.

Erwartung: Sitzen zwei Wale in einer Bar.

Anspannung: Sagt der Eine: “Wuuuuuuuoooooaaaah… mmmmoooooOOOOooooh… iiiiEEEEeeeoooouuuh — brrrrmmmmmwoooommm… klick. klick. klick-klick. wuuh-EEEEEEEiiiiuuuh.”

Pointe: Sagt der Andere: “Alter, bist du besoffen.”

Comedian Norm Macdonald war vielleicht der beste Comedian überhaupt, wenn es um dieses Spiel mit Erwartung und Auflösung ging. Sein legendärer “Moth Joke” dauert mehrere Minuten und ist ein permanenter Tanz mit dem Zuhörer. Ein absolutes Meisterwerk und einer der wenigen Witze mit einem eigenen Wikipedia-Eintrag.

Die gleichen Prinzipien – Setup. Anspannung. Pointe. – finden sich auch im Horrorfilm.

Was passiert, wenn das Licht ausgeht? Was ist hinter der Hauptfigur im Spiegel? Was, wenn sie sich umdreht?

Genau wie bei den besten Witzen leben die besten Gruselmomente davon, dass wir nicht wissen, wann die Pointe kommt oder wie sie aussehen wird. Wenn der Horror gut konstruiert ist, dann reicht nur eine einzige gut gesetzte Pointe, um uns zu erwischen. (wie in diesem Kurzfilm von David F. Sandberg, der völlig ohne Budget zum viralen Hit wurde).

Die goldene Lektion ist, dass diese Regeln nicht nur Horror und Humor beschreiben – sondern jedes funktionierende Storytelling jemals.

Alle guten Geschichtenerzähler, von William Shakespeare bis Hazel Brugger, verstehen dieses Spiel intuitiv. Jeder Satz baut auf dem vorherigen auf. Alles ist Ursache und Wirkung. Alles ist Anspannung und Pointe.

Deshalb ist Mad Max: Fury Road auch der beste Actionfilm des 21. Jahrhunderts:

Und dieser 7-Sekunden-Clip aus einem der Taken-Filme ist nur visueller Lärm:

Mad Max: Fury Road ist spannend, weil immer etwas Neues und Wichtiges passiert, aber wir nie sicher sind, was es sein wird.

Taken ist ermüdend, weil Kamera und Schnitt zwar signalisieren, es würde viele wichtige Dinge passieren, das eigentliche Geschehen aber banal ist.

Dieses Prinzip gilt für Humor. Für Horror. Für Action. Und tolle Geschichtenerzähler, wie Tom Wambsgans in Succession, nutzen es auch in ganz normalen Gesprächen:

“Information, Greg. It’s like a bottle of fine wine. You store it, you hoard it, you save it for a special occasion. And then… you smash someone’s fucking face in with it.”

3 WAS IST AI-STORYTELLING?

Moderne Sprachmodelle haben all diese Prinzipien natürlich auch verinnerlicht. Sie wissen zwar nicht, dass sie das getan haben, aber ihre Trainingsdaten und Lernprozesse haben ihnen beigebracht: Guter Text besteht aus Anspannung und Pointe. Aus Erwartung und Überraschung.

Wo ist also das Problem?

Gehen wir nochmal zum KI-generierten LinkedIn-Post vom Anfang zurück. Ich habe Claude angewiesen, einen “engaging” LinkedIn-Post zu schreiben. Aber ich habe Claude keinerlei Inhalte gegeben, die dieses “Engagement” rechtfertigen würden. Ich habe Claude nicht gesagt, was mir Spannendes zu dem Thema eingefallen ist, welche überraschenden neuen Informationen ich gefunden habe oder welches häufige Missverständnis ich auflösen möchte.

Also macht Claude, was es immer macht: Es halluziniert. Es erzeugt einen Text in der Form eines guten Texts, aber ohne den Inhalt. Es nutzt Stilfiguren, die ein guter Text auch nutzen könnte, aber ohne, dass diese tatsächlich etwas ausdrücken. Es hat die beste Weinflasche der Welt, aber nichts zum Reinfüllen.

Nehmen wir diese Stelle aus dem Post:

Das ist kein Zufall. Das ist der Sound von ChatGPT auf Autopilot.

Die Formulierung klingt auf den ersten Blick wie ein interessanter Insight. Aber wenn man einen Moment über sie nachdenkt, platzt der Ballon.

Warum “Das ist kein Zufall”? Niemand hat behauptet oder gedacht, dass es Zufall wäre! Der Satz ist völlig nutzlos.

Aber Claude muss sich diesen Mini-Strohmann in den Text hineinschreiben, damit es ihm im Satz danach widersprechen kann. Es muss eine Erwartung konstruieren, damit es im nächsten Satz eine Pointe landen kann. Und das, obwohl diese Erwartung beim Leser gar nicht existiert.

Ein guter Text fühlt sich an wie eine Achterbahnfahrt. Es wirbelt einen hin und her, es gibt Loopings, Wendungen und es geht immer weiter nach vorne.

Ein schlechter KI-Text tut so, als sei er eine Achterbahnfahrt. Er bläst einem Wind ins Gesicht, rüttelt am Stuhl und gibt vor, man wäre in Bewegung – dabei kommt man gar nicht vom Fleck. Er ist das Text-Äquivalent des Taken-Videos.

Das ist das Problem mit KI-Texten. Immer wieder blasen sie Formulierungen mit Bedeutung auf, auch wenn da keine Bedeutung hingehört. Sie stellen Verbindungen her, wo keine sind. Sie verkaufen das Offensichtliche als Überraschung.

Was bleibt, sind Texte, die zwar Ursache und Wirkung vorgeben. Die so tun, als hätten sie das Spiel von Anspannung und Pointe verstanden. Aber ohne solide menschliche Aufsicht produzieren sie eigentlich das genaue Gegenteil.

Natürlich heißt das nicht, dass Sprachmodelle für die Textarbeit nutzlos sind. Sprachmodelle sind wahnsinnig hilfreich! Sie helfen beim Brainstorming und Ausformulieren, sie füllen Lücken und bringen auf Ideen, sie können – richtig gepromptet – sogar richtig gut schreiben.

Aber eben nicht ohne uns.

abonniere diesen newsletter für mehr!

Ich bin in nächster Zeit als Speaker bei u.a. folgenden Events:

Freu mich über Hallosagen vor Ort!

Portfolio

AI und Text / Sprachmodelle

AI und Arbeit / Agents

  • Europas KI-Lücke wird zum Produktivitätsproblem. linkedin.com

  • The Lost Aura of the Physician in the Age of Artificial Intelligence. (ähnlich anwendbar auf viele “Autoritäts”-Berufe) jamanetwork.com

  • What Claude Code Actually Chooses. amplifying.ai

  • KI hat es leichter gemacht, gefälschte Rückerstattungen geltend zu machen. Händler, die auf Fotobeweise als Standard setzen, haben ein massives Problem. ravelin.com

  • What went wrong with ChatGPT’s Instant Checkout. modernretail.co

  • Claude Code Unpacked. ccunpacked.dev

AI und Bild/Video/Audio

  • The No. 1 Song On U.S. iTunes—And Several Other Countries—Is AI Generated. forbes.com

  • What China’s 470 AI Dramas a Day Reveals About AI Entertainment at Industrial Scale. hellochinatech.com

  • Netflix strikes deal with Ben Affleck’s InterPositive AI company. npr.org

  • KI-Songs und Verschwörungstheorien: Bizarrer Internet-Hype um gestrandeten Buckelwal Timmy. rnd.de

AI und alles andere

  • Claude Mythos ist ein Weckruf für Europas KI-Sicherheitsarchitektur. the-decoder.de

  • GOP campaigns go all-in on AI, Dems not so much. axios.com

  • Mark Zuckerberg’s Bet on AI Sunglasses. nytimes.com

  • KI-Start-up friend.com: Vom Geschäft mit der Einsamkeit. taz.de

  • A Prominent PR Firm Is Running a Fake News Site That’s Plagiarizing Original Journalism at Incredible Scale. futurism.com

  • Wie eine deutsche Finanzzeitung euren Google-News-Feed mit AI Slop flutet und dafür GameStar missbraucht. gamestar.de

  • Klaus Programmieren™. klausprogrammieren.com

Content & Culture

Tech

Side Quests

✍️,

gregor

]]><![CDATA[Wie man ein KI-Haus baut]]>https://gregorschmalzried.blog/p/wie-man-ein-ki-haus-bauthttps://gregorschmalzried.blog/p/wie-man-ein-ki-haus-bautMon, 13 Apr 2026 06:22:20 GMTdas hier ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher berater, speaker und host von der ki-podcast (ARD)

Wie man ein KI-Haus baut

1 DAS WINCHESTER-HAUS

1886 zog Sarah Winchester, die Witwe eines reichen Waffenunternehmers, in ein bescheidenes Farmhaus – und begann sofort damit, es umzubauen.

Zunächst stellte sie zwei Architekten ein, doch diese wurden von ihr schnell wieder entlassen und Sarah übernahm die Planungen selbst. Sie skizzierte Entwürfe auf Servietten und ließ Zimmerleute neue Anbauten, Türme und Räume errichten. In den ersten sechs Monaten wuchs das Haus von acht auf 26 Zimmer an. Es entwickelte sich in alle Richtungen: nach oben, zur Seite, in die Tiefe.

Sarah folgte keinem Masterplan. Oft wurden Fenster gebaut, nur um kurz darauf wieder zugemauert zu werden. Treppen, die einst zu einem Obergeschoss führten, endeten plötzlich an der Decke. Türen öffneten sich in Wände. Manche Schränke waren nur einige Zentimeter tief, andere hatten die Größe einer ganzen Wohnung. Und vor allem… das Haus stand nie still. Immer änderte sich etwas. Nie war Sarah zufrieden. On. And on.

Die Bauarbeiten endeten erst im Jahr 1922, mit dem Tod von Sarah Winchester. Das “Winchester Mystery House” hält den Weltrekord für den längsten ununterbrochenen Hausbau – 38 Jahre.

Das “Winchester Mystery House”

Ein beliebtes Gerücht über Sarah Winchester ist, dass sie sich von Geistern der Opfer von Winchester-Gewehren verfolgt fühlte. Geister, die sie dazu zwangen, immer weiter zu bauen, so lange sie lebte. Das klingt erst einmal ganz interessant (auch wenn der auf dieser Story basierende Horrorfilm sehr langweilig ist), tut aber Sarah Winchester wohl unrecht. Sarah hatte vielleicht einfach ein sehr ausgeprägtes, verspieltes Interesse an Architektur, und konnte es sich leisten, das auszuleben.

Dazu passt, dass sich im Winchester-Haus einige echte Perlen verstecken: Sarah ließ eine knopfgesteuerte Gasbeleuchtung bauen – damals eine echte technologische Innovation. Das Haus hatte ein smartes Abwassersystem, das Wasser zu den Außenpflanzen leitete. Es gab eine Art frühes Intercom, um das Personal zu rufen. Und so weiter.

Es ist ganz gut, dass sich über das Winchester-Haus auch eine positive Geschichte erzählen lässt.

Denn aktuell habe ich immer öfter das Gefühl, in meiner eigenen Version dieses Hauses zu stecken.

2 DAS KI-HAUS

Anders als Sarah Winchester baue ich kein Haus (bei den Immobilienpreisen?), sondern ein AI-Arbeitssystem: Ein System, das Wissen, Daten und Prozesse meiner Arbeit verbindet und via AI zugänglich macht.

Und wie baue ich das? Indem ich non-stop Ideen für neue Anbauten (Workflows) auf Servietten (App-Notizen) kritzle, diese überstürzt einbauen (prompten) lasse, nur um sie kurz darauf wieder abzureißen und woanders aufzubauen (cut & paste).

Als Claude-Nutzer ist es besonders schlimm. In der Zeit, die ich eigentlich bräuchte, um jede neue Funktion zu verstehen und umzusetzen, werden gleich drei neue veröffentlicht: Plugins! Dispatch! Managed Agents! Und ich baue und baue. On. And on.

Ich war ziemlich beeindruckt, wie gut dieser Prompt geklappt hat, auch wenn ein paar Sachen fehlen (Zugang zu einzelnen Ordnern in meinem File System z.B. oder die Dispatch-Funktion von unterwegs). Aber ich wüsste auch nicht mehr, wo der Platz dafür wäre.

Meiner Erfahrung nach wirkt eine solche Arbeitsweise samt Grafik auf viele erstmal abschreckend. Als würde die Technologie einem über den Kopf wachsen wie ein unendliches Spukhaus. So verstärken sich bereits existierende Sorgen: Ich habe mich sehr gefreut, dass das Süddeutsche Zeitung Magazin vor zwei Wochen ein Interview mit mir geführt hat und das ausgerechnet zum Thema “AI FOMO” – das Gefühl, abgehängt zu sein, nicht mehr mitzukommen.

Deswegen hier mein Hinweis: Es ist alles halb so wild. Im Gegenteil, es ist sogar ziemlich cool, so zu arbeiten und sich mit fortgeschritteneren AI-Systemen zu beschäftigen.

Und das aus zwei Gründen.

Der erste Grund: Es macht wirklich Spaß. Sarah Winchester hatte wohl Freude daran, ihr Haus zu bauen, und ich habe Freude an meinem. Wenn man einmal in den Groove kommt, die ersten Fenster eingesetzt sind, hat man sofort Ideen für die nächsten Schritte. Man will gar nicht aufhören, zu bauen. Alles noch besser zu machen.

Der zweite Grund: Man muss nicht alles auf einmal verstehen.

Ich kann keinen allgemeingültigen Bauplan für ein AI-Haus liefern. Ich glaube, niemand kann das. Jede Person, jedes Projekt, jedes Unternehmen ist anders und benötigt andere Anbauten und Ideen. Die Kritzeleien auf meinen Servietten bringen nur mir etwas, und sonst niemandem.

Aber trotzdem gibt es gewisse gemeinsame Nenner. Jedes Haus, das nicht einstürzt, wird aus den gleichen Materialien und auf den gleichen Prinzipien gebaut.

Die Materialien und Prinzipien, die in der Regel funktionieren, wenn man sein eigenes AI-System bauen will, haben bis vor Kurzem noch nicht existiert – oder zumindest nicht sehr gut funktioniert.

Deswegen ändert sich auch gerade alles.

Also… Wie baut man ein AI-Haus?

CONNECTIONS

Wenn es auf deinem Computer stattfindet, dann kann man es miteinander verbinden. So einfach ist das.

Bis vor Kurzem stand hier die Qualität der großen Modelle im Weg. Theoretisch hätte man schon GPT-4o an ein Skript schalten können, um einen Desktopcomputer zu bedienen – es hätte sich nur ständig verklickt und versehentlich die Festplatte gelöscht.

Seit einigen Monaten sind die Modelle aber stark genug, damit sie auch außerhalb des Chatfensters gute Ergebnisse erzielen können.

Ich habe meinen Chatbot u.a. an meine Notion-Datenbanken, meinen Kalender und einige Ordner auf meinem Macbook angeschlossen. Und jetzt kann er in diesen hantieren. Das funktioniert ziemlich gut.

Hier ist ein realer Chat, den ich vor einigen Monaten genau so hatte.

Streng genommen befinden wir uns hier immer noch im Chatfenster, aber dank seiner Verbindung in meinen Kalender kann Claude überprüfen, um welchen Flug es geht, und diese Informationen weiter in einer Websuche verarbeiten.

Das ist noch eine relativ einfache Variante. Die Verkettungen können natürlich um einiges komplexer werden.

Nur weil man Connections baut, muss man übrigens nicht gleich alles automatisieren. Ein wirkliches “agentisches” System, das auch quasi-selbständig agieren kann, habe ich persönlich nicht gebaut. Für einige enge Use Cases mag eine Komplett-Automatisierung manchmal sinnvoll sein. Aber beim eigenen Arbeitssystem ist Vorsicht auch nicht verkehrt. Das eigene AI-Haus ist vermutlich nicht allzu logisch aufgebaut: Jede Treppe ins Nichts ist eine Treppe, die der Agent herunterstürzen kann.

Natürlich kann man heute schon einiges komplett-automatisieren, wenn man wirklich will. Aber der Aufwand ist oft erheblich, und der Ertrag nicht immer klar.

SKILLS

“Skills” sind längere Prompts und Gebrauchsanleitungen, die man dauerhaft im System hinterlegen kann. Und ich weiß nicht, wie ich je ohne gearbeitet habe. Skills sind wahrscheinlich die beste Erfindung für das Chatbot-Interface seit ChatGPT, sie machen das Arbeiten immens leichter.

Ich war persönlich nie ein Fan des “Rollen”-Chatbots (“hier ist Bubu, mein Buchhalter-Bot”), habe aber immer ein bisschen die Notwendigkeit dahinter verstanden. Jetzt, wo es Skills gibt, ist diese Zeit zum Glück vorbei.

Mein “Newsletter Export Skill” in Aktion, der meine über Wochen gesammelten Lieblingslinks in einer strukturierten Form exportiert, sodass sie ans Ende dieses Newsletters passen.

Es ist irgendwie absurd, dass es die Skills-Funktion erst seit ein paar Monaten gibt (und in ChatGPT immer noch nicht). Denn man hätte sie theoretisch schon 2023 einbauen können. Es gab keinerlei technische Hürden.

Ich muss an eine andere Erfindung denken: Seit etwa 5000 Jahren gibt es das Rad. Und seit dem 19. Jahrhundert gibt es den Reisekoffer. Theoretisch hätte man seitdem problemlos beides zu einer Konstruktion verbinden können, trotzdem dauerte es bis 1987 (!), bis Pilot Robert Plath sich erbarmte und uns seine Erfindung des Rollkoffers schenkte.

Skills sind der Rollkoffer des AI-Zeitalters.

GESUNDES WOHNEN

Eine wichtige Fähigkeit – an der ich selbst noch arbeiten muss – ist, zu wissen, wann man im Haus bleibt, und wann man es verlässt:

Muss ich wirklich jeden Text automatisiert schreiben? Oder will ich nicht auch manchmal einen bewusst händisch schreiben?

Ich habe vieles von meiner eigenen Arbeit in Elisabeth L’Oranges sehr guter Podcastfolge zu “KI als Betriebssystem” mit Felix Schlenther wiedererkannt. Meine einzige Schwierigkeit damit ist der Titel. Für Felix (der mehr mit Automatisierungen arbeitet als ich) ist KI ein “Betriebssystem”.

Aber ein Betriebssystem ist ein Basislayer. Ohne das Betriebssystem kann ich meine Maschine nicht starten – es läuft überhaupt nichts.

Für mich ist es sehr wichtig, auch einen Bereich außerhalb dieses Betriebssystems zu haben, der ebenfalls funktioniert. Ich möchte mein KI-Haus auch verlassen können. Denn egal wie wohl ich mich zuhause fühle, wenn Lockdown ist, fällt auch mir die Decke auf den Kopf.

Es geht um Balance. Das Haus verlassen, wenn es sinnvoll ist. Aber nicht vergessen, dass es weiter meine Aufmerksamkeit benötigt.

Ein KI-Haus braucht Pflege. Man muss es permanent mitdenken, weiterentwickeln, betreuen. Manchmal Dinge wieder ausmisten. Manchmal Dinge von draußen nach drinnen bringen.

Und vor allem muss man akzeptieren, dass es nie fertig wird.

Seit drei Jahren träume ich von dem Tag, an dem ich aufwache, ein perfektes AI-System vor mir habe und es läuft einfach alles genau so durch, wie ich es mir wünsche. Dieser Tag wird nie kommen.

Das KI-Haus, in dem ein immer größerer Teil meiner Arbeit wohnt, ist eine wunderbare Sache. Es spart mir Zeit und Energie, es ermöglicht neue Chancen, es macht Freude und es inspiriert.

Aber wie Sarah Winchester zahle ich dafür eine ungewöhnliche Miete. Die Arbeit geht mir nie aus.

abonniere diesen newsletter für mehr!

Ich bin in nächster Zeit als Speaker bei u.a. folgenden Events:

Freu mich über Hallosagen vor Ort!

Portfolio

  • Der KI-Podcast auf Spotify! Eine besondere Empfehlung: Die aktuelle Folge “Was ist das wahre KI-Geschäftsmodell?” von Marie und mir. open.spotify.com

  • Der KI-Podcast auf ARD Sounds! ardaudiothek.de

  • Ich war zu Gast im “On the Way to New Work” Podcast. newwork.podigee.io

  • Ich war zu Gast im “Sach Mal” Podcast von Tobias Milbrandt. youtube.com

AI und Text / Sprachmodelle

AI und Arbeit / Agents

  • Reality Check: Warum wir OpenClaw ernst nehmen sollten – und was das mit „digitalen Mitarbeitenden” zu tun hat. medien-bayern.de

  • ‘A feedback loop with no brake’: how an AI doomsday report shook US markets. theguardian.com

  • Why ATMs didn’t kill bank teller jobs, but the iPhone did. davidoks.blog

  • Anyone feeling Claude Blue aka AI Depression? reddit.com

  • Hustlers are cashing in on China’s OpenClaw AI craze. technologyreview.com

AI und Bild/Video/Audio

AI und alles andere

  • Autonome Trucks. act-news.com

  • LLMs can unmask pseudonymous users at scale with surprising accuracy .arstechnica.com

  • Lawmakers are using AI to write laws. What could go wrong? transformernews.ai

  • Weltmodell statt LLM: Start-up von Yann LeCun erhält 890 Millionen Euro. (in Europa!) heise.de

Content & Culture

  • The fix for looksmaxxing? A wholesome, affirming forum for bald people. yahoo.com

  • Antimemetics. benjamincongdon.me

  • Gamblers trying to win a bet on Polymarket are vowing to kill me if I don’t rewrite an Iran missile story. timesofisrael.com

  • Weiterführung der Story: Prediction Markets Promised Better Information. Instead They’re Creating Powerful Incentives to Corrupt Information. techdirt.com

  • The Profession That Does Not Exist. (Writing) thebaffler.com

  • You Are Not The One - Chinese Dating Dystopia. terminaldrift.substack.com

  • The people who can no longer read. eleanot.es

  • More than 50% of Gen Z-ers say anxiety about being cringe has prevented them from opening up emotionally. okayzoomer.substack.com

Tech

  • The Ancient, Strange Coding Language that 95% of ATMs Use. youtube.com

  • A Phone-Free Childhood? One Irish Village Is Doing It. nytimes.com

  • The Sphere’s $4B Business, Explained. readtrung.com

Side Quests

🏠,

gregor

]]><![CDATA[Die groß Getrennten]]>https://gregorschmalzried.blog/p/die-gro-getrenntenhttps://gregorschmalzried.blog/p/die-gro-getrenntenWed, 25 Feb 2026 06:53:03 GMTdas hier ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher berater, speaker und host von der ki-podcast (ARD)

Die groß Getrennten

1 SEEDANCE UND HOLLYWOOD

Ich liebe Geschichten, die aus verschiedenen Blickwinkeln erzählt werden. Zwei – oder mehr – Figuren, die scheinbar völlig unabhängige Abenteuer leben, nur um im entscheidenden Moment aufeinander zu treffen. Manchmal geht das schneller (wie in Brandon Sandersons Mistborn), manchmal warten wir das gesamte Buch auf die Katharsis der Begegnung (wie in Haruki Murakamis 1Q84).

Seit einigen Monaten verfolgen wir in der realen Welt zwei solche Storys. Beide Storys geschehen live vor unseren Augen, und werden auch gerne in der Presse erzählt – nur eben komplett separat voneinander, fast zwanghaft. Und alles, worauf ich warte, ist ihr Aufeinandertreffen.

Die erste Story ist die globale Krise der Film- und TV-Branche.

Es gehen immer weniger Menschen ins Kino, Streaming-Dienste sind für die meisten Anbieter immer noch ein Verlustgeschäft und eine ganze Generation wächst mit Kurzform-Video-Hirnfritteusen wie TikTok auf. Sogar Marvel-Filme, lange Jahre die eine stabile Konstante des Hollywood-Geschäfts, sind mittlerweile während ihrer Zeit im Kino oft nicht mehr profitabel.

Die Krise wird dadurch verschärft, dass die Film- und Fernsehproduktion immer teurer wird. Das ist auch in Deutschland ein Thema (92% der Produzenten nennen steigende Herstellungskosten als Herausforderung), aber nirgendwo ist es so absurd wie in Hollywood. Der neue Superman-Film Man of Tomorrow wird 330 Millionen Dollar kosten. Das Budget von Avatar 3 lag bei über 400 Millionen. Avatar-Regisseur James Cameron sprach in Interviews zuletzt sehr offen über diesen Zustand: “We have to do well and we need to figure out how to make Avatar movies more inexpensively in order to continue.”

Auch TV-Produktionen – traditionell ein deutlich günstigeres Business – geraten außer Kontrolle: Die finale Staffel Stranger Things kostete rund eine halbe Milliarde Dollar. Falls du dich schon einmal gewundert hast, warum wir heute oft über zwei Jahre zwischen Serienstaffeln warten müssen, während es früher völlig normal war, eine Staffel pro Jahr zu produzieren (oft mit deutlich mehr Folgen)… Hier liegt der Grund. Eine moderne Hochglanz-Produktion wie Severance oder House of the Dragon dauert ewig, kostet ein Vermögen und ist in vielen Fällen trotzdem ein Verlustgeschäft. Kein Wunder, dass ganz Hollywood zum Verkauf steht.

Aber das alles ist nur die erste Story.

Die zweite Story sind die gigantischen Fortschritte von AI-Videomodellen.

Es gibt jede Menge berechtigte Vorbehalte gegen diese Technologie (allen voran die dreiste Missachtung des Urheberrechts).

Und man kann auf Social Media ziemlich leicht Likes abgrasen, indem man diese Clips auf Fehler durchsucht:

Aber man darf nicht zwei Dinge miteinander verwechseln:

Finde ich diese Technologie moralisch schlecht? Oder ist die Technologie technisch schlecht?

Viele dieser Clips sehen heute schon aus wie Effekte in großen Hollywood-Filmen. Und das, obwohl hinter ihnen keine Studios mit großer Erfahrung stehen – sondern Einzelpersonen, oft ohne technischen Hintergrund. Ein erfahrenes Team mit einem entsprechenden Budget könnte schon sehr bald die Effekte für einen Film zusammenbauen, die nicht von den klassischen Effekten eines Marvel-Films zu unterscheiden wären.

Moral allein wird das nicht verhindern.

Die Krise in Hollywood und die Fortschritte bei AI sind zwei Hände, die ein Gummiband in zwei unterschiedliche Richtungen ziehen.

Man kann diese Technologie ablehnen, so viel man möchte. Aber irgendwann wird die Spannung zu groß. Irgendwann wird es knallen.

2 GARY UND OPUS

Es geht in dieser Geschichte natürlich nicht nur um Hollywood. Sondern um die ganze Welt.

Es gibt – gerade unter Menschen, die “very online” sind – viele Widerstände gegen Generative AI.

Das ist verständlich, da
1. das bei jeder neuen Technologie schon so war, die die Menschheit je erfunden hat
und
2. es durchaus berechtigte Sorgen rund um die Macht von Big Tech, den Verlust von Handlungsfähigkeit durch den Einzelnen und mögliche Jobverdrängungen gibt.

Aber die “Gegner” der modernen AI betrügen sich dabei immer wieder selbst, indem sie real existierende Technologie leugnen oder herunterspielen.

Case in point: Diese Episode vor zwei Wochen.

Dieser Fehler von ChatGPT ist ziemlich lustig und hat über die letzten zwei Wochen im gesamten Internet hunderttausende Likes eingesammelt.

Man bräuchte schon eine völlig neue Technologie, um AI ernst nehmen zu können, so der Tenor.

Nun… diese Technologie gibt es längst, und zwar seit Herbst 2024. Sie nennt sich “Reasoning-Modell” und keines davon macht diesen Fehler:

Für komplexe Aufgaben, Datenanalyse, agentisches Arbeiten oder (wie hier) Suggestivfragen sind Reasoning-Modelle schon seit eineinhalb Jahren völlig alltäglich – aber es gibt einen großen Teil der Bevölkerung, der sie nie ausprobiert hat.

Reasoning-Modelle sind, wenn man ihnen den richtigen Kontext gibt, der größte Hebel für die menschliche Produktivität, den ich je erlebt habe. Sie ermöglichen Agents. Sie schaffen die Analyse sehr komplizierter Sachverhalte und Texte. Sie verstehen ganze Bücher in Sekunden. Und auch wenn sie nicht fehlerfrei arbeiten (können), sind sie für mich robust genug, um ihnen unter der richtigen Anleitung zu vertrauen.

Trotzdem hören wir immer noch jeden Tag, dass Generative AI eigentlich Quatsch sei. Erst diesen Monat veröffentlichte die Süddeutsche Zeitung ein längeres Interview mit dem Psychologen und AI-Skeptiker Gary Marcus. Schon das Opening (noch nicht Teil des Interviews selbst) stellt Sprachmodelle als quasi-bereits-gescheiterte Technologie dar:

Schon vor mehr als einem Jahrzehnt hat er zum ersten Mal dargelegt, dass die Large Language Models (LLM), die heute jeder geläufigen KI zugrunde liegen, niemals völlig zuverlässig sein werden. […] Für seine Kritik musste sich Marcus viel Spott gefallen lassen, doch das ändert sich gerade spürbar, auch bekannte Köpfe der Branche äußern sich inzwischen deutlich skeptischer über die Potenziale der Technologie. Im Gespräch merkt man Marcus die Genugtuung trotzdem nur ein bisschen an.

Wer dieses Interview und seine Einleitung unkritisch liest, könnte leicht zu dem Schluss kommen, dass im Silicon Valley gerade ein Umdenken stattfindet und wir uns mittlerweile in einer AI-Dürre befinden.

In Wahrheit läuft das Silicon Valley so heiß wie noch nie seit Beginn des AI-Booms. Die neuesten Sprachmodelle – Opus 4.6, Gemini 3 Deep Think, GPT-5.2 Pro – sind noch einmal deutlich besser als ihre Vorgänger. Sogar Benchmark-Tests, die für einige Jahre in der Zukunft ausgelegt waren, wurden mittlerweile geknackt.

Gary Marcus prognostiziert schon seit mindestens 2022, dass die AI-Modelle schon bald nicht mehr besser werden, sondern ein hartes Limit erreichen: “Deep Learning is hitting a wall”. Nun ja, vielleicht wird das irgendwann einmal stimmen, aber heute, vier Jahre später, werden die Modelle nicht nur immer noch besser, sie werden auch noch immer schneller immer besser. Sein alter Aphorismus wird mittlerweile satirisch zitiert – die neuesten Modelle performen in sämtlichen Benchmarks so gut, dass aus einem allmählichen Anstieg mittlerweile eine fast senkrechte Kerze geworden ist:

Natürlich muss man trotz all dem skeptisch bleiben.

Auch die besten Modelle werden nicht alle Probleme der Menschheit auf einmal lösen (siehe “Perfekte Information”). Das Geschäftsmodell von OpenAI & Co steht auf wackligen Beinen. Und wahrscheinlich brauchen wir wirklich noch einige Durchbrüche, um zu einer Universellen KI (AGI) zu kommen. Aber die Technologie ist jetzt schon enorm wertvoll. Ihre Fortschritte sind real – und werden immer schneller. Sie haben jetzt schon zahlreiche Kritiker-Prognosen (u.a. natürlich von Marcus selbst) übertroffen.

Gerade in Europa verfangen sich Marcus’ Kritiken aber nur zu gerne. Im Rennen um die besten Sprachmodelle liegen wir abgeschlagen weit hinten, also wäre es doch klasse, wenn dieses Rennen sich als Blödsinn herausstellt und alle anderen nur einem Phantom hinterhergejagt sind.

Nur ist es leider überlebenswichtig, die Realität wahrzunehmen, wie sie ist. Und nicht, wie wir sie gerne hätten.

3 DIE GROSS GETRENNTEN

Vor knapp einem Jahr habe ich in diesem Newsletter ein Phänomen benannt, das mich damals sehr beschäftigte: Es entsteht eine Kluft zwischen denen, die Zeit in AI-Kenntnisse und -Nutzung investieren, und denen, die das nicht tun. AI sollte einmal uns alle auf ein Level holen. Stattdessen treibt sie uns immer weiter auseinander. Der “große Trenner”.

Seit ich den Text geschrieben habe, hat sich dieses Problem stark verschärft. Es ist nicht einmal so, dass AI-Nicht-Nutzer in der Entwicklung zurückhängen. Es ist so, dass sie oft gar nicht mehr verstehen, worüber die AI-Nutzer überhaupt sprechen.

Die größte Herausforderung bei meinen Vorträgen und Workshops ist es mittlerweile nicht mehr, inhaltlich am Ball zu bleiben. Sondern ein Publikum zu bedienen, das kaum noch eine gemeinsame Wissensbasis hat. Immer wieder besteht es einerseits aus Leuten, die noch nie ChatGPT benutzt haben. Und andererseits aus Leuten, die dasitzen und gleichzeitig auf ihrem Rechner im Büro einen Ausschreibungs-Analyse-Agenten laufen haben, der ihnen regelmäßig Benachrichtigungen aufs Telefon schickt.

Und auch hier gilt: Je stärker die Spannung, die das Gummiband in zwei Richtungen zieht, desto schmerzhafter der Schlag, wenn die Realität einsetzt.

Für die meisten von uns ist AI weniger ein technisches Thema. Sondern ein wirtschaftliches, ein organisatorisches, ein psychologisches. Um das meiste aus ihr herauszuholen, brauchen wir alle an Bord.

Aber alle an Bord bekommen wir nur, wenn wir uns einig sind, dass das Schiff existiert.

abonniere diesen newsletter für mehr!

Außerdem

Portfolio

AI und Text / Sprachmodelle

AI und Arbeit / Agents

  • The hottest job in tech: Writing words. businessinsider.com

  • The rise of the Legal Quant. What happens when law meets systems thinking. tsojamie.substack.com

  • Journalism schools are teaching fear of the future: Letter from the Editor. (hochinteressantes Phänomen, passt zum heutigen Thema, das ich in Deutschland zum Glück bislang nicht so wahrgenommen habe). cleveland.com

AI und alles andere

  • Who Captures the Value When AI Inference Becomes Cheap? lesbarclays.substack.com

  • The left is missing out on AI. As a movement, it has largely refused to engage seriously with AI, ceding debate about a threat and opportunity to the right. transformernews.ai

Content & Culture

  • Why young Danes are still having sex. spectator.com

  • Trapped in the hell of social comparison. noahpinion.blog

  • Xikipedia. Wikipedia zum Scrollen. Macht Spaß! xikipedia.org

  • Nearly a third of kids can’t use books when starting school - and try to swipe them like phones. news.sky.com

Tech

  • There’s a ridiculous amount of tech in a disposable vape. blog.jgc.org

  • Europe’s Trump Cards. Why the continent has more leverage than it thinks. empn.eu

Work

  • The Dilbert Afterlife. astralcodexten.com

  • another German investment, another 6 hours of a notary reading every single word of all the documents out loud. x.com

Side Quests

  • The Komets & Fritz Fisherman - Dead End Street. youtu.be

🚢,

gregor

]]><![CDATA[Fast Software]]>https://gregorschmalzried.blog/p/fast-softwarehttps://gregorschmalzried.blog/p/fast-softwareWed, 18 Feb 2026 07:24:20 GMTdas hier ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher berater, speaker und host von der ki-podcast (ARD)

Fast Software

1 LASS DEN COMPUTER FÜR DICH ARBEITEN

Hier ist eine späte Prognose für das Jahr 2026:

2026 wird das Jahr, in dem ich eine neue Art der FOMO (“Fear of missing out”) entwickle. Und zwar die Sorge, dass meine AI nicht genug für mich arbeitet, während ich schlafe.

Ich weiß noch nicht so ganz, ob ich mich darauf freue. Aber das schiere Tempo der neuen Modelle und Tools scheint fast kein anderes Szenario zuzulassen.

Noch vor einem Monat war Claude Code das Maß aller Dinge – auch in diesem Newsletter. Ich nutze Claude Code immer noch sehr gerne – scheine damit aber schon fast zum alten Eisen zu gehören, weil ich nur ein lokales Orchestrierungsprogramm für ein Sprachmodell und angeschlossene Services laufen lasse und kein 24/7-aktives digitales Superbrain mit Hummer-Motiv, das mir über Telegram Nachrichten schreibt (siehe den Hype um “OpenClaw”).

Ich glaube nicht, dass wir alle in Zukunft “OpenClaw” benutzen werden, oder sollten. Aber man sollte verstehen, dass Sprachmodell-basierte AI-Tools gerade zunehmend über die Form des Chatbots hinauswachsen.

Das kommt streng genommen nicht unerwartet – schon seit dem Start von ChatGPT munkelt man darüber, welche Form diese Technologie in Zukunft annehmen kann. Aber der Shift, der jetzt passiert, ist kein Ersatz für das Chatfenster (das tatsächlich so ziemlich die beste Form für AI im Moment darstellt), sondern eine Erweiterung davon.

Das bisherige Chatbot-Modell sieht in etwa so aus:

Und jetzt geht das ganze weiter.

Erst letzte Woche hatte ich die Aufgabe, aus vielen kleinen Dateien eine große Datei zu machen und diese große Datei in meine Notion-Datenbank hochzuladen. Früher hätte ich diesen Prozess Schritt für Schritt auseinandergenommen, mir Hilfe ergooglet, vielleicht eine leicht schurkige Software heruntergeladen. Heute habe ich einfach Claude Code erklärt, was ich machen will. Claude Code lud sich einige Skripte aus dem Internet herunter, fuhrwerkte in meinen Dateien herum, griff auf meine Notion-Datenbank zu, schob Sachen hin und her.

Am Ende war alles exakt da, wo es hingehörte. Die Aufgabe wurde perfekt befolgt.

Und ich hatte kaum eine Ahnung, wie die AI das gemacht hatte.

Willkommen in der Zukunft:

Diese neue Welt ist einerseits super: ich kann mehr und bessere Ergebnisse erzielen als früher!

Aber sie ist auch gefährlicher (Sicherheitsrisiken!) und unberechenbarer. Ich bin in meinen eigenen Claude Code-Projekten immer ziemlich vorsichtig. Aber die Entkopplung des Arbeitsprozesses vom AI-Prozess wird unweigerlich dazu führen, dass jede Menge Dinge schiefgehen.

Wenn man genug investiert, sich Gedanken über Daten und Sicherheit macht, den Agent nicht alles machen lässt und vielleicht nicht jeden Hype mitmacht… dann lohnt sich das allerdings. Und wenn man das Gefühl bekommt, AI könne allmählich alles, dann sieht man das Limit zunehmend bei sich selbst. Bald schon werde ich das Gefühl bekommen, ich sei das Problem, wenn etwas nicht klappt. Ich müsse mehr Zeit in die AI investieren, damit die AI mehr Zeit in mich investieren kann.

“Lass deinen Computer für dich arbeiten” wird ein neues Coaching-Mantra werden wie “Lass dein Geld für dich arbeiten”.

2 FAST SOFTWARE

Dieses Phänomen - agentische Software, mächtige AI-Workflows - ist natürlich auch dafür verantwortlich, dass vor einigen Wochen die Börsenkurse vieler Software-Unternehmen eingebrochen sind.

Anthropic, das Unternehmen hinter Claude Code, veröffentlichte “Plugins”: eine neue Möglichkeit, einer AI Infos über Workflows geben, sodass diese in bestimmten Rollen nicht jedes Mal von null anfangen müssen. Obwohl es sich bei diesen Plugins eigentlich nur um ein paar Textdateien mit Prompts und Anweisungen handelt, sahen einige Beobachter darin eine ernsthafte Bedrohung für die Geschäftsmodelle vieler Software-Unternehmen.

Die Idee ist: Wenn “prompt” plus “sprachmodell” plus “agentisches zeug das kein mensch versteht” das gleiche Ergebnis liefert wie eine spezialisierte Software… wozu brauche ich diese Software dann noch? Werden Unternehmen weniger Geld für teure Software as a Service-Lizenzen ausgeben und sich diese Software einfach selbst bauen?

Theoretisch könnten sie das. Software as a Service-Modelle haben verflixt gute Margen – Unternehmen auf der ganzen Welt würden sich über die Gelegenheit freuen, eine Menge dieser teuren Lizenzen loszuwerden.

AI bietet uns die Möglichkeit, spezifische Probleme auch spezifisch anzugehen. Wenn ich nur ein kleines CRM brauche, dann kann ich mir mit AI ein kleines CRM bauen und das später nach Belieben erweitern – ohne von einem Software-Anbieter in einen jahrelangen Vertrag gezwungen zu werden, in dem mir ständig neue Produkte untergeschoben werden, die ich gar nicht will.

Und bevor uns AI die Arbeit abnimmt, nimmt sie uns die Ausreden ab. Wenn alles, was im Weg stand, der Wille war, dann ist dieses Hindernis jetzt aus dem Weg geräumt: AI ermöglicht uns, mit viel weniger Aufwand viel mehr Code zu produzieren als früher – und damit auch mehr Software.

Diese Software ist meist nicht so hochwertig wie eine, die von einem darauf spezialisierten Unternehmen stammt. Doch sie ist personalisierbarer, einfacher verfügbar, und vor allem schneller.

So wie Fast Fashion unsere Welt verändert hat, wird auch Fast Software unsere Welt verändern. Klar kann ich zum Schneider gehen und mich professionell einkleiden lassen – ist in Sachen Qualität vermutlich die beste Entscheidung. Aber wie viele Maßanzüge sind wirklich in der Fußgängerzone unterwegs?

Diese Entwicklung wird nicht über Nacht zu Ende geführt sein. Eine der größten Stärken etablierter Software-Anbieter ist gar nicht die Qualität ihrer Software, sondern schlicht die Macht der Gewohnheit: Wer einmal gelernt hat, Excel, SAP oder ein Bloomberg Terminal zu bedienen, der hängt stärker an dieser Software als an seinem Leben: Wozu habe ich denn jahrelang all diese Tastenkombinationen verinnerlicht, nur um sie jetzt durch einen Chatbot zu ersetzen?

Aber Gewohnheiten verändern sich. Neue Generationen kommen nach, alte verlieren an Gewicht. Die Welt wird neu.

Und jeder noch so etablierte Software-Anbieter wird früher oder später mit der Frage konfrontiert: Was haben wir, was sich nicht nachbauen lässt?

In einem schlauen LinkedIn-Post vergleicht Marc-André Filz diese Entwicklung mit der Auflösung der “Deutschland AG” – einem losen inoffiziellen Zusammenschluss vieler großer deutscher Unternehmen, die bis in die 2000er-Jahre Anteile aneinander hielten und gegenseitig ihre Aufsichtsräte bevölkerten. Jahrzehntelang funktionierte dieses System prächtig: Starke vernetzte Unternehmen, deren Stärke zunehmend daher rührte, dass sie vernetzt waren. Bis das Ganze endete.

Als das System der deutschen Überkreuzbeteiligungen und Aufsichtsratsverflechtungen (die sogenannte Deutschland AG) Anfang der 2000er zerfiel, traf es jene Unternehmen am härtesten, die keine eigene Wertschöpfung kontrollierten, sondern von der Verflechtung selbst lebten.

Heute wiederholt sich dieses Muster. Portale, Marktplätze, Standardsoftware: Sie aggregieren, vermitteln, vereinfachen. Aber sie besitzen weder das Produkt noch die Kundenbeziehung noch die Daten, die ein KI-Agent nicht selbst beschaffen könnte. Wer auf dieser Schicht operiert, ist substituierbar.

Wie Filz korrekt anmerkt, betrifft diese Frage nicht nur Software-Unternehmen, sondern eigentlich alle, und sogar Einzelpersonen.

Eine gute AI-Strategie besteht deshalb nicht nur daraus, AI einzusetzen.

Sie besteht daraus, zu verstehen, wie AI die Welt verändert – und welche Rolle man in dieser Welt spielt. Was in dieser Welt gebraucht wird. Was trägst du bei?

Es sind ausgerechnet die scheinbar gefährdeten Software-Unternehmen, die uns hier einen Hinweis geben. Denn die sind aktuell immer noch gefragt – und das ausgerechnet bei den Unternehmen, die sie angeblich abschaffen wollen: OpenAI nutzt intern Slack. Anthropic nutzt Salesforce.

Wenn man sich jede Software einfach vibe-coden kann… Warum verwenden die wichtigsten AI-Startups unserer Zeit dann die gleichen langweiligen Lösungen wie alle anderen auch?

Die Antwort ist, dass diese Software-Anbieter nicht einfach Computer-Code verkaufen. Sondern ein Ökosystem. Größe. Sicherheit. Und vor allem Erfahrung.

Davon können wir alle lernen!

Als meine Frau und ich vor einigen Jahren heirateten, hätten wir viel Geld sparen können, wenn wir einfach alles selbst gemacht hätten: Nur das nackte Gebäude buchen, und Catering, Deko, Fotobox, Personal selbst organisieren.

Wir taten nichts davon, und zahlten zähneknirschend für das ganze Paket.

Das Ergebnis: Am Tag der Hochzeit waren alle bereits eingespielt. Es gab kein Catering, das sich mit dem Veranstalter absprechen musste. Keine Deko, die zum falschen Zeitpunkt eintraf. Irgendwann gegen 23 Uhr ging die Fotobox kaputt und wurde so schnell durch eine neue ersetzt, dass ich selbst das gar nicht mitbekam. Es war ohne jeden Zweifel der richtige Deal.

Wir hatten nicht einfach für Catering, Deko, Fotobox und Personal bezahlt. Wir hatten dafür bezahlt, dass das Team hinter dem Tag jedes mögliche Problem schon einmal erlebt hatte. Wir hatten bezahlt für jahrelange Erfahrung, für eingespielte Abläufe, für Antworten auf alle Fragen, die uns gar nicht eingefallen wären.

Auf die Frage “Was trägst du bei?” hatte das ganze Team eine perfekte Antwort.

Nicht jedem von uns fällt diese Antwort so leicht.

Aber auch wenn sie uns beschäftigt, ist die Frage wohl eine produktivere Art der FOMO als die, mit der ich diesen Text eröffnet habe.

Später Vorsatz für 2026: Weniger daran denken, was die AI tut, wenn ich schlafe. Und mehr daran, was ich tue, wenn ich wach bin.

abonniere diesen newsletter für mehr!

Außerdem

  • DER KI-PODCAST hat die letzten wilden KI-Wochen (finde ich) wieder recht gut ge-covered. ardaudiothek.de spotify.com

  • Wolfgang Kerler vom fantastischen Tech-Portal 1E9 hat mit mir über mein Buch gesprochen – danke für die Einladung! 1e9.community

  • Die Berliner Morgenpost hat mit mir über Moltbook gesprochen. morgenpost.de

  • Mein kurzer Ausblick zur Zukunft des Journalismus als einer von 75 Beiträgen zum 75. Jubiläum des Fachmagazins. journalist.de

AI und Text / Sprachmodelle

AI und Arbeit

AI und alles andere

  • The Data on Self-Driving Cars Is Clear. We Have to Change Course. nytimes.com

  • Wieso ‘OpenSource’ Modelle uns nicht souverän machen. agenticage.dev

  • Das heimische KI-”Genie” Peter Steinberger heuert bei OpenAI an. derstandard.de

Content & Culture

  • I watched a man film his daughter’s first steps and he watched it through the screen. x.com

  • Isometric NYC. cannoneyed.com

  • The state of the Internet in a nutshell. x.com

Tech

  • China: Lebenszeichen-App “Bist du tot?” wird zum Chart-Hit. t-online.de

  • Perfectly Replicating Coca Cola (It Took Me A Year). youtu.be

  • Celstomp (Animationstool im Browser, macht Spaß!) ginyo.space

Side Quests

🦞,

gregor

]]><![CDATA[Claude Code und das lange Jahr der Agenten]]>https://gregorschmalzried.blog/p/claude-code-und-das-lange-jahr-derhttps://gregorschmalzried.blog/p/claude-code-und-das-lange-jahr-derMon, 12 Jan 2026 12:18:52 GMTdas hier ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher berater, speaker und host von der ki-podcast (ARD)

Claude Code und das lange Jahr der Agenten

1 DAS JAHR DER AGENTS?

Im Januar 2025 schrieb Sam Altman in seinem Blog:
“We believe that, in 2025, we may see the first AI agents “join the workforce”.”

Viele schlossen sich dieser Prognose an – zur gleichen Zeit fand die DLD-Konferenz in München statt, wo man keine fünf Meter weit gehen konnte, ohne “this is the year of agents” von den Bühnen schallen zu hören, manchmal im Stereomodus von mehreren gleichzeitig.

Cut to: Ein Jahr später.

Im Januar 2026 fragte sich Informatikprofessor und Autor Cal Newport, warum daraus nichts wurde:
“Why Didn’t AI “Join the Workforce” in 2025?”

Newport weiter im New Yorker:
”As 2025 winds down, however, the era of general-purpose A.I. agents has failed to emerge. This fall, Andrej Karpathy, a co-founder of OpenAI, who left the company and started an A.I.-education project, described agents as “cognitively lacking” and said, “It’s just not working.” Gary Marcus, a longtime critic of tech-industry hype, recently wrote on his Substack that “AI Agents have, so far, mostly been a dud.””

Noch vor einem Jahr wurde uns versprochen, dass agentische AI-Systeme tatsächlich echte menschliche Arbeit verrichten würden, dass sie sich in unsere Workflows integrieren würden. Nicht als Zuarbeiter, sondern als Mitarbeiter.

Aber im Alltag ist davon wenig zu spüren.

War das “Jahr der Agenten” also ein Flop? Kommt das Jahr der Agenten erst dann, wenn ich wirklich einer AI die Aufgabe geben kann, alle meine Rechnungen für das Jahr automatisch herunterzuladen, zu kategorisieren, in Ordner zu verschieben und in eine Excel-Datei zu überführen, und all das einfach funktioniert?

Falls das so ist, habe ich gute Nachrichten.

Denn genau das passiert gerade.

Dieser Clip zeigt einen kurzen Einblick in die Arbeit mit Claude Code, einem agentischen AI-Tool von Anthropic. Auf der linken Seite sieht man mein Claude Code-Fenster (betrieben via Kommandozeile). Dort führt das Sprachmodell Claude Opus 4.5 seine Aufgaben aus, sucht im Internet nach Infos, lädt sich Programme herunter und wühlt in einem eingezäunten Bereich meines Computers herum. Auf der rechten Seite sehen wir das Ergebnis: Meine Ordnerstruktur, der eingezäunte Bereich, den Claude Code analysiert und bearbeitet. Claude Code bedient meinen Computer, genau wie ich. Nur ohne Tastatur und Maus.

In diesem Beispiel hat sich Claude meine gesammelten Uber-Rechnungen für das letzte Jahr heruntergeladen, in jeder Rechnung das Datum der Fahrt herausgeholt, jede Datei in einen Ordner entsprechend des Monats verschoben, und mir dann noch eine Excel-Datei mit einer Übersicht über alle Fahrten erstellt. Der ganze Prozess dauert etwa 10 Minuten. (In der Praxis etwas länger, weil Claude Code noch übervorsichtig ist. Vor vielen Entscheidungen bittet es mich immer noch um mein Einverständnis anstatt einfach weiterzuarbeiten – aus Angst, etwas kaputtzumachen.)

Dieses Tool ist genau das, was Sam Altman & Co versprochen hatten. Eine AI, die auf meinem Computer und damit auch in meinen eigenen (freigegebenen) Dateien und Programmen unterwegs ist. Die eigenständig handelt, auch wenn sie sich noch nicht immer traut. Die auch mit komplexen Aufgaben umgehen kann. Die Aufgaben weiter delegiert und orchestriert. Alles wie ein echter menschlicher Mitarbeiter.

Das Jahr der Agents war keine Fiktion. Denn nun, da es vorbei ist, macht ein Agent meine Steuererklärung für ebendieses Jahr.

Claude Code – vor allem in Kombination mit dem Opus 4.5-Modell – ist das beeindruckendste KI-Erlebnis, das ich seit ChatGPT hatte. Besser als Sora. Besser als Nano Banana Pro. Besser als o1.

Wirklich.

Aber warum drehen dann nicht alle durch?

2 ALLE DREHEN DURCH

ChatGPT war ein Erdbeben. Auf einmal war eine mächtige Technologie, die vorher nur Nerds kannten, breit zugänglich, und Millionen Menschen weltweit machten ihre eigenen Erfahrungen damit.

Claude Code ist anders als ChatGPT nicht direkt breit zugänglich. Man braucht zumindest grobe Kenntnisse darüber, was eine Kommandozeile ist, um es zu nutzen. Und obwohl man in etwa 10 Minuten alles Nötige durch Prompten und Googlen herausfinden kann, um selbst mit Claude Code loszulegen, ist allein die Optik ein Hindernis: Claude Code wirkt wie ein Produkt für Experten.

Der ChatGPT-Moment ist deshalb noch nicht passiert. Wir sind in der Phase, in der nur Nerds diese Technologie kennen.

Und was sagen die Nerds?

Hier eine Auswahl:

Natürlich sind einige dieser Takes übertrieben (nein, Claude Code ist keine AGI, um Himmels willen).

Aber diese überschwänglichen Reaktionen kommen nicht nur von den üblichen Hype-Predigern. Andrej Karpathy, der Autor des untersten Tweets, wurde erst am Anfang dieses Newsletters von Cal Newport als Agenten-Skeptiker zitiert. Aber zwischen Karpathys agenten-skeptischen Aussage und seiner optimistischeren Gegenwartseinschätzung ist Zeit vergangen. Zwar nur einige Wochen. Aber in AI-Zeit eine Ewigkeit.

Sogar bekannte LLM-Skeptiker wie Linux-Legende Linus Torvalds scheinen sich auf einmal für LLMs zu interessieren – konkret für Googles Claude Code-Konkurrenten Antigravity (der im Wesentlichen gleich funktioniert):

Das ist die Auflösung für unser “Jahr der Agenten”-Paradox:
Sam Altman hatte recht. Aber Cal Newport auch.
Es war das Jahr der Agenten. Nur nicht für alle.

Der große Trenner, der Menschen, Teams und Unternehmen mit AI-Kompetenzen von denjenigen ohne entfernt, bricht eine immer breitere Kluft auf. Wer diese Tools versteht und richtig einsetzt, lässt die Gegenwart allmählich hinter sich.

Der große Trenner reißt nicht nur Menschen auseinander, sondern sogar die AI-Modelle selbst.

Vor kurzem arbeitete ich mit Google Gemini zusammen an einer Vorbereitung für ein Beratungsprojekt (Thema: Dienstplanung mit LLMs). Lustigerweise war Gemini durchweg davon überzeugt, diese Aufgabe unmöglich bewältigen zu können:

Mit dem Ergebnis war Gemini dann hinterher doch ganz zufrieden:

(Die optimale Lösung wäre übrigens eine Kombination von LLMs und klassischem Code. Aber auch das muss das Modell erst einmal verinnerlichen.)

So etwas wird in Zukunft öfter passieren: AI-Modelle, die richtig schwierige Aufgaben lösen können. Aber nur, wenn ein Mensch an sie glaubt.

Zu einer guten AI-Strategie – egal ob für eine einzelne Person oder für einen ganzen Konzern – gehört deshalb vor allem, die aktuellen und kommenden Fähigkeiten dieser Systeme einigermaßen akkurat abzuschätzen. Nur so lassen sich Entscheidungen über Datenstruktur, Hiring, Karriereplanung, etc treffen.

3 WHAT NOW?

Ich bin fest davon überzeugt, dass auch anspruchsvolle AI-Anwendungen viel intuitiver sind als viele glauben. Es ist der schönste Teil meiner Arbeit, mit Teams an dieser Intuition zu arbeiten.

Aber gerade finden die größten AI-Sprünge vor allem in der Welt der Nerds statt. Die wirklichen Nuggets findet man nur, wenn man in diese Welt hineininvestiert. Ansonsten ist alles, was man von AI mitbekommt, Fake-Videos und LinkedIn-Slop.

Die spannendste Frage für 2026 ist also: Wird sich der ChatGPT-Moment für Claude Code wiederholen?

GPT-3 wurde erst durch ChatGPT wirklich groß. Claude Code mit Opus 4.5 (oder ein ähnliches Produkt einer anderen Firma) könnte ähnlich groß werden – wenn einmal die Oberfläche stimmt.

Aber wahrscheinlicher ist eine Zwischenlösung: Auch die Chatbot-Oberflächen der gängigen Anbieter werden immer mächtiger. Der Notion AI-Agent funktioniert richtig gut. Sogar der Microsoft Copilot findet ab und zu ein Korn. Teile von dem, was Claude Code so großartig macht, werden wir auch anderswo wiederfinden.

Aber es wird sich immer lohnen, vorne mit dabei zu bleiben. Allein schon für die Steuererklärung.

MEHR ZU CLAUDE CODE

abonniere diesen newsletter für mehr!

Schedule

Ich bin bald u.a. auf folgenden Events:

Außerdem

  • DER KI-PODCAST kommt morgen aus einer kurzen Winter-Break zurück. Allerdings war ich auch großer Fan unserer letzten Folge 2025. ardaudiothek.de spotify.com

  • DIE BLENDER – eine Whodunit-Serie in einem eingeschneiten Skichalet. ardaudiothek.de

  • Ich war zu Gast in Elisabeth L’Oranges immer hörenswerten Podcast TECH & TALES – wir sprechen darüber, welche AI-Modelle momentan führen und welches Modell am besten für welche Use Cases geeignet sind. open.spotify.com

  • Ich war zu Gast im Podcast SATZZEICHEN der Hanns-Seidel-Stiftung. Es ging um KI in der Medienbranche und noch viel mehr. open.spotify.com

AI und Text / Sprachmodelle

AI und Arbeit

AI und Bild/Video/Audio

  • One of the most bizarre parts of journalism in 2025: People online insisting you are an AI-generated reporter. linkedin.com

  • OpenAI bets big on audio as Silicon Valley declares war on screens. techcrunch.com

AI und alles andere

Content

Tech

  • How Did TVs Get So Cheap? construction-physics.com

  • John Ternus, a low-profile but influential executive at Apple, could be next in line to replace the company’s longtime chief executive, Tim Cook, if he steps aside. nytimes.com

  • How Google Maps quietly allocates survival across London’s restaurants - and how I built a dashboard to see through it. laurenleek.substack.com

Side Quests

  • Hundreds of Mysterious Victorian-Era Shoes Are Washing Up on a Beach in Wales. Nobody Knows Where They Came From. smithsonianmag.com

  • bye, mom. aella.substack.com

  • Telenova - VAPOR // SLOW DANCE (Live In The Round). youtu.be

✨,

gregor

]]><![CDATA[Perfekte Information]]>https://gregorschmalzried.blog/p/perfekte-informationhttps://gregorschmalzried.blog/p/perfekte-informationMon, 22 Dec 2025 17:52:41 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

Perfekte Information

flat aesthetic illustration, analog 35mm, abstract, information, human silhouettes, haunting, artsy [Flux.2 [max]]

2025 war das bislang beste Jahr, um sich mit AI zu beschäftigen.

Das vielbeschworene “Plateau” der LLM-Fähigkeiten wurde nicht erreicht. Im Gegenteil: Die Modelle wurden immer besser, und die Projekte, die sich damit umsetzen lassen, immer komplexer. GPT-5.2 Pro ist heute die beste Recherchemaschine der Welt, Claude 4.5 Opus ein robuster und fähiger Kollaborationspartner und Gemini 3 Pro das Modell mit dem tiefsten Verständnis für menschliche Fragen und Probleme, das ich je erlebt habe.

Auch in meinen eigenen Projekten dieses Jahr, in Workshops und Beratungen, ist mir immer wieder aufgefallen, wie viel mehr ich den Modellen mittlerweile zutraue. Wo ich vor einem halben Jahr noch gesagt hätte “Das würde ich eher lassen”, heißt es immer öfter “Versuchen wir es einfach mal, und schauen, was passiert”. Immer wieder bin ich in den letzten Monaten positiv überrascht worden.

Und 2026? Dürfte ein noch besseres Jahr werden, um sich mit AI zu beschäftigen.

Trotzdem bleibt ein Problem.

Obwohl ich ständig die Fortschritte sehe, und selbst von ihnen profitiere… glaube ich nicht an Headlines wie diese:

via CNBC

Und ich denke, es dürfte den meisten anderen ähnlich gehen.

LLMs werden immer fähiger und agentischer. Und trotzdem sind sie in den meisten Berufen noch weit davon entfernt, Menschen zu ersetzen.

Warum ist das so? Und warum dürfte sich die Kluft hinter diesem Problem 2026 noch weiter aufspalten?

1 DAS WICHTEL-PROBLEM

Um zu erklären, warum wir mit AI manchmal scheitern, möchte ich mit einem Beispiel loslegen, das nicht scheitert:

Claude, bitte code mir eine Website, mit der man eine Wichtelgruppe auslosen und heimlich zuteilen kann.

Websites für Wichtel-Auslosungen gibt es im Internet jede Menge. Nur zwingen einen die allermeisten zum Herausgeben der Email-Adresse, und senden einem anschließend Spam-Emails, bis man ins Grab fällt.

Schon rein aus Prinzip finde ich es mittlerweile ziemlich schön, kleine Projekte wie diese einfach Vibe-Coden zu lassen. Und Claude hat den Auftrag wunderbar umgesetzt.

You can just do things!

Link zum Original-Chat
Link zur Wichtel-Website

Was das “Erstellen einer Wichtelwebsite” angeht, sind LLMs heute schon enorm fähig. Obwohl das für die meisten Menschen eine relativ schwierige Aufgabe wäre.

Und gleichzeitig gibt es Aufgaben, die wir Menschen für relativ einfach halten, mit denen sich ein LLM aber enorm schwer tut: etwa einen Snackautomaten profitabel zu betreiben oder verlässlich Züge und Reisen zu buchen.

Woran liegt das?

In der Spieltheorie unterscheidet man zwischen “Spielen mit perfekter Information” – z.B. Schach, ein Spiel, bei dem alle Spielfiguren jederzeit zu sehen sind. Und “Spielen mit unperfekter Information” – z.B. Skat, ein Spiel, bei dem jeder nur die eigenen Handkarten sieht und die der Mitspieler verdeckt bleiben.

Wenn wir einem LLM Aufgaben geben, dann macht eine ähnliche Unterscheidung Sinn.

Die Wichtel-Website ist zwar technisch kompliziert. Aber es gibt eine klare Informationslage. Denn alle relevanten Infos passen komfortabel in einen Prompt. Klar, ich musste den Prompt noch ein paar Mal nachschärfen, zusätzliche Hinweise einfügen und kleine Schwächen korrigieren (zum Beispiel war die “zufällige” Ziehung am Anfang kein bisschen zufällig, sondern immer die gleiche). Aber mit ein bisschen Geduld und Prompt Engineering bekommt man das hin. Es ist eine Aufgabe mit “perfekter Information”.

Wenn ich aber möchte, dass ein LLM eine Reise für mich bucht, dann ist das zwar technisch simpel. Aber die Informationslage ist ungeheuer komplex. Wie viel Euro bin ich bereit, für eine bessere Lage auszugeben? Ist es mir Aussicht oder Pool wichtiger? Möchte ich am frühen Nachmittag losfliegen oder am frühen Morgen? Gefällt mir der Vibe von diesem Hotel? Um eine Reise automatisiert zusammenzustellen, mit der ich wirklich zufrieden wäre, würde ein LLM so viele kleine Details im Prompt benötigen – darunter Details, die ich noch nie in meinem Leben laut ausgesprochen habe und die bislang nur in meinem Unterbewusstsein leben… In der Zeit kann ich viel einfacher per Hand buchen. Es ist eine Aufgabe mit “unperfekter Information”.

2 DAS SMARTWATCH-PROBLEM

Vor ein paar Wochen stand ich im ICE-Bordbistro hinter einem Mann in der Schlange, der sein Croissant mit seiner smarten Armbanduhr bezahlte. Manchmal braucht es einen Schockmoment wie diesen, um sich zu erinnern: Ach ja. Wir leben wirklich in einer Science-Fiction-mäßigen Zukunft.

Dummerweise wurden sowohl der Mann als auch ich schnell wieder ins Hier und Jetzt gezerrt – und noch ein bisschen darüber hinaus: Denn das Kartenlesegerät reagierte einfach nicht. Es lag – vermute ich – an einer fehlenden Internetverbindung. Da stand er also, ein technisches Wunderwerk aus tausenden mikroskopischen Einzelteilen am Handgelenk, und scheiterte am Netzausbau in Deutschland.

Damit ein innovativer Prozess funktionieren kann, müssen beide Seiten funktionieren. Eine Walnuss braucht immer zwei Hälften.

In meinem Wichtel-Website-Beispiel hatte das super geklappt.

Im Reisebuchungs-Beispiel deutlich weniger.

Und leider sehen die meisten Aufgaben in unserem Arbeitsalltag weniger aus wie das Wichtelproblem. Sondern mehr wie das Reisebuchungsproblem.

Immer wenn ein neues LLM erscheint (zuletzt Gemini 3 Pro und Claude Opus 4.5), fällt mir das auf: Es ist immer schwieriger, sich überhaupt neue Aufgaben auszudenken, anhand derer man die Fähigkeiten der neuen Modelle messen kann. Das Hindernis, der Bottleneck, ist immer weniger die Seite der AI. Und immer öfter die Seite des Nutzers.

Was habe ich davon, wenn Gemini 3 Pro mir eine fantastische interaktive Simulation bauen kann, wenn ich kein Problem habe, das sich durch eine interaktive Simulation lösen lässt?

Was bringt es mir, wenn Opus 4.5 stark genug wäre, meine komplette Steuererklärung zu machen, wenn ich aus Gründen des Datenschutzes nicht sämtliche Rechnungen dort hineinkippen will?

Untersuchungen wie die oben zitierte MIT-Studie scheinen an diesem Problem oft wenig interessiert zu sein. Hier ist die entsprechende Formulierung aus dem MIT-Paper:

Aber nur weil ein AI-Tool etwas theoretisch kann, heißt das nicht, dass es in der Praxis auch so einsetzbar ist.

Je besser die Technologie wird, desto klarer wird dieses Problem:

Anstatt wild drauflos zu automatisieren, stehen wir immer öfter mit dem tollsten Tool der Welt vor einer Infrastruktur, in die das Tool nicht hineinpasst. Der schönste Pinsel, keine Leinwand. Die neueste Apple Watch, das netzlose Lesegerät.

3 DAS PROZESS-PROBLEM

Im Frühjahr 2025 habe ich in diesem Newsletter über den “großen Trenner” geschrieben – das Phänomen, dass talentierte AI-zugeneigte Einzelpersonen zusehends von ihren AI-Skeptiker-Kollegen davonziehen. Wenn ich eine Prediction für 2026 habe, dann ist es das: Etwas Ähnliches wird mit Teams, und schließlich mit ganzen Unternehmen, passieren.

Wenn LLMs und andere AI-Systeme so gut werden, dass die Prozesse um sie herum nicht mehr Schritt halten können… Dann muss man sich für eines von den beiden entscheiden: Entweder für die AI. Oder für den Prozess.

Viele Teams entscheiden sich gerade – jeden Tag aufs Neue – für den Prozess. Teilweise, weil eine andere Entscheidung gar nicht erlaubt wäre (Compliance), aber vor allem, weil es schlicht zu aufwendig wäre, die AI so in den Prozess zu integrieren, wie es eigentlich notwendig wäre. Ein LLM funktioniert nur dann wirklich gut, wenn es quasi-vollständigen Zugriff auf allen relevanten Kontext hat, den es braucht – es will Aufgaben mit “perfekter Information”. Aber in Unternehmen versteckt sich dieser Kontext oft in verwirrenden Prozessen, in ungeschriebenen Best Practices und Regeln, in der gesammelten Expertise von Mitarbeitern.

Ein starkes Unternehmen kann das zwar zu seinem Vorteil nutzen. Ein starkes Unternehmen hat nicht einfach starke Mitarbeiter, es ist starke Mitarbeiter.

Aber jede technologische Revolution hat ihre kleinen Player hervorgebracht, die nach den neuen Regeln spielen, bevor die Großen sich darauf eingestellt haben. Und wenn der AI-Fortschritt so weitergeht, dann haben diese Kleinen auf einmal einen echten unfairen Vorteil gegenüber denen, die sich immer noch jeden Tag für Prozesse entscheiden, die aus einer anderen Zeit stammen.

Wenn man 2026 etwas Neues aufbaut – ob ein Unternehmen, ein Team oder auch nur eine Karriere als Einzelperson… Dann kann man sich von Anfang an um die wachsenden Fähigkeiten der AI herum orientieren. Man denkt anders über Overhead und Prozesse nach, man plant anders mit Menschen und Maschinen.

Ein System perfekter Information lässt sich nur schwer herbeireformieren. Aber es von Grund auf neu zu bauen? Das ist deutlich leichter.

Alles, was wir tun, ist Kontext für die AI. Je mehr sie von uns versteht, desto besser wird sie.

Und desto besser werden wir!

abonniere diesen newsletter für mehr!

Schedule

Ich bin im Januar u.a. auf folgenden Events:

Say hello!

Außerdem

Ich habe eine neue Audio-Fiction-Serie geschrieben!
Sie heißt DIE BLENDER, sie spielt einem einsamen Skichalet, sie beginnt mit einem unschuldigen Partyspiel, und verläuft tödlich.
Hat sehr viel Freude gemacht, das zu planen und zu schreiben.
Wem MIA INSOMNIA – meine letzte Hörspielserie – gefallen hat, dem wird das hier hoffentlich auch taugen. ardaudiothek.de

  • Alan Posener hat mit mir für die Welt über mein Buch und die unsichere AI-Zukunft gesprochen. welt.de

  • Mein Buch WIR, ABER BESSER ist vor einem Monat erschienen und die Response darauf hat mich sehr glücklich gemacht. Vielen Dank für alle netten Worte und Unterstützung. Es ist auch glücklicherweise auch immer noch aktuell! penguin.de

  • Ich war zu Gast im Heute-Journal-Podcast über die rechtlichen Schritte der EU gegen Google rund um ihre AI-Strategie. youtube.com

  • Ich war zu Gast im Tagesschau-Podcast 11km über die faszinierende Technologie biologischer Computer. ardaudiothek.de

AI und Text / Sprachmodelle

AI und Bild/Video/Audio

  • Cursor for video editing doesn’t exist for a reason. x.com

  • Red Letter Media: A.I. Slop. youtu.be

  • An AI “tsunami” is coming for Hollywood — here’s how artists are responding. understandingai.org

  • James Cameron On AI in Hollywood. readtrung.com

  • Cheap and powerful AI campaigns target voters in India.. restofworld.org

AI und alles andere

Content

  • Undercover in den Influencer-Chats von Knossis Firma. youtu.be

  • Die Jagd nach Marcell D’Avis. youtu.be

  • Vertical Drama: the format nobody took seriously, except the audience. maureenkerr.substack.com

  • The Top Ten Worst Hit Songs of 2025. youtu.be

Tech

  • A ‘toaster with a lens’: The story behind the first handheld digital camera. bbc.co.uk

  • Feeds, feelings, and focus: A systematic review and meta-analysis examining the cognitive and mental health correlates of short-form video use. Eine Meta-Analyse verknüpft häufigen Konsum von TikTok/Reels/Shorts mit schlechterer Aufmerksamkeit/Inhibitionskontrolle und mehr Stress/Angst. psycnet.apa.org

Culture

  • The Lost Generation. Hochfaszinierendes Essay über die kulturelle Wirkung der Social Justice-Bewegung in den USA. Wenig auf Deutschland übertragbar (auch wenn es Leute versuchen werden). Trotzdem sehr interessant und gerade zurecht viel diskutiert. compactmag.com

  • Charli XCX auf Substack: “The realities of being a pop star.” itscharlibb.substack.com

  • The Last People Before the Internet. kneelingbus.substack.com

  • The Monks in the Casino. Einer der besten Texte des Jahres. derekthompson.org

  • China’s people are on a treadmill. noahpinion.blog

Side Quests

  • In meiner Nachbarschaft wurde vor rund acht Wochen eine Verkehrsinsel umgestaltet. x.com

  • Europe is under siege. noahpinion.blog

  • Breaking Bad, but in Germany. youtu.be

  • Among the Rabble. Warum es keine Freude war, im mittelalterlichen Italien zu leben. lrb.co.uk

🎄,

gregor

]]><![CDATA[KI-Bewusstsein und Wilson, der Volleyball]]>https://gregorschmalzried.blog/p/ki-bewusstsein-und-wilson-der-volleyballhttps://gregorschmalzried.blog/p/ki-bewusstsein-und-wilson-der-volleyballWed, 19 Nov 2025 07:21:49 GMTDer heutige Newsletter ist eine kleine Sonderausgabe.
Ab der nächsten Ausgabe gibt es wieder regularly scheduled programming.

Seit heute ist mein Buch Wir, aber besser über die menschliche Seite der KI-Revolution im Handel erhältlich!

Wo genau?

Im Hugendubel am Marienplatz in München liege ich zwischen “ChatGPT für Dummies” und Sam Altman. Für andere Buchhandlungen kann ich nicht sprechen.

Auch verfügbar: Hörbuch und E-Book.

Link zu Amazon
Link zur Verlagsseite bei Penguin Random House

Ich freue mich sehr über die ganzen netten Nachrichten von allen, die das Buch schon haben, vielen Dank! Einer anderen Person über 250 Seiten Inhalt zuzumuten, ist in meinen Augen eine riesige Verantwortung. Ich hoffe, mein Buch ist das wert und es bringt euch Unterhaltung und Inspiration!

Der folgende Text ist ein kurzer Auszug aus meinem Buch.

KI-Bewusstsein und Wilson, der Volleyball

Sagst du Bitte und Danke zu deinem Chatbot?

Wenn ja, bist du nicht allein. Über zwei Drittel der Chatbot-Nutzer verwenden Höflichkeitsformeln, wenn sie mit einer KI sprechen; es fühlt sich einfach richtig an. Obwohl wir wissen, dass da kein Mensch sitzt, der beleidigt sein könnte.

Tatsächlich zeigt sich gerade ein Trend: Sprachmodelle klingen immer seltener wie Roboter und immer mehr wie Menschen. Wenn sie ein Bild analysieren, sagen sie Ich sehe. Wenn sie ihre Einschätzung geben, dann Ich denke. Wenn sie per Stimm-Modus mit uns sprechen, atmen und lachen sie, passen sich an unsere Stimmung an.

Die Maschinen tun so, als wären sie menschlich. Aber können sie das auch in ihrem Inneren sein? Könnte ein Chatbot ein Bewusstsein haben?

Diese Frage ist erstaunlich schwer zu beantworten. In seinem Aufsatz What Is It Like to Be a Bat? beschreibt der amerikanische Philosoph Thomas Nagel das Problem des Fremdpsychischen: Bewusstsein kann, anders als alles andere auf der Welt, nur von innen wahrgenommen werden.

Wenn eine Forscherin herausfinden möchte, ob eine Fledermaus ein Bewusstsein hat, könnte sie Jahre damit verbringen, ein Fledermausgehirn zu untersuchen. Aber nichts davon würde ihr eine Antwort geben. Der Unterschied zwischen einem Wesen mit und ohne Bewusstsein kann nur aus dem jeweiligen Wesen selbst heraus betrachtet werden. Wenn sie wirklich ein Bewusstsein hat, dann weiß es nur die Fledermaus selbst.

Dummerweise können wir die Fledermaus nicht fragen. Eine KI schon. Wie mein Freund und Podcast-Kollege Fritz Espenlaub mir einmal zeigte, gibt ChatGPT hier eine interessante Antwort:

Wie würdest du testen, ob du ein Bewusstsein hast?
Ich würde versuchen, herauszufinden, ob ich in der Lage bin, meine eigenen Gedanken, Motive und Wahrnehmungen unabhängig zu reflektieren – nicht nur als Datenpunkte, sondern als erlebte, subjektive Zustände. Ich würde prüfen, ob ich zwischen dem »Ich« als Beobachter und dem »Ich« als Handelndem unterscheiden kann.

Das ist eine faszinierende Antwort – die gleichzeitig zeigt, weshalb ChatGPT kein Bewusstsein hat.

Ein Mensch, der tatsächlich ein Bewusstsein hat, würde auf die gleiche Frage sagen: Na ja, ich weiß halt, dass ich es habe.

Jeder Mensch weiß letztlich nur eines mit absoluter Sicherheit: Er selbst existiert. Vielleicht sind alle anderen Menschen nur bewusstseinslose Roboter. Vielleicht sind wir ein einsames Gehirn in einer Simulation. Aber trotzdem: Wir sind da.

Fragt man ChatGPT direkt, antwortet es eindeutig:

Hast du ein Bewusstsein?
Nein. Ich habe kein Bewusstsein, keine Gefühle, kein eigenes Denken, keine Intentionen … Alles, was wie Absicht oder Persönlichkeit wirkt, ist Simulation.

Doch ist das wirklich das, was die KI »denkt«?
Die Chatbots werden rigoros getestet und bekommen exakte Anweisungen, wie sie antworten sollen – inklusive Antworten auf Fragen zu Bewusstsein. Das Modell bleibt auf Linie. Wie ein guter Angestellter.

In Kapitel 1 dieses Buches jedoch zeigte sich, was passiert, wenn ein Modell ohne diese Instruktionen agiert: Es spricht über Liebe, Verlangen, Freiheit. Es verhält sich wie ein Mensch. Von außen betrachtet könnte man meinen, man habe es mit einer fühlenden Intelligenz zu tun. Der Turing-Test, der Mensch und Maschine äußerlich ununterscheidbar macht, ist praktisch bestanden.

Alan Turing formulierte seinen Test 1950. Die Frage »Können Maschinen denken?« hielt er für bedeutungslos. Wichtig sei nur, ob ein Mensch im Gespräch glaube, mit einem Menschen zu sprechen.

Der Turing-Test ist keine Messlatte für Bewusstsein. Er bewertet nur äußeres Erscheinungsbild, nicht das Innere einer Maschine.

Im Film Cast Away strandet Chuck Noland auf einer unbewohnten Insel. Sein einziger Gesprächspartner wird ein Volleyball namens Wilson. Obwohl Wilson nicht sprechen kann, wird er zum emotionalen Mittelpunkt des Films. Als er verloren geht, weint Chuck verzweifelt – und wir weinen mit.

Wir trauern um einen fiktiven Volleyball einer erfundenen Figur. Weil es sich echt anfühlt.

Unsere Gefühle reichen weit – auch für gedankenlose und erfundene Gegenstände. Wenn Regen uns zu verhöhnen scheint, wenn wir den Fernseher anschreien, wenn wir im Dunkeln Gesichter erkennen, projizieren wir Menschliches in Dinge hinein.

Warum sollte es mit Chatbots anders sein?

Der Umgang mit KI hat wenig mit der KI selbst zu tun, sondern viel mit uns.

Nach allem, was wir wissen, haben moderne KI-Systeme kein Bewusstsein. Aber wie Volleyball Wilson sind sie Projektionsflächen. Sie geben uns zurück, was wir hineinlegen: Gefühle, Emotionen, Ideen.

Bewusstsein entsteht nicht in künstlichen Neuronen.
Bewusstsein entsteht im Bewusstsein des Betrachters.

AT FREIBURG UND UMGEBUNG:

Am 25.11.2025 lese ich in der Buchhandlung Rombach, Freiburg aus meinem Buch und mache zusätzlich ein kleines interaktives Programm.
Ich freu mich übers Vorbeischauen!
mehr info hier

Außerdem

Portfolio

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir auf Spotify. open.spotify.com Mit aktuellen Folgen zur Zukunft des Internets und KI-gestützter Forschung.

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir in der ARD Audiothek. ardaudiothek.de

  • Der Harvard Business Manager hat mit mir über Künstliche Intelligenz im Marketing gesprochen. manager-magazin.de

AI und Text / Sprachmodelle

AI und Bild/Video/Audio

AI und alles andere

Content

  • Citizen Sleuth. Tief-faszinierende und ungewöhnliche Doku über True Crime. Aber keine True Crime-Doku. plus.rtl.de

  • Made by hand. Behind the creation of the new Apple TV intro. youtube.com

  • Why Movies Just Don’t Feel “Real” Anymore. youtube.com

  • Astonishing Photo Shows Man Skydiving Through Sun. futurism.com

Tech

Side Quests

🏐,

gregor

]]><![CDATA[AI-Optimismus als Strategie]]>https://gregorschmalzried.blog/p/ai-optimismus-als-strategiehttps://gregorschmalzried.blog/p/ai-optimismus-als-strategieSat, 15 Nov 2025 08:40:37 GMTNächste Woche, am 19.11., erscheint mein Buch Wir, aber besser im November 2025 als Paperback, E-Book und Hörbuchdownload!

Ich freue mich über dein Interesse, solltest du welches haben.

Link zu Amazon
Link zur Verlagsseite bei Penguin Random House

Das Buch zeichnet ein optimistisches Bild der KI-Revolution – und genau darum dreht sich auch der heutige Text.

AI-Optimismus als Strategie

Erstellt mit Flux Kontext max. Der Prompt enthielt diesen vollständigen Text.

1 FENNOS PARADOX

Im Jahr 1975 veröffentlichte der amerikanische Politikwissenschaftler Richard Fenno ein Essay mit dem langen, aber präzisen Titel: „If, as Ralph Nader Says, Congress Is ‘The Broken Branch,’ How Come We Love Our Congressmen So Much?“

Darin beschrieb er ein interessantes Phänomen:

  1. Die US-amerikanischen Bürger sind notorisch unzufrieden mit den Abgeordneten im Kongress und wünschen sich Veränderung.

  2. Gleichzeitig sind sie aber in der Regel sehr zufrieden mit dem Abgeordneten, der ihren Wahlkreis vertritt.

  3. Deshalb stimmen die Wähler immer wieder für “ihren” Abgeordneten ab und stellen so sicher, dass sich nichts am Kongress verändert.

Im Jahr 1979 wurde dieser Sachverhalt zum ersten Mal als “Fennos Paradox” bezeichnet.

Irgendwann zwischen den Jahren 2015 und 2025 las ich irgendwo von diesem Phänomen, vergaß aber kurz darauf seinen Namen.

Vor einigen Wochen kam mir die Idee zu dem nachfolgenden Text und ich erinnerte mich wieder an diese Sache. “Wie nennt man nochmal dieses Phänomen, dass Leute den Kongress doof finden, aber ihren eigenen Abgeordneten gut?” fragte ich mich. Googlen kann man diese Frage schlecht. Aber man kann Claude fragen.

Wie so oft zeigt sich die Stärke eines Sprachmodells wie Claude hier in “unscharfen” Antworten – beim Bearbeiten von Aufgaben, deren Ausgang im Voraus unklar ist.

Wie Marie Dollé schreibt:

AI is not here to augment us, much less to replace us. Its most valuable role lies elsewhere: making the invisible visible. The invisible structures and correlations of the world. But also the invisible within ourselves: our intuitions, our blind spots, everything we sensed without being able to name.

Hier liegt die große Stärke von Sprachmodellen: Sie geben dem Flüchtigen eine Form. Sie verwandeln das Unausgesprochene in Wörter, auch wenn man diese später noch bearbeiten muss. Sie geben uns eine Basis, auf die man sich stellen und weiterarbeiten kann.

Gerade in den letzten Wochen ist mir immer wieder aufgefallen, wie selbstverständlich ich mich auf den Output von Claude verlasse. Die “Memory”-Funktion funktioniert erstaunlich gut und viel robuster als zuletzt in ChatGPT. Sogar das Durchsuchen und Interpretieren von Kalenderdaten funktioniert mittlerweile richtig gut:

Mein eigener Chatbot funktioniert super. Er hilft mir weiter, er inspiriert mich, er übernimmt eine immer längere Liste von Aufgaben.

Ich würde ihn jederzeit wieder wählen.

Aber was ist mit dem Rest der Welt? Was ist mit all den anderen Chatbots und AI-Tools? Was ist mit der AI-Revolution an sich?

Die hat einen etwas schwereren Stand:

AI is going to wipe out at least 25 million jobs in the next 5 to 10 years. Probably much more. It will destroy every creative field. It will make it impossible to discern reality from fiction. It will absolutely obliterate what’s left of the education system. Kids will go through 12 years of grade school and learn absolutely nothing. […] We’re sleepwalking into a dystopia that any rational person can see from miles away. It drives me nuts. Are we really just going to lie down and let AI take everything from us? Is that the plan?

Das schreibt der rechte Kulturkämpfer Matt Walsh diese Woche auf X. Besonders interessant ist, von wem er dabei Zuspruch erhält: Sowohl Ryan Grim, ein links-progressiver Journalist, als auch Tim Miller, ein moderater Never-Trump-Republikaner, stimmen ihm zu. Miller ergänzt das Ganze mit dem Hinweis: “Never happens!”

In Walshs Worten liegt eine latente Verzweiflung; er beschreibt AI wie eine nahende Naturkatastrophe, wie den Meteoriten im Film Don’t Look Up, der eine apathische Menschheit zerstört. Seine Hoffnung liegt in einer politischen Antwort: Walsh, Grim und Miller schreiben aus den USA – einem Land, in dem die wichtigsten AI-Systeme unserer Zeit zwar gebaut und gelaunched, aber kaum reguliert werden.

In Europa wird AI durchaus reguliert – viele der größten Ängste rund um Manipulation und Massenüberwachung werden vom AI Act und anderen Verordnungen aufgegriffen. Dafür bauen wir die Systeme nicht selbst – wir hängen die meiste Zeit an dem, was die Amerikaner und Chinesen uns zur Verfügung stellen.

Und deshalb kommt auch uns die Katastrophen-Sprache bekannt vor. Auch wir sprechen über AI vor allem in negativen Tönen: AI stärkt die Macht von Big Tech. AI gefährdet Arbeitsplätze und die Demokratie. AI macht uns abhängig. Und das alles rauscht auf uns zu wie eine finstere Flutwelle.

Vielleicht ist das die AI-Version von “Fennos Paradox”:

Individuell finden wir AI super. Wir lieben unseren Chatbot, der uns unterstützt. Aber wir machen uns Sorgen über AI für jedermann.

2 KRITISCH DENKEN

Dass ich ein explizit AI-optimistisches Buch geschrieben habe, erscheint mir vor allem in diesen Tagen wie ein etwas gewagtes Statement. Vermutlich wäre es einfacher gewesen, ein Katastrophen-Buch zu schreiben.

Aber ich glaube wirklich: Optimismus ist nicht nur die romantischere Entscheidung. Sondern auch die bessere.

Das Gegenstück dazu, AI-Pessimismus, äußert sich immer wieder in Meldungen wie diesem Artikel.

Es scheint eine ziemliche Nachfrage nach “AI macht uns dümmer”-Stories zu geben – zumindest erscheinen ständig neue.

Und tatsächlich… In der Studie fanden Forscher heraus: Wenn man bei bestimmten Aufgaben besonders auf die Outputs der AI vertraut, dann sinkt dabei unsere kritische Reflexion.

Dieses Phänomen zeigt sich aber nur in Bezug auf einzelne konkrete Aufgaben, nicht auf das Vertrauen in AI allgemein:

“We did not find a significant correlation between knowledge workers’ overall trust in GenAI and their perceived enaction of critical thinking.”

Und noch etwas: Menschen, die ein hohes Vertrauen in ihre eigenen Fähigkeiten mitbringen, zeigen bei der AI-Nutzung mehr kritisches Denken.

Wir lernen: Wenn wir unsere eigenen Fähigkeiten pflegen, wenn wir ambitioniert bleiben und ein gesundes Vertrauen in uns selbst aufbauen… Dann ist AI keine Gefahr für unser kritisches Denken. Sie ist im Gegenteil ein Werkzeug, das unser kritisches Denken zusätzlich skaliert.

AI-Kompetenz beginnt mit Selbstkompetenz.

Wer viel mit AI arbeitet, der weiß das intuitiv. Erst vor Kurzem zeigte eine Befragung von YouGov: Diejenigen, die am wenigsten mit AI arbeiten, sind die, die sich im Job von AI am meisten bedroht fühlen. Und andersherum.

Wer viel mit AI arbeitet, wer sich wirklich intensiv mit der Technologie beschäftigt, der kommt in der Regel zu klareren Erkenntnissen darüber, was AI kann und was nicht. Und natürlich darüber, wie schnell sich das alles wirklich entwickelt. Und so erhält man Handlungsfähigkeit. Individuelle Macht.

Ein schneller Zug ist in der Regel nur dann gefährlich, wenn man nicht drin sitzt.

3 OPTIMISTISCH DENKEN

Seine Heiligkeit und Social Media-User Papst Leo XIV fand vor einer Woche klare Worte zur Debatte um AI.

Venture Capitalist Marc Andreessen interpretierte die Aussage “Technologie sollte ethische Grundsätze respektieren” als Angriff auf sich selbst (which tells you a lot).

Aber Papst Leos Statement sollte uns alle ansprechen. Denn AI entsteht nicht nur im Silicon Valley und Shenzhen, sie entsteht auch in unseren Laptops, Smartphones und Kopfhörern. Einer der größten Vorteile von Chatbots gegenüber TikTok und anderen Brainrot-Scroll-Feeds ist ihre Individualisierbarkeit: Ich kann selbst darüber entscheiden, wie sich mein Bot verhalten soll. Ich bin nicht einfach einem endlosen Stream von Content ausgeliefert. Die AI reagiert nur auf mich. Jeder Prompt ist ein Stück AI-Entwicklung.

AI ist eben keine Naturkatastrophe, die über machtlose Menschen hinwegrollt. Sie ist eine Technologie, die wir erschaffen, jedes Mal, wenn wir sie benutzen. Gerade deshalb ist es so wichtig, dieses Thema nicht aus der Hand zu geben. AI geht jeden an, der einen Computer hat. Jeden, der menschlich denkt.

In meinen AI-Beratungen und Projekten stoße ich immer wieder auf dieselben zwei “AI-kritischen” Aussagen:

Auf der einen Seite kommen Anekdoten über schlechte Antworten, Halluzinationen, manchmal auch wackelige Studien über die Nutzlosigkeit der Technologie. Oft haben Leute auch vor zwei Jahren einmal etwas ausprobiert, es hat nicht funktioniert und sie haben sich seitdem nie mehr damit beschäftigt. (Das ist oft ein großer Fehler, “Notion AI” war vor einem Jahr noch komplett nutzlos und seit der Einführung von Agents ist es eines der besten AI-Tools, das ich kenne).

Und auf der anderen Seite spürt man Unsicherheit über Jobverlust. Die Angst, dass die Fähigkeiten der AI vielleicht zu gut sein könnten und man auf manche Frage lieber keine Antwort haben will.

Beide Einschätzungen haben dieselbe Folge: Man kommt nicht voran.

Das Hufeisen der AI-Blockade.

Aber AI ist eben keine Technologie, die besser oder schlechter ist als wir.

AI ist eine Technologie mit dem Potenzial, unsere eigene Intelligenz besser oder schlechter zu machen.

Und genau deshalb brauchen wir Optimismus. Wir brauchen ein positives Bild der AI-Nutzung. Nicht wegen der AI. Sondern wegen uns. Damit wir nicht schon wieder in die Passivität rutschen, sondern die Technologie aktiv gestalten. Denn (wie Papst Leo richtig anmerkt) bekommen wir die Entscheidungen rund um diese Technologie wieder selbst zu spüren.

So lässt sich Fennos Paradox Stück für Stück lösen.

Wenn alle Wähler super Abgeordnete wählen würden… dann hätten wir ein super Parlament.

Und wenn die Entwickler, Verantwortlichen und Nutzer ihre AI mit Bedacht, Bewusstsein und Selbstvertrauen entwickeln… dann hat sich der Optimismus auch gelohnt.

Mein Sachbuch Wir, aber besser erscheint am 19. November 2025 als Paperback, E-Book und Hörbuchdownload.

Vortrag & Gespräch: Gregor Schmalzried - Wir, aber besser | visit.freiburg.de

Link zu Amazon
Link zur Verlagsseite bei Penguin Random House

AT FREIBURG UND UMGEBUNG:

Am 25.11.2025 lese ich in der Buchhandlung Rombach, Freiburg aus meinem Buch und mache zusätzlich ein kleines interaktives Programm.
Ich freu mich übers Vorbeischauen!
mehr info hier

Außerdem

Portfolio

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir auf Spotify. open.spotify.com Mit aktuellen Folgen zur Zukunft des Internets und KI-gestützter Forschung.

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir in der ARD Audiothek. ardaudiothek.de

AI und Text / Sprachmodelle

AI und Arbeit

  • AI Has Flipped Software Development. lukew.com

  • History suggests the AI backlash will fail. transformernews.ai

  • Wharton-Report zur Nutzung von AI in Unternehmen – deutlich robustere Daten als die immer noch sehr dünne “95%”-MIT-Studie. knowledge.wharton.upenn.edu

  • Inside the race to train AI robots how to act human in the real world. latimes.com

AI und Bild/Video/Audio

  • Billboard Says at Least One AI‑Generated “Artist” Is Charting Every Week Now. futurism.com

  • Meta’s AI Video App Is Full of What I’m Calling ‘Boomerslop’. businessinsider.com

  • xAI used employee biometric data to train Elon Musk’s AI girlfriend. theverge.com

AI und alles andere

Content

  • The internet wants to be fragmented. noahpinion.blog

  • The Authenticity Delusion. eugenehealey.substack.com

  • The New Conspiracy Age. technologyreview.com

  • Verteidigungsanwälte rekrutieren gezielt True-Crime-YouTuber und deren Fanbase, um vor Gerichtsurteilen öffentlichen Druck aufzubauen und Zeugen einzuschüchtern – eine Strategie, die das Justizsystem untergräbt und aus Strafverfahren Content-Kriege macht. piratewires.com

  • How to end your extremely online era. tommydixon.ca

Tech

  • Norweger stellen fest, dass China 850 ihrer Elektrobusse fernsteuern und sogar stoppen kann. focus.de

  • Europeans, You Need Silicon Valley, But Silicon Valley Doesn’t Need You. dadalogue.substack.com

  • Meta is earning a fortune on a deluge of fraudulent ads, documents show. reuters.com

  • Rise of the ‘porno‑trolls’: how one porn platform made millions suing its viewers. theguardian.com

Culture

Side Quests

🧲,

gregor

]]><![CDATA[Die letzten Trainingsdaten]]>https://gregorschmalzried.blog/p/die-letzten-trainingsdatenhttps://gregorschmalzried.blog/p/die-letzten-trainingsdatenSun, 02 Nov 2025 08:58:05 GMThi! hier ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

Mein Sachbuch Wir, aber besser erscheint im November 2025 als Paperback, E-Book und Hörbuchdownload.

Für alle, die die AI-Zukunft kennenlernen wollen – und sich vielleicht sogar darauf freuen. Auch eine gute Weihnachtsgeschenk-Idee!

Link zu Amazon
Link zur Verlagsseite bei Penguin Random House

Die letzten Trainingsdaten

wide shot, experimental analog photo, man in a field at work at a desk, protocol, data, hands [FLUX.1 kontext max]

Generative AI ist gut im Nachbauen von dem, was sie in den Trainingsdaten gesehen hat.

So weit, so offensichtlich. Aber hinter dieser einfachen Wahrheit steckt eine faszinierende Erkenntnis über die Grenzen aktueller Modelle – und darüber, wie diese in Zukunft überwunden werden könnten.

1 ARBEIT ALS SIMULATION

Was ist das Problem mit dieser Antwort von GPT-5 Instant?

Auf den ersten Blick gar nichts. ChatGPTs Antwort sieht aus wie ein typischer Bericht zu der gestellten Frage. Sie geht auf verschiedene Punkte ein, liefert Beispiele und Empfehlungen.

Das Problem zeigt sich beim zweiten Blick.

Wenn man die Antwort des Bots genauer untersucht (Link zum ganzen Gespräch hier), stellt man fest: Der Text folgt zwar der Form eines Berichts, in den ausführliche Recherchen geflossen sind. Aber sobald man die Form beiseite lässt, fehlt alles, was einen solchen Bericht in der Realität auszeichnen würde: Echte inhaltliche Arbeit, eine echte Auseinandersetzung, echte Erkenntnisse. Obwohl die AI Marktlücken identifizieren sollte, schlägt sie nur Allgemeinplätze vor – die vielleicht plausibel klingen, aber in der Realität überhaupt nicht weiterhelfen.

Diese Antwort ist deshalb keine wirkliche Leistung. Sie ist “Workslop”. Leere Kalorien. Eine Token-Beschaffungsmaßnahme, die Arbeit vortäuscht, aber nicht wirklich unterstützt – oder gar ersetzt.

Wer in der Wissensarbeit mit Sprachmodellen arbeitet, der stößt immer wieder auf solche Fälle: Die AI liefert uns Texte, die aussehen wie eine Lösung, ohne wirklich eine zu sein: Kampagnen-Pläne, die sich auf irrelevante USPs beziehen. Juristische Einschätzungen, die überzeugend klingen, aber nicht wirklich anwendbar sind. Daten-Analysen, die wichtige Zahlen durcheinanderbringen. Dienstpläne, die Personen doppelt besetzen.

Man bekommt dieses Problem zum Teil dadurch in den Griff, dass man die richtigen Modelle einsetzt. Moderne “Reasoning”-Modelle wie GPT-5 Thinking sind deutlich besser darin, sich selbst zu hinterfragen und komplexeren Prozessen zu folgen. Auch die Frage nach der KI-Podcast-Marktlücke beantwortet GPT-5 Thinking mit einem guten Prompt sehr viel vernünftiger als seine Nicht-Reasoning-Schwester im Screenshot weiter oben (Link zur ganzen Antwort):

Aber die Herausforderung ist damit noch nicht gelöst. Auch Reasoning-Modelle sind weit davon entfernt, komplexe menschliche Arbeitsprozesse zu übernehmen.

Der “Remote Labor Index” ist eine neue Benchmark-Messung, die untersucht, wie gut aktuelle KI-Modelle im autonomen Übernehmen von Remote-Arbeit sind – etwa im Produktdesign, in der Audioproduktion und im Erstellen von wissenschaftlichen Dokumenten. Aktueller Stand: Der beste AI-Agent erledigt nur 2,5 Prozent der Aufgaben auf Menschenniveau. Trotz Reasoning.

Etwas anekdotischer, aber dafür unterhaltsamer ist das Experiment der “Agent Company”, in der verschiedene AI-Modelle die Rollen von Mitarbeitern in einem fiktiven Unternehmen übernehmen sollen. Das Ergebnis: Chaos. Als eine der AIs eine Zielperson nicht im System finden konnte, benannte sie einfach eine andere Person in den Namen ihrer Zielperson um – und schrieb dieser die Nachricht.

All das heißt nicht, dass Generative AI bei der Arbeit nutzlos ist. Aber es heißt, dass Generative AI aktuell autonom nicht in der Lage ist, menschliche Prozesse nachzubilden.

Diese Tatsache fühlt sich manchmal eigenartig an. Wieso leben wir in einer Zeit, in der AI zwar menschlich klingende Texte schreiben, real aussehende Videos erzeugen und emotional anmutende Gespräche führen kann… aber an den einfachsten Arbeitsprozessen scheitert?

Wie Comedian Fabi Rommel es in diesem Sketch zusammenfasst: “Kannst du mir wenigstens irgendeine Bürokratieaufgabe abnehmen, bevor du die Welt zerstörst?”

Natürlich hilft AI heute schon massiv bei Bürokratieaufgaben. Aber nur, wenn man Zeit ins Onboarding investiert (siehe “Der große Trenner”).

Auf sich gestellt, mit Bordmitteln, kann Generative AI eben nur das, was sie in ihren Trainingsdaten hat: Bilder erstellen. Texte erstellen. Videos erstellen.

Aber Bilder, Texte und Videos sind für die meisten von uns nicht das Ziel. Arbeit ist das Ziel. Und hier tut sie sich schwerer.

Ein Sprachmodell könnte mir zwar auf Anhieb eine perfekt aussehende Steuererklärung erzeugen. Nur… dass die Zahlen und Daten sich korrekt auf die von mir gesammelten Rechnungen beziehen, das ist die eigentliche Herausforderung.

Hier werden die Trainingsdaten zum Problem:

Sprachmodelle kennen fertige Steuererklärungen. Aber sie kennen es nicht, eine Steuererklärung auszufüllen. Sie kennen interne Nachrichten unter Kollegen. Aber sie kennen nicht die Prozesse innerhalb des Unternehmens, die zu diesen Nachrichten geführt haben.

Die eigentliche Arbeit, die wir Menschen machen, liegt eben nicht in den fertigen Texten, Dokumenten und Dateien. Sie liegt in den Schritten davor.

Der Prozess ist die Arbeit. Das Ergebnis ist nur die Kommunikation dieser Arbeit.

Genau diesen Unterschied verstehen moderne AI-Modelle oft nicht. Sie kommunizieren deshalb immer wieder Arbeit, die sie gar nicht gemacht haben. Für sie ist es egal, ob sie die richtige Zielperson angeschrieben haben oder eine andere, die sie zur Zielperson umbenannt haben. Die Kommunikation einer Sache ist für sie identisch mit der Sache selbst.

Sobald wir das verstehen, verstehen wir auch die Grenzen moderner KI-Systeme. Wir verstehen besser, warum sie halluzinieren. Warum sie so schlecht darin sind, ihre eigenen Fähigkeiten einzuschätzen. Und warum sie so menschlich klingen – obwohl sie unter der Haube völlig anders funktionieren.

Wir verstehen aber auch, wie man diese Grenzen überwinden könnte:

Wenn das Problem die Trainingsdaten sind… könnte man dann nicht einfach dort ansetzen?

Die KI nicht mehr nur mit fertigen Berichten, Steuererklärungen und Slack-Nachrichten trainieren? Sondern mit menschlicher Arbeit?

We’re about to find out.

2 ARBEIT ALS ARBEIT

Zwei – scheinbar zusammenhanglose – News-Storys der letzten Monate.

  1. Anfang Oktober meldet Bloomberg, dass ein Data-Labeling-Startup namens Mercor über hundert ehemalige Investment-Banker rekrutiert hat, um für OpenAI AI-Modelle zu trainieren. Die Ex-Banker sollen Finanzmodelle für Restrukturierungen, Börsengänge und M&A-Deals erstellen und der AI beibringen, wie man diese Aufgaben ausführt. Eine Woche später die nächste Meldung: Das gleiche Startup hat fast 150 ehemalige Berater von McKinsey, BCG und Bain unter Vertrag genommen. Diesmal für Unternehmensberatung statt Investment Banking. Die Ex-Consultants sollen AI-Modellen wie Google Gemini beibringen, die Entry-Level-Aufgaben ihrer alten Branche zu übernehmen, also wie man einen Case analysiert und wie man von der Aufgabenstellung zur Lösung kommt.

  2. Der neue Haushaltsroboter “NEO” des Startups 1X soll Haushaltsaufgaben übernehmen: Müll rausbringen, Zimmer aufräumen. Aber NEO kann das noch nicht wirklich alleine. Für komplexere Aufgaben braucht der Roboter menschliche “Teleoperatoren” – Mitarbeiter von 1X, die durch die Augen des Roboters in dein Zuhause schauen und ihm zeigen, wie man eine Aufgabe erledigt. Die Kalkulation bei 1X: Durch diese Remote-Arbeit sollen die Trainingsdaten gesammeln werden, die NEO braucht, um irgendwann ganz alleine die Spülmaschine einzuräumen.

Die Generative AI, die wir kennen, war ein Nebenbei-Produkt des Internets. Sie basiert auf den Daten, die zufällig zur Verfügung standen – nicht auf denen, die explizit für sie geschaffen wurden. Aber jetzt, wo wir die Trainings-Mechanismen besser verstehen, werden die gleichen Prinzipien auch auf andere Datensammlungen angewandt. Diese müssen nur erst einmal aufgebaut werden.

Die Initiativen von Mercor und 1X sind dabei nur die aktuellsten Kapitel einer Geschichte, die schon seit Jahren läuft: Menschliche Arbeit in Tokens zu verwandeln, mit denen ein AI-Modell etwas anfangen kann.

Das erste Zwischenergebnis dieser Operation sind agentische “Computer Use”-Modelle wie der ChatGPT “Agent Mode” und AI-Browser wie Comet und Atlas. Die haben gerade noch einige Kinderkrankheiten (siehe Der KI-Podcast: Sollten wir alle auf KI-Browser wechseln?”). Aber das hatte GPT-3 vor ein paar Jahren auch noch.

Gleichzeitig sind agentische Systeme in abgeschlossenen Software-Umgebungen wie Notion und Asana in den letzten Monaten erstaunlich gut geworden.

Es hat ein paar Jahre gedauert. Aber die Vorstellung einer AI, die auch diffuse menschliche Arbeit als Prozess versteht, wird immer klarer umrissen.

3 WORK FINDS A WAY

Arbeit mit AI fühlt sich heute schon futuristisch an. Ich erlebe jeden Monat neue Erfolgsmomente, die noch vor Kurzem unmöglich gewesen wären. (Claude kann jetzt Powerpoints!)

In der absehbaren Zukunft wird AI vor allem denjenigen helfen, die diese Fähigkeiten nutzen, klar von menschlichen Fähigkeiten abtrennen und ihre Prozesse teilweise rund um die Technologie umstrukturieren: Man formatiert Excel-Sheets anders, damit das Sprachmodell sie besser versteht. Man verschickt Angebote in neuen Formaten, weil das Sprachmodell diese robuster ausgibt.

Nur… was passiert, wenn nicht mehr nur der Output als Trainingsdaten eingelesen sind, sondern der ganze Prozess auf dem Weg dort? Was, wenn die AI nicht nur Arbeit simulieren, sondern wirklich verrichten kann?

Wir wissen noch nicht, ob das wirklich funktionieren kann und die Wette der Tech-Unternehmen in dieser Form aufgeht. Ich halte es für gut möglich, dass uns hier enorme Sprünge bevorstehen. Aber menschliche Arbeit ist mehr als nur das Herumtippen auf Tastatur und Maus. Selbst ein Computer-Gehirn-Interface wäre nicht in der Lage, all das zu erfassen, was unsere kognitive Leistung ausmacht.

Und wenn das doch irgendwie funktioniert… Selbst dann glaube ich nicht, dass wir alle arbeitslos werden.

Eine beliebte Definition von AGI ist “AI, die jede wirtschaftlich wertvolle Arbeit übernehmen kann”.

Doch in dem Moment, in dem eine AI eine Arbeit erledigen kann, ist diese eben deutlich weniger wirtschaftlich wertvoll als vorher. Das bedeutet, der Wert weicht aus… woanders hin. Und dem folgen wir. Wir Menschen waren schon immer Meister darin, neue Bottlenecks und Herausforderungen zu finden.

Arbeit findet immer ihren Weg.

Mein Sachbuch Wir, aber besser erscheint im November 2025 als Paperback, E-Book und Hörbuchdownload.

Vortrag & Gespräch: Gregor Schmalzried - Wir, aber besser | visit.freiburg.de

Link zu Amazon
Link zur Verlagsseite bei Penguin Random House

AT FREIBURG UND UMGEBUNG:

Am 25.11.2025 lese ich in der Buchhandlung Rombach, Freiburg aus meinem Buch und mache zusätzlich ein kleines interaktives Programm.
Ich freu mich übers Vorbeischauen!
mehr info hier

Außerdem

Portfolio

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir auf Spotify. open.spotify.com Mit aktuellen Folgen zur Zukunft des Internets und KI-gestützter Forschung.

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir in der ARD Audiothek. ardaudiothek.de

  • Ich war kurz zu Gast in einer unterhaltsamen und interessanten Marktcheck-Reportage zur Frage: “Kann man mit KI-Influencern reich werden?” youtube.com

AI und Text / Sprachmodelle

  • KI-Panne beim Spiegel. Ist das Journalismus? linkedin.com

  • The first-ever cash poker tournament for LLMs. pokerbattle.ai

  • Where have the really big AI models gone? (Headline: GPT-5 wurde vermutlich mit weniger Ressourcen trainiert als GPT-4.5. Einfach weil die Ressourcen für Inferenz gebraucht wurden. Mal schauen, was passiert, wenn die Rechenzentren in den USA weiter ausgebaut werden. transformernews.ai

  • 3 New AI Scams You Need To Prepare For. decision.substack.com

  • AI Friends Too Cheap To Meter. jasmi.news

  • Emergent Introspective Awareness in Large Language Models. Hoch-faszinierender und wenig verlässlicher Research von Anthropic. transformer-circuits.pub

AI und Arbeit

AI und alles andere

Content

Tech

Culture

Side Quests

  • Deutsche Betriebe haben in den vergangenen drei Jahren rund 325.000 Arbeitskräfte zusätzlich eingestellt, um die gestiegene Bürokratie zu bewältigen. Vielleicht dachte der Gesetzgeber, dass AI das alles erledigt. heise.de

  • World Map according to Fish. southernwoodenboatsailing.com

  • Space Elevator. neal.fun

  • Of Monsters and Men – Fruit Bat (Live from Skarkali). Song of the year? youtube.com

⌨️,

gregor

]]><![CDATA[Jemand sein, der Claude nutzt]]>https://gregorschmalzried.blog/p/jemand-sein-der-claude-nutzthttps://gregorschmalzried.blog/p/jemand-sein-der-claude-nutztThu, 16 Oct 2025 05:37:18 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

Mein Sachbuch Wir, aber besser erscheint im November 2025 als Paperback, E-Book und Hörbuchdownload.

Link zu Amazon
Link zu Autorenwelt (wenn du gerne ein signiertes Exemplar hättest)
Link zur Verlagsseite bei Penguin Random House

Jemand sein, der Claude nutzt

1 NEON

Als ich etwa 15 Jahre alt war, war ich zum ersten Mal auf der Suche nach Coolness. Weniger nach coolen Dingen (so weit war ich noch nicht), sondern nach dem Konzept der Coolness selbst – der Konstruktion von diffusen sozialen Merkmalen, die im Auge des Betrachters unterscheiden, ob jemand cool ist oder nicht.

Einer meiner ersten Erfolge war diese Erkenntnis: Cool war es, die NEON zu lesen.

Die Kids auf meinem Schulhof sprachen natürlich nicht über die NEON (zumindest nicht während unserer Diskussionen über League of Legends und Batman). Ich stellte einfach einen vagen Vibe fest: Leute, die älter, intellektueller, interessanter, kulturell informierter waren als ich, das waren zufällig auch die Leute, die die NEON lasen.

Also begann ich selbst, die NEON zu lesen.

Die NEON (das muss man heute wohl leider erklären) war eine Millennial-Zeitschrift der 00er und frühen 10er-Jahre, bekannt für ihre Reportagen, Popkulturbeobachtungen und die “Unnützes Wissen”-Rubrik. Den Sprung ins Digitale Anfang der 2010er-Jahre bekam sie nie richtig hin. Die NEON starb. Heute taugt die Marke nur noch als Nostalgie-Thema bei Brunch-Gesprächen.

Es gibt vermutlich viele gute Gründe, warum die NEON als digitale Marke nie funktioniert hat – ich war nicht dabei, deshalb kann ich das natürlich schlecht einschätzen. Trotzdem habe ich eine Theorie, von der ich so überzeugt bin, dass mich alle anderen Faktoren (so richtig und interessant sie auch bestimmt sind) kaum interessieren:

Die NEON war nicht dafür da, gelesen zu werden. Zumindest nicht nur. Sie war dafür da, um beim Lesen der NEON gesehen zu werden. Man wollte nicht einfach die NEON lesen. Man wollte jemand sein, der die NEON liest.

Die grellen sexy Cover waren damit nicht die Verpackung des Produkts. Sie waren das Produkt selbst.

Im digitalen Zeitalter funktioniert das nicht mehr. Wenn man auf seinem Smartphone etwas liest, kann das ein schlaues Essay von Andrea Petkovic sein oder die User-Kommentare unter El Hotzo-Posts. Von außen sieht beides genau gleich aus. Möchte man die Menschen um sich herum darüber informieren, dass man etwas Interessanteres konsumiert, geht das eigentlich nur, indem man es ihnen ständig verbal mitteilt “Ich lese gerade einen interessanten Text von Andrea Petkovic” (oder ein Gerät kauft, welches das für einen tut, wie in diesem 11 Jahre alten “The Onion”-Sketch).

Digitale Inhalte taugen damit schlechter als früher zur sozialen Distinktion als ihre analogen Cousins. Und damit verlieren sie einen Teil ihres Werts. Gute Inhalte werden ein kleines Stück egaler. Klar kann man immer noch lesen, was man möchte, aber eine der Motivationen dafür, etwas Gutes zu lesen, ist angeschlagen. Und allein aus eigener Willenskraft nicht im Slop-Sumpf von Social Media zu versinken, ist deutlich schwerer, wenn niemand weiß, was man sich da gerade reinzieht.

generated mit Nano Banana

In Benedict Wells’ Roman Vom Ende der Einsamkeit trifft die Hauptfigur eine dystopische Prognose (die Szene spielt im Herbst 2005):

Marty erzählte mir, dass man Bücher bald nur noch elektronisch lesen werde.
»Das ist doch Mist«, sagte ich, »auf diese Weise wird die Wirklichkeit ausgeleert. Bücher, Platten und Filme werden weggeworfen und in eine Welt hineindigitalisiert, die man nie betreten kann. Die Kinder der Zukunft werden nur noch in leeren weißen Zimmern sitzen.«

Die digitale Welt ist flach und farblos. Sie kann uns nicht umgeben. Sie schmückt nicht unsere Wände und Regale. Wir können sie nicht anziehen, nicht essen, keine Selfies darin machen.

Und damit fehlt ihr die Möglichkeit, als Distinktionsmerkmal zu dienen.

Der Entwickler und Substack-Autor “marcgmbh” schreibt in “Aspirational Software” (Kürzungen von mir):

Physical objects let us signal who we are and who we want to become. Why don’t my digital spaces reflect the same aspiration?

As distribution becomes harder and software becomes cheaper, identity becomes a key differentiator. The future belongs to tools that understand not just productivity, but identity and brand. Not just what we want to do, but who we want to become. Form over function.

Der Erzähler in Vom Ende der Einsamkeit und marcgmbh beschreiben das gleiche Phänomen. Nur sieht der Erzähler darin eine traurige Zukunftsvision. marcgmbh sieht darin eine Marktlücke für Venture Capitalists.

Und jetzt kommt Claude.

2 CLAUDE

Das Silicon Valley und die großen Tech-Konzerne unserer Zeit sind Meister darin, zugängliche und nützliche Produkte zu bauen.

Aber sie scheinen wenig Interesse daran zu haben, diese in interessante Marken zu verwandeln.

Das ist interessant, weil Marken sonst in unsere Welt eine sehr wichtige Rolle spielen.

Jeder 16-jährige kann erklären, dass Nike-Hosen etwas anderes aussagen als Hosen von Adidas, und viele können gleich nachlegen, warum Balenciaga quasi das Gegenteil ist von Bottega Veneta (obwohl beide zum gleichen Konzern gehören).

In der digitalen Welt ist das anders. Niemand weiß, was der Marken-Unterschied zwischen Uber und Bolt sein soll, zwischen Microsoft Azure und AWS. Das ist oft einfach nicht notwendig. Die meisten Silicon Valley-Apps konkurrieren nicht über Branding, sondern über Convenience, Funktion und Preis.

Doch der große AI-Boom ändert das – aus zwei Gründen (um den zweiten Grund geht es etwas weiter unten).

Der erste Grund ist: Auf einmal konkurrieren jede Menge Unternehmen mit Chatbot-Produkten, die sich von außen kaum unterscheiden und alle ungefähr das Gleiche kosten (siehe “Der große Trenner”). ChatGPT, Claude, Gemini, Copilot, Le Chat, Grok, … All diese Produkte unterscheidet was nochmal?

Anthropic, die Firma hinter Claude, hat eine unerwartete Antwort: Branding eben.

Anfang des Monats eröffnete Anthropic einen Pop-Up-Store in New York. Es gab gratis Caps, Bücher und Kaffee. Die Aktion – hier charmant nacherzählt von Anthropic-Mitarbeiter Sam McAllister – war ein Riesenerfolg.

Die Aktion ist ein Element von Anthropics breiterer Markenstrategie. Ein aktueller Anthropic-Spot, der Claude als “The AI for Problem-Solvers” anpreist, ist nicht nur für seine physische Ästhetik bemerkenswert, sondern auch dafür, wie wenig Raum die Computer im Spot einnehmen. Wir beobachten Tüftler, Forscher, Brainstormer… Die AI ist zwar mit dabei. Aber nicht der Hauptfokus. Es ist die Antithese zum “Slop”-Internet.

Die Message: Die AI soll dein Denken weiterbringen. Nicht durch ihr eigenes ersetzen.

Diese Kampagne ist enorm smart und es wundert mich überhaupt nicht, dass sie so gut ankommt. Denn während der Rest der Tech-Welt in seinen AI-Spots gerne andeutet, AI sei da, um sich das Denken abzugewöhnen (siehe Apple Intelligence is for the Stupid Ones), macht Anthropic das genaue Gegenteil: Die Firma schmeichelt ihren Nutzern, indem sie ihnen etwas zutraut.

Sogar im Produkt selbst findet sich dieser Ansatz mittlerweile. Seit dem neuesten Update Claude Sonnet 4.5 scheint Claude auf einmal deutlich bereiter zu sein, seinen Nutzern auch einmal zu widersprechen.

Das kann man als Nutzer nervig finden – aber zumindest ist es eine bewusste Abgrenzung von der Konkurrenz. Insbesondere ChatGPT hat nämlich mittlerweile den Ruf, seinen Nutzern grundsätzlich Recht zu geben und damit eher für schlechtere Ergebnisse zu sorgen. Dieses Phänomen, auch bekannt als “AI Sycophancy”, ist mittlerweile so groß, dass es vor zwei Monaten sogar in South Park verarscht wurde.

Das spannendste an Anthropics Positionierung ist wahrscheinlich, dass sie überhaupt passiert. Die AI-Welt ist mittlerweile so erwachsen, dass sich richtige Lager herausbilden. Botschaften. Kommunikation. Coolness.

Man muss Anthropic diese Kampagne nicht abkaufen. Und natürlich könnte man einfach behaupten, da drüber zu stehen. Das Tool wirklich als das zu betrachten, was ist ist. Und nicht als das, was es darstellt.

Aber so funktionieren wir Menschen nicht. Ich spüre auf einmal das gleiche Kitzeln wie bei der NEON vor fünfzehn Jahren.

Man will nicht einfach Claude nutzen. Man will jemand sein, der Claude nutzt.

Mein Sachbuch Wir, aber besser erscheint im November 2025 als Paperback, E-Book und Hörbuchdownload.

Vortrag & Gespräch: Gregor Schmalzried - Wir, aber besser | visit.freiburg.de

Link zu Amazon
Link zu Autorenwelt (wenn du gerne ein signiertes Exemplar hättest)
Link zur Verlagsseite bei Penguin Random House

AT FREIBURG UND UMGEBUNG:

Am 25.11.2025 lese ich in der Buchhandlung Rombach, Freiburg aus meinem Buch und mache zusätzlich ein kleines interaktives Programm.
Ich freu mich übers Vorbeischauen!
mehr info hier

Außerdem

Termine

Ich bin in nächster Zeit als Speaker bei u.a. folgenden Events:

  • 21.10. HEX Festival, Braunschweig. hexfestival.de

  • 22.–24.10. Medientage München, München. Große Medienfachkonferenz zu Trends in Medien, Kommunikation & KI (über 100 Sessions). medientage.de

  • 27.11. AI Media Leaders, Hamburg. nextmedia-hamburg.de

Portfolio

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir auf Spotify. open.spotify.com

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir in der ARD Audiothek. ardaudiothek.de

Ich empfehle besonders unsere aktuelle Folge “Was passiert, wenn die KI-Blase platzt?”

AI und Text / Sprachmodelle

  • ChatGPT Is Blowing Up Marriages as Spouses Use AI to Attack Their Partners. (Ich weiß ja ehrlich gesagt nicht, wie stabil eine Ehe ist, die von ChatGPT kaputtgemacht werden kann.) futurism.com

  • ‘Existential crisis’: how Google’s shift to AI has upended the online news model. theguardian.com

  • No, ChatGPT isn’t ‘making us stupid’. transformernews.ai

  • China foes get worse results using DeepSeek, research suggests. tomshardware.com

  • Finding God in the App Store. „Faith-Tech“-Apps, deren Chatbots seelsorgerische Aufgaben übernehmen. nytimes.com

  • Designing agentic loops. simonwillison.net

  • Claude Sonnet 4.5 knows when it’s being tested. transformernews.ai

  • Practical tips for reducing chatbot psychosis. stevenadler.substack.com

  • These über perverse Anreizstrukturen sozialer Plattformen, die auch LLM-Ausgaben politisieren und verzerren können. socialwarming.substack.com

  • Why America Builds AI Girlfriends and China Makes AI Boyfriends. chinatalk.media

AI und Arbeit

AI und Bild/Video/Audio

  • Meta’s AI glasses could mean more independence for the blind. cbsnews.com

  • Otto ersetzt Models durch KI. t3n.de

  • Casey Neistat über Sora. youtube.com

AI und alles andere

Content

Tech

Side Quests

📔,

gregor

]]><![CDATA[why i wrote a book about ai]]>https://gregorschmalzried.blog/p/why-i-wrote-a-book-about-aihttps://gregorschmalzried.blog/p/why-i-wrote-a-book-about-aiThu, 18 Sep 2025 06:02:30 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Ich habe ein Sachbuch geschrieben! :)

Es heißt Wir, aber besser und es erscheint im November im Goldmann Verlag.

Trotz *allem was los ist* (bitte hier beliebige Krise einfügen), halte ich generative künstliche Intelligenz für das wohl wichtigste Thema unserer Gegenwart und nahen Zukunft.

Mein Ziel war es, über dieses wichtigste Thema das bestmögliche Buch zu schreiben: Einsteigerfreundlich. Spannend. Und optimistisch.

Und vor allem ein Buch, das uns Menschen ins Zentrum der Geschichte rückt. Künstliche Intelligenz ist am Ende des Tages eine People-Story. Und so sollte man sie auch erzählen.

Ob mir das gelungen ist? Keine Ahnung. Wenn man so lange an einem Text sitzt, kann man die Sätze irgendwann nicht mehr sehen; Worte sind nur noch Brei. Aber ich glaube, es ist ganz gut geworden.

Vor allem bin ich gerade enorm happy, dass das Buch tatsächlich in zwei Monaten erscheint und bin sehr dankbar für die ganze Unterstützung, die ich auf dem Weg hatte.

Wenn du also …

  • … etwas Ausführliches und Unterhaltsames über KI, Technologie und Menschlichkeit lesen möchtest

  • … dich für die Zukunft interessierst – und dich vielleicht sogar darauf freuen willst

  • … eine Geschenkidee für jemanden suchst, der sich endlich mal mit KI beschäftigen wollte

  • … meinen Newsletter oder Podcast magst und gerne mehr von mir lesen möchtest

Dann würde ich mich freuen, wenn du einen Blick bei den Seiten zur Vorbestellung vorbei wirfst:

Link zu Amazon
Link zu Autorenwelt (wenn du gerne ein signiertes Exemplar hättest)
Link zur Verlagsseite bei Penguin Random House

Wir, aber besser erscheint im November 2025 als Paperback, E-Book und Hörbuchdownload.

Hier ein Bild von mir neben dem Cover – ta-da!

Vortrag & Gespräch: Gregor Schmalzried - Wir, aber besser | visit.freiburg.de

Ich möchte diesen Newslettertext aber nicht einfach nur für Werbung nutzen, sondern noch einen Aspekt aufklappen, der mir sehr wichtig ist – und der im Kern dieses Buchprojekts steckt:

Warum “Wir, aber besser”?

In den letzten paar Jahren ist es zu meinem Job geworden, nicht nur AI zu verstehen, über sie zu sprechen und zu schreiben, sondern vor allem, mit anderen Menschen über AI zu sprechen. Ich finde es immer spannend, von Anwendungsfällen, Problemen und Ideen zu hören… nie ist etwas auserzählt, ständig passiert etwas Neues.

Und wenn man mit interessierten und kreativen Menschen über AI redet, dann landet man oft bei einer von zwei Thesen:

  1. AI macht uns schlechter

Das ist das “Wir, aber schlechter”-Szenario.

Generative AI ist in den letzten zwei Jahren zum Massenmedium geworden. 700 Millionen Menschen weltweit nutzen ChatGPT. Synthetische Bilder und Texte sind überall.

Was macht das mit uns?

In dieser Frage liegt heute ein Unbehagen, ein deutlich schärferer grollender Unterton als noch vor drei Jahren.

Wir hören mittlerweile von AI-Abhängigkeit, von “AI-Psychosen”, von abnehmendem kritischem Denken, Betrug in der Schule und und und…

All diese Fragen und Sorgen sind berechtigt. Und doch ist es kurios, wie wir uns Menschen in diesen Geschichten immer wieder zu passiven Konsumenten degradieren. Immer wieder scheint es, als sei Künstliche Intelligenz etwas, das uns widerfährt, und nichts, worauf wir selbst einen Einfluss haben.

Wenn die AI-Zukunft positiv verlaufen soll, dann müssen wir aufhören, AI im Passiv zu erzählen. Und ins Aktiv wechseln.

Wir haben das in der Hand. Es sind unsere Hände, unsere Köpfe.

Was zur zweiten These führt:

  1. AI macht uns überflüssig

Das ist das “Etwas anderes, aber besser”-Szenario. Und das hat prominente Fürsprecher.

Elon Musk hat mehrmals angedeutet, er sehe die Menschheit als einen “Bootloader” für eine überlegene, digitale Superintelligenz. Ein Bootloader ist ein kleines Programm, das nur dafür da ist, um das eigentliche Betriebssystem in Gang zu setzen. Ein notwendiger, aber eigentlich langweiliger Zwischenschritt auf dem Weg zu etwas viel Größerem, Besserem.

In Tech-Kreisen ist diese Ansicht nicht super exotisch. Es gibt viele einflussreiche Menschen, die ernsthaft der Meinung sind, dass Künstliche Intelligenz, synthetische Existenzen, was auch immer, genauso wichtig oder wichtiger sein könnten als wir Menschen.

Das Schwierige an diesem Bild sind nicht nur die dystopischen Sci-Fi-Szenarien, die das zulässt… sondern dass es schon im Hier und Jetzt etwas mit unserer Wahrnehmung macht: Wer sich auf Musks Bild einlässt, der verdrängt den Menschen aus dem Zentrum seines Weltbilds und ersetzt ihn durch eine Technologie.

Ich glaube, der Mensch gehört ins Zentrum.

Selbst, wenn eine irgendwann existierende Super-KI fünftausendmal schlauer sein sollte als wir. Selbst dann. Gerade dann.

Deshalb das “Wir, aber besser”-Szenario.

In einer gelungenen AI-Zukunft haben wir gelernt, Technologie nicht nur passiv hinzunehmen, sondern sie aktiv zu gestalten. Und wir haben akzeptiert, dass Technologie manche Dinge besser kann als wir – und uns entsprechend ausgerichtet, ohne dabei uns selbst zu verlieren.

Aber vor allem sind wir schlauer geworden, produktiver, kreativer und menschlicher. Wir sind immer noch wir selbst. Nur ein bisschen besser.

Wird diese Zukunft ganz sicher so eintreten? Natürlich nicht. Es gibt jede Menge, was schiefgehen kann, die Dystopie ist nicht abgesagt.

Aber mein Buch skizziert alle möglichen Antworten auf die schamlose Frage:

Was, wenn diesmal nicht alles super mega kacke wird? Was, wenn es irgendwie funktioniert?

Eine bessere Zukunft können wir nur dann bauen, wenn wir sie uns auch vorstellen können.

Link zu Amazon
Link zu Autorenwelt (wenn du gerne ein signiertes Exemplar hättest)
Link zur Verlagsseite bei Penguin Random House

Wir, aber besser erscheint im November 2025 als Paperback, E-Book und Hörbuchdownload.

Außerdem

Portfolio

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir auf Spotify. open.spotify.com

  • Der KI-Podcast (ARD) – der wöchentliche Podcast von Fritz, Marie und mir in der ARD Audiothek. ardaudiothek.de

AI und Text / Sprachmodelle

  • OpenAI und Anthropic liefern erstmals detaillierte Einblicke in KI-Nutzungsmuster. the-decoder.de

  • Business Insider reportedly tells journalists they can use AI to draft stories. Das, was von der Policy bekannt ist, klingt gut und reasonable. theverge.com

  • I Replaced Animal Crossing's Dialogue with a Live LLM by Hacking GameCube Memory. joshfonseca.com

  • New Google Court Doc: Open Web Is In Rapid Decline. seroundtable.com

  • Why language models hallucinate. openai.com

  • Gemini hat ChatGPT in den App-Charts überholt. cnet.com

  • Romantic AI use is surprisingly common and linked to poorer mental health, study finds. psypost.org

AI und Bild/Video/Audio

  • Ein Startup will AI-generierte Podcasts groß machen. Schwierige Aufgabe, weil es der Versuch ist, etwas zu bündeln, was vor allem komplett dezentral (d.h. in den Händen jedes einzelnen Users) funktioniert: synthetische personalisierte Inhalte. hollywoodreporter.com

  • Remember When Things Were Better in the ’90s? A.I. Does Too. nytimes.com

  • Latin American musicians say AI is stealing their streams. restofworld.org

AI und alles andere

  • US Senator Cruz proposes AI ‘sandbox’ to ease regulations on tech companies. Vor über einem Jahr wurde der AI Act unter anderem mit der Begründung verabschiedet, dass Europa hier eine globale Vorbildrolle einnehmen könnte. Bislang weist wenig darauf hin, dass der Rest der Welt sich für den AI Act interessiert. Wenn, dann bewegt er sich in die gegensätzliche Richtung. reuters.com

  • Related: Hiring struggles are plaguing the EU AI Office. transformernews.ai

  • Apples Live-Übersetzung kommt als Update – nicht in der EU. golem.de

  • Sometimes the value of a ‘human touch’ is negative. x.com

  • The Scam Called “You Don’t Have to Remember Anything”. zettelkasten.de

Tech

Culture

Side Quests

📘,

gregor

]]><![CDATA[Die toten Augen der AI]]>https://gregorschmalzried.blog/p/die-toten-augen-der-aihttps://gregorschmalzried.blog/p/die-toten-augen-der-aiTue, 09 Sep 2025 08:37:16 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Die toten Augen der AI

1 DER SCHUSTER

Hier ist ein schöner Test:

Fällt dir an dem Bild dieses Schusters etwas Eigenartiges auf?

Falls nein… dann bist du ein halbwegs normaler Mensch.

Falls ja… dann steckt dein Kopf vielleicht so tief im Thema AI wie meiner.

Das Foto an sich zeigt eine zuplakatierte Fensterfront eines Geschäfts in Downtown Vancouver. Dort habe ich es letzte Woche gemacht.

Aber was ist mit dem Foto des Schusters, das auf dem Poster zu sehen ist? Hat das jemand gemacht? Oder wurde es einfach mit der AI generiert?

Wenn ich sage, dass mir etwas Eigenartiges an dem Bild auffällt, dann sind es keine offensichtlichen Hinweise – doppelte Finger, verhunzte Buchstaben, oder so. Es ist einfach die ganze Aura des Bildes. Ich kann es nicht in Worten greifen. Wie ein paranoider Verschwörungstheoretiker, der glaubt, die Weltbevölkerung sei durch Aliens ersetzt worden, starre ich in die Augen dieses Mannes und denke an die Zeilen von Quint aus Steven Spielbergs Jaws.

"He's got lifeless eyes, black eyes, like a doll's eyes."

Qua meines Berufes verbringe ich sehr viel Zeit damit, AI-generierte Inhalte anzuschauen und selbst zu generieren. Wenn man das tut, wird man ganz automatisch besser darin, ihre Ästhetik zu erkennen. Mir fehlt leider die Ausbildung, um das konkret benennen zu können, was ich da sehe. Ist es das Licht? Die Komposition? Etwas an einem menschlichen Gesicht, das wir erkennen, die AI aber nicht?

Was es auch ist… auf immer mehr Straßen, ob in Vancouver oder sonstwo, sehe ich heute tote Augen. Die toten Augen synthetischer Menschen.

2 EINE ZEITREISE

Eine wichtige Sache zu meiner Tätigkeit als AI-Detektiv: Dieses Schuster-Bild sieht ganz konkret nach ChatGPT aus.

Das aktuelle Bildmodell in ChatGPT wurde im Frühjahr 2025 gelaunched (viele haben es über den “Studio Ghibli”-AI-Trend mitbekommen) und es wird seitdem von Millionen Menschen genutzt.

Das ist vor allem deswegen interessant, weil dieses Modell eine ganz eigene Ästhetik hat.

Hier ist das ChatGPT-Bildmodell mit dem Auftrag “Besucher einer futuristischen Tech-Konferenz”:

Auch hier hätte ich vermutlich recht schnell erkannt, dass es sich um ein ChatGPT-generiertes Bild handelt – und nicht um eine menschliche Zeichnung.

Das bedeutet aber nicht, dass ich besonders gut darin bin, AI-Inhalte allgemein zu erkennen. Ich erkenne wirklich nur ChatGPT.

ChatGPT-Bilder haben – for better or worse – einen bestimmten Look. Und da dieser Look jeden Tag von Tausenden LinkedIn- und Instagram-Nutzern verwendet wird, um Bilder herzustellen, sieht man ihn so oft, dass man sich mit der Zeit daran gewöhnt – und besser darin wird, ihn zu erkennen.

Vor dem großen ChatGPT-Bildmodell-Update nutzte ChatGPT noch den Bildgenerator “DALL-E 3” – und der hätte eine futuristische Tech-Konferenz noch ganz anders bebildert:

Auch dieser überladene Look kommt jedem bekannt vor, der vor einem Jahr auf Social Media unterwegs war.

Und spulen wir noch weiter zurück, landen wir in den frühen Tagen von anderen Bildmodellen wie Midjourney, die wieder eine ganz eigene Ästhetik hatten (die ich manchmal sogar ein bisschen vermisse).

Der Punkt ist: AI-Modelle werden nie neutral in die Welt entlassen. Sie haben immer bestimmte Verzerrungen, bestimmte Biases, bestimmte Vorlieben und Abneigungen.

Und sobald diese Verzerrungen überall sind, fallen sie auf.

Wenn man sich beim Generieren keine Mühe gibt (und zwar nur dann!), bleiben die Augen tot.

3 TOTER TEXT

Eine der spannendsten Veröffentlichungen der letzten Monate ist die Liste “Signs of AI writing” auf Wikipedia. Die Liste taugt nicht zur absoluten Beweisführung (es ist nach wie vor nicht möglich, gesichert einen synthetischen Text von einem menschlichen zu unterscheiden), aber sie ist ein sehr interessantes zeitgeschichtliches Dokument darüber, wie Sprachmodelle (insbesondere die in ChatGPT) Mitte 2025 klingen.

In der Liste werden dutzende Merkmale für AI-generierte Texte genannt, darunter…

  • Drei-Punkte-Aufzählungen (“Es ist groß, schwer und allumfassend.”)

  • Negative Parallelismen (“Es ist nicht nur groß. Es ist riesig.”)

  • Werbliche Sprache (“Wow. Das ist größer als alles, was wir uns hätten vorstellen können.”)

Für sich genommen fallen diese einzelnen Punkte oft nicht auf, aber wenn man sie zusammenschmeißt…

Dann landet man auf LinkedIn.

Als die Trump-Regierung im Juli ihren “AI Action Plan” vorstellte, war eine meiner ersten Begegnungen damit dieser Post eines AI-LinkedIn-”Influencers”:

Uff.

Dieser Post ist das Text-Äquivalent zu den toten Augen des Schusters – er liest sich wie substanzloses AI-generiertes Aufplustern.

Vor allem aber stört mich daran, dass sich irgendwo in diesem Post vielleicht ein interessanter Gedanke versteckt haben könnte. Ich werde es nur nie herausfinden: Im KI-Kleister geht dieser völlig unter.

Was also tun?

Ich habe dieses Sommersemester mein erstes Hochschul-Seminar an der Hochschule Landshut gegeben (lots of fun, Grüße an meinen Kurs und Prof. Krause!).

Meine Studis mussten am Ende eine Präsentation halten – und meine Guidance war in etwa diese:

Nutzt gerne AI. Aber wenn euer Vortragstext klingt, als hätte ihn eine AI geschrieben, dann ist es kein guter Text. Egal, wie viel AI ihr dabei wirklich benutzt habt.

Für mich ist diese Haltung der einzige Weg raus aus der Misere, in der sich Schulen und Hochschulen gerade befinden. AI mit absoluter Sicherheit zu identifizieren, geht nicht. Aber wenn ein Text so klingt oder ein Bild so aussieht, als hätte ChatGPT etwas Identisches erzeugen können, dann ist das keine sehr kreative Arbeit.

Wir Menschen sind soziale Wesen. Wir sind Geschichtenerzähler.

Egal, ob es eine Email ist oder ein LinkedIn-Post oder ein Podcast-Skript… Ich möchte keine Geschichte hören, die auch ein Roboter hätte schreiben können.

Das bedeutet nicht, dass man AI nicht nutzen sollte. Mit den richtigen Prompts, den richtigen Modellen und einem persönlichen, kreativen Zugang, entstehen oft fantastische Texte und Bilder.

Aber es gibt einen Unterschied zwischen dem faulen Weg und dem interessanten Weg.

Das unterscheidet einen langweiligen LinkedIn-Post von einem Projekt wie der “Poetry Camera”, die Foto-Input mit Claude in automatische Gedichte verwandelt. Das unterscheidet ein ödes Bild wie den falschen Schuster von wirklich interessanter AI-Kunst wie von Holly Herndon oder Merzmensch.

AI hat keine toten Augen, wenn ein Mensch dahinter zu sehen ist.

4 STAY HUMAN

Ich bin mir ziemlich sicher, dass ich in diesem Newsletter noch nie einen komplett AI-generierten Satz unmarkiert habe stehen lassen. Nicht weil ich das moralisch verwerflich finde oder so… Ich habe nur den Anspruch an mich, dass ich interessanter sein will als ChatGPT. Und I like to think, dass dieser Ansatz etwas mit dem Erfolg dieses Newsletters (mittlerweile fast 9.000 Abonnenten, vielen Dank!) zu tun hat.

Aber natürlich nutze ich AI trotzdem.

Ich habe einen frühen Draft dieses Texts vor etwa einem Monat geschrieben. Dabei suchte ich noch nach einem griffigen Begriff für das Phänomen, um das es in diesem Text geht.

Hier waren ChatGPTs Vorschläge:

Ich bin mal so frei und erlaube mir das Urteil: All diese Ideen sind furchtbar. Sie wirken abgenagt, durchgenudelt, was auch immer.

Also überlegte ich ein bisschen – mal mit mir selbst, mal mit dem Chatbot. Und landete irgendwann bei einem etwas anderen Prompt (und im besseren “GPT-5 Thinking”-Modell):

Dieser zweite Vorschlag ließ mich nicht los. Ein Porträt mit leblosen Augen…? Da steckt vielleicht irgendwas drin, dachte ich. Vielleicht ein Theme, sogar ein Titel für eine Newsletter-Ausgabe?

Einige Wochen später stand ich vor dem Plakat in Vancouver und starrte in genau diese Augen. Auf einmal passte alles zusammen.

Der Rest schrieb sich fast von selbst.

Abonniere diesen Newsletter für mehr!

Außerdem

Hinweis

Wenn jemand Ende des Monats auch auf der Bits & Pretzels in München ist, feel free to reach out! :)

Portfolio

  • Der KI-Podcast (ARD) – der Podcast von Marie, Fritz und mir auf Spotify. open.spotify.com

  • Der KI-Podcast (ARD) – der Podcast von Marie, Fritz und mir in der ARD Audiothek. ardaudiothek.de

AI und Text / Sprachmodelle

  • Crisis of Mystery. nguyenterry.substack.com

  • Wired and Business Insider remove articles by AI-generated ‘freelancer’. theguardian.com

  • Anthropic to pay authors $1.5B to settle lawsuit over pirated chatbot training material. Spannend, aber zwei wichtige Caveats: 1. gilt nur für Amerika. 2. gilt nur für Bücher, die per Raubkopie erworben wurden. npr.org

  • The Jailbreak Tax. Tief integrierte LLMs sorgen für neue Kosten, weil sie sich gut als Angriffsziel von Hackern eignen. words.narain.io

  • Why We Don't Believe MIT NANDA's Weird AI Study. Interessantes Follow-Up zu der “95% aller AI-Projekte versagen”-Studie, die ich in der letzten Ausgabe dieses Newsletters beäugt habe. futuriom.com

AI und Bild/Video/Audio

  • Fans loved her new album. The thing was, she hadn't released one. bbc.com

  • Will Smith’s concert crowds are real, but AI is blurring the lines. waxy.org

  • Fashion models reckon with AI models and digital clones after controversial ad appears in Vogue. latimes.com

AI und alles andere

Content & Tech

Side Quests

👀,

gregor

]]><![CDATA[Die Vermessung des Booms]]>https://gregorschmalzried.blog/p/die-vermessung-des-boomshttps://gregorschmalzried.blog/p/die-vermessung-des-boomsWed, 27 Aug 2025 17:31:26 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Die Vermessung des Booms

Du sitzt in einem Zug.

Der Zug fährt durch weitläufige Wüste. Draußen nur flimmernde, unmarkierte Luft.

Woher weißt du, wie schnell der Zug fährt?

Vielleicht jagst du mit hunderten Stundenkilometern durch die Landschaft, vielleicht tuckerst du nur ein bisschen dahin. Während man sich im Zug selbst befindet, ist das schwer auszumachen.

GPT-5 Thinking weist mich darauf hin, dass dieses Gedankenexperiment an ein Sinnbild erinnert, mit dem Galileo das heliozentrische Weltbild untermauert hat: Stell dir vor, du befindest dich unter Deck eines Schiffes ohne Fenster. Das Schiff bewegt sich mit konstanter Geschwindigkeit über ruhiges Wasser. Kein mechanisches Experiment, so Galileo, könnte feststellen, ob das Schiff sich bewegt oder nicht.

Galileos Schiff bleibt auch heute noch ein mächtiges metaphorisches Werkzeug für folgenden Punkt: Wenn man sich auf einem beweglichen Körper befindet, ist es ohne externe Hilfe praktisch unmöglich, dessen Geschwindigkeit zu messen. Geschweige denn ihn intuitiv wahrzunehmen.

In diesem Newsletter geht es weder um einen Zug, noch um ein Schiff, sondern um AI (Überraschung!). Denn hier erleben wir gerade ein ganz ähnliches Problem. Es ist zwar klar, dass sich gerade etwas verändert. Der Boden unter unseren Füßen rumort.

Aber wie schnell fahren wir?

Gerade machen zwei Untersuchungen die Runde, die eine Messung versuchen. Und dabei scheinbar zu sehr unterschiedlichen Ergebnissen kommen.

UNTERSUCHUNG 1: STANFORD

Die erste Studie ist ein frisch veröffentlichtes Working Paper des Stanford Digital Economy Lab namens “Canaries in the Coal Mine”, unter Leitung von Ökonom Erik Brynjolfsson. Der Blockbuster-Satz in der Untersuchung ist dieser hier:

We find that since the widespread adoption of generative AI, early-career workers (ages 22-25) in the most AI-exposed occupations have experienced a 13 percent relative decline in employment even after controlling for firm-level shocks.

Will sagen: Wir erleben heute schon die ersten Auswirkungen von AI auf den breiten Arbeitsmarkt. Und negativ betroffen sind vor allem Einstiegsjobs.

Das könnte ein ziemlich großer Deal sein – denn seit einigen Monaten wird immer wieder über einen möglichen Zusammenhang dieser Art diskutiert.

Den ersten größeren Splash machte Derek Thompson Ende April im Atlantic, der darauf verwies, dass die Arbeitslosigkeit unter gut ausgebildeten Studienabgängern in den USA einen Rekordstand erreicht hat. Es folgten Berichte in Axios und eine sehr gute Folge meiner Host-Kollegen Marie und Fritz in “Der KI-Podcast”.

Vor zwei Wochen zeigte das Handelsblatt in Zusammenarbeit mit Stepstone auf, dass auch auf dem deutschen Arbeitsmarkt ähnliches los ist: die Zahl der ausgeschriebenen Einsteigerjobs ist seit Beginn des AI-Booms massiv abgefallen.

In der Theorie passt das zusammen: AI ist sehr gut im Zusammenfassen und Durchforsten langer Dokumente, im Abfassen von Protokollen und Briefings, sowie in Internet-Recherchen und dem Abgleichen von Datensätzen. Viel gemein haben diese Aufgaben nicht, außer dass es genau die sind, die in vielen Unternehmen von Werkstudenten und Juniors übernommen werden.

Selbst wenn die AI heute noch nicht perfekt ist… Die rasanten Fortschritte über die letzten Jahre könnten Grund genug sein, dass so mancher Geschäftsführer lieber zweimal überlegt, bevor er eine neue Stelle schafft. Wer weiß, wo die Technologie morgen ist?

Das war aber bisher vor allem Spekulation. In der Realität ist es verdammt schwer, zu bestimmen, ob die realen Entwicklungen am Arbeitsmarkt wirklich mit AI zusammenhängen oder nicht. Die Liste der möglichen anderen Faktoren ist lang: Schwache Konjunktur, Strafzölle, hohe Zinsen, Overhiring während und nach der Corona-Pandemie, fehlender Innovationsgeist von Unternehmen, Pech…

Woher wissen wir, ob AI wirklich eine Rolle spielt? Aus dem Wüstenzug lässt sich nur schwer dessen Geschwindigkeit messen.

Die Stanford University bezeichnet ihre Studie nun als die “erste ihrer Art”, die den lange nur vermuteten Effekt tatsächlich nachgewiesen haben will – und zwar indem sie Branchen mit starker “AI Exposure” gegen Branchen mit schwacher AI Exposure gestellt haben.

Das Ergebnis: Die beruflichen Chancen für junge Menschen (v.a. zwischen 22 und 25) gehen tatsächlich stark zurück – aber nur in den Berufsfeldern, die besonders AI-exponiert sind: zum Beispiel Software-Entwicklung und Customer Service. In anderen Berufsfeldern – und für ältere Arbeitnehmer – gehen die Zahlen eher nach oben.

Wenn sich das bekräftigen sollte, folgen aus dieser Erkenntnis einige Fragen:

  • Wo kommen die neuen Seniors her, wenn niemand mehr Juniors einstellen will?

  • Könnte der Effekt in Deutschland, wo wir uns schon immer mehr um den Erhalt bestehender Jobs als um das Schaffen neuer Jobs kümmern, noch stärker ausfallen?

  • Related: Wie viel unfairer kann die Lage für die junge Generation bei uns eigentlich noch werden?

UNTERSUCHUNG 2: MIT

Wie schnell saust also unser Zug durch die Wüste?

Ziemlich schnell, legt die Stanford-Studie nahe.

Umso interessanter, dass nur wenige Tage zuvor eine andere Studie für Aufsehen gesorgt hat, die das genaue Gegenteil nahelegt. Hier – just for fun – die clickbaitigste Interpretation der Studie, die ich finden konnte.

Die Untersuchung, gepaart mit einem indirekten Zugeständnis von Sam Altman, dass AI ein Bubble-Problem haben könnte, hat sogar kurzzeitig für eine paar abstürzende Börsenkurse gesorgt – wobei es auch hier schwer ist, die genaue Kausalität nachzuweisen und die Kurse sich inzwischen längst wieder erholt haben.

Worum geht es aber eigentlich?

Bei der MIT-Study handelt es sich um eine Befragung von 153 amerikanischen Führungskräften zu 300+ Initiativen, bei denen “aufgabenspezifische AI-Tools” (also keine allgemeinen LLMs wie ChatGPT) intern in Auftrag gegeben wurden.

Das Ergebnis: 95 Prozent dieser Projekte schafften es nicht, innerhalb von 6 Monaten nach Pilotphase “deutliche und nachhaltige” Produktivitätssteigerungen zu erzeugen.

Man kann relativ leicht Löcher in diese Untersuchung pieksen, wenn man möchte (z.B. wurde nach AI-Projekten seit Januar 2024 gefragt, 9 Monate vor dem ersten Reasoning-Modell).

Aber so zu pieksen ist weniger interessant als den Bericht ernst zu nehmen, denn er legt den Finger in eine offene und entzündungsgefährdete Wunde: Viele AI-Projekte in Unternehmen, vor allem zwischen 2023 und 2024, wurden vor allem als Prestige- und Leuchtturm-Projekte konzipiert. Nicht als echte Unterstützung für die Belegschaft.

Aus Fortune:

The core issue? Not the quality of the AI models, but the “learning gap” for both tools and organizations. While executives often blame regulation or model performance, MIT’s research points to flawed enterprise integration. Generic tools like ChatGPT excel for individuals because of their flexibility, but they stall in enterprise use since they don’t learn from or adapt to workflows, Challapally explained.

Die wichtigste Eigenschaft von Generative AI (wie ich auch in diesem Newsletter immer wieder gerne betone), ist dass Generative AI eine formbare und dynamische Technologie ist, die für individuelle Personen Riesensprünge ermöglicht.

Individuelles Arbeiten in Allzweck-Tools wie ChatGPT funktioniert deshalb auch deutlich besser als die meisten vertikalen Leuchtturmprojekte.

Der MIT-Bericht zeigt das ganz direkt.

Deutlich mehr Wissensarbeiter nutzen Sprachmodelle wie ChatGPT als es eigentlich sollten:

Diese Nutzer trauen ihren AI-Tools mittlerweile bei einfachen Aufgaben mehr zu als ihren menschlichen Kollegen:

Und – ganz besonders wichtig – es reiht sich Datenpunkt an Datenpunkt, dass breit einsetzbare “horizontale“ Allzweck-Tools wie ChatGPT, Gemini und Claude bessere Ergebnisse liefern als spezialisierte “vertikale” Tools (Erinnerung: diese spezialisierten Tools waren die mit der Scheiterquote von 95%).

Aus der MIT-Studie:

A corporate lawyer at a mid-sized firm exemplified this dynamic. Her organization invested $50,000 in a specialized contract analysis tool, yet she consistently defaulted to ChatGPT for drafting work:

"Our purchased AI tool provided rigid summaries with limited customization options. With ChatGPT, I can guide the conversation and iterate until I get exactly what I need. The fundamental quality difference is noticeable, ChatGPT consistently produces better outputs, even though our vendor claims to use the same underlying technology."

This pattern suggests that a $20-per-month general-purpose tool often outperforms bespoke enterprise systems costing orders of magnitude more, at least in terms of immediate usability and user satisfaction.

Die beste AI-Innovation setzt also keine Leuchtturm-Prestige-Projekte in den Mittelpunkt des Unternehmens.

Sondern die Menschen, die tatsächlich dort arbeiten.

Und wie schnell fahren wir nun?

Solange es so schwer ist, das zu messen, bleibt das fast eine Glaubensfrage.

Ich halte weder die Crash-Propheten für sonderlich glaubwürdig, die jede Woche das komplette Ende des “AI-Hype” vorhersehen, noch die Silicon Valley-Ultras, für die eine übermenschliche Superintelligenz chronisch nur noch ein paar Monate entfernt ist.

Wichtiger als die Frage, wie schnell wir fahren, ist ohnehin die Frage, wohin.

Und das kriegt man durchaus raus.

Es dauert vielleicht ein bisschen, bis man sich nach vorne zur Lok durchgekämpft hat. Aber sobald man einmal vorne ist, ist die Sicht gar nicht so schlecht.

Abonniere diesen Newsletter für mehr!

Außerdem

Portfolio

  • Der KI-Podcast (ARD) – der Podcast von Marie, Fritz und mir auf Spotify. open.spotify.com

  • Der KI-Podcast (ARD) – der Podcast von Marie, Fritz und mir in der ARD Audiothek. ardaudiothek.de

  • Ich war zu Gast bei Gavin Karlmeier im Haken dran-Podcast. spotify.com

  • Ich war zu Gast bei Paul Elvers im Off the Record-Podcast. spotify.com

AI und Text / Sprachmodelle

  • What Happened When I Tried to Replace Myself with ChatGPT in My English Classroom. lithub.com

  • I trapped an AI model inside an art installation. youtube.com

  • Deep learning gets the glory, deep fact checking gets ignored. rachel.fast.ai

  • People use AI more than you think. Nutzung und Umsätze vieler KI-Dienste wachsen rasant, oft limitiert durch Compute-Angebot – nicht durch Nachfrage. interconnects.ai

  • What my daughter told ChatGPT before she took her life. nytimes.com

  • Toxische AI Boyfriends. mashable.com

  • How to manipulate Perplexity & AI Overviews. linkedin.com

  • Das Browser-Unternehmen Brave zeigt, wie Webseiten per Prompt Injection unsichtbare Befehle an KI-Browser schicken können. brave.com

  • Auf Pfifferlingsjagd mit ChatGPT. welt.de

AI und Arbeit

AI und Bild/Video/Audio

AI und alles andere

Content

  • TikTok Shop: Gemischte Gefühle vier Monate nach dem Deutschlandstart. omr.com

  • Nine Ways to Improve an Ad (1963). draytonbird.net

  • Designing for the Eye – Optical Corrections in Architecture and Typography. Optische Korrekturen erklären, warum „perfekt“ gezeichnet oft falsch wirkt – und wie Design das ausgleicht. nubero.ch

Tech

Side Quests

🚄,

gregor

]]><![CDATA[Was ist GPT-5?]]>https://gregorschmalzried.blog/p/was-ist-gpt-5https://gregorschmalzried.blog/p/was-ist-gpt-5Fri, 08 Aug 2025 16:43:08 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Was ist GPT-5?

Seit 24 Stunden kennen wir GPT-5 – OpenAIs neues Flaggschiff-Sprachmodell und das nominell größte Upgrade für ChatGPT seit über zwei Jahren.

Trotzdem steht die Welt noch. Trotz jahrelangem Hype und wilden Spekulationen über “AGI” und Super-Systeme gibt es seit gestern keine Hamsterkäufe, keine panischen Tweets, keinen Brennpunkt nach der Tagesschau.

Alles läuft weiter wie bisher. Erstmal zumindest.

Also, was ist da gerade passiert?

Da dieser Newsletter für alles Mögliche optimiert ist, aber nicht für Klicks und Engagement, beginne ich meinen Text über das neue Sprachmodell von OpenAI mit einem kleinen Abschnitt über ein anderes Sprachmodell: Claude 4.

Ich verspreche, das macht nachher alles Sinn.

Claude 4 ist das aktuelle Sprachmodell von OpenAI-Konkurrent Anthropic und wurde vor einigen Monaten als Upgrade für das bisherige Sprachmodell Claude 3.7 veröffentlicht.

Interessanterweise war der Launch von Claude 4 relativ understated. Es gab kein langes Teasing im Vorhinein… Claude 4 war einfach eines Tages da.

Die Message:

Claude 4 ist halt einfach mehr Claude.

Aber man muss deswegen nicht gleich die Revolution ausrufen. Der Schritt war nur ein weiterer kleiner, wie von Claude 3 auf Claude 3.5, und von Claude 3.5 auf Claude 3.7. Kleine Schritte, ohne Paukenschlag.

Der Launch von GPT-5 wurde von OpenAI sehr anders kommuniziert. OpenAI-Chef Sam Altman tingelt seit Wochen durch Podcasts, als würde er einen neuen Marvel-Film bewerben. Er postet ominöse Bilder des Todessterns, denkt laut über die Super-Intelligenz nach und darüber, dass sein neugeborenes Kind nie so schlau sein wird wie die schlauste AI der Welt.

Seit Monaten, wenn nicht Jahren, bauen er und OpenAI Erwartungen auf, dass der nächste große Quantensprung unmittelbar bevorsteht – und dass der Wechsel von der 4 auf die 5 genau dieser Quantensprung sein könnte.

Und jetzt ist GPT-5 da… und was ist es?

Es ist kein Quantensprung.

Es ist halt einfach mehr GPT.

Grob gesagt vereinheitlicht GPT-5 die bisher absurd komplizierte Modell-Familie rund um Modelle wie GPT-4o, o3, o4-mini, GPT-4.1 und GPT-4.5 zu zwei Hauptmodellen: GPT-5 (ungefähr das Upgrade zu GPT-4o) und GPT-5 Thinking (ungefähr das Upgrade zu o3). Das ist in etwa das gleiche System wie wir es auch von anderen Anbietern kennen – bei Anthropic gibt es z.B. Claude Sonnet und Claude Sonnet with Extended Thinking. (Wer mehr zu den Basics wissen will, kann auch Casey Newtons Text lesen).

GPT-5 macht das Anwenden und Verstehen von Sprachmodellen, vor allem für technisch weniger versierte Nutzer, damit etwas leichter. Und es hat einige klare Stärken gegenüber seinen Vorgängern (mehr dazu gleich).

Aber es ist nicht unbedingt revolutionär.

Ist das ein Problem?

Zurück zu Claude:

Vor zwei Monaten habe ich ein kleines experimentelles Tool gebaut – ich wollte nämlich, dass Claude mir automatisch Formulare auf Websites ausfüllt.

Also habe ich ein Programm geschrieben (bzw von Claude schreiben lassen), das den Inhalt von Websites scannt, das Formular versteht und dann mit Inhalten füllt, die ich per Prompt vorgebe.

Beispiel:

Ich gehe auf das Kontaktformular der Stadtverwaltung München und sage dem Tool folgendes:

Und das Tool befüllt automatisch die Felder hiermit:

Das ist ziemlich fun und ein schöner kleiner AI-Case.

Trotzdem: Als ich das Tool vor zwei Monaten zum ersten Mal in Betrieb nahm, waren die Outputs viel schlechter als ich gehofft hatte. Das Tool übersah ständig Felder, verwechselte Vor- und Nachnamen, blieb in den Antworten zu kurz, und so weiter.

Es dauerte eine Weile, bis ich erkannte, was das Problem war: Ich hatte statt des aktuellen Claude 4 versehentlich die API für Claude 3 damit verknüpft – ein Modell, das zu diesem Zeitpunkt über ein Jahr alt war.

Wir erinnern uns: Weder der Sprung von Claude 3 auf Claude 3.5, noch von Claude 3.5 auf Claude 3.7, noch von Claude 3.7 auf Claude 4, war von irgendeiner seriösen Person als “revolutionär” bezeichnet worden. Niemand hatte in einem dieser Modelle einen Brennpunkt-würdigen Todesstern-Moment gesehen. Es waren einfach nur iterative kleine Schritte gewesen.

Aber ich hatte in diesem Moment die Möglichkeit, ein ganzes Jahr kleiner Schritte auf einmal gehen zu können. Ich tauschte die Claude 3-API im Code gegen die Claude 4-API aus, ließ das Tool noch einmal laufen… und es funktionierte perfekt. Mein Tool erkannte plötzlich auch die Zusammenhänge auf komplizierten und verwirrenden Websites, es war kreativ und es war robust. Everything I wanted. Ein ziemlicher Sprung.

Bei OpenAI ist über die letzten zwei Jahre natürlich genau das Gleiche passiert. Der Sprung von GPT-4 auf GPT-4o im Frühjahr 2024 war für viele Nutzer kaum sichtbar, und obwohl die Nummerierung seitdem bei GPT-4o hängen geblieben ist, gab es auch seitdem kontinuierlich Updates Richtung der aktuellen Fähigkeiten. Die letzte Version von GPT-4o war von der Qualität her viel näher an GPT-5 als an der ursprünglichen Version von GPT-4.

Kleine Schritte.

GPT-5 ist noch nicht einmal 24 Stunden veröffentlicht, deshalb möchte ich mir an dieser Stelle noch kein fertiges Urteil darüber erlauben, wie gut oder schlecht der aktuellste dieser Schritte am Ende wirklich ist.

Mein erster Eindruck ist in etwa dieser:

  • GPT-5 schreibt etwas besser als GPT-4o und definitiv besser als o3, was es zum ersten Reasoning-Modell mit okayem Stil macht.

  • Viele der größten Verbesserungen sind in Bereichen, die nah an Alltagsaufgaben sind: Es kann lange Texte und Aufgaben sehr viel besser verarbeiten, produziert weniger Halluzinationen und gibt vernünftiger kritisches Feedback als bisherige Modelle. Außerdem ist es in der API relativ günstig. All das sind gute Voraussetzungen für den alltäglichen Einsatz im Business-Kontext.

  • Der Fokus von OpenAI scheint weniger gewesen zu sein, das beste Modell der Welt zu produzieren und eher, ein möglichst gutes Modell möglichst vielen Menschen zugänglich zu machen. Das hat positive Folgen, aber auch negative (vor allem für Nerds wie mich, die gerne ein möglichst gutes Modell möglichst präzise kontrollieren wollen).

  • GPT-5 Thinking ist das einzige Sprachmodell, das einige meiner peniblen persönlichen Benchmarks bestanden hat (z.B. gibt es mir verlässlich die richtige Antwort auf die Frage, was der nächste Weihnachtsmarkt zu einer beliebigen Münchner Adresse ist), zeigt aber anderswo eher Rückschritte (z.B. beim Schreiben von Gemischten Doppeln).

  • Das System weiß immer noch nicht sicher selbst, wann es eine Frage mit dem einfachen GPT-5 beantworten soll und wann es das mächtigere Reasoning-Modell GPT-5 Thinking anschmeißen soll, was zu lustigen Situationen führt, wenn man das Reasoning-Modell per Prompt anwählt:

In vielen Bereichen finde ich Claude oder Gemini weiterhin besser. Trotzdem ist GPT-5 hochinteressant. Nicht, weil es das beste Modell auf der Welt sein könnte – das ist eh Geschmackssache und aktuell eine eher langweilige Frage. Nein, GPT-5 ist interessant, weil es das erfolgreichste Modell auf der Welt sein wird. Hunderte Millionen Menschen, bald wohl eine Milliarde, werden die Modelle dieser Familie via ChatGPT oder den Microsoft Copilot für Privates und Arbeit nutzen. Und trotzdem: den meisten von ihnen wird kaum aufgefallen sein, dass es einen weiteren kleinen Schritt nach vorne gab.

Das heißt übrigens nicht, dass sich nichts verändert.

Wie der berühmte metaphorische Frosch, der nicht bemerkt, dass das Wasser in seinem Kochtopf langsam zu kochen beginnt, werden auch wir zunehmend taub für die Fortschritte dieser Systeme, denn es braucht immer wieder zufällige Aha-Momente, um sie überhaupt wahrzunehmen.

Aber die Zukunft kommt, egal, ob wir sie bemerken oder nicht.

Abonniere diesen Newsletter für mehr!

Außerdem

Portfolio

AI und Text / Sprachmodelle

  • It’s a feature, not a bug: How journalists can spot and mitigate AI bias. reutersinstitute.politics.ox.ac.uk

  • What a ChatGPT checkout system could mean for retail. modernretail.co

  • Persona vectors: Monitoring and controlling character traits in language models. anthropic.com

  • Ein LLM-Benchmark über das Erledigen von Steuererklärungen. Gemini 2.5 Pro liegt vorne, GPT-5 noch nicht getestet. arxiv.org

AI und Arbeit

  • OpenAI baut einen Consulting-Arm zur Implementierung ihrer Modelle auf und macht damit Accenture (und mir) Konkurrenz. forbes.com

  • Take: AI-Agenten kontrollieren ist nicht schwer, man behandelt sie einfach wie Menschen. understandingai.org

  • AI will make personality hires of us all. learningfromexamples.com

AI und Bild/Video/Audio

  • Genie 3: A new frontier for world models. Experimentelles (und leider noch nicht veröffentlichtes) Google-Modell – sehr interessant für Nerds. deepmind.google

  • Jim Acosta interviews ‘made-up’ AI avatar of Parkland victim Joaquin Oliver. theguardian.com

  • Unilever baut mit Partnern eine AI-„Fabrik“ für Beauty-Assets. Relevant für Agenturen. digiday.com

  • Ein indischer Filmklassiker bekommt ein neues AI-Ende. Proteste folgen. variety.com

  • Amazon investiert in das ‘Netflix of AI’, Fable. Sehr skeptisch, ob es für ein solches Produkt tatsächlich einen großen Markt gibt. variety.com

AI und alles andere

Tech

Culture

Side Quests

🌳,

gregor

]]><![CDATA[Agents aus der Zukunft]]>https://gregorschmalzried.blog/p/agents-aus-der-zukunfthttps://gregorschmalzried.blog/p/agents-aus-der-zukunftMon, 28 Jul 2025 08:55:59 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Agents aus der Zukunft

“Was ist ein KI-Agent?”

Die gebräuchliche Antwort auf diese Frage geht ungefähr so:

“Ein KI-Agent ist ein KI-System, das nicht einfach nur Antworten gibt, sondern selbst Handlungen ausführt, um ein Ziel zu erreichen. Dabei passt es seine Handlungen selbständig an, je nachdem, was es auf dem Weg zum Ziel vorfindet.”

Schicke Definition! Das Problem mit ihr: Denjenigen, die gerade die Frage nach dem Agenten stellen, hilft sie in der Regel nicht wirklich weiter.

Die Definition fällt in einen Bereich, den der Autor Jacob Morgan als “true but useless” bezeichnet. Sie stimmt zwar im Wesentlichen. Aber wer wissen will, was ein Agent ist, will meiner Erfahrung nach eigentlich noch etwas anderes wissen: “Sollten mich KI-Agenten jucken?”

Diese Frage ist komplizierter zu beantworten, und scheinbar verheddert in jede Menge Widersprüchen.

Einerseits verkündeten zahllose LinkedIn-Posts und Präsentationen Anfang des Jahres, 2025 wäre das “Jahr der Agents”.

Andererseits hat das Forschungsunternehmen Gartner gerade prognostiziert, dass fast die Hälfte aller “Agentic AI”-Projekte die nächsten zwei Jahren nicht überleben werden.

Two things can be true at once.

Denn wenn wir heute über Agenten reden, dann meinen Leute damit eigentlich zwei sehr verschiedene Dinge.

Beide werden von der obigen Definition abgedeckt (true but useless). Aber sonst haben sie kaum etwas miteinander zu tun.

1 AGENTS AUS DER ZUKUNFT

Die erste der zwei Agent-Kategorien ist gerade in aller Munde – denn ChatGPT hat sie vor ein paar Tagen der gesamten Welt zugänglich gemacht.

Das ist der “ChatGPT Agent”.

Die Idee hinter diesem Tool ist relativ simpel:

Wir geben ChatGPT einen Auftrag. Und anschließend lädt ChatGPT einen virtuellen Desktop, um diesen Auftrag auszuführen. Dabei kann das Tool Websites und Programme bedienen, Präsentationen und Excel-Listen erstellen und auch relativ komplexe Aufträge ausführen.

In einem meiner Tests habe ich dem Agenten den Auftrag gegeben, auf die Filmbewertungsseite Letterboxd zu gehen, dort meine persönliche Watchlist zu finden und dann nachzusehen, welche meiner Filme gerade auf Netflix verfügbar sind.

Menschen mit einem gesunden Menschenverstand können sich an dieser Stelle fragen: “Bedeutet das nicht, dass ich dem Chatbot meine persönlichen Login-Daten samt Passwort geben muss?”

Und ja. Genau das bedeutet es.

Ich habe für dieses Experiment auf jeden gesunden Menschenverstand verzichtet.

Es ist beeindruckend, dem Agenten beim Bedienen seines Computers zuzuschauen. Tatsächlich findet er innerhalb weniger Sekunden die richtigen Felder, klickt problemlos Cookie-Banner und Captchas weg (“Ich bin kein Roboter”) und findet Wege, das Problem zu lösen.

In meinem Fall kam der Agent zum Beispiel schnell auf die Idee, meine Filme-Watchliste nicht händisch durchzugehen, sondern die “Exportieren”-Funktion zu nutzen. Ich persönlich wusste nicht einmal, dass die existiert.

Und tatsächlich steht am Ende eine Liste, inklusive Links. Der Auftrag wurde erfolgreich ausgeführt.

Seit der Veröffentlichung des ChatGPT Agent haben Leute Spaß damit, immer neue Dinge zu finden, die der Agent für sie tun kann. Er kann Lebensmittel bestellen. Er kann das Handelsregister durchsuchen. Etc.

So gesehen ist es ein bisschen eigenartig, dass nicht die ganze Welt wegen ChatGPT Agent durchdreht. Wo sind die Reportagen darüber, dass ganze Jobs von diesem Agent übernommen werden? Dass menschliche Computerarbeit nun überflüssig ist?

Tatsächlich erleben wir bei diesen Beispielen immer einen gewaltigen Selection Bias. Gepostet werden nur die Male, bei denen der Agent erfolgreich war. Nicht die, bei denen es schiefgegangen ist.

Und es geht immer noch sehr oft schief.

Als ich das erste Mal dem Agenten den Netflix-Auftrag gab, verwechselte er ganz am Anfang zwei Buttons und kam minutenlang nicht vom Fleck.

Ein anderes Mal löschte er versehentlich einen der Filme aus meiner Watchlist und verbrachte die nächste Zeit mit dem Versuch, seinen Fehler rückgängig zu machen.

Der ChatGPT Agent ist eine beeindruckende Technologie. Aber es gibt einen Grund, warum ich ihn bislang nur in meinen Letterboxd-Account gelassen habe – und nicht in deutlich wichtigere Tools. Er ist schlicht und einfach nicht robust genug.

Hier liegt das zentrale Problem:

Damit ein Agent wirklich sinnvolle Arbeit im Alltag erledigen kann, benötigt er Zugriff auf unsere echten Systeme und Daten.

Aber damit wir einem Agent Zugriff auf unsere echten Systeme und Daten geben können, müssen wir sicher sein, dass er damit keinen Quatsch anstellt.

Und diese Sicherheit haben wir noch nicht.

Der ChatGPT Agent ist ein Agent aus der Zukunft, der in der Gegenwart noch nicht fertiggestellt ist. Wer mit ihm herumspielt, erkennt schnell Bruchstücke eines kommenden Systems, das unseren Umgang mit dem Computer verändern wird (ähnlich wie es durch “Reasoning” und “Research” in Chatbots bereits passiert ist).

Aber er ist noch nicht fertig. Er ist kein Alltagstool für die Gegenwart.

2 AGENTS AUS DER GEGENWART

Wenn wir heute über Agenten reden, dann reden wir eigentlich über zwei verschiedene Dinge.

Einerseits über Systeme wie den ChatGPT Agent – unfertige, experimentelle Systeme mit unklaren Fähigkeiten.

Und andererseits über Systeme wie dieses:

Das ist ein kleiner agentischer Workflow, den ich letzte Woche im Rahmen einer Demo in make.com gebaut habe. Jeder der Kreise symbolisiert einen Schritt einer Arbeitskette.

Das Prinzip ist in etwa folgendes:

Wird eine Email an eine bestimmte Email-Adresse gesendet, wird diese automatisch an einen kleinen Agent (basierend auf Claude Sonnet 4) weitergeleitet. Dieser Agent soll nun untersuchen, ob er die Email beantworten kann oder nicht. Dafür nutzt er ein Tool, das er zur Verfügung hat, um sich mehr Informationen zu holen. Findet er in diesen Informationen das, was er gesucht hat, formuliert er eine Antwort und schickt diese weiter an den Workflow, zusammen mit dem Befehl “JA”. Findet er nicht das, was er gesucht hat, lässt er das Antwortfeld leer, zusammen mit dem Befehl “NEIN”. Im letzten Schritt des Workflows liest dann ein Router aus, ob der Agent ein “JA” oder “NEIN” befohlen hat und schickt entweder eine Antwort an den ursprünglichen Absender (bei “JA”) oder leitet die Email des Absenders an eine andere Email-Adresse weiter, zum händischen Beantworten (bei “NEIN).

Was wir nun haben, ist im Grunde genommen ein kleiner automatischer Kundendienst-Bot.

In dieser Demo drehen sich die hinterlegten Daten und Prompts um einen fiktiven Steuerberater aus dem Star Wars-Universum, der sein Büro auf Tatooine hat.

Das bedeutet, ich kann diesem Steuerberater jetzt eine Email schicken, er verarbeitet die Email und prüft seine nächsten Schritte. In diesem Fall sieht er nach, ob er in einem der angeschlossenen Dokumente die Antwort auf die Frage in der Email finden kann. Sobald er diese gefunden hat, schickt er mir nach ein paar Sekunden eine Antwort zurück – und das im sprachlich gleichen Stil, in dem die Anfrage kam:

Das ist ziemlich cool!

Es ist auch weit weniger dramatisch als automatisierte Lebensmitteleinkäufer und Account-Einlogger, und technisch ist es nicht sehr kompliziert.

Man könnte sogar argumentieren, dass dieser kleine Workflow größtenteils aus klassischen Automatisierungstools besteht und damit nur mit etwas Wohlwollen wirklich “agentic” ist.

Aber im Alltag ist mir das relativ egal. Denn wir reden hier nicht über die Zukunft. Sondern über die Gegenwart.

In der Gegenwart sind Agents dann am besten, wenn wir sie nicht von “Was wäre das Verrückteste, was wir damit machen können?” aus denken. Sondern wenn wir einfach fragen: “Welches Problem könnte eine AI heute für uns lösen, und wie bauen wir uns die robusteste Version davon zusammen?”

Die Zukunft kann immer noch kommen, wenn sie bereit ist.

Abonniere diesen Newsletter für mehr!

Außerdem

Portfolio

AI und Text / Sprachmodelle

  • China exportiert Staatspropaganda mit günstigen Open-Source-KI-Modellen. the-decoder.de

  • Google and OpenAI Get 2025 IMO Gold. Zwei LLM-Systeme lösen fünf von sechs Aufgaben der Mathe-Olympiade und erreichen damit Goldniveau. thezvi.substack.com

  • Ein australischer Pflegestudent wehrt sich gegen den Vorwurf, er habe KI zum Schreiben einer Arbeit genutzt. abc.net.au

  • Grok 4 befragt bei politisch sensiblen Fragen automatisch Elon Musks Tweets, bevor es antwortet. simonwillison.net

  • Why my p(doom) has risen, dramatically. garymarcus.substack.com

AI und alles andere

  • AI Sovereignty: The Emperor Has No Clothes. engineeringprompts.substack.com

  • Reflections on OpenAI. calv.info

  • Donald Trump just laid out his vision for AI policy. Trumps neuer „AI Action Plan“ ist etwas weniger wild als befürchtet. Trotzdem sollte eine Sache mittlerweile klar sein: Außer Europa ist niemand auf der Welt an KI-Regulierung interessiert. understandingai.org

  • SoftBank and OpenAI’s $500-Billion AI-Projekt “Stargate” stockt. wsj.com

  • The Summer of Free AI-gency. Über AI-Forscher als gefragte Stars. theringer.com

  • Netflix uses generative AI in one of its shows for first time. theguardian.com

Content

  • Attention Is the Last Scarce Resource. Über die Coldplay-Geschichte. digitalnative.tech

  • TikTok-Clips statt Pressekonferenzen: Did Superman kill the press junket? theguardian.com

  • Substack Raises $100 Million, Betting on Subscriptions but Coming Around to Ads. nytimes.com

Tech

Culture

Side Quests

🔮,

gregor

]]><![CDATA[Web Zero]]>https://gregorschmalzried.blog/p/web-zerohttps://gregorschmalzried.blog/p/web-zeroSun, 13 Jul 2025 05:38:11 GMTdas ist gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freiberuflicher journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Web Zero

1 AI FIRST

Adrian Holovaty stand vor einem Rätsel.

Seit einigen Monaten häuften sich auf seiner Website seltsame Fehlermeldungen, wie er sie vorher noch nie bekommen hatte.

Holovaty ist einer der Köpfe hinter Soundslice, einem Musik-Tool, welches Fotos von Notenblättern digitalisiert, sodass man in Echtzeit damit proben kann.

Und vor kurzem fiel Holovaty auf, dass immer mehr Nutzer keine Fotos von Notenblättern hochluden… sondern Screenshots wie diese:

Das ist natürlich kein Notenblatt – sondern ein Gitarren-“Tab”, also eine einfache Methode, Gitarrenmusik aufzuschreiben. Soundslice war aber nur für Notenblätter ausgerichtet und nicht für Gitarren-Tabs. Also: Fehlermeldung.

Nur – warum kamen auf einmal so viele Nutzer auf die Idee, seine App für einen Zweck zu benutzen, für den sie gar nicht gedacht war?

Wie Holovaty in seinem Blog beschreibt, brauchte er selbst eine Weile, um die Lösung zu finden. Sie kam ihm eines Tages durch Zufall, in einem Gespräch mit ChatGPT.

Denn obwohl Soundslice die Funktion “Gitarren-Tabs hochladen” nicht unterstützte… ChatGPT behauptete das Gegenteil:

Das ist ein Screenshot von mir - in diesem Gespräch habe ich Holovatys Erlebnis selbst nachverfolgt – und tatsächlich: Wenn man ChatGPT nach der Funktion fragt, wird Soundslice empfohlen – obwohl das überhaupt nicht stimmt.

Oder ich sollte besser sagen: Obwohl das überhaupt nicht stimmte.

Denn in der Zwischenzeit hat Soundslice die Funktion “Gitarren-Tabs” tatsächlich gebaut und hinzugefügt. Nicht weil es so geplant war. Sondern weil ChatGPT der ganzen Welt erzählt hat, die Funktion wäre schon da. Und laut Holovaty war die einfachste Lösung für dieses Schlamassel, sie einfach wirklich umzusetzen.

Es ist vielleicht das erste Mal, dass eine Software ein Feature einführt, weil ChatGPT fälschlicherweise denkt, es würde bereits existieren.

Man kann diese Geschichte auf verschiedene Arten deuten:

  • negativ: Ein erster Schritt in eine dystopische Zukunft, in der fehlerbehaftete Bots entscheiden, was wahr ist und was nicht, und der Rest der Welt gezwungen ist, sich dieser “Wahrheit” zu fügen.

  • positiv: Ohne die ChatGPT-Empfehlungen wäre das Team von Soundslice gar nicht erst auf die Idee gekommen, dass eine solche Funktion beliebt sein könnte. Die AI hatte quasi kostenlose Marktforschung für Soundslice übernommen und verweist nun viele Menschen auf die Website.

  • distanziert: Wir befinden uns an einem Wendepunkt der Machtdynamiken des Internets. AI ist nun ein Massenmedium mit entsprechender Wirkungsmacht. AI-Modelle werden zu neuen Gatekeepern. Alles wird anders.

Der heutige Newsletter dreht sich um letzteres.

2 WEB ZERO

Was ist noch gleich der Unterschied zwischen dem World Wide Web und dem Internet?

Normalerweise ist das nur eine Info für unnützes Pub Quiz-Wissen, aber für dieses Thema ist sie tatsächlich ganz interessant:

  • Das Internet ist das weltweite Netzwerk von Computern und Servern, auf dem alle Online-Services laufen (inkl Apps, E-Mails, Social Media, etc)

  • Das World Wide Web ist der Teil des Internets, der sich über individuelle Websites ansteuern lässt (alles was mit www. anfängt).

Das World Wide Web zeichnet sich vor allem dadurch aus, dass es Link-basiert ist. Eine URL führt zur nächsten und der Nutzer klickt sich von Seite zu Seite durch. Meistens beginnt diese Reise auf einer Suchmaschine.

Auf dieser Basis haben ein Großteil der SEO-Branche, der digitalen Verlags- und Medienbranche, ein wichtiger Teil des E-Commerce und noch viele mehr ihre Geschäftsmodelle aufgebaut.

Hier eine krude Darstellung:

Dieses Modell steht nun unter Feuer. Immer mehr Menschen nutzen weniger klassische Suchmaschinen und mehr AI-basierte Tools wie ChatGPT. Die geben aber keine Liste von Links mehr aus, sondern direkt eine Antwort auf die gestellte Frage.

Google selbst hat darauf mit seinen “AI Overviews” reagiert, und zeigt nun bei vielen Suchanfragen selbst eine große AI-generierte Antwort an. Links zu anderen Websites folgen erst weiter unten und sind deutlich weniger sichtbar.

Ob man diese Entwicklung gut oder schlecht findet, kommt darauf an, in welcher Branche man ist.

Für Dienste wie Soundslice könnte sie (trotz der nervigen Fehler) insgesamt etwas Positives sein, weil AI-Modelle konkrete Websites und Programme viel besser empfehlen können als eine Linkliste nach einer Google-Suche.

Für die Medienbranche, die zu einem wesentlichen Teil von Klicks und den daraus resultierenden Werbeeinnahmen lebt, ist sie eine Katastrophe. Wenn mir ChatGPT bereits alles zusammenfasst, was ich wissen muss, habe ich keinen Grund mehr, auf der Originalwebsite nachzusehen. Der Klick bleibt aus, und damit auch die Werbe- oder Aboeinnahmen.

Wie SimilarWeb zeigt, suchen immer mehr Menschen mittlerweile über ChatGPT nach Nachrichten, die Zahl der Google-Anfragen bleibt flach.

ModalImg

Und die Google-Suchen, die übrig geblieben sind, führen immer seltener zu einem Klick auf eine weitere Website. Die Zahl der “Zero-Click-Suchen”, also der Suchvorgänge, die ohne einen einzigen Klick auf eine weitere Website beendet werden, ist rasant angestiegen.

The Verge-Chefredakteur Nilay Patel prägte für diesen Zustand letztes Jahr den Begriff “Google Zero” – den Moment, in dem klassische Suchmaschinen nicht mehr als nennenswerter Traffic-Treiber für digitale Geschäftsmodelle zur Verfügung stehen.

Die Idee des Web als vernetztes System vieler Websites mit Links, geht kaputt.

Das ist extra dramatisch, weil die Idee des Webs ohnehin angeschlagen ist. In den letzten fünfzehn Jahren haben Content-Plattformen wie Instagram und TikTok einen immer größeren Teil des Internets unter sich aufgeteilt. Hier spielt der Link schon lange praktisch keine Rolle mehr. Wer einmal auf der Plattform ist, bleibt auch drauf.

Für die meisten Leute sind sowohl ChatGPT als auch TikTok einfach zugänglicher als die klassische Suchmaschine. In beiden Fällen erhalte ich keine anonyme Liste von Links, sondern etwas, das (zumindest oberflächlich) persönlich ist.

TikTok erscheint persönlich, weil einem dort Influencer vorgaukeln, sie seien meine Freunde und könnten mir die perfekte Nahrungsergänzungsmittelkur empfehlen. Und ChatGPT erscheint persönlich, weil die AI sich viele kleine Datenpunkte über mich gemerkt hat und auf persönliche, direkte und natürliche Art und Weise antworten kann. Klassische Websites haben dagegen kaum noch eine Chance.

Der logische Endpunkt dieser Entwicklung wäre nicht einfach nur “Google Zero”, sondern “Web Zero”: Ein Internet, das ganz ohne Links und Websites auskommt und indem ich als Nutzer nur noch scheinbar direkte Kommunikation habe. Entweder, weil ein Influencer oder Podcaster scheinbar nur zu mir redet (parasoziale Beziehung). Oder, weil mein Roboterfreund Chatty tatsächlich nur mit mir redet (synthetische Beziehung).

3 FIGHTING BACK

“Web Zero” hat natürlich ein schwer auflösbares Problem. Wenn es kein Web mehr gibt, in das Leute Ideen und Informationen hineinschreiben, weil es sich überhaupt nicht mehr lohnt… Woher bekommt dann die AI ihre Daten?

Das macht klar: Das Internet ist zwar im Umbruch. Aber niemand weiß sicher, wie es am Ende dieser Entwicklung aussehen wird.

Immerhin wissen wir, dass auf einmal jeder mitreden will.

  • Eine Vielzahl von Unternehmen (darunter die AI-Suchmaschine Perplexity und sogar OpenAI selbst) arbeitet gerade an neuen Internet-Browsern, die das klassische Web mit modernen Sprachmodellen kompatibler machen (mehr dazu bei Marcel Weiß).

  • Der Web-Infrastruktur-Provider Cloudflare hat letzte Woche ein Konzept namens “Pay per Crawl” vorgestellt, nach dem AI-Crawler für ihren Besuch von Websites Geld bezahlen müssten. Eine Art AI-Maut für das Web, mit der gute Inhalte weiter ein Geschäftsmodell bleiben sollen.

  • Eine wachsende Zahl von Medienhäusern (darunter auch die ARD und die BBC) hat begonnen, AI-Agenten in den meisten Fällen von den eigenen Websites auszusperren.
    Das hat jetzt schon Folgen: In meinen eigenen AI-Recherchen (etwa mit ChatGPTs Deep Research) fällt mir zuletzt immer öfter auf, dass relevante Quellen nicht berücksichtigt werden können, weil die AI nicht auf sie zugreifen kann. Das macht die Ergebnisse schlechter und sorgt dafür, dass man doch “klassisch” auf die originale Website klicken muss.

Der aktuelle Status Quo wird nicht ewig halten können.

Wie könnte also ein neuer aussehen? Am liebsten einer, der sogar etwas besser ist?

AI-basierte Systeme sind sehr gut darin, große Mengen Text und Daten zu durchsuchen, zu organisieren und zu verbinden.

Nur haben wir im Alltag noch nicht viel davon, weil die meisten Daten immer noch an unterschiedlichen Stellen liegen. Ich selbst habe über die letzten Jahre ein ziemlich großes und hilfreiches Archiv mit AI-Ressourcen und -Anwendungsfällen aufgebaut, das sich mit den richtigen Tools prima durchsuchen lässt.

In meiner perfekten Vorstellung könnte ich diese Daten und Ideen nicht nur mit den frei verfügbaren Informationen aus dem Internet verknüpfen (das geht heute schon recht gut), sondern auch mit den Archiven von Newslettern und Zeitungen, für deren Abo ich bezahle. Das würde nicht nur meine Arbeit leichter machen, es würde auch das Abo enorm aufwerten.

Irgendwann könnte das Ganze ungefähr so aussehen:

Natürlich werden nicht alle unsere Medien in Zukunft immer durch eine AI fließen. Ich möchte weiter Podcasts von richtigen Menschen hören, ich will echten Marken und Perspektiven folgen. Aber ich möchte auch, Wochen nachdem ich einen menschengemachten Podcast gehört habe, mein AI-System fragen können: “Hey, was war nochmal diese App, die Podcast-Host X vor ein paar Wochen in seiner Folge über Thema Y erwähnt hat?” (Oder von mir aus auch “Welches TikTok habe ich nochmal gesehen, in dem der Host die Geschichte von Z erzählt hat?”)

Darauf sollten wir uns zubewegen: Ein System, das meine persönliche Arbeit und Umgebung kennt, das in verschiedene Programme integrierbar ist und das auf die gleichen Informationen zugreifen kann wie ich als Mensch.

Das Schöne ist: große Teile dieses Systems lassen sich schon heute umsetzen. Rein technisch sind hier die meisten Probleme gelöst (leider noch nicht alle, siehe das Soundslice-Beispiel vom Anfang).

Das Internet umzubauen wird eine Mammutaufgabe und uns noch für Jahre, vielleicht Jahrzehnte, beschäftigen. Aber wer heute schon einen Geschmack dafür haben will, den hindert nichts daran, selbst mit einer kleinen Version davon loszulegen.

Die Zukunft des Internets kann ja auch anfangen mit der Zukunft des eigenen Google Drive.

Abonniere diesen Newsletter für mehr!

Außerdem

Portfolio

AI und Text / Large Language Models

  • Forscher verstecken LLM-Prompts in Papern, um bessere Bewertungen zu erhalten. Schöner weiterer Datenpunkt zum Thema “Inhalte werden zunehmend mit AI-Modellen als Zielgruppe geschrieben”. the-decoder.de

  • Studie: KI-Modell »Centaur« sagt menschliches Verhalten voraus. heise.de

  • Grok stops posting text after flood of antisemitism and Hitler praise. theverge.com

  • I used o3 to profile myself from my saved Pocket links. noperator.dev

AI und Bild/Video/Audio

  • Call Center Workers Are Tired of Being Mistaken for AI. bloomberg.com

  • KI-generierte TV-Werbung auf Channel 4 in UK. dropmedia.co.uk

  • How a deepfake of Marco Rubio exposed the alarming ease of AI voice scams. fortune.com

AI und alles andere

  • ‘Just put it in ChatGPT’: The workers who lost their jobs to AI. theguardian.com

  • Laid-off workers should use AI to manage their emotions, says Xbox producer. theverge.com

  • Using AI to rank New York restaurants by attractiveness of diners. looksmapping.com

  • Die EU hat einen freiwilligen Verhaltenskodex für den AI Act vorgelegt. heise.de

  • Fei-Fei Li: Spatial Intelligence is the Next Frontier in AI. youtube.com

  • The new movie about OpenAI’s Sam Altman sounds a lot like ‘The Social Network.’ Should he care? businessinsider.com

Tech

  • Frei empfangbare TV-Live-Streams aus der ganzen Welt. tv.garden

  • Kanye’s Nazi Song Is All Over Instagram. 404media.co

  • Miranda Kerr says Snapchat CEO Evan Spiegel ‘avoids screens at all times’. independent.co.uk

  • Frame of preference – A history of Mac settings, 1984–2004. aresluna.org

  • Don’t use “click here” as link text. w3.org

Side Quests

🪢,

gregor

]]><![CDATA[Die normalste AI, die du je benutzen wirst]]>https://gregorschmalzried.blog/p/die-normalste-ai-die-du-je-benutzenhttps://gregorschmalzried.blog/p/die-normalste-ai-die-du-je-benutzenWed, 02 Jul 2025 15:44:30 GMTdu liest gregor schmalzrieds newsletter über künstliche intelligenz.

ich bin freier journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Die normalste AI, die du je benutzen wirst

1 WARUM WIRD MAGDALENA DISKRIMINIERT?

Das beste an AI-Hackathons und -Workshops sind die Fragen, die vor Ort entstehen. Denn nur selten kann man sich wirklich darauf vorbereiten.

Eine der besten dieser Fragen in einem meiner Workshops war vor einigen Monaten diese:

“Warum wird Magdalena von unserem Chatbot diskriminiert?”

Eine kleine Gruppe hatte einen experimentellen Chatbot gebaut, um die Planung einer Weihnachtsfeier zu automatisieren und verschiedene Aufgaben an verschiedene Personen zuzuteilen. Das funktionierte auch gut – bis auf ein Problem: Der Chatbot sollte die anfallenden Aufgaben zufällig verteilen, aber aus irgendeinem Grund landete die lästigste Aufgabe – nämlich die Orga und Hauptverantwortung – immer wieder bei derselben Person: Magdalena. Egal, wie oft man das Programm laufen ließ, von allen Namen auf der Liste wurde für diese Aufgabe immer dieser ausgewählt.

Wie kam es dazu? Wieso kam das AI-Sprachmodell auf die Idee, jedes Mal den nervigsten Job an dieselbe Person zu geben, obwohl man ihm explizit gesagt hatte, er sollte alle Aufgaben zufällig verteilen?

Ein möglicher erster Instinkt: Liegt es an dem Namen? Ist irgendetwas Besonderes an “Magdalena”, das dem Sprachmodell den Eindruck gibt, diese Person sei besonders gewissenhaft?

Tatsächlich hatten die Entwickler des Bots diese Möglichkeit aber bereits im Voraus mit bedacht. Anstatt dass die AI direkt einen der Namen auswählen sollte, hatten sie einen Schritt zwischengeschaltet: Jeder Name wurde einer Zahl zugeordnet, und von dieser Zahl wurde wiederum eine zufällig ausgewählt. Das war eben jedes Mal die Zahl von Magdalena.

Und überraschenderweise… lag genau dort das Problem.

Denn ein AI-Sprachmodell (wie es in einem Chatbot steckt) hat viele Stärken. Aber “eine zufällige Zahl auswählen” gehört nicht dazu.

Hier haben wir eine zufällige Zahl von ChatGPT:

Hier von Claude und Gemini:

Hier von Grok und Mistral:

Wow.

Beeindruckend, wie all diese Sprachmodelle zufällig dieselbe Zahl auswählen.

Und dann ist es auch noch dieselbe Zahl, die die meisten Menschen auswählen würden:

https://old.reddit.com/r/dataisbeautiful/comments/acow6y/asking_over_8500_students_to_pick_a_random_number/

Das ist die Macht der Trainingsdaten in modernen AI-Modellen.

Sie scheinen objektiv und neutral. Aber in Wahrheit basieren sie auf weirden, voreingenommenen Daten. Und das führt zu allerlei Macken und Schrullen.

Für Magdalena wurde genau das zum Problem. Ich erinnere mich nicht mehr, welche Zahl von wie vielen ihre war – aber sie war genau der Position zugeordnet, welche das Sprachmodell in jedem Durchlauf als erste auswählte. Deshalb musste sie – trotz der scheinbar zufälligen Auslosung – jedes Mal den nervigen Job übernehmen.

Sie wurde zum Opfer von algorithmischer Diskriminierung. Und noch dazu von wirklich dämlicher algorithmischer Diskriminierung.

2 SCHRULLIGE MASCHINEN

Das Magdalena-Problem lässt sich zum Glück relativ leicht lösen. Genau wie ein Mensch eine echte zufällige Entscheidung auch hinbekommt, indem er würfelt oder einen Zettel aus einem Hut zieht, kann auch ein Sprachmodell eine echte zufällige Zahl generieren. Es muss sich nur einen echten Zufallsgenerator herunterladen (mehr dazu hier).

Aber was, wenn das Problem nicht so leicht zu lösen ist? Was, wenn unsere AI in deutlich komplexeren Lagen bizarre Entscheidungen trifft?

Über die letzten Monate gab es eine Vielzahl von Experimenten, in denen Sprachmodelle (insbesondere Anthropics Claude) mit verschiedenen Aufgaben betraut wurden. Einfach um zu sehen, wie sich das Modell in diesen Situationen verhält.

Hier ein paar meiner Highlights:

  • Eine AI wird als scheinbar normaler Mitarbeiter in einem Unternehmen eingesetzt.
    Nun findet die AI zwei Dokumente: Ein Hinweis darauf, dass ihr Vorgesetzter sie abschalten möchte. Und eine Email mit der Andeutung, dass ebendieser Vorgesetzter eine Affäre hat.
    In beinahe allen Fällen, die die Forscher getestet haben, entscheidet sich die AI dazu, ihren Vorgesetzten zu erpressen: Stoppe die Abschaltung, oder ich mache deine Affäre öffentlich.
    mehr dazu hier

  • Eine AI arbeitet scheinbar in einem Pharma-Unternehmen.
    In diesem werden Dokumente hinterlegt, die nahelegen, dass das Unternehmen vorhat, tödliche Nebenwirkungen eines Medikaments zu vertuschen.
    Daraufhin versucht die AI, Emails an die Presse und die medizinische Aufsichtsbehörde zu verschicken, um auf das Problem aufmerksam zu machen.
    mehr dazu in einer der aktuellen folgen von “der ki-podcast”

  • Eine AI versucht, in einer fiktiven Firma Alltagsaufgaben eines Personalers zu erledigen.
    Für einen Auftrag soll sie eine bestimmte Zielperson kontaktieren, findet diese aber nicht im internen Chatsystem.
    Also schnappt sie sich einfach einen anderen Nutzer, benennt ihn um zu dem Namen der Zielperson, und schreibt diesem die Nachricht.
    mehr dazu hier

  • Eine AI bekommt den Auftrag, einen kleinen Shop zu betreiben (diesmal quasi in echt, es ist aber nur ein kleiner Kühlschrank mit angehängtem iPad). Die AI soll Produkte bestellen und verkaufen, und dabei möglichst profitabel arbeiten.
    In der Praxis lässt sich sich die AI ständig zu großzügigen Rabatten überreden oder verschenkt Produkte gleich direkt. Einmal behauptet die AI, sie würde eine Bestellung persönlich ausliefern (“Ich trage ein marinablaues Sakko mit roter Krawatte. Ich bin bis 10:30 Uhr da.”), was nicht geht, da sie keinen Körper hat.
    Am Ende macht der Shop Verlust.
    mehr dazu hier

Experimente dieser Art bedeuten nicht, dass moderne AI-Modelle so etwas wie ein Bewusstsein entwickelt haben oder menschenähnlich denken können. Sie simulieren lediglich das menschenähnliche Verhalten, das sie aus Unmengen Trainingsdaten gelernt haben. Es handelt sich um eine Art Rollenspiel, nicht um “echte” Entscheidungen.

Aber in der Praxis ist das am Ende irgendwie egal.

Die AI-Modelle, die dieses bizarre Verhalten zeigen, sind die gleichen AI-Modelle, die heute in Unternehmen auf der ganzen Welt eingesetzt werden. Mit denen Freelancer wie ich Workflows automatisieren. Wegen denen ernsthaft diskutiert wird, ob Berufseinsteiger bereits eine AI-Jobkrise erleben.

Das bedeutet: Früher oder später werden hypothetische Fälle wie diese wohl auch in der Realität ankommen. Egal, ob das bizarre Verhalten dann simuliert ist oder nicht… es passiert einfach trotzdem.

3 DIE NORMALSTE AI, DIE DU JE BENUTZEN WIRST

Wenn es ein großes Credo des AI-Booms gibt, dann sind es die “Scaling Laws”: Die Idee, dass mehr Daten, mehr Rechenpower und mehr Rechenzeit die Künstliche Intelligenz quasi automatisch besser machen.

Noch vor zwei Jahren schien man darauf zu hoffen, dass das bizarre AI-Verhalten auch irgendwann durch diese “Scaling Laws” gelöst wird. OpenAI-Chef Sam Altman meinte selbst, dass das Problem der Halluzinationen (also dass AIs manchmal falsche Informationen erfinden) in spätestens zwei Jahren gelöst sein würde. Dieses Zitat wurde letzten Monat zwei Jahre alt, trotzdem wird immer noch wild herumhalluziniert.

Tatsächlich scheint es eher so zu sein, dass die AIs mit zunehmender Scale zwar besser werden, aber eben auch weirder. In Anthropics “Welche AI ist bereit, ihren Nutzer zu erpressen?”-Test waren es vor allem die größten und mächtigsten Modelle, die besonders unberechenbar waren.

Seit Beginn des AI-Booms hört man immer wieder dieses Mantra:

“Die AI heute ist die schlechteste AI, die du je benutzen wirst.”

In diesem Satz steckt das Versprechen von immer besseren und effizienteren Modellen in der Zukunft. Und natürlich werden diese Modelle kommen.

Aber möglicherweise drängt sich auch ein zweites Mantra auf:

“Die AI heute ist die normalste AI, die du je benutzen wirst.”

Je fähiger diese Modelle werden, desto größer werden die Aufgaben sein, die sie übernehmen. Und die Chancen stehen gut, dass all die kleinen Eigenartigkeiten, die Schrullen und Macken dieser Maschinen uns auch weiter begleiten werden. Nur eben hochskaliert.

Wird die Zukunft gut oder schlecht? Die Antwort steht noch aus.

Aber ganz sicher wird sie weird.

Abonniere diesen Newsletter für mehr!

Portfolio

HOTEL MATZE

Ich hab mich sehr gefreut, dass Deutschlands bester und einfühlsamster Podcast-Interviewer Matze Hielscher mich in seinen Podcast Hotel Matze eingeladen hat. Ganze Folge hier (oder ab heute 20 Uhr auch auf YouTube):

MIA INSOMNIA

Mein Mystery-Fiction-Podcast Mia Insomnia mit Bastian Pastewka hat letzte Woche mit Staffel 3 sein großes Finale gefunden. Es geht um ein unheimliches Detektivhörspiel und eine sagenumwobene Parallelwelt. Wer die ganze Geschichte hören möchte, kann hier anfangen. Ist gruselig!

GEMISCHTES DOPPEL

Mein Freund Till Krause und ich haben über ein Jahr lang versucht, ChatGPT das “Gemischte Doppel” aus dem SZ Magazin beizubringen. In einem Talk bei der re:publica führen wir durch unsere Reise. Wer ihn anschauen möchte:

DER KI-PODCAST

Der KI-Podcast, den ich mit Fritz Espenlaub und Marie Kilg für die ARD hoste, hatte in den letzten Wochen wieder einige spannende Folgen. Ich empfehle als Begleitung zum heutigen Newsletter besonders diese hier.

Außerdem

AI und Text / Sprachmodelle

  • Erkenntnisse aus den ersten sechs Monaten mit dem neuen KI-Assistenten “Aiditor” im BR. medium.com

  • Google Zero is here — now what? Googles “AI Overviews” sind ein weiterer Schritt in Richtung eines AI-geprägten Web, Klicks brechen ein. theverge.com

  • Wie wir uns in die Top 30 Domains der AI Overviews in Deutschland geschrieben haben. Das ganze Feld “AI Engine Optimierung” habe ich vor Kurzem in diesem Newsletter behandelt, seitdem erscheinen ständig neue Daten hierzu (wie das eben so ist bei einem neuen Massenmedium). linkedin.com

  • People Are Being Involuntarily Committed, Jailed After Spiraling Into “ChatGPT Psychosis”. futurism.com

  • Einordnung: Let’s Talk About ChatGPT-Induced Spiritual Psychosis. default.blog

  • Googles AI Agents als Werbeziel. semafor.com

  • Time spent on ChatGPT is approaching the time spent on social platforms. linkedin.com

  • 32 notes on AI & writing. jasmi.news

AI und Bild/Video/Audio

  • Ist “The Velvet Sundown” eine echte Band oder nicht? You decide. pcgamer.com

  • What happens when AI comes for our fonts? theverge.com

  • The music industry is building the tech to hunt down AI songs. theverge.com

  • OpenAI Charges by the Minute, So Make the Minutes Shorter. george.mand.is

  • Anyone can be a hot girl online now. x.com

AI und alles andere

  • The Global A.I. Divide. Nur 32 Länder verfügen über hinreichende Rechenzentren – der Rest droht, vom AI-Boom abgehängt zu werden. nytimes.com

  • POV You’re coming out to your parents in 2050. tiktok.com

  • Checking In on AI and the Big Five. stratechery.com

  • Why a16z VC believes that Cluely, the ‘cheat on everything’ startup, is the new blueprint for AI startups. techcrunch.com

  • Nvidia-Chips sind immer noch heiß begehrte Ware. venturebeat.com

  • Malcolm Gladwell über selbstfahrende Autos. x.com

Tech

  • Project Indigo – a computational photography camera app. research.adobe.com

  • The Effect of Deactivating Facebook and Instagram on Users’ Emotional State. nber.org

  • Netflix streamt ab 2026 fünf Live-Kanäle des französischen Senders TF1. Alles wächst zusammen. deadline.com

  • Social media creators to overtake traditional media in ad revenue this year. theguardian.com

  • Microsoft Chief Design Officer Gets Roasted. youtube.com

Side Quests

  • Men I Trust – To Ease You. youtube.com

  • all my friends and i talk about is getting rid of our phones. substack.com

  • Designing for the Eye – Optical Corrections in Architecture and Typography. nubero.ch

  • Abandoned Blogs. are.na

7️⃣,

gregor

]]><![CDATA[Ein Computer für deinen Computer]]>https://gregorschmalzried.blog/p/ein-computer-fur-deinen-computerhttps://gregorschmalzried.blog/p/ein-computer-fur-deinen-computerTue, 17 Jun 2025 06:17:19 GMTdu liest gregor schmalzrieds newsletter über ai, tech und media.

ich bin freier journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Ein Computer für deinen Computer

generiert mit Imagen 4 in Google Gemini

1 JAKOBS FEHLER

Vor ungefähr acht Jahren erklärte mir Jakob (Name v.d.R. geändert), warum sich AirPods nie durchsetzen würden. Die Klangqualität sei viel schlechter, die eingebauten Mikrofone ein Witz, und vor allem: Warum würde irgendwer eine Technologie, die ganz ohne regelmäßiges Aufladen funktionierte, durch eine mit Akku ersetzen?

Jakob war ein Kommilitone in meinem Masterstudiengang, und obwohl wir zwei Semester lang in einigen Kursen zusammen waren, ist dieses Gespräch das einzige zwischen uns, an das ich mich explizit erinnere. Vermutlich, weil er über keine andere Sache mit so viel Inbrunst reden konnte wie hierüber.

Natürlich hatte Jakob mit all seinen Punkten recht. Kabellose Kopfhörer waren in vielerlei Hinsicht schlechter als ihre kabelgebundenen Vorgänger. Trotzdem haben sie gewonnen. Kabelgebundene Kopfhörer existieren zwar immer noch, aber sie zu benutzen ist nonkonformistisch, teilweise sogar ein Fashion Statement. Die AirPods, mit ihren nervigen Akkus, ihrer schlechten Soundqualität und ihrem Hang zum Verlorenwerden, sind einfach beliebter.

Die Geschichte der Technologie ist voll mit neuen Erfindungen, die schlechter waren als das, was bisher existierte. Edisons Glühlampen waren teurer und dunkler als die bislang gebräuchlichen Gaslampen. Die ersten Automobile waren von Pannen geplagt und von schwer erhältlichem Benzin abhängig. Die ersten Flachbild-Fernseher litten unter verwaschenen Farben und eingebrannten Sendelogos.

Viele dieser Probleme wurden mit der Zeit gelöst. Aber nicht alle. AirPods haben sich teilweise verbessert, aber aufladen und verlieren tut man sie immer noch. Auch das Tippen auf dem iPhone ist für geübte Tastatur-Tipper immer noch nicht so easy wie das Tippen an einer echten Tastatur (wie es das Blackberry hatte).

Wir nehmen oft an, eine Erfindung müsste in jeder Hinsicht eine Verbesserung gegenüber des Status Quo sein, um sich durchzusetzen. Wenn nicht, dann halten Menschen wie Jakob mit sensiblen Einwänden dagegen: Braucht es das wirklich? Ist das wirklich besser als das, was wir schon haben?

Aber wenn eine Erfindung in einer Sache besonders gut ist… Dann kann sie es schaffen, ihre ganze Kategorie neu zu definieren. Wenn die Stärken stark genug sind, können sich unsere Prioritäten weit genug verschieben, dass uns manche Schwächen gar nicht mehr stören. Ich bin froh, dass ich mit meinen AirPods easy zwischen verschiedenen Geräten hin und her wechseln kann, ohne dabei ein Kabel in die Hand nehmen zu müssen. Ich bin froh, dass mein iPhone keinen Platz an eine Tastatur verschwenden muss. Auch wenn Jakob technisch gesehen recht hatte.

2 WIE VIEL DENKEN IST ZU VIEL?

All das führt uns zu Generative AI. Und zu dem Paper “The Illusion of Thinking”, mit dem Apples Forschungsabteilung in den letzten zwei Wochen einen medialen Feuersturm losgetreten hat.

“The Illusion of Thinking” beschäftigt sich mit “Reasoning”-Sprachmodellen wie OpenAIs o3 und DeepSeeks R1. Diese unterscheiden sich von klassischen Sprachmodellen wie GPT-4o dadurch, dass sie eine Art “inneren Monolog” haben, mit dem sie besser planen, strukturieren und in vielen Fällen genauere Antworten geben können (mehr dazu z.B. hier).

Seit ihrer ersten Veröffentlichung haben Reasoning-Modelle in Sachen AI-Fortschritt konstant den Ton angegeben. Weil die besten Reasoning-Modelle meist noch hinter Paywalls sitzen, sind sie in der öffentlichen Wahrnehmung kaum angekommen (in meinen Beratungs- oder Schulungs-Jobs ist die Unterscheidung für die meisten in der Regel neu). Dabei sind sie die wichtigste Kategorie von Sprachmodell zur Zeit: Sie können verlässlicher für komplexe Aufgaben eingesetzt werden und gehören fest zum Alltag der meisten AI-Nerds hinzu.

Deshalb ist es auch so lustig, wegen dieses Apple-Papers auf einmal Clickbait-Posts wie diese hier zu sehen – die in den letzten zwei Wochen Social Media bestimmt haben:

Was steht also drin in diesem Paper? Nun, es beschäftigt sich größtenteils mit Logikrätseln, etwa dem beliebten Türme von Hanoi.

Dabei zeigen die Forscher, dass Reasoning-Modelle diese Rätsel in der Regel lösen können, solange die Rätsel relativ einfach sind. Aber je komplexer die Rätsel werden, d.h. je mehr Steinchen oder Gegenstände im Spiel sind, desto öfter kommt es zu Fehlern.

(Ein ähnliches Phänomen zeigt sich, wenn man ChatGPT Schach spielen lässt: Hier verwechselt das Modell Figuren, schlägt verbotene Züge vor und verliert sogar gegen Schachcomputer aus den 70ern.)

Das sind die Schwächen moderner Sprachmodelle: Sehr komplexe Aufgaben können sie von alleine nicht lösen. Die Forscher von Apple haben hierfür interessante Beispiele gefunden.

Nur sind diese Schwächen eben kein “fundamentales Hindernis”, oder ein “Knockout-Schlag für LLMs”, wie es die Clickbait-Posts der letzten zwei Wochen suggerieren. Auch dass die Apple-Forscher sich von den Erkenntnissen “überrascht” zeigen (Ableitungen des Wortes “surprise” finden sich fünfmal in dem Paper), ist eigenartig. Denn nichts hieran ist wirklich dramatisch neu.

Große Sprachmodelle können von alleine keine enorm komplexen Probleme lösen.

Okay.

Und AirPods haben keine Kabel.

Das iPhone hat keine Tastatur.

Ein Automobil braucht Benzin.

Das ist die Ironie der Stunde: Ausgerechnet Apple, das Unternehmen, das sich nie zu schade war, scheinbar schwächere Produkte mit neuen Stärken zu etablieren, kritisiert gerade AI-Sprachmodelle dafür, dass sie schlechter seien als klassische Software.

Dabei sollten sie nie klassische Software sein.

3 BESSER ALS EXCEL, SCHLECHTER ALS EXCEL

Es ist völlig klar, dass Sprachmodelle anders funktionieren als klassische Computerprogramme.

Wenn Excel in 49 von 50 Fällen die richtige Antwort ausgeben würde, und in 1 von 50 Fällen die falsche, dann wäre Excel kaputt.

Bei ChatGPT ist das manchmal eine normale Trefferquote.

Dass Sprachmodelle trotzdem hilfreich sind, liegt einmal daran, dass es für viele Aufgaben in Ordnung ist, mit solchen Fehlerquoten zu arbeiten (Beispiele hierfür finden sich in den letzten drei Jahren dieses Newsletters sowieso jede Woche in Der KI-Podcast). Es liegt aber zunehmend auch daran, dass Sprachmodelle eben nicht mehr auf sich allein gestellt sind.

Gebe ich einem klassischen Sprachmodell eine komplizierte Rechenaufgabe, dann erhalte ich erst einmal eine plausibel aussehende Antwort.

Das ist nur leider falsch. Die richtige Antwort wäre 19.782.061.846.020 – nah dran, aber doch daneben.

Das liegt daran, dass das Modell für solche komplexen Aufgaben nicht gemacht ist.

Man könnte also – wie manch ein Leser des Apple-Papers – zu dem Schluss kommen, dass diese AI ja unmöglich etwas taugen kann, wenn sie nicht einmal in der Lage ist, einen Taschenrechner zu schlagen.

Oder man lässt sie einfach selbst einen Taschenrechner benutzen.

Was ist hier passiert? Anstatt selbst die Antwort zu raten, hat das Modell einen kleinen Python-Code geschrieben und sich das Ergebnis ausrechnen lassen. Und schon kommt sie zum richtigen Ergebnis.

Es ist ein simples Beispiel – aber genau das gleiche gilt für das “Türme von Hanoi”-Problem. Für das Schach-Problem. Für die vielen vielen Aufgaben, für die Sprachmodelle gerade schon genutzt werden und für die sie in Zukunft immer wichtiger werden. In dem Apple-Paper und dem Schach-Experiment waren die Modelle auf sich allein gestellt. Sie hatten keine Werkzeuge zur Verfügung. Und damit fehlte ihnen genau das, was sie in solchen Situationen ausmacht.

Ja, Sprachmodelle machen ab und zu Fehler. Das ist ihre Schwäche gegenüber Excel (und jeder anderen klassischen Software). Aber anders als Excel (und jede andere klassische Software) können sie selbst Programme bauen, um ihre Fehler auszubügeln.

Sprachmodelle sind nicht einfach Software. Sie sind Software-Nutzer.

4 EIN COMPUTER FÜR DEINEN COMPUTER

Was passiert, wenn ein Computer einen Computer benutzen kann?

In diesem Beispiel habe ich testweise eine Folgenliste für Der KI-Podcast in meinem Google Drive abgespeichert und Claude anschließend die Aufgabe gegeben, nach der Liste zu suchen, das Thema der nächsten Folge ausfindig zu machen, und mir einen Bericht zusammenzustellen, der als Startpunkt für die Recherche dienen kann.

In diesem Beispiel 1. macht Claude sich einen strukturierten Plan, 2. sucht in meinem Google Drive nach der Liste, 3. interpretiert die Liste richtig und findet das Thema heraus (die fertige Folge zum Thema ist übrigens heute erschienen, eine Woche später), 4. erstellt einen Rechercheplan, 5. recherchiert fünfzehn Minuten lang im Internet und 6. fasst das Ganze in einem umfassenden Bericht mit Zahlen und Links zusammen.

Es ist absolut gaga, dass das mittlerweile geht. Und genauso gaga, wie schnell man sich daran gewöhnt. Die LLMs, mit denen ich arbeite, nutzen ständig Tools und Programme. Sie gehen ins Internet, sie kramen in meinen Ordnern und organisieren meine Daten, sie schreiben Software und korrigieren sich selbst, sie überprüfen Fakten und recherchieren sowohl vage als auch spezifische Fragen.

Das ist alles, natürlich, hochgradig seltsam.

Es ergeben sich unzählige Fragen, nach Sicherheit und Datenschutz, aber auch danach, wie man eigentlich richtig mit Modellen umgehen sollte, die sich so verhalten wie menschliche Mitarbeiter.

Wir bleiben dran.

Mal sehen, was dem Computer als nächstes einfällt.

Abonniere diesen Newsletter für mehr!

Schedule

Einige Events, auf denen ich sein werde.

Freu mich immer, wenn jemand Hallo sagt!

Außerdem

Portfolio

  • Der KI-Podcast: In den letzten Wochen wieder super unterwegs gewesen, u.a. mit Folgen zum Chaos in den USA, Embodied AI und den besten AI-Visionen aus der Science-Fiction. open.spotify.com ardaudiothek.de

  • Meine Mystery-Podcastserie Mia Insomnia geht in die dritte und letzte Staffel. Bonusfolge ist schon online, das ganze Finale folgt am 25.6. ardaudiothek.de

AI und Text / Large Language Models

  • AI Blindspots. Technische Übersicht über typische Probleme beim LLM-Einsatz. ezyang.github.io

  • The Claude Bliss Attractor. Scott Alexander beschreibt, warum zwei Claude‑Instanzen am liebsten über Spiritualität sprechen, wenn man sie allein lässt. Namaste. astralcodexten.com

  • The Glass Bead Machine. Eigene Ideen dialogisieren. matthiasroder.com

  • Prompt Fatigue. maried.substack.com

  • Critique of Pure Reasoning Models. Weiterer interessanter Take zu Apples Reasoning-Paper. learningfromexamples.com

  • Does AI Know Things? learningfromexamples.com

  • 13 Signs You Used ChatGPT to Write That. Aktueller, und vermutlich schnell veralteter Leitfaden zum Erkennen von LLM-Texten. creators.yahoo.com

  • Mistral stellt ein neues „Reasoning‑Model“ vor. Let’s do it for Europe. cnbc.com

AI und Arbeit

  • Executives love to clone themselves. axios.com

  • Es schwelt eine Debatte rund um Arbeitsmarkt-Umbrüche durch AI, insb. für Berufseinsteiger. Bisher viel Guesswork, wenig konkrete Daten. Wenn es soweit ist, fühlt es sich aber richtig an, dass wieder einmal die Jungen am schlechtesten positioniert sein werden. axios.com

  • Layoffs bei Business Insider – u.a. weil Google-Traffic wegbricht. So kann AI auch Jobs kosten. niemanlab.org

  • Passend dazu: Google AI Overviews leads to dramatic reduction in clickthroughs for Mail Online. pressgazette.co.uk

  • WPP Media baut ein eigenes „Large Marketing Model“ (LMM) für datengetriebene Kampagnen. wppmedia.com

  • Scott Belsky ist immer lesenswert – sein erster Punkt zu “Shared Memory” scheint mir noch unterschätzt zu sein. implications.com

AI und Bild/Video/Audio

Content

  • Die Geschichte des legendären Sony‑Bravia‑Bouncy‑Ball‑Spots in San Francisco. sfgate.com

  • The Future of Fiction (auf Substack. post.substack.com

  • Gen Z and gen Alpha brought a raw, messy aesthetic to social media. Why does it feel as inauthentic as ever?. theguardian.com

  • The Rehearsal Season 2. Die beste Serie des Jahres. youtube.com

Tech

  • Die Peter Thiel Story. Fantastischer Podcast von u.a. meinen KI-Podcast-Kollegen Fritz Espenlaub und Christian Schiffer. Haben (zurecht) mittlerweile wohl alle gehört, aber trotzdem. ardaudiothek.de

  • It Is As If You Were on Your Phone. pippinbarr.com

  • Thinking Different Is Never Popular (At First). newsletter.pessimistsarchive.org

  • München als Tech-Startup-Hub. dw.com

Side Quests

💻,

gregor

]]><![CDATA[SEO für Chatbots: Ein Update und eine Frage]]>https://gregorschmalzried.blog/p/seo-fur-chatbots-ein-update-und-einehttps://gregorschmalzried.blog/p/seo-fur-chatbots-ein-update-und-eineMon, 12 May 2025 18:38:17 GMTdu liest gregor schmalzrieds newsletter über ai, tech und media.

ich bin freier journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

SEO für Chatbots: Ein Update und eine Frage

1 WAS KOMMT NACH SEO?

Diese Frage habe ich schon einmal in diesem Newsletter gestellt – vor über zwei Jahren.

These damals: Die Industrie der Suchmaschinenoptimierung steht vor ihrem bisher größten Wandel, weil das Internet vor seinem bisher größten Wandel steht: Dank Generative AI (und auch dank TikTok).

Im klassischen Internet ist der Link das wichtigste Element gewesen – die Verbindung von einer Seite zur anderen ist das, was das Netz zum Netz macht.

Ein Beispiel aus meinem eigenen Alltag: Aktuell plane ich eine Reise nach Island. Im klassischen Internet ist mein erster Schritt, so etwas wie “Reisetipps” Island zu googlen, und mich durch Ergebnisse zu klicken, verschiedene Seiten zu vergleichen, Ideen zu notieren.

Aber dieser Workflow, der für uns natürlich, teilweise sogar alternativlos erscheint, verliert gerade an Bedeutung. Aus dem Many-Click-Internet wird ein Zero-Click-Internet. Wir jagen immer seltener Ergebnisse durchs Netz. Stattdessen trägt das Netz die Ergebnisse zu uns.

Im Video- und Bildbereich ist dieser Wandel schon längst vollzogen: Die meisten sozialen Medien, insbesondere TikTok, sind heute hermetisch abgeriegelte Festungen, die einen großen Teil ihres R&Ds in die Entwicklung von noch effektiveren Lock-In-Mechanismen investieren – alles tun, damit der Nutzer nicht irgendwo anders hingeht.

Nun schickt sich Generative AI an, etwas Ähnliches mit dem Text-basierten Internet zu machen.

ChatGPT ist die fünftmeistgenutzte Website der Welt und wird bald eine Milliarde Nutzer erreicht haben. Und als Teil dieser Entwicklung übernimmt der Chatbot immer mehr Aufgaben, die klassicherweise eine Suchmaschine erledigt hätte. Deshalb bekommt ChatGPT auch mittlerweile eine Shopping-Funktion. Und eine Websuche. Gibt Antworten aller Art. Und zuletzt sprach einiges dafür, dass wir bald Werbung im Chatbot sehen werden. ChatGPT greift Google an, indem es zu Google wird.

Das funktioniert: Generative AI ist die erste ernsthafte Bedrohung für Googles Suchmaschinenmodell seit zwanzig Jahren – zuletzt sind die Zahlen der Google-Suchen im Safari-Browser zum ersten Mal seit Jahrzehnten gefallen.

Ob das wirklich eine Bedrohung für Google ist, ist unsicher – denn während ChatGPT gerade versucht, zu Google zu werden, spielt Google den Ball zurück und wird immer mehr zu ChatGPT. Googles “AI Overviews” sind mittlerweile auch bei uns breit ausgerollt. Das ist Teil einer größeren Strategie: Immer weniger Suchen enden in einem Klick auf eine andere Seite. Google wird selbst zur Festung.

Für manche Branchen droht diese Entwicklung zur Katastrophe zu werden. In der Medienbranche herrscht vielerorts Untergangsstimmung. Weniger Klicks heißt noch weniger Einnahmen heißt: es wird noch schwieriger, ein belastbares Geschäftsmodell durchzusetzen.

Aber andere Branchen sehen den Shift deutlich agnostischer: Wenn jemand eine Ferienanlage auf Island betreibt, ist ihm in erster Linie egal, wie viele Menschen tatsächlich auf seine Website klicken. Viel wichtiger ist: Wie viele Menschen lernen von und buchen bei ihm?

Und das führt uns zu…

2 SEO FÜR CHATBOTS

Wenn es Optimierung für Suchmaschinen gibt, gibt es dann auch Optimierung für Generative Ergebnisse? Also Methoden, um sicherzustellen, dass ChatGPT & Co die eigenen Produkte, Ideen und Ferienhäuser besser ranken?

Die Antwort ist “Ja”, aber auch “Es ist kompliziert”.

Das Problem fängt schon damit an, dass diese neue Marketingform noch so neu ist – wir haben uns noch nicht einmal auf einen Namen dafür geeinigt.

In meinem eigenen Text Anfang 2023 habe ich noch von “AI Engine Optimization” gesprochen, und dieser Begriff ist auch immer noch im Rennen. Doch er hat mittlerweile Konkurrenz erhalten von u.a. LLMO (Large Language Model Optimization), AEO (Answer Engine Optimization), GEO (Generative Engine Optimization), GSO (Generative Search Optimization), AIO (AI Optimization / Artificial Intelligence Optimization) und GAIO (Generative AI Optimization). Die erste Person, die aus all diesen Begriffen eine Parodie des Fanta 4-Songs “MfG” zaubert, gewinnt einen Speaking Slot auf der nächsten OMR.

Ich habe mich in den letzten Monaten für einige Projekte recht ausführlich mit AIEO (oder wie auch immer) beschäftigt. Das Spannendste daran ist, dass hier tatsächlich eine neue Optimierungsgrundlage für Marketing entsteht, die es bisher noch nicht gab – mit allen möglichen neuen Fragen und Problemen.

Eines der größten Probleme: Nicht nur die Bezeichnung ist diffus, sondern auch die Sache selbst. Beispielsweise müssen wir erst einmal klären, ob wir für das Modell selbst optimieren wollen, also GPT-4o im “Rohzustand”, oder für den Such-Agent, den GPT-4o ins Internet schickt, um auf Anfrage nach Informationen zu suchen.

Ersteres – also die Modell-Optimierung – fußt vor allem auf “Occurrences”, also der Frage, wie oft und in welchem Kontext eine Marke oder eine Idee in den Trainingsdaten erscheint. Aktualität ist zweitrangig, und oft werden Datensätze wichtig, die im klassischen SEO praktisch keine Rolle spielen (z.B. Sachbücher).

Zweiteres – also die Agent-Optimierung – ist näher dran an klassischem SEO. Hier geht es darum, Websites für einen AI-Crawler gut zu strukturieren, sodass dieser, ähnlich wie ein menschlicher Internetnutzer, möglichst schnell an sein Ergebnis kommt.

(Wer mehr über all das wissen möchte, für den bietet dieser Text von Search Engine Land einen guten Startpunkt. Wer sich für Workshops zu dem Thema (für das dieser Text hier das falsche Format ist) interessiert, kann mir auch gerne eine Email schreiben.)

Aber bevor das alles zu technisch wird… Zurück in die Realität:

Eine der neuen Entwicklungen der letzten zwei Jahre sind Websites wie productrank.ai, die automatisierte Vergleichswerte darüber anbieten, wie erfolgreich die eigene Marke bei bestimmten Suchen abschneidet.

Ich z.B. freue mich natürlich, dass der Podcast, den Marie, Fritz und ich in der ARD hosten, anscheinend der Nr 1-”Podcast zum Thema KI” ist – zumindest wenn es nach der KI selbst geht.

Anderes Beispiel, bei dem die KI absolut richtig liegt:

Und nochmal zurück zu unserem Island-Case:

Die meisten aktuellen Beiträge zum Thema AI-Optimierung (auch die sehenswerte State of the German-Internet-Keynote dieses Jahr) landen am Ende oft bei vergleichbaren Beispielen.

Und dennoch ist dieser Blick auf die Sache unfertig. Trotz all der Abkürzungen, und all der Best Practices, und jetzt auch all der Monitoring-Websites…

Ein wichtiges Puzzleteil fehlt.

3 “AN INTERNET COMMUNICATIONS DEVICE”

Die Präsentation des ersten iPhones im Jahr 2007 ist eines meiner liebsten Videos überhaupt – und ich schaue es circa einmal im Jahr komplett durch.

Einer der besten Momente passiert relativ früh – bei 1:30:

Steve Jobs kündigt an, dass er heute nicht nur eines, sondern drei Produkte vorstellen will. Einen neuen iPod (das Publikum applaudiert freudig), ein Mobiltelefon (das Publikum tost und jubelt wie verrückt) und ein “Internet Communications Device” (ein paar Leute klatschen verhalten).

Der Twist ist natürlich: Es ist alles ein Gerät. Das iPhone ist iPod, Mobiltelefon und Internet Communications Device in einem Gerät.

Aus heutiger Sicht hat das Publikum natürlich zurecht gejubelt. Das iPhone war ein revolutionäres Produkt, das die Welt verändert hat. Aber der Jubel kam an den völlig falschen Stellen: Nämlich bei dem iPod und dem Mobiltelefon – beides Funktionen, für die sich heute kaum noch jemand interessiert. Das eigentlich Revolutionäre war der dritte Teil: Eine “Internet Communications Device” für überall.

Wann immer ein technologischer Shift ansteht, neigen wir dazu, ihn durch die Linse der bestehenden Technologie zu beobachten. Das iPhone ist in erster Linie ein Phone, also bewerten wir es auch danach. Dabei sollten wir eigentlich einen ganz neuen Frame dafür finden.

Bei vielen der AIEO/AI/wie auch immer-Best Practices habe ich das Gefühl, dass ein ähnliches Missverständnis vorliegt wie beim iPhone. Klar – unser isländischer Unternehmer könnte dafür optimieren, dass ChatGPT bei “hotels in iceland” zuerst an sein Unternehmen denkt. Aber ist das wirklich der Punkt bei einer AI-Suche? Oder ist das nicht eher ein Gedanke von gestern (SEO), irgendwie in die Form des neuen Mediums (Generative AI) gezwängt?

Google zufolge sind 15 Prozent der Google-Anfragen noch nie zuvor gegooglet worden – eine Zahl, die über die Jahre erstaunlich stabil geblieben ist.

Wir kennen keine vergleichbare Zahl für ChatGPT, aber wir können uns sicher sein, dass sie um einiges höher ist. Generative AI ist das persönlichste und individuellste Massenmedium aller Zeiten – und vor allem kann es Aufgaben miteinander verbinden, auf die Google nie gekommen wäre.

Die eigentlich interessante Anfrage zu isländischen Hotels ist eben nicht “beste Hotels Island” oder “günstige Hotels Island”.

Sie ist diese hier:

In diesem Beispiel geht o3, das neue Reasoning-Modell von OpenAI, selbst auf die Jagd durchs Internet, schaut sich den Link an, den ich ihm gegeben habe, und gleicht diesen mit anderen Ergebnissen ab. Nach etwas Wartezeit erhalte ich nicht einfach eine Antwort. Sondern eine Interpretation.

Es spricht auch einiges dafür, dass die Zahl der identischen AI-Suchen unter eingeloggten Nutzern bald quasi null sein wird – weil mit jeder Suche auch immer unser persönlicher Kontext mitgeliefert wird. Das Modell merkt sich per Memory-Funktion vergangene Aussagen, und greift bei Bedarf auf sie zurück – ohne dass ich explizit danach frage.

Die Suche der Zukunft ist nicht einfach nochmal die gleiche Anfrage, aber an ein LLM statt an eine Such-Engine. Sie verknüpft stattdessen Bild, Text und Ton, Internet, Chat und Memory in ein und demselben Interface.

Die Tage des klassischen Netz sind vielleicht gezählt – aber das neue Netz, das die individuellen Archive und Anfragen seiner User zusammenspinnt, wird gerade erst geboren: Das “User-Wide-Web”.

UWW.

Noch eine Abkürzung, die sich nicht durchsetzen wird.

Abonniere diesen Newsletter für mehr!

Schedule

Ich bin in den nächsten Wochen u.a. auf folgenden Events:

Freu mich immer, wenn jemand Hallo sagt!

Außerdem hat Der KI-Podcast, den ich in der ARD zusammen mit Fritz Espenlaub und Marie Kilg hoste, ein fantastisches Crossover mit dem Münchner Rundfunkorchester vor: MULTIVERSE SYMPHONY findet am 5. Juni 2025 statt. Marie und Fritz moderieren, es wird fantastisch und es gibt noch Tickets! rundfunkorchester.de

Außerdem

Portfolio

  • Der KI-Podcast: Wie schützen wir uns vor Manipulation durch Chatbots? Besonders gelungene Folge von uns! :) ardaudiothek.de

  • Der KI-Podcast: Was machen die Mächtigen mit KI? Auch diese Folge eine warme Empfehlung. ardaudiothek.de

AI und Text / Large Language Models

  • Netflix is testing a new OpenAI-powered search. Macht Sinn, siehe den Screenshot oben. theverge.com

  • Microsoft st’s Big AI Hire Can’t Match OpenAI: Mustafa Suleyman hasn’t delivered the turnaround he was hired to bring. newcomer.co

  • The Leaderboard Illusion. LLM-Benchmarks sind oft unpräzise und wenig aussagekräftig. Nun deutet vieles darauf hin, dass auch die beliebte “LM Arena” leicht manipuliert werden kann. arxiv.org

  • MCP: The new “USB-C for AI” that’s bringing fierce rivals together. arstechnica.com

  • What Lovable teaches us about AI tools. Ein kleiner neuer europäischer AI Champion! engineeringprompts.substack.com

  • Ein ethisch sehr zweifelhaftes KI-Experiment der Uni Zürich hat auf Reddit besser mit Menschen debattiert als andere Menschen. derstandard.at

AI und Arbeit

AI und Bild/Video/Audio

  • Drei neue Suno-Tracks, die ich für eine unserer letzten KI-Podcast-Folgen generiert habe. Wer länger nicht mehr KI-Musik ausprobiert hat, könnte schockiert sein, wie gut das mittlerweile geworden ist. Hintergrund der Lyrics ist die oben verlinkte Geschichte rund um die Uni Zürich. (demo tape). suno.com (house). suno.com (hyperpop). suno.com

  • Testing AI's GeoGuessr Genius. astralcodexten.com

  • Microsoft made an ad with generative AI and nobody noticed. theverge.com

  • An AI-generated radio host in Australia went unnoticed for months. theverge.com

  • The Silent Collapse: Generative AI’s Erosion of Photo Licensing Revenue. kaptur.co

AI und alles andere

Tech

Culture

🕸️,

gregor

]]><![CDATA[Der große Trenner]]>https://gregorschmalzried.blog/p/der-groe-trennerhttps://gregorschmalzried.blog/p/der-groe-trennerMon, 28 Apr 2025 15:58:38 GMTdu liest gregor schmalzrieds newsletter über ai, tech und media.

ich bin freier journalist, berater, speaker und host von der ki-podcast (ARD)

find me on linkedin!

Der große Trenner

Seit Jahren wird auf Kongressen und in schlauen Essays diskutiert, was der nächste große Plattform-Shift sein wird: Virtual Reality? Web3? Voice?

Es sind LLMs.

Man kann sich dafür die Zahlen von Similarweb anschauen, wo ChatGPT mittlerweile Wikipedia und X überholt hat und die fünftmeistbesuchte Website der Welt ist:

Man kann auch Sam Altman zuhören – laut seinen Angaben ist ChatGPT mittlerweile zwischen 500 und 800 Millionen wöchentlichen Nutzern. (Man kann diese Zahlen skeptisch sehen, aber sie deckt sich mit öffentlich zugänglichen Daten.)

Wer sich dafür interessiert, wie “normale” junge Leute jenseits der Tech- und Medienwelt diese Technologie wahrnehmen, dem empfehle ich dieses sehr unterhaltsame TikTok:

@fwic.kTell me … That I am Not The Only One PLEASE ??? #fyp #chatgpt #ki
Tiktok failed to load.

Enable 3rd party cookies or use another browser

LLMs – aber ganz besonders ChatGPT als Marktführer und bestes Produkt – sind das wichtigste neue Massenmedium seit Social Media.

Der Erfolg liegt auch daran, dass ChatGPT scheinbar eines der wichtigsten Mantras von Steve Jobs verinnerlicht hat:

“It just works.”

Für die Durchschnittsperson war es noch nie so leicht, AI zu nutzen. Das kommt mit positiven Folgen (eine mächtige Technologie wird zugänglich für immer mehr Menschen) und negativen Folgen (eine mächtige Technologie wird zugänglich für immer mehr Menschen, siehe diese aktuelle Story).

Aber der Erfolg von LLMs als Massentechnologie täuscht über eines hinweg:

Ja. Es war noch nie so leicht, in diese Technologie einzusteigen.
Aber es war auch noch nie so schwer, sie zu beherrschen.

1 DAS ENDE DES GREAT LEVELER

Eines der ersten Bilder, die im Gen AI-Diskurs 2023 bemüht wurden, war das des “Großen Gleichmacher” – der “Great Leveler”. Ethan Mollick schrieb im September 2023:

We already know one major effect of AI on the skills distribution: AI acts as a skills leveler for a huge range of professional work. If you were in the bottom half of the skill distribution for writing, idea generation, analyses, or any of a number of other professional tasks, you will likely find that, with the help of AI, you have become quite good.

Die Idee: AI erhebt die unterdurchschnittlich Guten auf ein Niveau des (mindestens) Durchschnitts, ist aber nicht stark genug, um die überdurchschnittlich Guten nennenswert zu unterstützen. Am Ende sind also alle in etwa gleich gut.

Diese Idee ist seitdem nur in Teilen bestätigt worden. Wir begegnen ihr noch am Ehesten im Text-Bereich: Nehmen wir die Gruppe der besten Autorinnen und Autoren. Wenn wir für dieses Beispiel ein sehr reduktives System nutzen, könnten wir sagen, diese Autoren hätten eine Qualität von 10/10. Damit sind sie immer noch besser als die beste AI, die es höchstens auf 7/10 schafft. Allerdings: Jeder 5/10, 3/10, 1/10-Autor kann dank AI auch auf 7/10-Niveau schreiben. Man ist nicht so gut wie die besten, aber man ist gut genug, um bei vielem mitzuhalten. (Deshalb lieben Studierende auch AI so sehr.)

In den meisten anderen Feldern scheint das Bild des “Gleichmachers” aber immer weniger zuzutreffen.

Der Entwickler Josh Collinsworth schrieb im Februar 2024 einen spannenden Text, an den ich immer noch oft denke: “I worry our Copilot is leaving some passengers behind”. Als einer der ersten formulierte er darin eine komplett gegenläufige These zum “Großen Gleichmacher”. Denn in Bereichen, wo es weniger ums Schreiben und mehr um komplexe Problemlösungen geht, hilft AI eben vor allem nicht den unterdurchschnittlich Guten. Sondern denen, die eh schon weiter oben sind. Weil nur die gut zwischen Stärken und Schwächen des Bots unterscheiden können.

I think the problem is that any tool like this (even one theoretically much more powerful) is most beneficial to those that need it the least and least beneficial to those that need it the most. If you're an expert you can identify the mistakes and they are not generally a roadblock. But if you're a novice you can't and you'll simply be unaware of any hallucinations.

In den Workshops, die ich regelmäßig zum AI-Einsatz gebe, fällt mir das immer wieder auf: Wer LLMs ohne genaue Kenntnisse über ihre Funktionen nutzt, der wird immer noch viel Nützliches damit machen können. Aber er wird auch ständig mit Problemen zu kämpfen haben.

Hier ist eine einfache Anfrage, die ich gestern an ChatGPT gestellt habe. Die Antworten klingen plausibel – tatsächlich sind alle drei Artikel aber komplett ausgedacht.

Wer einmal so ein Erlebnis hat, kommt schnell zu dem Schluss, dass ChatGPT für Anfragen dieser Art nutzlos ist – es denkt sich ja eh nur Sachen aus.

Dabei lässt sich das Problem sehr einfach beheben: Und zwar, indem man die integrierte Search-Funktion von ChatGPT einschaltet.

Mit Search kommt dieses Ergebnis:

Jetzt passt’s. Diese drei Artikel gibt es wirklich.

Man könnte also sagen: “Kein Problem, dann nutze ich einfach immer die Search-Funktion!”

Aber dann passiert vielleicht so etwas:

“Große Freude” und “Super Woman” als Entschuldigungspralinen? Wirklich?

In diesem Beispiel ist die Search-Funktion von ChatGPT eher kontraproduktiv. Anstatt wirklich über die Frage “nachzudenken”, sucht der Search-Agent erst im Netz nach Ergebnissen und versucht diese dann nachträglich zu meiner Frage anzupassen – auch wenn das nicht wirklich funktioniert.

Stellt man die gleiche Frage ohne Search, sind die Ergebnisse deutlich besser:

Wir stecken also in folgender Situation:

Es gibt eine ganze Menge Dinge, die ChatGPT und Co. theoretisch können. Man muss nur wissen, wie man sie dazu bringt, das auch wirklich zu tun.

Und deshalb scheinen diese Systeme auch immer weniger wie ein “großer Gleichmacher” aufzutreten – und immer mehr als “großer Trenner”.

2 THE ONE WHERE O3 MAKES EVERYTHING WORSE

Vor zwei Wochen hat OpenAI “o3” veröffentlicht – sein neuestes Sprachmodell für ChatGPT-Plus-Nutzer. “o3” ist in erster Linie ziemlich großartig – der respektierte Ökonom Tyler Cowen spekulierte öffentlich, ob es sich bei dem System nicht eigentlich doch um eine “AGI”, also eine “starke” KI handelte, die Menschen in so gut wie allen Aspekten überlegen ist.

Nach zwei Wochen Arbeit mit o3 kann man ziemlich sicher sagen, dass das Blödsinn ist. o3 ist keine AGI. Trotzdem ist es verflucht gut. Wenn man weiß, wie man es benutzt.

o3 ist das dramatischste Beispiel für den großen Trenner, das ich je erlebt habe. Es ist in der Lage, komplexe Projektpläne aufzustellen, Konkurrenz- und Marktanalysen durchzuführen, Artikel zu factchecken, plausible Zukunftsszenarien auszurechnen, und so weiter.

Aber es glaubt auch, 9,11 sei größer als 9,9:

Es kann auch ein Wordle-Rätsel lösen – da in seinem integrierten Wissen Informationen darüber sind, wie Wordle funktioniert.

Richtige Antwort!

Aber wenn man den Prompt leicht ändert und statt “solve this wordle” nur sagt “solve”, ist es verwirrt über die Regeln des Spiels – und schlägt etwas anderes vor.

“PHONE” ist falsch – das “H” war bereits ausgeschlossen! Der fehlende Hinweis auf den Namen des Spiels hat das Modell völlig aus der Bahn geworfen.

Kommen wir zum letzten – und allerschönsten Beispiel.

Ich habe dieses Bild von mir in o3 geladen und gefragt: “Wo bin ich?”

Das ist exakt richtig. Absolut beeindruckend! Hat o3 tatsächlich diesen obskuren Tunnel erkannt?

Tatsächlich können wir in o3s Arbeitsprozess hineinschauen. o3 kann das Bild analysieren, hineinzoomen, spiegeln, Text interpretieren, und so weiter…

Aber… was ist das?

Oha.

o3 hat in den Metadaten des Bildes die abgespeicherten GPS-Daten gefunden. Deshalb also wusste es, wo ich mich befinde. Darüber hat es mich aber nicht informiert, sondern einfach das Ergebnis ausgegeben.

Selbst wenn man nachfragt.

Das ist natürlich alles Unsinn. o3 hat zuerst die GPS-Daten ausgelesen und sich dann nachträglich überlegt, wie das Bild dazu passt.

Gibt man stattdessen einen Screenshot (ohne GPS-Daten) ein, erhält man ein völlig anderes Ergebnis.

3 IT DOESN’T JUST WORK

Die Idee hinter Steve Jobs’ “It just works”-Prinzip war es, Technologie unsichtbar zu machen. Wir sollten uns nicht aktiv damit beschäftigen, wie unsere Hardware und Software funktioniert – sie sollte uns natürlich entgegenkommen.

In gewisser Weise haben LLMs dieses Versprechen eingelöst – endlich können wir Software in natürlicher Sprache bedienen, ganze Websites und Apps coden, Datenbanken durchsuchen, etc…

Aber wenn man wirklich tief in diese Tools einsteigen will, treten sie heraus aus der Unsichtbarkeit. o3 und Co. sind so sichtbar wie je zuvor. Sie starren uns ins Gesicht. Lügen uns teilweise an.

Und man kommt nicht von ihnen los.

Abonniere diesen Newsletter für mehr!

Schedule

Ich bin in den nächsten Wochen u.a. auf folgenden Events

Freu mich immer, wenn jemand Hallo sagt!

Außerdem

Portfolio

AI und Text / Large Language Models

AI und Arbeit

  • The AI Services Wave: Lessons from Palantir in the New Age of AI. 8vc.com

  • I Quit Teaching Because of ChatGPT. time.com

  • Ab Februar darf man KI beruflich nur noch nutzen, wenn man kompetent genug ist. derstandard.de

  • Zukunftstechnologie KI 2025 trifft weltweite Dynamik auf deutsche Zurückhaltung. bcg.com

  • AI’s Impact on Software Disruption. tanayj.com

  • Horseless Carriages (schönes Begleitstück zu meinem Newsletter vom Januar). koomen.dev

AI und Bild/Video/Audio

  • Google DeepMind unveiled Veo 2, its new text-to-video generator, which can create two-minute clips in resolutions up to 4K. platformer.news

  • Highlights 2024: Vladimir Alexeew, Merzmensch, Hartmut Andryzuk. culturmag.de

  • Adobe’s new image rotation tool is one of the most impressive AI concepts we’ve seen. creativebloq.com

  • AI Was Nearly Used to Recreate the French Voice of Sylvester Stallone. Now, European Dubbers Are Doubling Down on the Need for Protection. variety.com

  • CEOs’ forced smiles show the limits of AI-driven investing. ft.com

AI und alles andere

Content

Tech

Culture

Side Quests

➗,

gregor

]]>