du liest cool genug, der tech-newsletter von gregor schmalzried. ich schreibe und berate zu tech und digitalem storytelling — find me on linkedin!
Google, Bing und das Eine-Antwort-Problem
Wie viel ist eine falsche Chatbot-Antwort wert?
Der Wall Street zufolge 100 Milliarden Dollar.
Das ist die Summe, die die Google-Aktie in Sachen Marktkapitalisierung diese Woche nach unten gerauscht ist, nachdem Googles neuer ChatGPT-Konkurrent “Bard” in seiner ersten Demo einen dollen fachlichen Fehler machte (und Google auch sonst reichlich unvorbereitet wirkte).
Derweil cruiste Microsoft-CEO Satya Nadella wild grinsend durch Interviews und kündigte an, Google mit seinem neuen KI-aufgemotzten Bing richtig Konkurrenz machen zu wollen. “Google”, so sagt er im Interview mit The Verge, “wird auf jeden Fall nachziehen und zeigen, dass sie tanzen können. Und ich will, dass die Leute wissen, dass wir sie zum Tanzen gebracht haben.”
Bing, so der Plan, soll ChatGPT-artige Schnittstellen in Zukunft automatisch in die Oberfläche integrieren, kostenlos und powerful. Und wenn ich die Suchmaschine etwas frage, sollen nicht nur die Links antworten, sondern die Suchmaschine selbst.
Aber ist dieser “Tanz” der Suchmaschinen wirklich die wichtigste Anwendung für generative künstliche Intelligenz? Sind Bing und Google mit KI-Turbo die Zukunft des Internets?
1. WAS FÜR EIN BUSINESS IST EINE KI-SUCHE?
Nur mal so: Ein ChatGPT-verstärktes Bing ist als Idee ziemlich verrückt. Und zwar aus demselben Grund, aus dem ChatGPT verrückt war.
Denn OpenAI, die Microsoft-gestützte Firma hinter ChatGPT, verliert seit der Veröffentlichung von ChatGPT jede Menge Geld. In einem oft zitierten Tweet von OpenAI-Chef Sam Altman schätzte dieser die Kosten pro Chat auf einen einstelligen Cent-Bereich.
Auch wenn Sam Altman 1. bei dieser Schätzung sehr daneben liegen sollte und 2. noch alle möglichen Prozesse optimiert wurden/werden, um den Preis zu drücken, ist ein öffentliches und kostenloses ChatGPT-Angebot immer noch ein Kohleofen voller Dollarscheine. Deshalb wird seit Monaten auch eher darüber gesprochen, dass ChatGPT eine Paywall oder ein Premium-Angebot für zuverlässigere Server einführer könnte.
Aber jetzt passiert auf einmal das Gegenteil. Denn anstatt dass ChatGPT teurer und exklusiver wird, soll es noch billiger und noch breiter verfügbar werden – eingebettet in die zweitgrößte Suchmaschine der Welt!
Damit sich so ein Unterfangen finanziell lohnen würde, müssten die Kosten für die KI-Generierung um einen drei- bis vierstelligen Faktor billiger werden (oder die Einnahmen durch Monetarisierung um einen drei- bis vierstelligen Faktor teurer).
So gesehen ist es auch kein Wunder, dass Google bei dem Rennen gar nicht erst mitmacht, sondern eher betreten daneben steht. Denn Google könnte mitmachen, wenn Google wollte. Googles Gesprächs-KI LaMDa ist immerhin so gut, dass sie letztes Jahr einem Google-Ingenieur weismachen konnte, sie habe ein Bewusstsein.
Allerdings hat Google wohl kein Interesse, sein eigenes Search-Business zu sabotieren. Warum sollte es auf jede Frage mit einem irre teuren Large Language Model antworten? Eine Linkliste und eine kleine Box mit Textausschnitten tun es doch auch!
Nur Microsoft denkt offenbar anders. Satya Nadella spricht in Interviews offen davon, die Margen für Suchmaschinen dramatisch senken zu wollen. Microsoft, so deutet er an, könne es verkraften, mit seinem Suchangebot künftig Geld zu verlieren. Google nicht.
Aber ist das der einzige Grund, warum Google so zögerlich ist?
Wahrscheinlich nicht.
Die gerade dargestellte Story hat über die letzte Woche die Darstellung der neuen “Search Wars” bestimmt. Der Tenor klingt so: “Microsoft will Innovation, Google nicht, Microsoft macht trotzdem, Google stolpert und verliert.”
Aber es gibt gute Gründe, das ganze ein bisschen differenzierter zu sehen. Und Google ein bisschen mehr Credit zu geben.
Denn generative KI ist vieles. Ein Brainstorming-Partner, ein Ideenlieferant, ein Imitationskünstler, ein Risiko für die Zukunft des Internets. Aber ausgerechnet eine Suchmaschine?
2. WARUM WÜRDE DAS JEMAND FREIWILLIG TUN?
In einem Experiment, das ich nun schon etwa zum dreißigsten Mal verlinke, habe ich ChatGPT einmal gefragt, ob ein Kilo Eisen oder ein Kilo Federn schwerer sei. ChatGPT erklärt seinen Gedankengang mit allerlei wissenschaftlichen Fachbegriffen, fasst das Ganze gekonnt und eloquent zusammen, und kommt am Ende zu dem eindeutigen Schluss: Ein Kilo Eisen ist schwerer.
(Aus irgendeinem Grund hat der Microsoft-Aktienkurs das überlebt.)
Auf viele Fragen so wie diese gibt es eine ganz klare Antwort, und trotzdem verkackt ChatGPT sie immer wieder. Das Programm ordnet Zitate falsch zu, macht aus Angela Merkel ein Grünen-Mitglied, scheitert manchmal sogar an einfachen Matheaufgaben…
Was ist dann erst, wenn es einmal um wirklich wichtige Themen geht?
Ein vergleichbares Beispiel: Kurz nach der US-Wahl 2016 sah für kurze Zeit das Top-Google-Ergebnis zu der Anfrage “election result” so aus…
Die oben verlinkte Seite ist eine Fake News-Website mit Fake-Zahlen.
Obwohl Google den Inhalt nicht händisch herausgepickt hatte oder gar als Unternehmen dafür verantwortlich war, geriet das Unternehmen sofort unter Feuer. Die Presse machte Google die Hölle heiß, das Ergebnis wurde entfernt, und tatsächlich hat Google seine Standards für gefeaturete Links seitdem merklich erhöht.
Keine der großen Plattformen genießt es, ein Hüter der Wahrheit zu sein. Weder Google noch Meta noch Amazon sind glüklich darüber, auf ihren Plattformen immer wieder entscheiden zu müssen, welche Aussagen erlaubt sind und welche nicht. Die Notwendigkeit von Content Moderation ist immer ein politisches und wirtschaftliches Risiko.
Eine Welt, in der Google mich nicht mal mehr auf Links schickt, die Falsches behaupten, sondern das Falsche auch noch selbst absendet, potentiert dieses Problem hundertfach. Jetzt schon tobt ein Culture War über die politischen Einstellungen von ChatGPT. Jetzt schon gibt es Bedenken über medizinische Ratschläge von ChatGPT.
In welcher Welt will ein Tech-Unternehmen für so etwas verantwortlich sein, nur um Geld zu verlieren?
3. BLOW IT ALL UP?
Die Suchmaschinen der Gegenwart sind in keinem guten Zustand.
Google hat zugelassen (bzw. aktiv befeuert), dass seine Ergebnisliste von einer hilfreichen Auswahl zu einer seelenlosen SEO-Wüste verkommen ist, in der alles gleich aussieht und nichts glaubhaft hilft. Selbst ChatGPT erscheint menschlicher als das, was Google mir als Antwort auf die Frage “Welche Computermaus soll ich mir kaufen?” vorschlägt.
Es gibt großartige Anwendungsgebiete für generative KI (ich stelle mittlerweile in jeder Ausgabe dieses Newsletters welche vor). Doch ausgerechnet für die zentrale Aufgabe einer Suchmaschine, nämlich eine richtige Antwort zu liefern, ist sie derzeit relativ ungeeignet.
Das bedeutet nicht, dass aus der Bing-GPT-Integration nichts wird, oder dass Google nicht auch nachziehen sollte. Es braucht dringend mehr Innovation im Suchsektor. Doch der Suchsektor ist auch der Ort, wo Generative KI mit den meisten Schaden anrichten kann, und obendrein droht, das Geschäftsmodell von digitaler Information zu zerstören.*
*Denn die KI-Modelle erhalten ihre Informationen aus Texten, die durch Klicks bezahlt werden. Wenn Google und Bing diese Informationen dem Endverbraucher aber direkt liefern, gibt es für die Publisher keine Klicks mehr und diese haben keinen Grund mehr, Texte zu schreiben. Das wiederum bedeutet, dass keine neuen Informationen entstehen, von denen Google und Bing lernen könnten.
Die besten Einsatzgebiete von generativer KI werden wohl, so meine Prognose, in diesen zwei Feldern zu finden sein:
Spezialisierte Anwendungen für bestimmte Workflows, Branchen und Use Cases
Breite Brainstorming-Partner, bei denen eine KI Inhalte generiert und ein Mensch diese auswählt und weiterverarbeitet
Mit einer horizontalen Suchmaschine, die alle Informationen der Welt indiziert, um mir alle Fragen beantworten zu können, hat beides wenig zu tun.
4. ZWEI GROSSE SZENARIEN, UND EIN KLEINES
Die Zukunft fühlt sich dieser Tage sehr nah an.
Allein die Gedanken aus diesem Text lassen sich zu den wildesten Szenarien weiterdenken:
Was, wenn…
…eine Search-KI erkennt, dass Trump-Fans es nicht mögen, wenn man ihnen erzählt, dass Joe Biden 2020 gewonnen hat, und die KI deswegen damit anfängt, Trump-Wählern automatisch alternative Fakten auszuspielen?
…eine Search-KI so gut wird, dass niemand mehr normale Texte lesen muss, und alle Verlage und Autoren der Welt nicht mehr selbst veröffentlichen, sondern nur noch Lizenzverträge mit dieser KI abschließen? (In diesem Szenario bräuchte man eine Lizenz, um Daten für sein Modell-Training benutzen zu dürfen, und OpenAI wäre ein bisschen wie YouTube: Groß geworden mit illegal hochgeladenen Inhalten, dann too big to fail, irgendwann auch die Plattform für alle Etablierten.)
Aber etwas kürzer gedacht: Aktuell fühlt es sich für mich an, als würden KIs nichts Fundamentales daran ändern, wie Menschen Suchmaschinen benutzen.
Was dafür mit Hörbüchern ist? Mit Videospielen? Mit Social Ads?
Dazu vielleicht beim nächsten Mal.
Außerdem
KI
Who Owns the Generative AI Platform? a16z.com
A Judge Just Used ChatGPT to Make a Court Decision. vice.com
ChatGPT - Schafft die KI das bayerische Abitur? br.de
Nie mehr pauken? Wie KI die Schule verändert. br.de
Wie KI-Algorithmen Frauen benachteiligen können. br.de
At This School, Computer Science Class Now Includes Critiquing Chatbots. nytimes.com
Content
Is corecore radical art or gibberish shitposts? nobells.blog
Design thinking was supposed to fix the world. Where did it go wrong? technologyreview.com
What TikTok Has Done To Internet Videos. youtube.com
Ausgerastet und abgestürzt: Der Fall des Angry German Kid. youtube.com
Menschen und Maschinen
Can ‘niche’ dating apps save us? theverge.com
Love You on Tinder. On Hinge, Not So Much. nytimes.com
PornHub's Global Year in Review. twitter.com
Dystopia
TikTok’s transparency theater. theverge.com
Why Do People Believe Everything They Watch on TikTok? vice.com
Dissecting Elon Musk’s Tweets. nytimes.com
I Scammed this Influencer So He Couldn't Scam You. youtube.com
🔎,