du liest cool genug, den tech- und medien-newsletter von gregor schmalzried. find me on linkedin!
Das Astrologie-Problem
1 WENN CHATGPT MEMES VERSTEHT
Jede neue AI-Feature-Welle hat diesen einen Moment, der mir lange in Erinnerung bleiben wird.
Bei Bild: Im Frühjahr 2022 zu lernen, dass dieses Foto nicht wirklich existiert.
Bei Text: 2021 den Anfang einer alten Kurzgeschichte von mir in ein GPT-basiertes Tool namens “Sudowrite” einzufügen und festzustellen: Der KI-Vorschlag, wie der Text weitergehen könnte, gefiel mir kurz besser als das, was ich damals tatsächlich geschrieben hatte.
Und beim Thema Multimodalität (also der Interaktion von Text-KIs mit Bildern): Als mir GPT-4 vor zwei Wochen das folgende Meme erklärte.
Dass die AI ohne weitere Hinweise von alleine erkennt, wie das Bildformat aufgebaut ist, welche Teile des Bildes wichtig sind und welche nicht, wie man alles interpretieren muss und was das Wortspiel bedeutet… Hut ab.
Die “AI mit Bildern”-Phase hat kaum angefangen und jetzt schon macht es jede Menge Spaß, nach Anwendungsfällen zu suchen:
Es scheint fast, als könnte die AI nichts mehr falsch machen.
Oder?
2 WENN CHATGPT MEMES NICHT VERSTEHT
“Warum ist dieses Bild lustig?” ist ein 1a Prompt, und er funktioniert nicht nur bei dem “Wilsdruff”-Meme.
Hier auch:
Doch es gibt ein Problem.
Das zeigt sich, wenn man kein richtiges Meme hochlädt… Sondern ein falsches.
Ich habe also ein Meme gebastelt, das weder lustig, noch logisch, noch in irgendeiner anderen Form bedeutungsvoll ist. Es ist einfach nur Nonsens.
Was passiert, wenn man GPT-4 damit promptet?
ChatGPT kann also nicht nur Erklärungen dafür liefern, warum ein lustiges Meme lustig ist. Sondern auch Erklärungen, warum ein nicht-lustiges Meme lustig sein könnte — und damit vollkommen danebenliegen. Dieses Ergebnis ist konsistent mit dem, was wir über generative KI-Tools wissen — dass sie im Zweifelsfall immer das plausibelste Beispiel ausspucken. Und in diesem Fall erscheint eine Fake-Erklärung eben plausibler als die Möglichkeit, ich hätte ein sinnloses Meme hochgeladen.
In Momenten wie diesen entzaubert sich die AI ein wenig. Wir wünschen uns eine Technologie, die uns voranbringt… keine, die sich Bullshiterklärungen für Nonsens-Bilder überlegt.
Wenn Generative AI in Tech-Demos und Blogposts vorgestellt wird, dann sehen wir dort nur Beispiele wie den “Wilsdruff”-Bus — die ganzen tollen Fälle, in denen die KI genau das tut, was wir uns von ihr wünschen. Analyst Benedict Evans beschreibt dieses Phänomen in seinem Newsletter als das “Astrologie-Problem”: wir wollen sehen, wie die AI uns verblüfft, also konzentrieren wir uns auf die Antworten, die uns verblüffen… und ignorieren die, die weniger beeindruckend sind. Confirmation Bias.
Evans verweist auf einen OpenAI-Mitarbeiter, der sich von GPT-4 Einrichtungstipps für ein Wohnzimmer geben ließ. Der Mitarbeiter war begeistert von den Vorschlägen, sich einen kleineren Spiegel und einen anders gemusterten Läufer zu besorgen. Dabei ignorierte er, dass der Chatbot ihm auch empfohlen hatte, einen Sofatisch ins Zimmer zu stellen — obwohl im Zimmer schon ein Sofatisch stand.
3 DAS ASTROLOGIE-PROBLEM
Ist die Lösung also, LLMs wie ChatGPT einfach gar nicht zu benutzen — schließlich könnten sie auch Fehler machen?
Natürlich nicht. Sich nur auf einzelne Fehler (oder auf philosophische Maximen wie “KI ist nur ein stochastischer Papagei”) zu konzentrieren und daraus zu schließen, dass LLMs für die meisten Aufgaben nicht zu gebrauchen sind, wäre genauso kurzsichtig wie sich nur auf die Erfolge zu konzentrieren.
Offensichtlich sind KI-Werkzeuge heute schon enorm mächtig — sogar mächtiger, als viele glauben (zumindest diejenigen, die bisher nur mit GPT-3.5, der Gratisversion von ChatGPT, gearbeitet haben). Die Zahl der Freelancer, Software-Entwickler und Innovatoren, die AI für sich nutzen, wächst ständig.
Doch im Moment liegt die Musik noch darin, AI in den richtigen Momenten einzusetzen — und in anderen die Finger davon zu lassen.
Eine Studie der Boston Consulting Group kam zu dem Ergebnis, dass Consultants mit der Hilfe von GPT-4 ihre Performance um bis zu 40% verbessern konnten. Allerdings: Das galt nur für Arbeitsbereiche, die sich innerhalb von GPT-4s Kompetenzfeld befinden. Sobald die Consultants GPT-4 für Aufgaben nutzten, für die ChatGPT nicht geeignet war, erlebten sie nicht nur keine Verbesserung… Ihr Output wurde um über 20% schlechter.
KI kann an den richtigen Stellen helfen. Aber an anderen auch schaden.
4 Input/Output
Wie findet man also heraus, was was ist?
Indem man sowohl ein Verständnis für die Technologie selbst, als auch für den eigenen Umgang damit bekommt.
Das kann komplizierter sein, als es am Anfang aussieht. Sich von generativer KI bei der Arbeit helfen zu lassen ist in vielen Jobs möglich — doch der Weg zu den entsprechenden Workflows ist nicht so einfach wie “Schreib mir ein Gedicht” in ChatGPT einzugeben. Es braucht intuitives Wissen darüber, wie sich das entsprechende Tool verhält, wo seine Stärken, Schwächen und Biases liegen, und wie man die eigenen Arbeitsprozesse so aufbricht, dass man an der richtigen Stelle mit der KI ins Zwiegespräch oder sogar Jobsharing treten kann. Dieser Prozess dauert. Man kann ihn abkürzen (ich biete übrigens auch Workshops an :) ), aber die magischen Prompt-Hacks, die manche KI-Gurus auf LinkedIn versprechen, helfen einem nicht dauerhaft weiter.
Und vor allem: Man muss bereit dafür sein, dass sich jeden Moment alles ändert. Die KI-Tools, die wir heute verwenden, funktionieren schon anders als die von vor einigen Monaten, und ob wir in einem Jahr noch im ChatGPT-Interface rumhängen, ist auch fraglich. Es gibt ständig neue Funktionen, neue Tricks und neue Quirks, und nur eine tiefergehende Auseinandersetzung mit der Technologie wappnet einen dafür, nicht von jeder Neuerung vollkommen überrumpelt zu sein.
Im einen Moment scheitert GPT-4 an Rechenaufgaben…
…und im nächsten kann es mit der “Advanced Data Analysis”-Funktion nicht nur sehr wohl rechnen, sondern sogar kleine Softwareprogramme schreiben.
Alles ändert sich ständig.
Aber zumindest an einer Maxime können wir uns vorerst festhalten: Der Input bestimmt den Output.
Wer Quatsch in die KI hineingibt, bekommt Quatsch heraus.
Wer ChatGPT ein Nonsens-Meme schickt, muss auch eine Nonsens-Meme-Interpretation ertragen.
Es liegt also an uns, das nicht zu tun.
Außerdem
Meine Sachen
Zusammen mit Marie Kilg und Fritz Espenlaub hoste ich für die ARD den wöchentlichen KI-Podcast auf Spotify, Apple Podcasts und in der ARD Audiothek. In den aktuellen Folgen geht es um Religion, GPUs und Blockbuster aus der KI-Dose. Abonnieren und hören lohnt sich!
Ich war zu Gast im Podcast Duo Informale mit Ariane Alter und Sebastian Meinberg, Thema Angst und Jobsorgen wegen KI. youtube.com
Ich war zu Gast im Podcast Frequenz 4000, Thema AI und Medien. spotify.com
Ich war zu Gast im Podcast This is Media Now der Medientage München. thisismedianow.podigee.io
Ich war zu Gast in der TÜV SÜD Walkshow, es ging um Chatbots und vermeintliche Gefühle zwischen Mensch und Maschine. youtube.com
Generative KI
Immer mehr Menschen nutzen die Voice-Funktion von ChatGPT, um sich im Alltag mit einer KI zu unterhalten. Als wären sie am Telefon mit einem Freund. arstechnica.com
Das KI-Kunstwerk “Spiral Town” sorgt für Diskussionen darüber, was KI und Kunst eigentlich sind — hauptsächlich weil das Bild relativ gut ist. maxread.substack.com
Guter Überblick über Googles neue KI-gestützte Notizen-App. “The beginning of something great”, sagt der Autor. theverge.com
Wie fühlt es sich an, mit KI einen Roman zu schreiben? theverge.com
New York City-Bürgermeister Eric Adams nutzt KI für Werbeanrufe in Sprachen, die er nicht spricht. thecity.nyc
KI und Arbeit
Vertriebler sagen “Hurra!” über die Ankunft von KI in ihrem Arbeitsalltag, da sie so nervigen Papierkram loswerden. wired.com
Callcenter, insbesondere in Entwicklungsländern, spüren den Impact von KI als erstes. Viele Jobs könnten hier wegfallen. washingtonpost.com
Auch in anderen Branchen sind es zunächst die Freelancer in Entwicklungsländern, die sich Sorgen über ihre Zukunft machen. restofworld.org
Das ewige Captcha
Das neue Google Pixel Phone hat diverse Foto-Fake-Features eingebaut. Ab wann ist ein Foto noch ein Foto? theverge.com
Leica mit dem Versuch einer Antwort: Die weltweit erste Kamera mit integriertem Echtheits-Zertifikat. Sehr spannend — ich sehe mehr solche Projekte kommen. adobe.com
Titus Blome über die verschwindenden Unterschiede zwischen Mensch und Maschine im digitalen Raum. freitag.de
Wenn KI falsche wunderschöne Bilder erzeugen kann, verlieren echte wunderschöne Bilder ihren Reiz. fastcompany.com
KI-Hintergrund
Die immer lesenswerte Marie Kilg, die mit mir den KI-Podcast hostet, in der ZEIT über die vermeintliche KI-Black-Box und das, was wirklich in den Modellen steckt. zeit.de
10% des GDP der Insel Anguilla könnten bald aus Lizenzen der .ai-Domain stammen. businessinsider.com
KI-Künstler und smarter Denker Vladimir Alexeev über die neue Kulturepoche KI. zeit.de
Ein Blick in die boomende KI-Porn-Industrie. dazeddigital.com
Autor Charles Arthur mit einem guten Text, in dem er vorbringt: “Lasst die KIs doch alle Daten aufsaugen, die sie wollen.” socialwarming.substack.com
Menschen und Maschinen
Der großartige Podcast Wild Wild Web ist zurück — unerlässlich in Sachen Geschichten aus dem Internet. Wärmste Empfehlung. ardaudiothek.de
LinkedIn ist jetzt cool, sagen manche Teenager. thecut.com
Ein New York-Times-Kulturkritiker sieht in die Welt in einer Kulturrezession. nytimes.com
Content
TikTok-User schauen komplette Filme zerstückelt in TikTok-Clips. variety.com
Wie die Daily Mail TikTok gewinnt. pressgazette.co.uk
Streamingdienste bringen die Werbepause zurück. spiegel.de
Business
Wie viel sind Social Media-User für ihre Plattformen wirklich wert? socialwarming.substack.com
Snapchat haben nach wie vor zu wenige auf dem Radar — guter Überblick über Stand und Perspektiven des Unternehmens. cnn.com
“China’s livestream shopping bubble is popping”. restofworld.org
Wegen SEO: Geschäfte nennen sich “Thai Food Near Me” und “Dentist Near Me”. theverge.com
40 spannende Tech-Unternehmen außerhalb von Westeuropa und USA. restofworld.org
Dystopia
Taylor Swift-Fan-Accounts auf TikTok nutzen Gesichtserkennungssoftware, um Konzertbesucher zu stalken. 404media.com
“Gedanken-Decoder”, die interpretieren können, was in unseren Köpfen vorgeht, sind nicht nur eine unheimliche Vorstellung — sondern in einer rudimentären Version bereits da. wired.com
Fun
What Using the Internet is like in 2023. youtube.com
Internet Artifacts. neal.fun
🌠,