du liest cool genug, den tech- und medien-newsletter von gregor schmalzried. find me on linkedin!
Diesen KI-generierten Song hat ein Mensch geschrieben
Es ist eine der größten Tech-Storys der letzten Wochen:
1. DER BESTE SONG, DER NICHT EXISTIERT
Die weltbekannten Artists Drake und The Weeknd kollaborieren auf einem neuen Song namens Heart on my Sleeve, und der Song ist jetzt schon ein viraler TikTok-Hit, was kein Wunder ist, denn er geht ziemlich hart.
Tatsächlich wurde der Song aber nie offiziell veröffentlicht. Weil er gar nicht existiert. Drake und The Weeknd hatten mit der Produktion nichts zu tun — ihre Stimmen sind KI-Doubles, falsche Versionen der echten Artists.
Das ist ein Big Deal.
Wir bewegen uns auf eine Welt von kollaborativen Fandoms zu, in der Fanfictions real werden und Künstler*innen ihre Stimme frei zur Verfügung stellen. Und kaum jemand (außer Mat Dryhurst und Holly Herdon) ist darauf vorbereitet. Unsere Strukturen der kulturellen Verwertung – Urheberrecht, Lizenzgeschäfte, Streamingservices – sind allesamt auf eine Welt ausgerichtet, die bald vorbei sein wird.
Ich glaube, in nur ein paar Monaten haben wir erlebt, wie ein weltweit bekannter Künstler live einen Song performed, den ein Fan für ihn geschrieben und zuerst mit KI-Stimme produziert hat.
2. DER GROSSE FEHLER
Okay, things are moving, alles klar.
Aber wie wird diese Geschichte kommuniziert?
Hier eine Auswahl der Berichterstattung rund um Heart on my Sleeve (u.a. aus Stern, Berliner Zeitung und BBC):
Das Problem damit:
Jede dieser Überschriften ist falsch.
Heart on my Sleeve ist kein “KI-generierter” Track. Er wurde (nach allem, was wir wissen) von einem Menschen geschrieben, von einem Menschen produziert und von einem Menschen eingerappt. Nur an einem einzigen Punkt greift KI ein: ein KI-Tool ist dafür zuständig, die realen Vocals eines Menschen zu bearbeiten, um sie wie eine prominente Stimme klingen zu lassen.
Es ist die gleiche Technologie, wie in diesem Video, in dem ein YouTuber sich in Kanye West verwandelt
oder wie in diesem TikTok
Enable 3rd party cookies or use another browser
oder wie auf dieser Fake-Oasis-Platte:
In all diesen Fällen hat KI Stimmen verstellt. Nirgendwo hat sie selbst komponiert oder produziert.
Nur sind tausende von Menschen davon überzeugt, dass Letzteres passiert ist.
Hier ist der Top-Comment zu einem dieser Artikel auf Reddit:
Das ist kein Einzelfall. KI-Fähigkeiten werden gerade ständig und überall falsch eingeschätzt.
Erst ein paar Tage zuvor hatte das renommierte amerikanische News-Format 60 Minutes ein Interview mit Google-Chef Sundar Pichai veröffentlicht — und einfach mal eben behauptet, eine KI hätte eine neue Sprache gelernt, ohne dafür trainiert worden zu sein.
Diese Behauptung ist Unsinn. Die KI, um die es geht, wurde sehr wohl mit Trainingsdaten auf Bengali gefüttert. Wie soll sie die Sprache auch sonst gelernt haben? Hat sie eine Sprachreise nach Bangladesch gemacht?
3. WAS KI KANN — UND WAS NICHT
Eine Untersuchung von europäischen KI-Startups kam 2019 zu einem ziemlichen wilden Ergebnis:
40 Prozent der “KI-Startups” in Europa nutzen nicht wirklich KI.
Für viele Unternehmen war es einfacher und günstiger, Arbeit an Menschen outzusourcen anstatt echte KI-Systeme dafür zu entwickeln. Aber Venture Capital-Fonds geben ihr Geld halt lieber Firmen, die angeblich an Cutting Edge-Zukunftstechnologie arbeiten als solchen, die einfach Tastaturarbeiter in Asien anheuern.
Nun durchleben wir aber eine KI-Welle, die wirklich alles ändert. In der auf einmal wirklich Dinge möglich sind, die noch vor Kurzem ausgeschlossen schienen.
Und deswegen ist es wichtiger denn je, zwischen dem zu unterscheiden, was KI-Modelle aktuell wirklich leisten können, und dem, was sie vielleicht irgendwann in der Zukunft tun.
KI kann sehr viel. Und je besser man versteht, was, desto mehr hat man davon. Und dazu gehört auch das Bewusstsein, dass KI kein Zauberstab ist, der auf magische Weise alle menschliche Arbeitskraft ersetzt.
Je klarer uns dass wird, desto weniger müssen wir uns in den nächsten Jahren mit Situationen wie diesen herumärgern:
Ein Chef könnte erwarten, dass KI-Übersetzungstools wie Google Translate oder DeepL perfekt und fehlerfrei arbeiten, und würde dem Mitarbeiter befehlen, alle Übersetzungsarbeiten an diese Tools zu übergeben, ohne menschliche Überprüfung.
Eine Führungskraft könnte denken, dass eine KI-gestützte Personalrekrutierungslösung jeden Aspekt des Einstellungsprozesses übernehmen kann, einschließlich der Bewertung von Fähigkeiten und der Passgenauigkeit der Kandidaten, ohne die Notwendigkeit menschlicher Eingriffe oder Urteilskraft.
Eine Führungskraft könnte erwarten, dass KI-basierte Design- oder Schreibtools auf Knopfdruck meisterhafte und einzigartige kreative Arbeiten erstellen, ohne den Bedarf an menschlicher Kreativität oder Inspiration.
Eine Führungskraft könnte glauben, dass KI-gestützte Projektmanagementsoftware alle Aspekte eines Projekts nahtlos koordinieren und optimieren kann, ohne menschliche Kommunikation und Zusammenarbeit zu berücksichtigen.
Eine Führungskraft könnte denken, dass KI-Systeme menschliche Emotionen und soziale Dynamiken perfekt verstehen und interpretieren können und daher in der Lage sind, die besten Lösungen für Konflikte oder Teamprobleme zu finden, ohne die Notwendigkeit menschlicher Empathie und Kommunikationsfähigkeiten.
Und ja, diese Liste habe ich mit GPT-4 generiert. Das kann KI nämlich wirklich jetzt schon ganz gut. Anders als Songs schreiben.
(Prompt: “can you describe five examples for how bosses might overestimate the capabilities of AI technology and therefore instruct an employee to just use AI as if the technology might be a magic wand that could instantly solve all problems. In German.”)
Außerdem
KI-Anwendungen
Linkin Park — Lost (Musikvideo mit Unterstützung durch Stable Diffusion). youtube.com
‘Overemployed’ Hustlers Exploit ChatGPT To Take On Even More Full-Time Jobs. vice.com
KI-Figuren verhalten sich im Rollenspiel wie echte Menschen. golem.de
‘Claudia’ offers nude photos for pay. Experts say she’s an AI fake. washingtonpost.com
KI-Hintergrund
Schluss mit "gefährlichen Experimenten"? Warum die KI-Untergangspropheten Recht haben könnten. podcastfolge
Generative AI risks concentrating Big Tech’s power. Here’s how to stop it. technologyreview.com
Why I am Not An AI Doomer. sarahconstantin.substack.com
Against Explanations: AI can make progress where science has struggled. every.to
Content
After seven years at Snapchat, I finally learned the truth about why our most important apps seem destined to disappoint us. theverge.com
Business
The End of Faking It in Silicon Valley. nytimes.com
Der größte Cannabis-Betrug aller Zeiten. zdf.de
🎤,