Willkommen im KI-Darkweb
hallo!
ich bin am 15. und 16. juni als speaker zu gast auf dem waterkant festival in kiel — freue mich sehr auf das event, auf tolle speaker*innen und austausch!
wer sich auch vor ort mit der zukunft von tech und work beschäftigen möchte: tickets für cool genug-leserinnen gibt es unter diesem link mit einem kleinen rabatt.
Willkommen im KI-Darkweb
1. DER KAMPF UM DIE MUSIK
Als ich 13 Jahre alt war, fing ich an, mich für Musik zu interessieren.
Wäre ich in den 80ern 13 gewesen, wäre das einfach gewesen: Ich hätte neue Musik im Radio, in Fachzeitschriften und in Gesprächen mit coolen rauchenden 16-Jährigen entdeckt, und ich hätte sie im Plattenladen gehört und gekauft.
Wäre ich heute 13, wäre das ähnlich einfach: Ich würde neue Musik auf Social Media entdecken, und sie auf Spotify hören.
Ich war aber im Jahr 2007 13. Und das hieß: Ich entdeckte Musik in obskuren Webradios, in der Plattensammlung meiner örtlichen Bücherei, in Blogs, in der Zeitung und über YouTube. Und ich hörte Musik über Last.fm und MyVideo, über geliehene und gekaufte CDs, über von den iPods von Freunden überspielte MP3s, über YouTube-jDownloader-Rips in Mono mit Musikvideogeräuschen im Hintergrund, über illegale Torrents und über exklusive Album-Previews auf MySpace (ja, das gab es wirklich).
Der Punkt ist: Der Übergang vom Vorher-Zustand (Fachzeitschriften und Plattenläden) in den Nachher-Zustand (Social Media und Spotify) war kein einfaches Ablösen beim Staffellauf. Er war ein hässlicher und langwieriger Kampf um die Zukunft, an dem die Musikindustrie beinahe zu Grunde gegangen wäre.
Das Spannende an diesem Kampf war, wie ungleich er war:
Auf der einen Seite standen die Labels, die meisten großen Artists und der Rest der Entertainment-Industrie.
Und auf der anderen Seite standen ein paar Hacker, Startups und ein loses Netzwerk von Nerds.
Und es war trotzdem verdammt knapp.
Denn das, was die Hacker bieten konnten (alle Musik, überall, jederzeit, gratis) – war viel besser als das Angebot der Musikindustrie (manche Musik, hier und da gratis, ansonsten physisch für Geld, mit Kopierschutz).
Tatsächlich sah es bis in die 10er-Jahre ganz danach aus, als sei die Zeit, in der man mit Musik Geld verdienen kann, für immer vorbei. Die Alternative – illegale Downloads – war zu einfach, zu userfreundlich.
Die Wende kam erst durch Musikstreamingdienste, von denen einer (Spotify) schließlich als Gewinner hervorging. Mit Spotify war endlich ein Angebot da, das noch einfacher, noch userfreundlicher war als illegale Downloads. Erst dann ging es für die Industrie wieder bergauf (wenn auch nicht unbedingt für die Artists).
Heute, im Jahr 2023, stehen wir vor einem ähnlichen Kampf.
Wieder geht es um große Konzerne auf der einen Seite, und schwer fassbare dezentrale Teams auf der anderen.
Wieder ist der Ausgang offener, als es vielleicht scheint.
Nur geht es diesmal nicht nur um die Entertainment-Industrie.
Sondern um die ganze digitale Welt.
2. DER KAMPF UM DIE DIGITALE WELT
Wir stehen an der Schwelle zu einer neuen industriellen Revolution.
Künstliche Intelligenz verändert unsere Beziehungen, unsere Bildung, unsere Werbung, unsere Geschichten und noch sehr viel mehr.
Die meisten denken dabei an Namen wie Microsoft, Google und Meta, an OpenAI (das von Microsoft finanziert wird) und vielleicht an Startups wie Midjourney und ElevenLabs.
Das liegt daran, dass diese Unternehmen gerade jede Menge politisches und finanzielles Kapital in die Hand nehmen, um uns zu überzeugen, dass wir bei ihnen in guten Händen sind.
Die Big Tech-Unternehmen haben aus der Social Media-Ära gelernt und preisen Widerstand mittlerweile mit ein. Sie wissen, dass sie die Gesellschaft umkrempeln. Dass sie den Stellenwert von Wahrheit und Lüge verschieben, dass sie Jobs verändern und gleichzeitig irrsinniges Wirtschaftswachstum in Aussicht stellen können.
Im Wettlauf um die künstliche Intelligenz geht es deshalb nicht einfach nur um Technologie. Es geht um Akzeptanz.
Als OpenAI sein bisher größtes KI-Textmodell GPT-4 vorgestellt hat, waren die ersten Case Studys wie aus dem Bilderbuch ausgewählt. GPT-4 soll…
dem isländischen Volk bei der Bewahrung der Landessprache helfen
Menschen mit Sehbehinderung dabei unterstützen, sich Dinge im Alltag beschreiben zu lassen
Wer könnte Nein sagen zu einer Technologie, die all diese Dinge tut?
(Ich sicherlich nicht. Ich zahle sogar jeden Monat 20 Dollar für Zugang zu GPT-4, weil ich immer noch auf der API-Warteliste stehe… -.- )
OpenAI möchte eine klare Botschaft senden: “Unsere Tools sind gut für die Welt. Bitte reguliert uns nicht zu doll.”
Google und Meta verfolgen natürlich ähnliche Ziele. Und genauso tun es viele kleinere KI-Startups, die nicht an großen Sprachmodellen wie GPT-4 arbeiten, sondern an spezialisierten Anwendungen.
Aber was… wenn jenseits dieser Firmen gerade eine neue Klasse von KI-Tools entsteht… fern von der polierten Welt der Big Tech-Konzerne und NGO-Partnerschaften?
Wenn wir alle den Blick auf OpenAI, Microsoft und Google haben… die Welt aber ganz woanders verändert wird? An einem Ort, wo auch die Regulierung der Europäischen Union nichts ausrichten kann?
Das ist das KI-Darkweb.
3. MIDJOURNEY VS STABLE DIFFUSION
Erstes Beispiel für die Konkurrenz zwischen einem klassischen Startup und seinem Darkweb-Konkurrenten:
Die Bild-KI Midjourney.
Midjourney wird für alles mögliche benutzt: Zum Illustrieren von cool genug-Posts, als Zwischenschritt zum Generieren von Videos und um den Job von digitalen Artists teilweise zu ersetzen.
Midjourney ist ein Startup mit einem fokussierten Produkt und großen Ambitionen (CEO David Holz bezeichnet seine Firma zwar als “not really financially motivated”, folgt aber sicherheitshalber trotzdem Zensurwünschen der chinesischen Regierung).
Deshalb ist es für das Startup auch ein Problem, wenn Midjourney für Desinformation und für Porn benutzt wird.
Die Lösung: Ein neuer Filter, der unerwünschte Bild-Prompts filtern soll.
Anstatt einfach bestimmte Prompt-Begriffe wie “nude” zu verbieten, werden Prompts in Midjourney seit etwa zwei Wochen von einem KI-Filter untersucht, und in vielen Fällen aussortiert. Der Filter schießt dabei definitiv übers Ziel hinaus und verhindert auch harmlose Prompts wie “8 year old drinking coffee” oder “A woman combing her hair with a brush in front of a yard in the neighborhood while a huge fire blazes in the neighborhood, fire trucks everywhere, houses on fire...” (beide Beispiele habe ich aus Reddit-Threads und selbst überprüft).
Das Ergebnis: Chaos und Widerstand im offiziellen Midjourney-Subreddit, von Moderatoren gelöschte Posts, massenhaft Ankündigungen, dass User zur Konkrrenz wechseln wollen.
Zum Konkurrenten zu wechseln: Stable Diffusion ist nur ein paar Klicks entfernt. Stable Diffusion-Bilder sind zwar aktuell noch nicht so hübsch wie die von Midjourney, doch dafür lässt sich das Open Source-System leicht herunterladen und umbauen – zum Beispiel zu einem Porn-Generator.
Bald wird Software dieser Art nicht nur ziemlich gut sein… Sie wird frei im Internet verfügbar sein, und jeder mit ein bisschen Rechenpower auf dem Computer kann sie nutzen herunterladen und bei sich selbst laufen lassen.
Und niemand wird sie regulieren.
Weil es nicht geht.
4. ELEVENLABS VS AI HUB
ElevenLabs macht es möglich, erstaunlich echt klingende Stimm-Fakes anzufertigen.
Seit Kurzem ist die Software auch auf Deutsch und in einigen anderen Sprachen verfügbar (ich habe damit immerhin meiner Schwiegermutter Grüße auf Polnisch gesendet).
Ganz neu angekündigt ist aber diese Funktion:
ElevenLabs möchte eigenen Angaben zufolge einen perfekten, komplett quasi identischen Klon der eigenen Stimme anfertigen. Die Funktion soll so mächtig sein, man muss für die Nutzung seine eigene Stimme verifizieren – sodass niemand eine fremde Stimme damit imitiert.
Klingt nach einer vernünftigen, anerkannten Firma. Oder?
Blöd nur, dass gleichzeitig das hier passiert:
Vor einigen Wochen wurde dieser Drake-Song zum viralen Phänomen – auf TikTok wurde der Track millionenfach angehört.
Doch die Person dahinter nutzte keinen anerkannten Service wie ElevenLabs. Sie war unterwegs auf dem Discord-Server AI Hub, auf dem digitale Tüftler gegenseitig ihre Tools zum Stimmenklonen perfektionieren, Modelle für Promi-Stimmen erstellen und dann zur freien Verfügung hochladen.
Die Leute dort sind wahnsinnig kreativ, haben eine hilfsbereite und kenntnisreiche Community gebildet, und nullkommanull Interesse daran, sich von irgendwem regulieren zu lassen.
Wie auch?
Jeder kann diese Modelle herunterladen und auf seinem eigenen PC laufen lassen.
Niemand wird diese Tools regulieren.
Weil es nicht geht.
5. GOOGLE UND OPENAI VS DIE WELT
“Wir haben keinen Wettbewerbsvorteil.”
Dieser Satz jagte vor zwei Wochen Schockwellen durch die KI-Szene.
Ein angebliches Google-internes Memo tauchte im Techie-Forum Hacker News auf, und zeigte eine ganz neue Vision der KI-Welt auf. Eine, in der große Konzerne wie Google und Microsoft keinen Wettbewerbsvorteil gegenüber der breiten Masse haben. Eine, in der die gerade genannten Konflikte bei Bild- und Stimmgenerierungen auch überall sonst passieren.
Eine Welt, in der die Open Source-KI gewinnt.
Ein Ausschnitt aus dem Text:
We’ve done a lot of looking over our shoulders at OpenAI. Who will cross the next milestone? What will the next move be?
But the uncomfortable truth is, we aren’t positioned to win this arms race and neither is OpenAI. While we’ve been squabbling, a third faction has been quietly eating our lunch.
I’m talking, of course, about open source. Plainly put, they are lapping us. Things we consider “major open problems” are solved and in people’s hands today.
Die These des anonymen Autors ist simpel: Die großen KI-Modelle der Open Source-Community werden den geschlossenen KI-Systemen von Microsoft und Google bald überlegen sein… und die Welt regieren.
Denn Open Source-Entwicklung heißt nicht nur, Pornobilder malen und Drake faken zu wollen.
Es heißt auch: Wirklich mächtige KI-Modelle zu bauen, die besser sein könnten als GPT-4 und Google PaLM.
Ob das wirklich in dieser Tragweite stimmt, ist unklar (in diesem Hacker News-Thread werden die Zweifel an dem Text deutlich).
Aber wirklich mächtige Textmodelle kommen auf jeden Fall.
Und niemand wird diese Tools regulieren.
Weil es nicht geht.
6. KI VS KI
Als die Musikindustrie Napster in die Knie zwang, hatte sie den Kampf zwar gewonnen.
Aber Musikpiraterie existiert immer noch.
Die fragmentierte digitale Musikwelt mit all den verschiedenen Tools, Plattformen und halb- bis illegalen Uploads ist nicht verschwunden. Sie ist nur weniger wichtig geworden.
Google, Microsoft und Meta (und vielleicht ja sogar, fingers crossed, irgendjemand aus Europa) werden genauso um die Vorherrschaft der neuen digitalen Zeit kämpfen wie die Musikindustrie am Anfang dieses Jahrhunderts.
Aber selbst wenn sie gewinnen… Das KI-Darkweb wird nicht verschwinden. Werkzeuge mit gigantischen Möglichkeiten liegen einfach herum, auf frei verfügbaren Servern.
Einzelpersonen und kleine Teams werden sie nutzen und damit Fantastisches bauen – neue Firmen, neue Kunstwerke, neue Erfindungen.
Und auf unsere Persönlichkeitsrechte, unseren öffentlichen Meinungsaustausch und jede Form der digitalen Kommunikation wird ein beispielloser Sturm zukommen.
Den niemand regulieren wird.
Weil es nicht geht.
Außerdem
KI-Wirtschaft
KI-Revolution: Welche Chancen haben deutsche Firmen noch? br.de
Der globale Wettlauf um die künstliche Intelligenz. br.de
Warum sperrt Google seinen neuen Chatbot in Europa? br.de
KI-Anwendungen
AI Chatbots Have Been Used to Create Dozens of News Content Farms. bloomberg.com
An AI Artist Explains His Workflow. youtube.com
Generative AI and the finance industry. noahpinion.blog
The Joe Rogan AI Experience shows how hard it is to replace a real podcaster. theverge.com
Not even NYT bestsellers are safe from AI cover art. theverge.com
Does GPT-4 know me better than my girlfriend? every.to
KI / Google
Gmail's new AI feature will soon write entire emails for you, Google announces. mashable.com
Google recently demonstrated how its Duet AI features might soon be able to analyze your work and suggest ways to continue or improve it. If this reminds you of Clippy, then you’re not alone. theverge.com
Google’s new Magic Editor pushes us toward AI-perfected fakery. theverge.com
KI-Anxiety
Können wir eine Super-KI kontrollieren? br.de
Influencer who created AI version of herself says it's gone rogue and she's working 'around the clock' to stop it saying sexually explicit things. insider.com
India’s religious AI chatbots are speaking in the voice of god — and condoning violence. restofworld.org
Content
Was ist Bluesky Social - Eine Anleitung. metacheles.de
TikTok: Vorwürfen zufolge hat Chinas Regierung Zugriff auf sämtliche Daten. heise.de
Business
Elon Musk wants to bring “truth” to ads. therebooting.com
Europas Versagen im Cloud-Markt rächt sich jetzt besonders. handelsblatt.com
Why Warner Music Operates a Covert Spotify Remix Account. bloomberg.com
The streaming wars are over, and it’s time for media to figure out what’s next. cnbc.com
🕸️,