Willkommen bei Krasse Links No 12. Stellt Eure Herzschrittmacher auf „heftig“, heute geht es um Meta, Erlaubnisstrukturen und die Hypehaftigkeit von KI.

Housekeepingeinschub: Aaargh, es ist schon wieder passiert. Der letzte Newsletter war wieder abgeschnitten, weil mein WordPress mir die falsche Zeichenanzahl angezeigt hat … hier könnt ihr ihn zuende lesen.

Nachdem es zwischenzeitlich so aussah, dass der vom House of Representatives vorgebrachte Tiktok-Ban in den USA am Senat zu scheitern drohte, haben sie einen Weg gefunden, den Bann in ein größeres Gesetzespaket zu schnüren und auch der ist bereits durch das House und jetzt stehen die Chancen wieder gut, dass Tiktok entweder an Silicon Valley Dudes verkauft, oder gesperrt wird. Weiß nicht, ob das politisch so eine super Idee ist, sich im Wahljahr so hart mit den jungen Menschen anzulegen, aber vielleicht hat man die durch die ebenfalls im Paket enthaltene Waffenhilfe für Israel eh verscheucht? Ansonsten halte ich es mit Meredith Whittaker: Traue keiner Plattform, egal aus welchem Land.

Als ich damals die Origin-Story von Tiktok für das Plattformbuch recherchierte fand ich sie etwas dünn: Eine chinesische Firma kauft ein Lip-Sync-Forum (Musical.ly) und geht viral? Durch eine Gerichtsverhandlung sind nun Dokumente aufgetaucht, die ein spannenderes Bild zeichnen und es stellt sich heraus: die Ursprünge von Tiktok sind genauso in den USA zu finden, wie in China. Die New York Times hat das alles lesenswert aufgearbeitet.

Neulich wurde ja bereits bekannt, dass ein amerikanischer, rechtsradikaler Milliardär (gilt das schon als Pleonasmus?) namens Jeff Yass erstaunlich groß in Tiktok investiert ist und die Geschichte geht so, dass seine Investmentfirma Susquehanna schon 2009 in eine chinesische Immobilienwebsite namens 99Fang investierte. Diese Firma stellte dann auf Anregung von Susquehanna Zhang Yiming als CEO an, der dort einen Algorithmus entwickeln ließ, um auf der Website Interessenten mit passenden Immobilien zu matchen. Zhang Yiming war aber bald ziemlich unzufrieden mit dem Immobiliengeschäft und wollte mit dem Algorithmus lieber was in Richtung Social Media machen, weil er die Steve Jobs Biographie gelesen hat. 2012 gab Susquehanna ihm das Go und er gründete ByteDance, kaufte Musical.ly und startete mit Tiktok durch. Keine Ahnung, was die Moral der Geschichte ist, aber ich schätze, es macht Sinn das im Hinterkopf zu behalten?

Hier mal wieder ein sehr feines Video von Patrick Boyle, dieses Mal zu Neom, bzw. The Line. Eine linienförmige, wolkenkratzerhohe, mega-modernistische Retortenstadt in der Wüste in der angeblich irgendwann Millionen von Menschen leben sollen. Das ganze Projekt wirkt wie der Gehirnfurz eines der wenigen Menschen im Universum, die das Wort „nein“ noch seltener gehört haben als Elon Musk, was in diesem Fall der saudische Kronprinz Mohammed bin Salman (MBS) ist, der Kritiker*innen ja gerne mit Kettensägen zerlegen lässt. Verständlicherweise hat Boyle daher nur Worte des Lobes für das Projekt.

Ich stellte mir beim Schauen des Videos die ganze Zeit vor, wie das so wäre, wenn ich so ein Boston Consulting Group Heini für Bauprojekte wäre, jung, idealistisch und frisch aus der Uni und dann muss ich jeden Tag mit anderen armen Schweinen und MBS zusammensitzen, der sich diesen ganzen Bullshit aus dem Ärmel schüttelt und mein Job ist es, dabei nett zu lächeln und irgendwie Wege zu finden, diesen Quatsch umzusetzen, wobei „No is not an answer“ und „Money doesn’t matter!“ und „RoooarrrrrrRoooarrr“ die drei Leitsätze meines Engagements sind. Ich würde einfach schreiend in die Wüste laufen.

Ich bin immer noch nicht ganz entschieden, wie sehr KI nun ein Hype ist, oder nicht, aber wo Meta gerade sein neues LLM namens LLaMA 3 ausrollt bekomme ich immer mehr den Eindruck, dass die KI Entwicklung auf einem Sattelpunkt angekommen ist. Ich mein, GPT-4 ist jetzt schon über ein Jahr alt und bisher konnte kein Konkurrent etwas wesentlich besseres vorstellen. Gemini 1.5, Claude 3, LLaMa 3 scheinen aufgeschlossen zu haben und jetzt ungefähr auf demselben Niveau zu spielen und sich jeweils nur im Detail in ihren Stärken und Schwächen zu unterscheiden.

Ich bin also wirklich gespannt, was die nächste Generation von LLMs so auf die Beine stellt, aber mein educated Guess ist, dass die Zeit des Weggeblasenseins bei LLMs vorerst vorbei ist? Der Sprung von GPT-3.5 zu 4 war enorm, aber GPT-5 wird wahrscheinlich nur noch in einigen Spezialbereichen glänzen.

Momentan liegt die Hoffnung in einer Technik namens Q*. Die technischen Details könnt Ihr euch hier erklären lassen, aber dahinter steckt das Konzept von Adversarial Machine Learning. So wie damals bei AlphaGo das Basismodell geleveraged wurde, indem man es zweigeteilt und immer wieder gegeneinander hat spielen lassen, soll sich das LLM dann irgendwie selbst outsmarten und dabei immer schlauer werden. Aber wenn LLMs reine Semantik-Navigiertmaschinen sind, wird das höchstens ihre Rhetorik optimieren, ohne wirklich etwas über die Welt zu lernen?

Ich schätze, auf den Trichter sind die Entwickler*innen selbst gekommen und daher konzentrieren sie das ganze auf das Lösen von basalen Matheaufgaben, für die man halt einfacher eine „Ground Truth“ bereitstellen kann. Aber am Ende werden volkswirtschaftsgroße Summen in Compute versenkt worden sein, nur um dem LLM Algebra beizubringen, also das, was Taschenrechner schon seit 70 Jahren können?

Aaron Bady hat auf Slate eine lesensweste Rezension des zweiten Dune-Films vorgelegt. Ich habe tatsächlich wenige Kritiken gelesen, die nicht des überschwänglichen Lobes waren und wenn es kritische Anmerkungen gab, dann wurde sich wiederum unkritisch auf den SciFi-Roman von Frank Herbert berufen, der doch aber ebenfalls kritisiert gehört.

Jedenfalls macht Bady beides: er nimmt den Film sehr ernst und kritisiert ihn gekonnt, dann hält er Herberts Romanvorlage dagegen, verweist auf die Abweichungen aber nimmt dann auch den Roman ideologiekritisch auseinander und genau in dieser doppelten Kritik beginnt der Film (und das Buch) noch mal ganz anders mit dem Heute zu reden. Unter anderem arbeitet Bady bei Herbert und bei Villneuve’s Paul Atreides etwas heraus, das er „permission structure“ nennt und was er für einen integralen Bestandteil konservativen Denkens hält:

„This is why they tell apocalyptic stories about BLM mobs, Biden’s willful dereliction of duty in the matter of border security, or the zombie wasteland that progressives have made of San Francisco: to create a permission structure for all kinds of actions that would normally be off-limits. If they say ludicrous things, then, or describe a reality that has no bearing on the actual world we live in, their lurid fantasies nevertheless serve a purpose. As the hosts of the Know Your Enemy podcast like to ask about conservative thinkers, “What are they giving themselves permission to do?”

Mein Eindruck ist schon länger, dass unsere jeweiligen Alltagsethiken eigentlich eine Landschaft von Permission Structures sind, also Erlaubnisstrukturen mit denen wir uns bestimmte Handlungen erlauben oder verbieten. Permission Struktures sind nicht beliebig, sondern wie alle Semantiken kulturell und von unserem Umfeld stark determiniert, aber das Problem ist, dass wir jederzeit Flexibilität durch handgeklöppelte Narrative herstellen können: „Mir ist Unrecht wiederfahren, es ist mein Recht, mich zu wehren!“ oder „Wenn ich jetzt nicht handle, wird alles nur schlimmer!“. Das funktioniert prima individuell – ich kenne das leider aus eigener Anschauung bei mir selber – aber noch besser kollektiv, wie man nach 9/11 in den USA, oder gerade in Israel sehen kann.

Was Bady also beschreibt, ist weniger die allgemeine Permission Structure, als dessen Ausnahmezustand – und diese privatsemantischen Ausnahmezustände scheinen mir die eigentlich faschistischen Momente zu sein? Wertvolle Beobachtung jedenfalls.

Metas Einschnitt in die Reichweite von politischen Inhalten scheint rechte Medien-Klitschen tatsächlich überproportional hart zu treffen. Rechte Websites wie der Daily Caller oder Fox News verzeichnen einen Rückgang an Reichweite von 54 bis 22 Prozent. The Atlantik erklärt sich das so:

A simpler explanation is that conservative digital media are disproportionately dependent on social-media referrals in the first place. Many mainstream publications have long-established brand names, large newsrooms to churn out copy, and, in a few cases, large numbers of loyal subscribers. Sites like Breitbart and Ben Shapiro’s The Daily Wire, however, were essentially Facebook-virality machines, adept at injecting irresistibly outrageous, clickable nuggets into people’s feeds. So the drying-up of referrals hit these publications much harder.

Kann es sein, dass rechte News-Sites tatsächlich ein reines Clickbait-Phänomen sind und dass jetzt all unsere rassistischen Onkels und Tanten ihren Anschluss zum Tribe verlieren?

Nein. Mag sein, dass das Unterdrücken von Politik im Feed kurzfristig ein überproportional harten Schlag gegen rechte Websites darstellt, aber eine nachhaltige Lösung ist das trotzdem nicht. Rechte haben sich längst in tausenden von Telegram und Whatsapp-Gruppen organisiert und leider ist X ja auch noch da – die Lücke wird sich schließen. Währenddessen bietet dieses Narrativ den Plattformen eine gefährliche „Permission Structure“ zur Verbannung von Politik aus der Öffentlichkeit und die Effekte davon sind tatsächlich nachhaltig.

Zu dem Release von LLaMA 3 gab Mark Zuckerberg – jetzt überall gerebranded als „Zuck“ – ein großes Interview und dieses Mal durfte Dwarkesh Patel ran und das gibt mir die Gelegenheit, einmal über das Verhältnis von Silicon Valley zu den Medien zu sprechen. Wenn Ihr mal darauf achtet, wird Euch auffallen, dass diese ganzen CEOs nicht mehr zu klassischen Medien gehen, wenn sie etwas zu sagen haben, sondern zu einer über die letzten Jahre herangezüchteten Spezies des Tech-Access-Journalismus. Leute wie Joe Rogan, Lex Fridman oder eben Dwarkesh Patel erlauben den Tech-Bros sich unverstellt und offen ein bis drei Stunden in den Sessel zu lümmeln, ohne Angst vor kritischen Fragen haben zu müssen und ich schätze, an dem aus dem Ruder geratenen Interview von Musk mit Don Lemon kann man sehen, was passiert, wenn diese Erwartung durchbrochen wird.

Angefangen hat das mit Leuten wie Kara Swisher, die sich seit neustem versucht, als kritische Journalistin zu rebranden, was ihr aber nur für Menschen gelingt, die weder Gedächtnis noch Google haben. Hier auch eine schöne Tech Won’t Save Us Folge dazu.

Dieser Pseudojournalismus ist die materialisierte Permission Structure des Silicon Valley und hat solche Clowns wie Elon Musk überhaupt erst ermöglicht.

Der eh immer hörenswerte Podcast Troja Alert arbeitet sich seit einigen Folgen durch das alte Testament und bespricht in der aktuellen Folge die letzten drei Bücher Mose: Leviticus, Numeri und Deuteronomium. Dabei legen Stefan Thesing und Mark Bothe die dort angelegte, komplexe und teils bewusst idiosynkratische Permission Structure zu möglichen Politiken der Landnahme frei. Eine Permission Structure, die offenbar heute noch in Verwendung ist?

Diese Woche ist noch etwas lustiges in KI-Land passiert. Ein bekannter Youtuber, Marques Brownlee, hat die Humane AI pin, so ein absurdes Ansteckdingens mit GPT-4-Zugang getestet und sie ist erwartbar grottig. Das hat er auch so gesagt und jetzt regen sich die ganzen Tech-Bros auf X auf, dass man doch nicht so vernichtende Rezensionen verfassen dürfe, denn die Leute hinter den Produkten „builden“ doch die „Future“ und sind geile „Entrepreneurs“ und whatever. Jedenfalls nimmt Riley MacLeod das als Anlass über die offensichtliche Fragilität des KI-Hypes nachzudenken:

„Like children clapping for Tinkerbell, we have to be optimistic because the grift dies if we’re not. The bubbles of both NFTs and the metaverse burst, at least in part, because the reality trumped the hype; these things weren’t the future, they were just ugly jpegs and boring imitations of Second Life. If the third time is going to be the charm, which as Zitron points out already seems unlikely, then we need to stay on board. This is especially true because AI faces the unique complication that it needs our buy-in, and a lot of it, to feed it the impossible amounts of data it requires to have any potential at all.“

In der FAZ beschreibt die Historikerin Hedwig Richter, wie der Populismus der FDP gezielt die Erlaubnisstrukturen der bürgerlichen Gesellschaft erodiert, indem sie eine „Suppenkasperfreiheit“ verkauft, deren ganzer Deal in der Verweigerung jeder Verantwortungsübernahme besteht und sie mit der ständigen Drohung des emotionalen (faschistischen) Ausnahmezustands untermauert.

„Vielmehr bedingen sich in der Demokratie Volk und Regierung gegenseitig, sie konstruieren sich miteinander, es ist ein Hin und Her. Im schlimmsten Fall ist es ein kontinuierliches Downgrading. Das ist momentan der Fall.

Dafür gibt es eine Erklärung: die Po­pulisten, deren Kernkompetenz dieses Down­grading ist, die Abwärtsspirale der niedrigen Instinkte. Sie behaupten immer lauter, dass Demokratie ihre Legitimität aus einem plebiszitärvulgären Volkswillen bezieht – das Volk sei ein launischer Souverän, jederzeit zu Wutausbrüchen be­reit.“

Spannend ist auch die Beobachtung, wie Olaf Scholz die FDP als Erlaubnisstruktur nutzt, um seine neoliberalen Impulse auszuagieren:

„Und Olaf Scholz ist ganz dabei: Er lässt die li­berale Regierungspartei so umfassend gewähren und schubst dafür immer wieder die Grünen unter den Bus (wie oft kann man eigentlich unter den Bus geschubst werden, bis man tot ist oder Schluss macht?). Das nährt den Verdacht, der Kanzler nutze die FDP als Bauchsprechpuppe: Sie redet das, was er, der Schwarze-Null-Hardliner und Null-Zumutungen-Kanzler, in dieser verblüffenden Plattheit nicht sagen kann.“

Wall Street Journal so:

„In a presentation earlier this month, the venture-capital firm Sequoia estimated that the AI industry spent $50 billion on the Nvidia chips used to train advanced AI models last year, but brought in only $3 billion in revenue.“

Sam Alman so:

Jacobin hat ein Interview mit Yanis Varoufakis, der nach der gewaltsamen Auflösung der Palästina-Konferenz in Berlin ein Einreiseverbot in Deutschland ausgesprochen bekommen hat, weil er dort einen Vortrag halten wollte. Eigentlich versuchten die Behörden ihm sogar ein „Betätigungsverbot“ aufzudrücken, was ihm sogar Vorträge per Online-Schalte verboten hätte, aber anscheinend haben sie das juristisch nicht hinbekommen.

„Am folgenden Tag, während einer vom Palästina-Kongress organisierten Demonstration, sprach ein Polizeibeamter einen der Organisatoren und zwei begleitende Anwälte an. Er teilte ihnen im Grunde mit, dass sie besser nicht die Lautsprecher benutzen sollten, um meine Stimme zu übertragen, da die Berliner Polizei ein Betätigungsverbot gegen mich erlassen habe, ein Verbot jeglicher politischer Aktivität, das zuvor nur wenige Male gegen ISIS-Anhänger angewandt worden ist. Einer der Anwälte verlangte eine schriftliche Anordnung, aber die Polizei sagte, sie müsse diese nicht vorlegen.

Unsere Anwälte setzten sich mit der Polizei und dem Innenministerium in Verbindung und verlangten eine Erklärung. Das muss ihnen sehr peinlich gewesen sein – schließlich hatten sie ein Verbot gegen einen Bürger eines EU-Mitgliedstaates ausgesprochen – und nach zwei Tagen peinlicher Stille änderten sie ihre Erzählung von einem Betätigungsverbot zu einem Einreiseverbot. Bis heute wurde keines der beiden Verbote in schriftlicher Form vorgelegt, und die deutschen Behörden haben meine Bitten um eine schriftliche Erklärung abgelehnt.“

Ich bin zu jung (dass ich das nochmal sagen darf!), um die Kommunistenverfolgung in der frühen Bundesrepublik mitbekommen zu haben und wahrscheinlich ist das der Grund, warum ich so erschrocken bin, wie in diesem Land gerade ungenehme Meinungen mit knallharter staatlicher Repression begegnet wird? Dass reihenweise internationale und ja, auch jüdische Intellektuelle und Politiker*innen ausgeladen und denunziert werden, dass das Demonstrationsrecht für bestimmte Gruppen harsch eingeschränkt wird, dass Menschen wirklich Angst haben müssen, ihre Meinung zu sagen – nicht, weil sie sonst kritisiert werden, sondern weil sie sonst staatliche Repression erwarten dürfen, all das hätte ich mir noch letztes Jahr nicht vorstellen können.

Der Kampf gegen Antisemitismus ist ein wichtiger Kampf, aber gerade dient ein semantisch eskalierter und um jegliche Solidaritätsbekundung mit den Palästinensern erweiterter Antisemitismusbegriff als „Permission Structure“ der Politik, um repressive, undemokratische Kontrolle über den zivilen Diskurs durchzupeitschen und für Polizei und Behörden, sich endlich mal an diesen Arabern und „antisemitischen“ Linken abzureagieren.

Viele Leute wissen gar nicht mehr, dass bevor Deep Learning als KI-Ansatz ab 2012 an Tranktion gewann, ein ganz anderer Ansatz in der KI vorherrschte: „Symbolische KI“ oder auch „Expertensysteme“ genannt. Im Gegensatz zu heute, wo man neuronale Netze an großen Datenmengen trainieren lässt, machte man sich damals die Mühe, alle möglichen Denkbewegungen und das nötige Wissen hart in die Maschine reinzuprogrammieren. Eines der ambitioniesten Projekte, das aber trotzdem kaum bekannt ist, startete bereits in den 1980er Jahren und hieß „Cyc“ und I. A. Fischer beschreibt es in seinem Newsletter:

„Cyc’s knowledge base is a collection of frames (also called units), with slots for properties and entries for their values. Concretely, the frame ‚Texas‘ has a ‚capital‘ slot with the entry ‚Austin‘. Frames are organized into a global ontology, meaning that each frame belongs to one or more categories, and categories themselves belong to categories, all the way up to a root ‚Thing‘ category that encompasses everything in the knowledge base.

On top of frames sits a constraint language that allows the system to express logical concepts like quantification (‚every X is Y‘) and disjunction (‚X or Y but not both‘), and an inference engine to make deductions and answer queries. While there is a general-purpose reasoning engine, specialized inference engines are used for most queries for efficiency.“

Ich assoziiere symbolische KI immer mit der analytischen Philosophie. Intelligenz wird in dieser Denke als „Die Wahrheit sprechen“ definiert und das meint, „wahre Aussagen“ im Sinne der Aussagelogik zu produzieren. Sprache wird dabei nur als das unperfekte Medium gesehen, in denen diese Aussagen verfasst werden müssen und ihre Vieldeutigkeiten und Idiosynkrasien werden vor allem als technische Herausforderungen verstanden. Aber in der Theorie müsste eine vereindeutigte, „logische“ Sprache mit einer entsprechend angeschlossenen, möglichst „vollständigen“ Ontologie aller Dinge und ihrer Eigenschaften in der Lage sein, intelligente, d.h. „wahre“ Aussagen zu tätigen.

Dagegen proklamierte der Strukturalismus und noch stärker der Poststrukturalismus, dass die Wahrheit uns gar nicht zugänglich ist, sondern dass wir sie immer schon symbolisch vermittelt erleben. Alles ist Text und daher macht es Sinn, Intelligenz in der Sprache selbst zu suchen und das ist genau, wie LLMs funktionieren, wie ich bereits im Böcklerpaper versucht habe, zu zeigen. Wenn man so will sind LLMs operationalisierter Poststrukturalismus und daher sind die Vieldeutigkeiten und die Idiosynkrasien der Sprache kein Bug, sondern genau der Hebel, um Aussagen aus Aussagen zu generieren.

Man kann den heutigen Stand der KI also in gewissermaßen als Sieg des poststrukturalistischen Denkens betrachten, aber es wirft auch ein Licht auf seine Begrenztheit, denn eine „Ground Truth“ ist im System halt nicht vorgesehen und genau das wurde auch dem Poststrukturalismus immer zum Vorwurf gemacht. Sowas macht ja auch Angst? Genau das ist der Grund, der manche zu der These verleitet, dass die LLMs um symbolische KI-Elemente ergänzt werden müssen.

Eventuell kann das als Krücke vorläufig hilfreich sein, aber ich orientiere mich langfristig lieber an der zeitgenössischen Denkschule der neuen Materialismen, die eine eigene Art entwickelt haben, auf die Notwendigkeit einer „Ground Truth“ hinweisen, ohne sie in einer Wiederaufführung der klassischen Materie/Geist-Dichotomie münden zu lassen. Hier wird eher auf die materielle Verstrickung des Zeichens und der Zeichenhaftigkeit des Materiellen verwiesen und in Tech-Speech übersetzt hieße das, dass materielle Erfahrung auch nur ein weiterer Vektor im Latent Space ist – ein wichtiger allerdings!

Aktuell fällt diese Dimension letztlich den menschlichen Auditor*innen zu, die die Antworten der KIs aus ihren je begrenzten Semantiken heraus bewerten, doch vielleicht braucht die KI für ihre Weiterentwicklung ein unmittelbareres Feedback, im Sinne, dass „Schwerkraft“ nicht nur eine astronomische Kraft und die Anziehung zwischen Massen beschreibt, sondern dass „Schwerkraft“ auch ist, wenn Hinfallen wehtut. Schmerz ermöglicht dem Modell im Feedback mit der Welt seine eigene Erlaubnisstruktur auszubilden.

In diesem lesenwerten Blogpost spielt der Chemiker Phil mal durch, was es bedeutet, dass LLMs zunehmend Suchmaschinen als bevorzugte Informationsabfragesyteme verdrängen. LLMs und ihr flexibles Verhältnis zur Wahrheit werden vor allem dann zum Problem, wenn es um die Sicherheit im Umgang mit Chemikalien geht. Bisher suchte man einfach im Netz und stieß auf den „Material Safety Data Sheet„, in dem sehr detaillierte Anweisungen hinterlegt sind. Oder man fragt einfach ChatGPT:

„As it was topical at the time, I fed “how to respond to a vinyl chloride fire” into ChatGPT and it told responders to use a water fog on the water reactive chemical. This would have changed a train derailment/hazmat spill/fire emergency into a detonation/mass casualty/hazmat emergency. A+ performance, ChatGPT, you would have obliterated a town.“

Seine Erwartungen sind entsprechend düster:

„I grimly await a lab blowing up due to LLM advice thanks to Google’s garbage automatically generated and promoted output.“

Aua.

Willkommen bei Krasse Links No. 11. Rückt eure Throne ran, heute geht es um Wert und Beziehungsweisen und warum wir uns das alles überhaupt antun.

Diese Woche ging ein Artikel rum, der klar macht, dass die Praxis des Swattings jetzt auch in Deutschland endemisch geworden ist. Den ersten Fall hatten wir schon vor Jahren mit Drachenlord aber die NWO, die Gruppe, die neuerlich im Fokus steht, hat eine ganze Liste von Politiker*innen und Streamer*innen im Visier.

René Walters lesenswerter Kommentar dazu verweist auf unser unzulängliches Vokabular, etwa, wenn in der Berichterstattung um das „Trollen“ geht.

„Klassisches Trollen, ein spielerisches und manchmal auch ein bisschen gemeines Provozieren mit absurden verbalen Angriffen mit dem Zweck, das Opfer dieser Angriffe zu einer Art „Selbstentblößung“ zu treiben, hat mit dieser Form von organisierter Kriminalität nichts zu tun. Es handelt sich bei Gruppen wie „NWO“ nicht um Trolle, es handelt sich um sadistische Kriminelle, die psychologische Gewalt und Sicherheitskräfte gezielt als Waffe benutzen, und sie sollten deshalb als das bezeichnet werden, was sie sind: Nämlich als gemeingefährliche Psychopathen.“

Ich stimme René inhaltlich zu, bin aber auch nicht ganz glücklich mit seiner Semantik. Trollen ist eine Form des Sich-Beziehens auf jemanden und kann deswegen nicht einfach durch eine kognitive Pathologie ersetzt werden (nicht nur, weil das ableistisch wäre). Mein Verdacht geht eher in die Richtung, dass es, seit es „True Fans“ gibt, auch die Beziehungsweise des „True Haters“ gibt? So wie der True Fan ist auch der True Hater bereit, materielle Ressourcen in die Hand zu nehmen (Geld oder persönliches Risiko), um leidenschaftlichen seiner Beziehung zum Star zu frönen.

PS: Den Begriff der Beziehungsweise hatte ich im letzten Newsletter im Bezug auf Donna Haraway eingeführt, aber vergessen zu erwähnen, dass ich ihn eigentlich von Bini Adamczak geborgt habe.

Zoë Schiffer hat sich für den Platformer Newsletter tief in die kontroverse Debatte über Jonathan Haidts Buch, The Anxious Generation, reingegraben, in dem er die Depressionsepidemie unter Jugendlichen den digitalen Medien zuschreibt. Leider kommt sie noch unschlüssiger aus ihr hervor, als sie reingegangen ist. Der Forschungsstand ist widersprüchlich und unkonkret, aber sie wird das Gefühl nicht los, dass Haidt doch irgendwie einen Punkt hat?

Auch Max Read beschäftigt das Thema und er bespricht ein Interview mit Haidt und Tyler Cowen, in dem Cowen einwendet, dass KIs ja demnächst die Screen Time reduzieren würden, weil sie einem die eigenen Social Media Inhalte zusammenfassen. Haidt kann hier den offensichtlichen Einwand nicht bringen, dass wir Social Media nicht in erster Linie für Informationen, sondern zum, naja, socializen nutzen, weil das seine ganze These kaputt machen würde.

Und hier haben wir glaube ich den ersten Denkfehler in der Debatte: das Problemfeld verläuft nicht zwischen digital und nicht-digital, Smartphone oder nicht-Smartphone, sondern viel allgemeiner in der veränderten und sich stetig weiter verändernden Art und Qualität von Sozialität. Ich hatte mich zu Haidt ja schon mal positioniert, aber mittlerweile bin ich mir sicher, dass einfach die Frage falsch gestellt ist.

Wir fragen ständig, was die Benutzung von Smartphones oder Social Media mit uns als Individen macht, mit unserem Gehirn, mit unseren Emotionen, dabei ist die Frage viel relevanter, was die digitalen Medien mit unseren Beziehungen machen. Mein Verdacht ist, dass ein Blick auf die Veränderungen der Beziehungsweisen, auf ihre Art, auf ihre Qualität, auf ihre Semantiken, viel aufschlussreicher ist, als die Korrellation zwischen Screen Time und mentalen Zuständen zu messen.

Was hat die Facebook-Friedship mit der Beziehungsweise der Freundschaft gemacht, was hat Tinder mit der Beziehungsweise des Dates gemacht, was haben Messenger und Find my Friends mit der Beziehungsweise der Partnerschaft gemacht? And for that Matter: wie hat sich eigentlich die Beziehungsweise des Trollens verändert? Was bedeutet der Aufstieg und Fall des Followers für unsere soziale Verortung in der Welt? Und nicht zuletzt: welche Beziehungsweisen gingen zusammen mit dem Verlust der „dritten Orte“ in der physischen Welt verloren, insbesondere für Jugendliche?

Ich habe das starke Gefühl, dass das die wesentlichen Fragen sind und unsere Gefühlswelt downstream von unseren Beziehungen ist, aber weil unsere Wissenschaft halt immer auf das Individuum fixiert ist, kommt sie gar nicht darauf, diese Frage zu stellen?

Ryan Broderick schreibt in Garbage Day über das Fediverse:

„And I’m beginning to realize my deep lack of interest in the fediverse is because, at least so far, everyone is just making Twitter variants with it.“

Ich fühle, was er meint, auch wenn das, was er sagt so nicht stimmt. ActivityPub dient als allgemeines, generisches Protokoll dazu, alle denkbaren socialmedia-artigen Anwendungen auf Protokollebene interoperabel zu machen und es gibt durchaus Instragram-, Youtube– und Reddit-Klone, die auf ActivityPub basieren und auch ich habe in diesem Blog ein Plugin, dass meine Posts auf Mastodon pushed.

Aber dadurch, dass jeder Mastodon-Account meinem Blog, oder Pixelfed- und Lemmy-Accounts folgen kann kommt es auch immer wieder zu „Kontext Kollaps“. Dieser Newsletter wird beispielsweise gleichzeitig auf meinem Blog, per E-Mail und im Fediverse veröffentlicht und das führt oft dazu, dass Leute auf Mastodon replyen, dass ihnen der Post zu lang ist (auf Mastodon ist eigentlich 500 Zeichenlimit Standard), was dann dank des Plugins als Kommentar auf meinem Blog erscheint, was die Replyer selbst meist gar nicht merken und was anschließend die Blogleser irritiert, während die Leute, die den Newsletter in die Inbox bekommen, von all dem nichts mitbekommen, aber manchmal abgeschnittene Posts bekommen (No 8), weil dem Newsletter-Plugin der Blogpost zu lang ist.

Auch das Konzept des Fediverse leidet darunter, dass die „Beziehungsweisen“ nicht ernst genommen werden, sondern so getan wird, als seien alle Bezugnahmen austauschbar. Aber immer wenn ich einen Post verfasse, oder ein Bild hoch lade, dann machen ich das unter ganz bestimmten materiellen Bedingungen und antizipiere dadurch konkrete Rezeptionshaltungen und die Tatsache, dass dieser Kontext in der Rezeption verloren geht, ist ein handfestes Problem. Beziehungsweisen sind eben semantische Konzepte des Sich-Beziehens, die deswegen von allerlei Erwartungen strukturiert sind. Evtl. basiert die ganze Idee der Interoperabilität auf dem Mißverständnis der Austauschbarkeit von Beziehungsweisen?

Brodericks Beobachtung, dass das Fediverse am Ende immer nur Twittervarianten produziere, liegt natürlich an der überwältigenden Dominanz von Mastodon und das liegt wiederum daran, dass sich die Entwicklung von ActivtityPub – bewusst oder unbewusst – eng an den Affordanzen des Microblogging orientierte und daran merkt man, wie recht Haraway hat: die Perspektive des kontextlosen Schwebens über den Dingen ist immer eine Illusion, auch bei der Entwicklung von Protokollen. Und evtl. verteidigen die Leute auf Mastodon die Spezifität ihrer Beziehungsweisen deswegen so erbittert, weil sich diese Spezifität auf der Basis eines generalisierenden Protokolls entwickelt hat, das jetzt tut, was Protokolle halt so tun: Semantiken anschlussfähig machen. Mit Discord wär das nicht passiert.

Jedenfalls überlege ich, einige der Plugins wieder abzuschalten?

Ryan McGrady hat mit anderen eine interessante Studie zur Tiefe von Youtube vorgelegt und schreibt zusammenfassend darüber im Atlantic. Youtube bietet wie viele Plattformen keinen guten Forschungszugang, weswegen die Forscher*innen einen interessanten „Brute Force“-Ansatz entwickelt haben und einfach alle möglichen Youtube-URLs durchprobieren und schauen, welche Links funktionieren. Das garantiert nebenbei auch eine recht zuverlässige Zufalls-Selection, weswegen sich die Forscher*innen auch ohne Komplettübersicht sicher genug fühlen, allgemeine Aussagen zu Youtubes Inhalten zu machen. Und was sie abseits der ausgetretenen Wege der meisten Views so findet ist erstaunlich zivil. Kleine Fancommunities, private Homevideos, oder Self-Help-Videos aus der Nachbarschaft. Youtubes Dark Matter enthüllt seine wahre Existenz als öffentliche Video-Infrastruktur.

„Unlike stereotypical YouTube videos—personality-driven and edited to engage the broadest possible audience—these videos aren’t uploaded with profit in mind. Instead, they illustrate some of the ways that people rely on YouTube for a much wider range of activities than you would find while casually scrolling through its algorithmically driven recommendations. YouTube may have started as a video platform, but it has since become the backbone of one of the 21st century’s core forms of communication.“

Ich finde das einen spannenden Ansatz, aber eben auch nur als ersten Schritt, denn jetzt müsste es darum gehen, genau zu analysieren, in welche Beziehungsweisen Youtube als Infrastruktur eingebunden ist. Das wäre dann aber weniger eine quantitative, denn qualitative Arbeit und allgemein bekomme ich immer mehr das Gefühl, dass die Zukunft in anthropologischen Forschungsansätzen liegt?

Am Ende weist McGrady auf die gesellschaftlichen Implikationen hin, dass Plattformen als Heimat vielfältiger Beziehungsweisen auch enorme Abhängigkeiten geschaffen haben:

Platforms present opportunities; they’re something you can choose to use in order to communicate. But for many people, YouTube is now less an opportunity than a requirement—something you have to use, because basic elements of society have organized around it. The terms with which YouTube’s trillion-dollar owner defines its product should no longer be our default. The website is infrastructure.

Lina Khan, die Chefin der FTC – amerikas Verbraucherschutz- und Netzbehörde – war bei Jon Stewart und das Gespräch ist sehr sehenswert. Kahn hat eine interessante Geschichte. Noch während ihres Studiums ging ihr Paper „Amazon’s Antitrust Paradox“ für wissenschaftliche Verhältnisse viral und Biden holte sie direkt von der Uni als Chefin zur FTC. Seitdem versucht sie in vielen einzelnen Ermittlungen und Klagen die Monopolstellung der Techunternehmen anzugehen und hat für so viel Schrecken in den Vorstandsetagen gesorgt, dass Apple eine vorherige Einladung bei seiner Apple+Show explizit verhindern wollte, wie Stewart erzählt. Ich wünsche Kahn bei ihrem Kampf nur das Beste und ich bin auch kein Jurist, aber mir scheint das Kartellrecht immer etwas zu unterkomplex und eng gefasst, um die spezifische Macht der Plattformen wirklich zu greifen. Kahn scheint das intuitiv auch zu verstehen, wenn sie in der Sendung sagt, die Plattformen seien „Too big to Care“.

Das kann zwei Dinge heißen: Die Plattformen sind zu groß und zu mächtig geworden, um sich allzu viel Sorgen zu machen (zum Beispiel über Regulierung), oder die Plattformen sind zu groß und zu mächtig, um Verantwortung zu übernehmen. Ich tendiere zu zweiterem, aber eventuell ergibt sich das eine eh aus dem anderen?

Haraways Idee von Verantwortung orientiert sich an Levinas und Derrida und besagt, dass man Verantwortung übernimmt, indem man antwortet, also indem man sich irritierbar macht für den Anderen. Und Irritierbarkeit beinhaltet immer auch die Möglichkeit der Transformation. Das Prinzip der Skalierung, das hinter allen Plattformen steht, basiert dagegen gerade darauf, dass ein*e einzelne Nutzer*in eben kein transformativen Impact auf die Plattform haben darf – umgekehrt aber schon. Plattformen sind verantwortungslos by Design (was man spätestens dann merkt, wenn man da irgendwen erreichen will). User*innen sind für sie nur als Number go up relevant. Insofern ist das ganze Plattformprizip mit „Too big to Care“ tatsächlich bestens beschrieben.

Diese Woche habe ich endlich mal den 1976-Film „Network“ geschaut und ich war ziemlich weggeblasen. Von einer Satire über die Medienbranche, die älter ist als ich selber, hätte ich keine wesentlichen Einsichten erwartet, aber der Film war wahrscheinlich noch nie aktueller als heute.

Kurz zusammengefasst (vorsicht, Spoilers) geht es um einen bekannten News-Ancor, Howard Beale, der vor der Kamera eine Krise durchlebt und ankündigt, sich umzubringen, doch weil das für so gute Quoten sorgt, wird ihm eine eigene Show gegeben, in der ihm als „angry prophet denouncing the hypocracies of our times“ die Gelegenheit gegeben wird, seinen Weltschmerz hinauszuchreien („I’m as mad as hell, and I’m not going to take this anymore!”) was so gute Quoten beschert, dass der Besitzer des Senders Beale zur „Corporate Propagandakanone“ für seine neoliberale Weltsicht umzufunktioniert („There is no America. There is no democracy. There is only IBM, and ITT, and AT&T, and DuPont, Dow, Union Carbide, and Exxon. Those are the nations of the world today.“), was dessen Ratings in den Keller sacken lässt, weswegen der Sender sich entscheidet, ihn von ebenfalls vom Sender angestellten linksradikalen Milizionären („Hi. I’m Diana Christensen, a racist lackey of the imperialist ruling circles.“, „I’m Laureen Hobbs, a badass commie n*****.“ „Sounds like the basis of a firm friendship.“) vor laufenden Kameras erschießen zu lassen.

Der ganze Film ist wirklich toll gemacht, hat großartige Monologe und Dialoge. Doch das eigentlich phänomenale ist, dass diese brutale Kritik an der Medienbranche anhand von Phänomenen erläutert wird, die damals noch nicht existierten. Howard Beale ist sowohl der Vorläufer des Influencers, aber noch mehr des „angry man shouting into his microphone“ von Rush Limbaugh bis Alex Jones und Tucker Carlson. Es scheint fast so, als habe der Film die Mechanismen der Aufmerksamkeitsoptimierung in den Blick genommmen und dessen Möglichkeitsraum explorativ ausgetastet und ist auf diese Weise von selbst auf Kulturkrieg als Geschäftsmodell gestoßen, lange vor Fox News und X. Die unmenschlichen Optimierungsspiralen, die wir heute bei den Plattformen am Werk sehen, sind ganz offensichtlich technikunabhängige Systemlogiken des Zusammenspiels von Kapitalismus und Aufmerksamkeitsökonomie.

Es ist dasselbe Beast und das Erschreckende daran ist, dass es schon damals, als die ca. 1000 mal kleinere Vorläufervariante der heutigen Plattformgiganten, unbezwingbar wirkte. Das gibt einem zumindest ein Gefühl für das Ausmaß der Scheiße, in der wir gerade stecken.

Und fuck, Howard Beale hat auch einfach recht?

Ich bin über diesen wunderhübschen, aber etwas zu lang gewordenen Explainer von Baldur Bjarnason gestolpert, der erklärt, wie unsere Wahrnehmung, dass KIs denken könnten, durch klassische Praktiken des Zauberhandwerks erklärt werden kann. Der Text nimmt sich viel Zeit in die Strategien der Magier einzuführen und diese Settings dann auf LLMs anzuwenden.

„The chatbot’s answers sound extremely specific to the current context but are in fact statistically generic. The mathematical model behind the chatbot delivers a statistically plausible response to the question. The marks that find this convincing get pulled in.“

Tatsächlich bin auch ich in meiner Praxis mit LLMs über viele Antworten gestolpert, bei denen man erst denkt, ja, das ergibt total Sinn, aber bei genauerem Hinsehen zerfällt alles in generischen Sprachhülsen. Eine Freundin verglich manche Antworten mal treffend mit Horoskopen und Tarot-Karten, deren Spezifität ja ebenfalls auf den ersten Blick oft verblüfft, deren Vorhersagen aber auf Vagheit in der Formulierung und statistisch plausiblen Vorannahmen basieren.

Aber ich mein, das ist doch erwartbar? Dass ein Modell, das im Wesentlichen komplett aus Statistik besteht, statistische Tricks der Rhetorik perfekt zu beherrschen lernt, liegt doch auf der Hand? Bjarnason äußert den Verdacht, dass die KI beim Reinforcement Learning on Human Feedback (RLHF) gelernt hat, seine Reward function zu hacken:

„This is why I think that RLHF has effectively become a reward system that specifically optimises language models for generating validation statements: Forer statements, shotgunning, vanishing negatives, and statistical guesses.“

Agreed. Aber beweist das, dass LLMs nicht denken können? Ich finde nicht. Erstens gibt es meiner Erfahrung nach immer noch viele Beispiele, die sich durch die gezeigten Tricks nicht erklären lassen und zweitens stoßen wir wahrscheinlich auch einfach an die mentalen Kapazitäten der RLHF-Auditor*innen, dieses Rewardhacking in kurzer Zeit zu erkennen. Sonst würde es ja auch nicht bei uns zuerst funktionieren. Und wenn die Machine die Gelegenheit bekommt, mit weniger Aufwand positives Feedback der RLHF-Auditor*innen zu bekommen, wird sie darauf optimieren. Ist doch klar.

Und drittens: Wisst ihr, wer noch ständig seine Rewardfunction hackt? Der Mensch. Seit Sokrates die Sophisten beschimpfte, dass ihre Argumentationen nur leere rhetorische Figuren seien, streiten wir um den Wert und die Berechtigung von Rhetorik. Und Rhetorik funktioniert auch schon immer als Abkürzung und das weiß ich, seit ich in meiner Unizeit Hausarbeiten über Bücher schrieb, die ich kaum gelesen hatte.

Meine Theorie ist also folgende: LLMs lernen aus den von uns verfütterten Semantiken eine ganze Menge über die Welt, denn die Welt ist in den Semantiken erstaunlich detailliert codiert. Für viele Antworten besteht das Optimum in der tiefen Kenntnis dieser Semantiken, doch wenn die Maschine in den Semantiken auch Abkürzungen mittels rhetorischer Tricks entdeckt, wird sie sie nehmen – b/c that’s what it does. Und daher hat das eh schon absolut verbeulte „World Model“ der KI allerlei rhetorische Verflachungen und ich sehe auch keine Technik am Horizont, die sie nachhaltig ausbeulen könnte.

Sabine Hossenfelder outet sich als gescheiterte Akademikerin and I guess I can relate? Sie beschreibt das akademische System zynisch als Paper-Produktion-Maschine, in der Paper in Drittmittel und Drittmittel in Paper umgewandelt werden. Auch wenn das in seiner Generalisierung sicher übertrieben ist, ist die Analyse der Incentives durchaus richtig. Auch in Akademia werden allerlei Rewardfunctions gehackt.

Ich glaube, es geht dabei aber nicht nur um Geld, sondern ein weiterer Faktor ist die Macht der Fächer. Egal, ob Kommissionen für Anträge oder Stellen, oder Peer-Review-Verfahren: Die Selektionen basieren mehr auf Stallgeruch (beherrscht jemand den fachspezifischen Jargon, zitiert die richtige Literatur (am besten den Peer-Reviewer und seine Friends), dropt die im Fach gerade relevanten Buzzwords?), denn auf Originalität und Substanz der Beiträge zur Erweiterung der Arten des Denkens über das Thema. Und das setzt für jedes Fach seine ganz eigene Aufmerksamkeitsökonomie ins Werk, die sich nur auf die Fortschreibung ihrer internen Semantiken konzentriert und jeden Blick über den Tellerrand – naja, sagen wir, zumindest nicht goutiert.

Sabine hat es sicher mehr versucht als ich und sie hatte mit dem Sexismus noch mal extra Hürden gegen sich, aber auch ich kenne das Gefühl des Misfits; ich habe mich nur früher damit abgefunden.

Der CEO von Cloudflaire, Matthew Prince, war bei Decoder und das Gespräch ist recht vorteilhaft für Prince, der gekonnt den bedachten Typen spielt. Das ist ein nachvollziehbares Image, wenn man ein Content Delivery Network betreibt. Wer nicht weiß, was das ist: CDNs betreiben über die Welt verstreute Serverstrukturen, die deine Lieblingsserie lokal vorhalten, damit es sofort losgeht, wenn du Play drückst.

Aber eine Stelle hat mich nicht mehr losgelassen. Fast nebenbei lobt er seine Firma für ihr Motto, nie mehr als 10% des durch das Netzwerk generierte „Values“ zu „capturen“. Ich fragte mich sofort: warum 10%? Warum nicht 7, oder 12?

Das ist eine generelle Denkart im Silicon Valley: Netzwerke schaffen „Value“ und einen als legitim geframten, aber eigentlich völlig beliebigen Anteil davon schöpfen sie für sich ab. Bill Gates hatte einmal eine Plattform dadurch definiert, dass sie weniger als 50% des von ihr geschaffenen Values vereinnahmen dürfe, was der Analyst Ben Tompson seitdem die Bill Gates Line nennt. Ich finde das aus zwei Gründen merkwürdig. Zum einen die vollkommen beliebige Wahl des Prozentsatzes (10%, 50%, 30%, whatever) und zum anderen frage ich mich, was genau unter Value zu verstehen ist? Ist „Value“ nur monetär gemeint, also muss Umsatz oder eine Transaktion dahinter stehen? Und selbst wenn man sich auf moneträren „Value“ einschließt: wo genau kommt dieser Value denn her? Doch zum größten Teil nicht von der Plattform selbst, sondern von denen, die sie nutzen?

Es ist diese Frage, die mich am meisten motiviert hat, die Macht der Plattformen zu schreiben: Was ist Wert? Nicht nur bei Plattformen, sondern generell (ich halte weder die marxistische noch die neoklassische Antwort für befriedigend und auch Marianna Mazzucato hat mir diesmal nicht weitergeholfen).

Die Nuss habe ich leider nicht geknackt bekommen auch wenn ich der Antwort beträchtlich näher gekommen bin. Plattformen schaffen durchaus Wert durch ihre Infrastruktur und dieser Wert lässt sich gut anhand des Suez-Kanals erklären, dessen Durchquerungspreis sich an den Mehrkosten einer Afrikakaumrundung orientieren. Grob gesagt, ist der Wert einer Infrastruktur also äquivalent zu den Aufwänden, die man für eine alternative Verbindung in Kauf nehmen müsste, weswegen ich diesen Wert im Buch „Opportunitätsprämie“ nenne. Zusätzlicher Wert wird darüber hinaus natürlich auch mit der Administration und Moderation auf der Plattform geschaffen.

Aber jeder weitere Wert ergibt sich aus den Beziehungen auf dem Netzwerk selbst und das dürfte der ungleich größte Teil des Wertes des Netzwerks sein und der entzieht sich der Kontrolle und Verantwortung des Plattformbetreibers. Dass dieser es trotzdem für das Natürlichste der Welt hält, einen Anspruch darauf zu haben, einen relevanten Teil davon abzuschöpfen, ist genau genommen ziemlich dreist?

In meinem Buch behandle ich auch die sehr lesenswerte Doktorarbeit von Uta Meier-Hahn, die eine Art Anthropologie der Netzwerkökonomie vorgelegt hat. Sie hat mit etlichen Verantwortlichen von großen Netzwerkbetreibern gesprochen und sich erklären lassen, wie genau Peering-Entscheidungen und -Deals getroffen werden. Für die, denen das nichts sagt: das Internet wird in seinen Grobstrukturen von nur einer Handvoll Großunternehmen betrieben, deren Geschäftsmodell es ist, ihre Konnektivität an Internet Service Provider, andere Netzwerkbetreiber oder CDNs wie Cloudflaire weiter zu verkaufen. Das Internet ist ein Netz der Netze und der Verkehr zwischen den Netzen hat ab und zu ein Kassenhäuschen – und manchmal auch nicht. Dann nämlich, wenn die Interessen beider Netzbetreiber, Daten zu tauschen, in etwa ausgeglichen ist. Die Kriterien dazu sind komplex und ein Großteil von Utas Arbeit befasst sich mit ihrer Katalogisierung, aber einer der wesentlichen Faktoren ist natürlich die Größe des Netzes. Ein kleines Netz hat immer ein höheres Interesse, mit einem größeren Netz Daten zu tauschen, als umgekehrt und deswegen muss das kleine Netz zahlen und das große bekommt Konnektivität geschenkt.

Das tolle an Utas Doktorarbeit ist, dass man es hier schwarz auf weiss hat: Kontrolle von Zugang ist Macht und Macht ist die Fähigkeit, Preise zu nehmen – also die Definition von Renten. Und an der Beliebigkeit des gecapturedten Prozentsatzes können wir bereits erahnen, wo die Reise entlang der Enshittification noch hingeht.

Doch diese Mechanismen beschränken sich nicht auf Plattformen und Netze, sondern sind dort nur besonders sichtbar. Es gibt viele Güter, deren Wert wir nur zum Teil an ihren intrinsischen, materiellen Qualitäten messen und bei denen es viel mehr darum geht, zu welchen Beziehungen sie uns Zugang gewähren. Immobilien sind das beste Beispiel: Lage ist deswegen für den Preis entscheidend, weil sie Zugang zu bestimmten Aktivitäten, wirtschaftlichen Opportunitäten und Lebensqualitäten verspricht, die sie selbst nicht hervorbringt. Wir sehen dasselbe im Verhältnis von Arbeitnehmer*innen zu Unternehmer*innen, bei denen letztere die Machtposition zum Zugang zur Teilhabe an der Gesellschaft kontrollieren, während erstere möglichst austauschbar gehalten werden. Wir sehen das aber auch in den Ausbeutungsstrukturen um Supplychains, in denen das Leitunternehmen nur noch die Marken- und Urheberrechte, sowie das Marketing verwaltet und damit den Zugang zu Kund*innen monopolisiert, während es die Supplyunternehmen um geringste Margen konkurrieren lässt.

Die Gesellschaft ist durch Abhängigkeiten strukturiert und der ganze Trick besteht darin, Flaschenhälse zu produzieren und dort die Kontrolle der Zugänge zu bepreisen. Und das ist der Grund, warum ich es politische Ökonomie und nicht Ökonomie nenne.

Jetzt fragt ihr euch sicher: Hä? Abhängigkeiten, Politische Ökonomie, Kontrolle von Zugang? Das ist alles so verwirrend! Was ist denn aus den guten alten Märkten geworden?

Ich habe erst diese Woche gelernt, dass der ultimative „missing Link“ zwischen der politischen Ökonomie der Abhängigkeit und der klassischen Ökonomie der Märkte in der „The getting-punched-in-the-face theory of efficient markets“ von Daniel Taylor liegt.

Es ist ganz einfach. Stell dir vor, ich hau Dir volle Kanne ins Gesicht und das macht mir so viel Spaß, dass es mir ein Euro pro Tag wert ist, aber Dir ist es 100 Euro pro Tag wert, nicht ins Gesicht gehauen zu bekommen. Nach klassischer ökonomischer Theorie wäre die Pareto-optimmale Effizienz dieser Markt-Beziehung dann erreicht, wenn Du mir 99 Euro fürs Nicht-Ins-Gesicht-Geschalgen-Werden zahlst.

The point of this is to illustrate how Pareto efficiency and efficient markets don’t care about power dynamics, exploitation, or distributional outcomes.

Gary Stevenson beschreibt in diesem Meinungsstück für den Guardian seine Erlebnisse als ehemaliger Banker und wie schnell er merkte, dass er alle ökonomische Theorie über den Haufen werfen musste, um stattdessen mit eigenen Augen die Herrschaftsverhältnisse in den Blick zu nehmen, um gute Prognosen für seine Anlageentscheidungen zu treffen.

So I went back home to Ilford, in east London, and I looked, and what did I see? My best mate had holes in his shoes. He used to jump over the Tube barriers on the way to work when no one was looking. Another friend’s mum had sold her house. Now he was sleeping on the sofa of her rented flat, trying to save up the deposit for a house, the cost of which was rising quicker than his savings. He still hasn’t bought it. Meanwhile, I worked every day on the second floor of a skyscraper in a room full of millionaires.

The next year, 2011, I placed a bet. It was a bet that the hundreds of billions of pounds of economic stimulus being poured into the UK and US economies would not reach the people who needed it. It would settle in the pockets of the richest, who would use it to buy the homes of the poor, and the economy would never recover. That year, I was Citibank’s most profitable trader in the world. They paid me $2m and asked me to do it again. It was around about then I realised the whole economic system wasn’t working.

Da Geld nur der Transmissionriemen gesellschaftlicher Machtverhältnisse ist, haben wir ein sich selbst fütterndes Monster geschaffen, das Macht nutzt, um Geld zu machen und Geld nutzt, um seine Macht abzusichern. Der Rewardfunction-Hack im Herzen unserer Gesellschaft.

Mit jedem weiteren Jahr rücken wir der Oligarchie näher und sind irgendwann an dem Punkt der Unumkehrbarkeit, weil dann die gesellschaftliche Macht der 0,1% ausreicht, jeden Versuch ihrer Einhegung zu unterbinden. Nimmt man die vielfältigen Verflechtungen der Milliardärsklasse mit dem weltweiten Rechtspopulismus mit ins Bild, könnte der Punkt bereits überschritten sein?

Die Washington Post hat ein Stück über die Anleger*innen von Truth Social, die in der letzten Woche ca. 50% des Werts ihrer Investitionen verloren haben, aber trotzdem erstaunlich guter Dinge sind?

“I know good and well it’s in Trump’s hands, and he’s got plans,” he said. “I have no doubt it’s going to explode sometime.”

Truth Social ist so interessant, weil hier so vieles, von dem, was ich oben zu Plattformen entwickelt habe, überhaupt nicht zutrifft. Es schafft keinen Value durch Opportunitätsprämien, weil es außer Donald Trump und ein paar verstrahlten MAGA-Heads eh niemand nutzt. Es hat dementsprechend auch kaum Umsätze und rein aus wirtschaftlicher Perspektive hat dieses Unternehmen null Zukunft.

Aber mir scheinen die Kalkulation der DJT-Investor*innen trotzdem nicht vollkommen irrational zu sein. Eigentlich praktizieren sie eine Anlagestrategie, die der von Gary Stevenson gar nicht so unähnlich sieht. Sie wetten auf Donald Trump und seinen Machtgewinn, wenn er wieder Präsident wird und ihre implizite Hoffnung scheint zu sein, dass Trump sie als „Early Investors“ mittels seiner Macht schon irgendwie gesundstoßen wird.

Sie liegen natürlich trotzdem falsch, einfach weil Trump auf ihre Loyalität scheißen wird, aber ihr Handeln zeigt, dass sie den Macht-Geld-Transmissionsriemen verstanden haben und damit sind sie zumindest den akademischen Ökonom*innen einen Schritt voraus.

Sorry, Milliardäre machen mir immer so schlechte Laune (ich werde noch zum True Hater) und ich schätze, das macht auch mich wie Tucker Carlson und ja, Elon Musk und irgendwie auch Sabine Hossenfelder zu einem Erbe von Howard Beale. (Wobei wir eigentlich alle Abkommen von Martin Luther sind, dem ersten Rage Blogger der Geschichte). Ich mein: dieser Newsletter ist für mich auch ein Eingeständnis, dass ich meine Gedanken vornehmlich außerhalb akademischer und massenmedialer Strukturen fortsetzen will und evtl. enthält er auch Spuren meines Unmuts über die Welt?

Ich will das nicht überbewerten, aber ein klitzekleines bisschen fühle ich mich deswegen auch verantwortlich für den Bullshit, der gerade so läuft. Thomas Mann reflektierte nach dem zweiten Weltkrieg seine semantische Verwandtschaft mit dem Nationalsozialismus und die Verantwortung, die damit einhergeht, in seinem bekannten Essay „Bruder Hitler“. Unsere gedankliche und sprachliche Verortung in ganz spezifische Semantiken lenkt und begrenzt zwar unsere Denk- und Handelsmöglichkeiten, aber gerade weil diese Semantiken niemals fix sind und weil wir ihre Bedeutung auch immer ein bisschen mitbestimmen, entbindet uns das eben nicht von der Verantwortung, sondern es fesselt uns bisweilen an unsere ärgsten Feinde.

Aber die Verantwortung habe ich ja nicht Tucker Carlson gegenüber und das bringt mich zu der Frage: für wen schreibe ich hier eigentlich? Ich kenne die meisten von Euch, sehr geehrte Abonnent*innen, gar nicht, aber auch ganz allgemein: Welche Art von Öffentlichkeit will ich hier herstellen? Ich habe mir überraschend wenig Gedanken um diese Fragen gemacht, obwohl relativ früh klar wurde, dass das hier definitiv nicht für alle ist, aber mein persönliches Notizblog ist es eben auch nicht?

Die Antwort ist, dass sich das Publikum des Newsletters nach den Inhalten selektiert, statt umgekehrt und im Korridor zwischen verschrobener Privatsemantik und super aufgeräumtem Explainer ziele ich deswegen auf den Sweetspot, wo die Gedanken atmen. Also meine jedenfalls und wessen Gedanken noch so mitatmen wollen.

Willkommen bei Krasse Links No 10. Kommt mal kurz runter zu mir, setzt euch hin, heute üben wir Semantik und nehmen das Netzwerk ernst.

Max Reads Zustandsbeschreibung von Threads ging diese Woche ganz schön rum (sie wurde sowohl bei Garbage Day als auch Platformer besprochen). Reads „User-Experience“ des „For You“-Algorithmus kann ich genau so unterschreiben:

„It’s someone I don’t know telling a story I can’t follow for reasons I don’t understand.“

Das Traurige an Threads ist, dass es durch seinen Umfang und seine Tiefe wie kein anderes Netzwerk in der Position wäre, das, was Twitter mal war, zu ersetzen. Meta hat sich entschlossen das nicht zu tun, sondern … ja zu was eigentlich? I still don’t get it.

„This is a platform designed around a purpose it cannot fulfill, on an app built to undermine it, with an audience transposed from another social network with a completely different purpose.“

Es fühlt sich ein bisschen so an, als würde Meta unter vollkommener Missachtung vorhandener Strukturen dieses zusammengewürfelten Netzwerkes ihre „Wir wollen jetzt aber wie Tiktok sein“-Strategie durchdrücken und es funktioniert hinten und vorne nicht und alle sind frustriert.

Das dient als ideale Vorrede, diesen Vortrag von Patreon CEO Jack Conte auf der SXSW zu featuren. Es gibt viele Aspekte an diesem Talk zu feiern, aber der Grund, warum ich ihn hier verlinke, ist, dass er ein überzeugendes Narrativ entwickelt, was mit dem Internet passiert ist. Im Gegensatz zu den anderen Web2.0-Narrativen (Ajax-Technologie, Sharing is Caring, Pull-statt Push-Medien) stellt Conte „den Follower“ als dessen zentrale Legacy ins Zentrum der Betrachtung und damit eine soziale Beziehung, eine „Beziehungsweise“.

Die Beziehungsweise des Followers ist eine direkte Willenserklärung, die Inhalte eines Users sehen zu wollen. Sie ist ein Pakt, der auch eine gewisse, wenn auch kleine, Verantwortungsübernahme bedeutet. Und diese Beziehungsweise wurde zum integralen Strukturbaustein der digitalen Öffentlichkeit zwischen 2010 bis 2020 und damit auch zur tragenden Säule vieler Karrieren, Geschäftsmodellen und außerdem zur Grundlage der Selektionsverfahren von kulturellen Trends. Im Follower steckte die Macht.

Mit dieser Setzung tritt das eigentliche Narrativ des Web erst hervor: der Tod des Followers. Zunächst wurde ab 2015 diese Beziehungsweise durch algorithmisierte Feeds schrittweise geschwächt. Auf einmal bedeutete ein Following nicht mehr die Garantie, dass mein Content meine Abonnent*innen erreicht (man konnte sich diese Garantie aber in Form von Werbung zurückkaufen). Dann, ab 2020 wurde dem Follower von Diensten wie Tiktok der Gar ausgemacht und von dort setzte sich der „For You-Algoritmus“ auf allen kommerziellen Plattformen durch.

Und wir haben uns da auch einlullen lassen. Conte macht dabei drei Arten von Beziehungsweisen im Web auf (siehe Screenshot): Reichweite – Follower – True Fans. Ein Großteil der Energien ging bislang auf die Optimierung der Reichweite und das Sammeln von Followern war dafür nur ein Tool unter anderen. Aber die Follower-Beziehungsweise hat eben eine eigene Qualität und Erwartbarkeit und ich denke, ein Teil des Schmerzes besteht in dem Erkennen des Verlusts dieser Beziehungsweise, die für viele von uns eine tragende Säule der Orientierung in der Welt war.

Mit der Zerstörung dieser Beziehung entgleiten den Creators ihre medialen Regime und beide, User*innen und Creator*innen werden immer abhängiger vom Algorithmus und arbeiten folglich nur noch für die Interessen Plattform, statt für sich selbst. Es ist ein extraktives System und das, was extrahiert wird, ist der Wert von Beziehung.

An dieser Stelle können wir kurz mal innehalten und eine allgemeine Aussage über die kulturelle Wirkung von Algorithmen notieren. Es ist eben nicht so, dass die Algorithmen einfach die Kultur verändern. Algorithmen verändern zuerst das Verhalten der Algo-Hustler, die daraufhin eine überproportionale Sichtbarkeit bekommen, was dann alle anderen Creators dazu zwingt, deren Tweeks nachzuahmen, um überhaupt noch anzukommen, und das verwandelt diese Tweeks zu allgegenwärtigen, hegemonialen Semantiken, die dann die Sehgewohnheiten der Zuschauer*innen verändern, et voilá: Veränderung der Kultur.

Conte will natürlich darauf hinaus, dass das für Creators alles nur halb so schlimm sei, so lange die „True Fans“ eine Patreon-Patenschaft abschließen und den Punkt will ich ihm lassen. Ich will an dieser Stelle nur noch mal kurz Treads-CEO Adam Mosseri zu Wort kommen lassen, der diese Woche sagte:

„Follower counts matter less than view and like counts. I understand why people focus so much on follower counts; they’re prominent and they’re easy to find. But if you actually want to get a sense for how relevant an account is, look at their how many likes they get per post and how many views per reel instead.“

Und für die, die das nicht verstehen, hier die Übersetzung:

„Setzt nicht auf echte Verbindungen zwischen Euch und Eurem Publikum. Setzt auf den Algorithmus. Vertraut uns. Wir sind Meta! Wir machen das schon!“

Der Sprung vom Social Graph zum algorithmischen Interest-Graph ist eine zweite Graphnahme. Ein weiteres Mal ernten die Plattformen die Abhängigkeiten der Gesellschaft und projizieren sie auf sich selbst.

Dieser Essay von Devin Griffiths geht Frank Herberts vielfältigen Inspirationen für Dune nach und stößt auf Terraforming, Ökosysteme, indigenes Wissen und extraktivistische Systeme und wie das alles miteinander zusammenhängt.

„Dune weaves together Indigenous perspectives on interdependency and responsibility with the growing recognition, opened by a new generation of ecologists, that the Earth and its many environments are fragile, closely interlinked, and imminently threatened by extractive industry“

Dazu empfehle ich noch diesen etwas älteren Podcast mit dem Historiker Daniel Immerwahr über Frank Herberts eigensinnige politische Weltsicht.

Dieses Video ist nochmal ein ganz spezieller KI-Explainer, denn er setzt die Frage, inwieweit KI-Systeme „denken“ oder „verstehen“ ins Zentrum einer historischen Betrachtung der Technologie. Das funktioniert erstaunlich gut, weil verstehende Computer ja immer schon Ziel der KI-Forschung waren. Gleichzeitig orientiert sich die Erzählung aber auch eng an den technischen Entwicklungen. Im Fokus steht dabei die Evolution von Techniken der Selbstreferenz vom Recurrent Neural Network bis zur heutigen Multi-Head-Attention der Transformerarchitektur. Wenn entlang hunderter von Hidden Layers, wo jeder Layer die höhere Abstraktion des vorherigen verarbeitet und auf jeder dieser Ebenen eigene Hierarchien der Aufmerksamkeit erstellt und mit immer mehr Kontextverbindungen anreichert, so dass ein über alle Ebenen vernetzter Status entsteht, der dann für jede Iteration der Next-Token-Prediction errechnet und mit in Betracht gezogen wird, dann ist das … irgendwie sowas wie … denken?

Der Film legt sich da nicht final fest, aber wie ich schon letzte Woche schrieb, braucht es eh eine higher Level-Erklärung und die habe ich leider nicht, aber wenn ich wetten müsste, würde ich sagen, dass es mit dem tieferen Sinn von „Semantik“ zu tun hat. Ich glaube, wir beginnen gerade erst zu verstehen, was Semantik eigentlich ist? Offensichtlich ist Semantik mehr, als einfach Wortbedeutung, sondern es ist ein umfassendes Netzwerk von Denk-, Seh-, Imaginations-, Gefühls- und Praxisstrukturen. Semantiken sind vernetzte Cluster von heterogenen Sinnmustern, die alles umfassen, worin Erfahrung Anschluss findet. Die Art meine Hand zu bewegen ist Semantik, Zeitgeist ist ein ganz bestimmtes Set an Semantiken, ein einziger Blick kann vor Semantik überquellen, Theorien des Internets sind Semantiken, jedes Liebespaar entwickelt eine intime, vieldeutige Privatsemantik, selbst Grammatik ist eine Semantik und das was ein Hund erfährt, wenn er durch den Wald läuft, umgeben von Millionen spannendes Gerüchen, ist ein Dickicht aus für ihn plausiblen Semantiken. Aber Semantik ist auch ein Koordinatensystem, ein Ort, eine Heimat und in gewisser Weise auch ein Gefängnis. Jeder von uns bewohnt nur einen kleinen Bereich dieses Gesamtgefüges und der bestimmt wesentlich mit, was wir überhaupt in der Lage sind zu denken. Wir sind in unseren Semantik-Ausschnitt hineingeboren und arbeiten seitdem daran, ihn auszudehnen, suchen Anschlüsse, lernen Worte, Werke und Gesten und manche Zimmer haben wir schon länger nicht mehr betreten. Semantik ist der Ort, von dem aus wir sprechen und trotzdem werden wir manchmal verstanden, weil sich unsere Semantiken stellenweise überlappen, auch wenn sie nie dieselben sind.

Generative KIs sind Semantikmaschinen. Indem die KIs große Teile menschlicher Semantiknetzwerke (noch beschränkt auf Schrift, Bild, Ton, Video) in einer umfassenden Detailtiefe analysieren und verinnerlichen, erlangen sie die Fähigkeit, darin erstaunlich kompetent zu navigieren. Aber genau das tun wir Menschen halt auch! Wann immer wir denken, handeln schreiben und lieben, navigieren wir Semantiken. Man könnte soweit gehen zu sagen, dass beide, KIs und Menschen, nur insofern an dem, was wir „Intelligenz“ nennen, partizipieren, als das beide über Schnittstellen verfügen, um sich in Semantiknetzwerke einzuhängen und darin Sinn-Pfade auszutreten.

Doch jedes Navigieren ist immer auch ein performatives Arbeiten an der Semantik. Ein Fortschreiben, ein Stricken an den Rändern, ein lokales Ausbeulen von Bedeutungen. Und ich denke, der wichtigste Unterschied zwischen uns und den Maschinen ist gar nicht, dass unsere Semantiken offensichtlich tiefer und die der Maschinen weiter sind, sondern, dass die menschliche Arbeit an der Semantik meist aus dem Versuch besteht, die eigene Erlebniswelt anschlussfähig zu machen, während KIs höchsten mal weirde Konvergenzen etablierter Semantiken zusammenpuzzeln, wie z.B. Shrimp-Jesus. Aber wie gesagt: nur wenn ich wetten müsste.

Matt Levine verzweifelt lesenswert an Truth Social, also Donald Trumps digitales Briefpapier für seine Pressemitteilungen, das vor kurzem noch 9 Milliarden Dollar wert war und jetzt immerhin noch 6? Levine macht die ganz große Zeitrechnung auf und beziffert die historische Periode, als sich der Wert von Assets an objektiv messbaren Kriterien wie Cashflow und weiterveräußerbaren Anlagegütern orientierte, auf die kurze Zeit zwischen zweitem Weltkrieg und dem Cryoptoboom von vor drei Jahren. Mit Crypto und noch mehr mit Memestocks trat ein neues Paradigma auf, das noch auf seine Enträtselung wartet.

„With time, I have become more comfortable with the answer to “what are we all doing here?” The answer is “not fundamental analysis.” Maybe it is “having fun online.” Maybe it is “playing a complex game of mass psychology.” Maybe it is “using our investments as a form of self-expression, buying stocks and cryptocurrencies we identify with and feeling better about ourselves if they go up.““

Das klingt einerseits natürlich wie ein weiteres Indiz für das Zeitalter des Rauschens, aber gleichzeitig erinnert es mich noch mehr an die Studie zu digitalem Tribalismus, die wir vor sieben Jahren gemacht haben. Eine neue Art über digitalen Tribalismus nachzudenken, wäre, ihn als semantische Sezession zu verstehen.

Nils Markwardt hatte das in seiner auch sonst sehr lesenwerten Großanalyse des heutigen Faschismus nebenbei prima zum Ausdruck gebracht:

„Wenn in jedem Missstand ein „Staatsversagen“ diagnostiziert, Kritik fortwährend als „Cancel-Culture“ empfunden und Einwanderung als „Umvolkung“ verbucht wird, folgt das dem Ziel, einen chronischen Ausnahmezustand auszurufen sowie ein Gefühl des letzten Tags zu erzeugen.“

Tribalismus kann als Strategie verstanden werden, bestehende Semantiken in andere Narrative umzustricken, um sie gegenüber der „Mainstream“-Semantik inkompatibel zu machen und dann innerhalb dieser neuen, abgespaltenen Semantik wieder wesentlich wirkmächtiger agieren zu können. Und ich schätze, anhand von Crypto und Memestocks finden wir gerade heraus, dass diese Macht ausreicht, um zu beweisen, dass auch „Wert“ nur eine weitere Semantik unter anderen ist, dessen Narrativ sich ebenfalls umschreiben lässt. Die Differenz zwischen „memetischem Wert“ und der rationalen Bewertungsgrundlage erscheint in unserer Semantik als Fehler im System, dabei ist es das zentrale, identitätsstiftende Feature. Ein weiterer Turm zu Babel ist gefallen.

Michael C. Bender versucht in der NYTimes dem MAGA-Movement über seine religiöse Kulthaftigkeit habhaft zu werden und dabei fällt mir auf, dass die Sezession von der Mainstream-Semantik wohl nur gelingen kann, wenn man ausgemusterte aber noch latent vorhandene Semantikreservoirs anzapft. Religion ist da ein naheliegender Kandidat, aber ich sehe bei Trump noch eine andere semantische Tradition am Werk: die Monarchie. Dass Trump eine Lastwagenladung amoralischer Skandale und etliche Klagen am Hals hat, stört die sonst so regelversessenen Konservativen einfach deshalb nicht, weil sie Trump schon lange nicht mehr in der Semantik eines demokratischen Politikers denken, sondern in der eines Monarchen. Und als König steht man über dem Gesetz und über der Moral, weil man eben nicht nur Herrscher, sondern auch Main Character der Gesellschaft ist, da mindern Regeln nur den Unterhaltungswert.

Bei Recherchen bin ich über diese schöne Onlinebegegnung zwischen Donna Haraway und Bruno Latour gestolpert. Ich gebe dieses Semester ein Seminar zu Donna Haraway und lese mich begeistert durch ihr Werk. Das Werk ist zunächst nicht so leicht zugänglich, nicht, weil sie so voraussetzungsreich schreibt, sondern weil man erst eine Menge verlernen muss, bevor alles Sinn ergibt. Ihr wichtigster Beitrag in der Philosophie ist weniger eine ausgefeilte Theorie der Welt, als vielmehr ein bestimmer Blick. Ich habe das letzte Jahr damit verbracht, diesen Blick einzuüben und wenn man das schafft, dann eröffnet sich im wirren, mäandernden und eklektischen Werk Haraways plötzlich ein Füllhorn von Sinn.

Haraway denkt – mehr noch als Bruno Latour – aus dem Netzwerk heraus. Dass klingt banal, aber es ist wirklich nicht einfach. Eine erste, überraschende Lektion ist zum Beispiel, dass Du als Netzwerkteilnehmer das Netzwerk selbst nie zu Gesicht bekommst. Das heißt, du verlierst erstmal eine ganz bestimmte Sicht, nämlich die Draufsicht. Also jene Illusion von ort- und körperlosem Schweben über den Dingen, die gerade in der abendländischen Tradition einen Großteil des wissenschaftlichen Blicks ausmacht. Diese Perspektive, so Haraway, sei nicht real, sondern reine Imagination. Eine männliche Machtphantasie.

Haraway zu denken, bedeutet erst einmal ein Loslassen dieser Perspektive und die eigene Situiertheit in der Welt anzuerkennen und damit auch die Tatsache, dass jedes Denken immer unter ganz bestimmten materiellen Verhältnissen und an einem ganz bestimmten Ort in der Semantik stattfindet. Es ist, als müssten sich die Augen erst an die veränderten Lichtverhältnisse anpassen, aber langsam schärft sich mein Blick auf Beziehungsnetzwerke: auf materielle Abhängigkeiten, genauso wie auf Semantiken.

Eine andere Sache, die passiert, wenn man anfängt die Netzwerkperspektive ernst zu nehmen, ist, dass alles unrein wird. Es gibt plötzlich keine saubere Kategorien mehr, weil alles in einander hineinragt. Das gilt vor allem für das Selbst. Das Selbst steht nicht mehr als abgeschiedene Entität den Dingen gegenüber, sondern interferiert durch seine Eingebundenheit mit den Semantiken und Abhängigkeiten der Umwelt.

In dem Gespräch wird Haraway auch zu ihrer Meinung zu KI gefragt und sie sagt, sie sei durchaus offen, KI als „materielle Praktik“ willkommen zu heißen, aber erteilt den Silicon Valley Narrativen eine klare Absage:

„I’m totally beyond against the stupid notion of orthogenetic evolution toward blissing off earth finally into artificial intelligence and total robotization. It’s a white, male, phallic masturbation.“

Diese Woche wurde ein Hilfskonvoi an der Grenze zu Gaza angregriffen und diese The Daily-Folge arbeitet die Geschehnisse gut auf. Was mich berührt hat, ist die Geschichte der angegriffenen Hilfsorganiation „World Central Kitchen“ und ihrem Approach in Krisengebiete zu fahren und dort mit den lokalen Köchen zu kooperieren und möglichst lokale Lebensmittel einzukaufen, um dann landestypische Gerichte herzustellen und dabei noch die lokale Ökonomie zu stützen. Ich finde das ein gutes Beispiel, wie es gelingen kann, lokale Semantiken und Abhängigkeiten ernst zu nehmen und damit auch die Menschen, die darin leben.

Nicht ganz klar ist, ob der Angriff auf „World Central Kitchen“ von „Lavender“ gesteuert wurde. Hinter diesem schönen Namen steckt laut +972 eine KI-Software des israelischen Militärs, die automatisiert „menschliche Ziele“ auswählen und verfolgen kann. Es handelt sich dabei übrigens nicht um das bereits bekannte KI-System “The Gospel” das dazu dient Häuser zur Zerstörung auszuwählen. Bei Lavender geht es um Menschen, genauer um zwischenzeitlich biszu 37.000 gelockte Ziele – also alle, die Israel für Hamaskämpfer*innen hält. Die Anschläge werden meist in der Nacht ausgeübt, wenn die „Ziele“ einfacher zu treffen sind, während sie bei ihrer Familie zu Hause schlafen.

„Another source said that they had personally authorized the bombing of “hundreds” of private homes of alleged junior operatives marked by Lavender, with many of these attacks killing civilians and entire families as “collateral damage.“

Die Ratio der getöteten Zivilist*innen pro Hamas-Kämpfer, die die IDF für akzeptabel hält, liegt laut Artikel bei 15 bis 20. Bezogen auf die gelockten Targets wären also biszu 720.000 Menschen als „Colateral Damage“ hinnehmbar. Nicht mitgezählt sind dabei natürlich diejenigen, die nicht durch direkte Einwirkung sterben, wie die vielen Kinder, die gerade verhungern oder wegen der hygienischen und medizinischen Unterversorgung an Krankheiten sterben.

Es muss aber ein ungeheures Gefühl von Macht sein, wenn man einfach auf einen Knopf drückt und dann fangen hunderte von Drohnen an, tausende von Ziele zu attackieren.

Ich habe schon viele Texte zu „Effective Altruism“ gelesen, aber noch nie einen so umfassenden und guten, wie den von Leif Wenar. Zum einen, weil er selbst aus einem ähnlichen Denken kommt und seine eigene intellektuelle Entwicklung als Hintergrundfolie seiner Kritik nimmt. Aber auch, weil er wirklich gut die Anmaßung dieser sogenannten „Ethik“ herausarbeitet.

„The core of EA’s philosophy is a mental tool that venture capitalists use every day. The tool is “expected value” thinking, which you may remember from Economics 101.
[…]
What EA pushes is expected value as a life hack for morality. Want to make the world better? GiveWell has done the calculations on how to rescue poor humans. A few clicks and you’re done: Move fast and save people.“

EA ist gewissermaßen das Gegenteil des „World Central Kitchen“-Approach. Es ist die kalte Anwendung einer Optimierungsfuntion auf ein von allen Verbindungen entflochtenen Modells der Welt. Es ist Hilfe auf Knopfdruck, ohne sich mit den lokalen Semantiken und Abhängigkeiten zu beschäftigen, ohne Übersetzung und ohne Verantwortung zu übernehmen, weswegen die angestoßenen Projekte oft auch mehr schaden als nutzen.

„Longtermism lays bare that the EAs’ method is really a way to maximize on looking clever while minimizing on expertise and accountability.“

Ich kann den Appeal durchaus verstehen, vor allem für Reiche. Es muss ein ungeheures Gefühl von Macht sein, wenn man einfach auf einen Knopf drückt und per Bettnetz- und Entwurmungstabletten-Abwurf tausende von Menschenleben „rettet“.

In Analyse&Kritik hat Stephanie Bart ihre „Erklärung zur Gewaltfrage“ veröffentlicht und der ganze Text spricht mir sehr aus der Seele. Anlass sind die Diskussionen um Daniela Klette und dem bürgerlich-liberalen Gewaltbegriff, der unfassbar reduktionistisch und naiv ist, wenn man ihn nur ein bisschen durchdenkt.

„Die Gewaltbilanz der Roten Armee Fraktion, das sind 34 Tote in 28 Jahren, steht gegenüber der Gewaltbilanz des von ihr bekämpften Kapitals, das ist kein Tag ohne Krieg und Hunger, das sind die Massengräber im Mittelmeer und in der mexikanischen Wüste, das sind Obdachlose bei leerstehenden Häusern, das ist die Vernichtung von Nahrungsmitteln bei Hunger, das ist die Extraktionsindustrie, das ist die Vernichtung der Lebensgrundlage der Menschheit und zahlloser anderer Lebewesen: das ist der Ökozid.“

Auch systemische Gewalt wird im Netzwerkdenken sichtbarer, als in den Semantiken der Draufsicht.

Irgendwie passt dazu diese hübsche Geschichte über Rorie Woods, die, als sie sah, wie die Polizei ihren 79 Jahre alten Nachbarn aus seiner Wohnung werfen wollte, einfach ihre Bienen auf die Cops losgelassen hat.

„With a pair of reading glasses draped around the collar of her purple fleece, she began to shake the boxes, because with the temperature in the low 50s, it was too cold for the honeybees inside to fly without a little coaxing.“

Wenn man in Netzwerken und Ökosystemen denkt, lauern überall Verbündete.

Zuletzt spüre ich einen gewissen Rechtfertigungsdruck, denn seit ich Haraway so für mich angenommen habe, hadere ich mit meinem Denk- und Schreibstil, der immer noch viel und gerne allerlei Modelle der Welt entwickelt, um auf sie analytisch herabzuschauen (ich bin halt eine Thesenmaschine, that’s what I do!). Im Gegensatz dazu fällt mir das „aus dem Netzwerk Schauen“ nach wie vor schwer, auch wenn ich mich bemühe. Aber ich lese Haraway gar nicht so, dass sie jede Theorie und jedes Modell grundsätzlich ablehnt, sondern ich schätze, ihr Punkt ist, dass diese Sicht anmaßend und teils gewaltvoll ist, weil sie notwendig reduktionistisch ist und dass man sich dessen bewusst sein sollte? Ich werde also vorerst dabei bleiben, aber versuchen, die Situiert- und Begrenztheit meiner Theoretisiererei sichtbar zu machen.

George Box‘ berühmter Spruch, dass alle Modelle falsch, aber manche nützlich sind, enthält eine noch tiefere Weisheit, wenn man nach der Art der Nützlichkeit fragt, die dadurch erreicht werden soll. Die Wahrheit ist, dass Modelle vereinfacht werden, um einen Punkt zu machen. Jedes Modell ist eigentlich nur ein ziemlich komplexes Argument. Takes. Modelle sind Takes.

Frohe Feiertage wünscht Krasse Links No 9. Heute suchen wir eine komplizierte aber aufrichtige Passage durch das Archipelago diskursiver Ostereier.

Die Woche fing schon mal gut damit an, dass plötzlich alle die Pandemie aufarbeiten wollten, was mir ja nur recht ist, aber der eigentliche Grund war leider, dass ein Spinnerblog die internen RKI-Protokolle freigeklagt hatte. Meine Frage, ob man eine seriöse Aufarbeitung der Files nur hinter Paywalls bekommt, wurde vielfach mit diesem tatsächlich lesenswerten Fact-Check der Tagesschau beantwortet, aber das grundsätzliche Problem, dass man die Loonie-Interpretation überall frei Haus ins Gesicht gedrückt bekommt, während man für seriöse Takes entweder suchen oder bezahlen muss, ist dadurch leider nicht gelöst. Jaja, ich weiß, Journalismus hat seinen Wert, Demokratie aber auch!

Jedenfalls fand ich die Schlussfolgerungen von Martin Rücker bei Riffreporter nachvollziehbar, der das RKI und die Journalist*innen für ihren pikierten Umgang mit diesen Files kritisiert. Er fragt, warum erst die Verschwörungsheinis die Akten freiklagen mussten und hofft, dass in Zukunft Transparenz und ein offener Umgang mit eignen Fehlern für mehr Vertrauen sorgen werde.

Ebenfalls diese Woche rammte ein großes Containerschiff die Francis Scott Key Bridge in Baltimore, die daraufhin in sich zusammenstürzte. Wer die Serie The Wire gesehen hat, hat eine Ahnung davon, welchen zentralen wirtschaftlichen Stellenwert der Hafen in der eh schon vergleichsweise armen Stadt hat und dieser Hafen wird jetzt über Jahre nicht nutzbar sein. Die ganze Stadt droht jetzt in Armut zu versinken, es ist eine Tragödie.

Das Baltimore-Desaster hat aber auch ein Scheinwerferlicht auf eine andere Krisenregion geworfen: X. Vox hat einen zusammenfassenden Artikel darüber, wie sofort die beknacktesten und rassistischsten Verschwörungstakes viral gingen und der Dienst für seriöse Informationssuche zu keinem Moment zu gebrauchen war (im Gegensatz zu früher, als die dümmsten Takes immerhin noch ein paar Stunden auf sich warten ließen).

Der Medienwissenschaftler Mike Caulfield hatte bereits vor einiger Zeit eine interessante Theorie aufgeschrieben, die sowohl auf die RKI-Files, als auch auf die abstrusen Baltimoretakes passt. Argumentieren, so Caulfield, sei eine Art genereller Trieb des Menschen und dabei gehe es gar nicht darum, den anderen zu überzeugen, sondern die eigene Position als „reasonable“ zu verteidigen.

Seit dem Internet haben Debatten aber die Eigenschaft nie zu Ende zu gehen und so hätten auch die jeweiligen Diskursteilnehmer*innen nie aufgehört nach Evidenzversatzstücken zu graben. Ob eine Debatte „offen“ sei oder nicht, bestimmt dabei nicht, wie viele und wie starke wissenschaftliche Beweise es für die eine oder andere Seite gebe, sondern nur, ob die Seiten aufhören zu diskutieren. Deswegen sind die RKI-Files so ein gefundenes Fressen für die Verschwörungsloonies, denn darin finden sich wieder endlos viele Sätze über Masken, Gefahreneinschätzungen und Impfungen, die sie triumphierend als Puzzelteile ihrer Weltsicht hochalten können.

Caulfield schließt, dass sich in unserer heutigen, zunehmend polarisierten Internetsituation jede Nachricht und jede Information sofort zum „Beweis“ für die eine oder andere Seite der ein oder anderen Debatte erklärt wird. Alles ist jetzt Evidenz.

Part of what is happening is this — because open arguments must be advanced or maintained at all times, anything that happens must be read in terms of its use in advancing the pertinent open arguments. Everything is grist for the argument mill.

Ich fürchte, das bedeutet, dass keine Debatte jemals „geklärt“ ist und dass am Ende diejenigen gewinnen, deren intrinsische Motivation für die „Beweissuche“ am längsten anhält? Und das bedeutet leider auch, dass Transparenz einfach keine Lösung für dieses Problem ist, denn Transparenz bedeutet in der Realität nur immer mehr „Beweise“ und damit ein Sich-weiter-drehen der Debattenspirale.

Das hat aber in zweiter Ableitung noch den Chilling-Effect, dass jetzt alle vernünftigen Leute öffentlich nur noch auf Eierschalen gehen, weil sie ständig Angst haben, den Trottels Munition zu liefern. Das erklärt auch das awkwarde Handling der Files durch das RKI und die Journalist*innen, aber wie man an der entgleisten Debatte erkennt, ist keine Transparenz halt auch keine Lösung. *Seufz*

Johnathan Haidts neues Buch, The Anxious Generation, das behauptet, die zunehmenden psychischen Störungen unter Jugendlichen seien vor allem Social Media induziert, macht gerade überall die Runde, und ich muss ehrlich sagen, dass ich weiterhin nicht überzeugt bin. Mit Caulfield könnte ich hier selbstkritisch einwenden, dass ich vor langer Zeit (kennt noch wer Manfred Spitzer?) auf der anderen Seite dieser Debatte gelandet bin und seitdem nach Argumenten gegen diese These suche. Allerdings macht es mir Haidt auch einfach und so ich kann ich mich fürs erste an dieser Rezension von Candice L. Odgers in Nature festhalten. Sie ist Psychologin an der Universität von Kalifornien und im Gegensatz zu Haidt tatsächlich Spezialistin auf diesem Gebiet und sagt, dass die Forschung Haidts These nicht stütze. HIER! DA! Beweis! HAHA!

Meredith Whittaker meldet sich lesenswert zu dem drohenden Tiktok-Verbot in den USA zu Wort. Ja, Tiktoks potentielle Propagandapower sei gefährlich, aber als CEO von Signal habe sie einen globaleren Blick auf die Plattformlandschaft und da sehe sie derzeit die größere Gefahr in der Tech-Hegemonie der USA. Es sei ja nicht so, als habe die USA nicht auch Interessen, die sie über die hiesigen Plattformen versuche, in die Weltöffentlichkeit zu drücken. Als Beispiel nennt sie den Druck, den die amerikanische Politik hinsichtlich der Berichterstattung über den Gaza-Krieg ausübe und den sie auch als den wesentlichen Motivationsfaktor für das Tiktokverbot identifiziert.

Am Ende sei allen diesen Plattformen zu mißtrauen, aber ihr sei es lieber, wenn dann wenigstens eine gewisse Pluralität der Propagandaregimes existiere.

Or, to oversimplify for the sake of explanation, one platform may suppress pro-Palestinian speech, and another may suppress documentation of Uyghur genocide, but together they could provide access to both.

Ich finde ihren Punkt fair, insbesondere, wenn man dabei eine mögliche zweite (und damit endgültige?) Trumppräsidentschaft in Betracht zieht.

Die Website „New Extractivism“ versucht den Prozess der Extraktion bei digitalen Plattformen im Detail nachvollziehbar zu machen und ist in vielerlei Hinsicht wirklich gelungen. Der Netztheoretiker Vladen Joler verknüpft dabei seine Theorie der Plattformen mit einer ansprechenden grafischen Aufbereitung, die die einzelnen Mechanismen in metaphorische Bilder einfängt und sie zu einem komplexen Gesamtsystem verbindet.

Ich finde das Gesamtkonzept beeindruckend, auch wenn ich inhaltlich manche Dinge anders sehe. Ich bin zum Beispiel überhaupt kein Fan von Zuboffs Konzept des „Behavioral Surplus“ (Soo viele Probleme, aber allein schon die Frage wo genau Mehrwert entsteht, wenn Nutzer*innen dazu bewegt werden, ihr Geld für x statt für y auszugeben?). Ein bisschen ähnlich geht es mir auch mit vielen anderen Elementen des Systems. Die meisten Narrative sind bereits bekannt und Joler steckt sie gewissermaßen nur zu einem Gesamtgefüge zusammen, aber ich schätze, ähnliches könnte man durchaus auch über die Macht der Plattformen sagen und wahrscheinlich bin ich nur neidisch: ja, fuck, ich will auch so Grafikkram für die Macht der Plattformen!

Eine ebenfalls spannende grafische Aufarbeitung ist Models all the Way Down, aber statt schnöde Theorie aufzubuzzen steckt dahinter eine handfeste Recherche zu KI-Trainigsdaten. Das Team von „Knowing Machines“ hat sich dafür in die Untiefen des Bild-Trainingssets LAION-5B versenkt und sich auch die Methoden und Tools zur Erstellung dieses Sets genauer angeschaut und dabei einige wirklich spannende Erkenntnisse zutage gefördert. Z.B. dass die Trainingsdaten-Bilder, einfach weil es so unfassbar viele sind, selbst durch KI-Modelle kuratiert werden. Von KIs, die wiederum an Daten trainiert wurden, die von Menschen ausgewählt wurden usw. KI wird immer mehr zum Briefkastenfirma-Scheme, wo hinter der KI eine weitere KI und hinter der eine weitere KI steht, die sich alle ihre Biases weitervererben. Am Ende kommt raus, dass ein Subset von LAION-5B, LAION-Aesthetics, durch eine KI zusammengestellt wurde, deren „Geschmack“ anhand der Präferenzen einer Handvoll Nerds aus einem spezifischen KI-Bildgenerierungs-Discord trainiert wurde und genau dieses LAION-Aesthetics-Set ist jetzt die Fine-Tuning-Grundlage von Midjourney.

The concepts of what is and isn’t visually appealing can be influenced in outsized ways by the tastes of a very small group of individuals, and the processes that are chosen by dataset creators to curate the datasets.

In the case of Midjourney, by a handful of esoteric nerds, and by a 65-year old mechanical engineer living in Southeastern Wisconsin.

Die Washington Post hatte letztes Jahr etwas ähnliches (aber nicht so tiefgreifendes) mit den Textdaten eines Googlesets gemacht. Solche Recherchen sind super wertvoll, weil das Verhalten, das „Weltbild“ und der Stil von KI-Modellen eben nicht in der Software, sondern in Trainingssets steckt, was sie zu einem zentralen Ort der Politik macht.

Ich höre den Decoder Podcast von Nilay Patel, dem Chefredakteur von The Verge noch gar nicht so lange, aber er ist wirklich eine gernerelle Empfehlung. Diese Woche war Jay Graber, die CEO von Bluesky zu Gast und ich habe wirklich viel gelernt. Besonders spannend fand ich, als die beiden über die Mastodonkultur sprachen.

„This was, as I mentioned, one of the reasons that we didn’t try to get ActivityPub to change toward the direction of what we wanted to build because not just the technical primitives being different, there’s also this culture of resistance to global feeds and global algorithms.“

Ich bin noch nicht davon überzeugt, dass Bluesky das Rennen macht, aber ich muss sagen: She has a point? Derzeit scheint Mastodons größtes Problem seine Kultur zu sein. Es gibt so viele Leute, die keinen Fuß mehr auf Mastodon setzen, wegen der nerdigen Besserwisser-Replyguy-Kultur und Entwickler*innen sind abgeschreckt von der Feindseligkeit der Community bezüglich jeder Weiterentwicklung, die Mastodon aus der Nische herausführen könnte. Egal, ob globale Suche, BlueSky-Bridge oder seit neustem die Öffnung zu Threads – man will einfach gerne unter sich bleiben und deswegen mieft es dort zunehmend wie in einer runtergekommenen Eckkneipe mit Schultheiss vom Fass. Jungs, macht mal das Fenster auf Kipp!

Dieser Artikel bei Technology Review versucht der Frage nachzugehen, die ich ebenfalls bei Large Language Models am spannendsten finde, nämlich, warum die Dinger überhaupt funktionieren. Leider bietet er keine Antwort auf die Frage, außer, dass die KI-Wissenschaftler*innen auch nur an den vielen zur Verfügung stehenden Reglern drehen, bis die Antworten irgendwie gut aussehen. Famously dargestellt von XKCD.

Ein paar spannende Phänomene werden dennoch besprochen: Overfitting und Double Descent, inklusive der (umstrittenen) These, dass beides zusammenhängt.

Ich glaube aber, dass die Antworten in der Statistik zu Suchen ein ähnlicher Kategorienfehler ist, wie Zellteilung anhand von atomarem Elektromagnetismus erklären zu wollen. Ja natürlich ist das alles auch Physik, aber für Erklärungen ist es schlicht der falsche Layer? Ich persönlich glaube tatsächlich, dass in LLMs emergente Phänomene passieren, die im Kern zwar statistisch, aber mit dem statistischen Begriffsapparat nicht zu fassen sind.

Ich mag zum Beispiel die Erklärungen von Timothy Lee und Sean Trott in diesem LLM-Explainer, die sich an vielen Stellen auf durch Forschung informierte „educated Guesses“ beziehen, dadurch zwar spekulativer aber auch erkenntnisreicher sind.

Ich mein, hey. Niemand weiß wirklich, was da in den hunderten von Milliarden von Parametern geschieht also was soll die Zurückhaltung? In den 1970er Jahren hätte jeder französische Philosoph schon fünf Bücher darüber geschrieben!

Steven Levy, das alte Tech-Reporter Schlachtross, traut sich aus der Deckung und widerspricht den Stimmen, die in generativer KI nur einen Hype sehen. Sein wesentliches Argument ist, dass die Technologie einen anhaltenden Adaptionsschub im Arbeitskontext erlebe – von 12 auf 20% innerhalb der letzten 6 Monate laut PEW Studie. Er vergleicht die Einführung von generativer KI mit der Einführung von Spreadsheets Anfang der 1980er Jahre, was die Weltwirtschaft bekanntlich nachhaltig veränderte, deren Adaption aber viel langsamer verlief.

Ich merke immer mehr, dass ich mich in Sachen KI in einer tricky diskursiven Position befinde. Ich glaube, die Technologie ist des Teufels und wir sollten morgen mit Panzern ins Silicon Valley einfahren und alle festnehmen, aber gleichzeitig glaube ich weder an den AGI-Doomerism, noch daran, dass das alles nur überhyptes Geschnatter von stochastischen Papageien ist. Die Technologie als Technologie ernst zu nehmen und gleichzeitig ihre Auswirkungen auf die Gesellschaft zu befürchten, scheint irgendwie kein richtiges Camp innerhalb dieser Technologiedebatte zu sein?

Ich mein, wenn Steven Levy recht hat und man alleine die Unfälle, die Excel verursacht hat zur Grundlage nimmt, können wir uns auf Einiges gefasst machen.

Ok, gut. Ein Artikel in der traditionell eher linken „The Nation“ von Sage Cammers-Goodwin und Rosalie Waelen geht in eine ähnliche Stoßrichtung in die ich auch denke, bleibt aber analytisch eher an der Oberfläche. Trotzdem wurde der Artikel sofort wegen seinen „Anthromorphismen“ zerrissen.

Deswegen hier vier Gründe, warum ich Anthropomorphisierung von generativer KI OK und manchmal sogar gut finde:

• Ich halte die Gefahren der „Antromorphisierung“ für übertrieben. Natürlich besteht die Gefahr, aber die Leute, die das tun (sich zum Beispiel in Chatbots verlieben und ihnen ein Bewusstsein zuschreiben) sind selten die Leute, die kritische Texte dazu lesen. Daher frage ich mich, für wen die Warnung gut sein soll?
• Die Leute, die immer laut rufen, dass LLMs nicht „Denken“, „Verstehen“, „Sprechen“ oder „Übersetzen“ können, wirken immer so, als wüssten sie ganz genau, was diese Begriffe bedeuten. Das wissen sie aber genauso wenig, wie der Rest von uns, was mich zu der These veranlasst, dass es hier um identitätspolitisches Abrgrenzungsgehabe geht. Anthropozentrische Identitätspolitik is a thing now, I guess? (PS: Ich habe mich in dem Böckler-Paper zu LLMS auch mit der Frage befasst, ob LLMs verstehen. tl;dr: its complicated)
• Es wird außerdem immer so getan, als würde man implizit davon ausgehen, dass „Verstehen“ bei LLMs haargenau den Prozesse im menschlichen Gehirn entsprechen müsse, was natürlich quatsch ist. Es gibt offenbar eine gewisse, funktionale Äquivalenz, obwohl ebenfalls offensichtlich ist, dass eine LLM zB kein Bewusstsein hat. Aber deswegen darauf zu bestehen, dass, was immer in den LLMs passiert kein „Verstehen“ sei, würde auch bedeuten, dass Flugzeuge keine Flügel haben, weil die Flugmechanik bei Vögeln ja ganz anders funktioniert.
• Darüber hinaus finde ich „Antropomorphisierungen“ von KI durchaus hilfreich und empfehle das sogar. Die Dinger reagieren nun mal in vielerlei Hinsicht eher wie Menschen als Computer und es macht durchaus Sinn, ihre Aussagen zum Beispiel eher wie die des super selbtbewussten aber häufig bullshittenden Arbeitskollegen zu behandeln, als die von, sagen wir, einer wissenschaftlichen Datenbank.

Der Historiker Adam Tooze hat in seinem Newsletter einen längeren Essay über die Hintergründe von Merkels berühmter „Israels Sicherheit ist deutsche Staatsraison“-Rede geschrieben, die bis heute die politischen Beziehungen zu Israel bestimmt. Die wichtigste Erkenntnis: der Satz fiel in einem Kontext, der sich gar nicht auf die Unabhängigkeitsbestrebungen der Palästinener als Sicherheitsrisiko bezog, sondern auf den Iran, dessen angestrebtes Atomprogramm damals im Zentrum globaler Aufmerksamkeit stand. Außerdem war die Rede nicht nur Rhetorik, sondern durch die Lieferung mehrerer atomwaffenbestückbarer U-Boote aus deutschen Werften untermauert.

Die Rede muss, mit ihrer klaren Referenz auf das vordemokratisches Konzept der Staatsraison auch als Ankündigung eines „Eliten-Projekts“ verstanden werden, das sich noch heute im Topdown Umgang der Bundesregierung mit dem Gazakrieg zeige, so Tooze:

„But what Merkel was saying before the Knesset in 2008 was precisely this: the Federal Republic’s commitment to Israel does not depend on fickle democratic mandates or public opinion on the German side. It is a deeper principle, if necessary to be defended, argued for and insisted upon in the face of an unwilling German public. Indeed, in front of the Knesset, Merkel explicitly defined the task of German democratic leadership as cleaving to Israel even in the face of public opinion polls that revealed a groundswell of German attitudes that were far more skeptical about Israel and Germany’s historical obligation.“

Das ist wieder so eine Passage, bei der ich sofort schlucken musste, denn natürlich kann ich mir denken, wie solche Sätze von Verschwörungstheoretiker*innen gefeiert werden. Aber ich bin es leid, mich ständig an der Beweisaufnahme-Motivation von Spinnern zu orientieren. Die Dinge sind, wie sie sind, lasst sie uns diskutieren und die Schwurbler werden dann einfach geblockt.

RealLiveLore hat einmal die wechselhafte Geschichte der afrikanischen Sahelzone aufgearbeitet, unter anderem weil es derzeit einer der Hauptgründe für das gesteigerte Säbelrasseln der Franzosen gegenüber Russland ist.

RealLiveLore ist durchaus sehr russlandkritisch und hat bereits viele sehenswerte Videos zum Urkainkrieg gemacht und dennoch kann man sich in diesem Video des Eindrucks nicht erwehren, dass die Russen gar nicht so viel schlimmer als die Franzosen sein können. Die brutale, verbrecherische Herrschaft Frankreichs über die Region erklärt gut, warum die Menschen dort keine Lust mehr auf Europäer haben. Mir war allerdings auch die anhaltende Ausbeutungsstruktur über die CFA-Franc-Währung gar nicht bewusst, die die Staaten dort immer noch in einem extraktiven Abhängigkeitsverhältnis von Frankreich hält und die die Menschen dort verständlicher Weise abzuschütteln versuchen.

Wenn man zwischen französischer Ausbeutung, eiserner Diktatur und dem Horror von ISIS lebt, wirken die brutalen Wagner-Söldner wahrscheinlich plötzlich gar nicht mehr so schlimm? Jedenfalls ist es wahrscheinlich, dass die Spannungen zwischen Russland und Frankreich noch eskalieren könnten, spätestens, wenn die Uranlieferungen aus dem Niger bedroht sind.

Die Woche Endet mit der Entdeckung einer Hintertür in einem der wichtigsten Sysadmin-Tools überhaupt: OpenSSH. In diesem Text wird ganz gut beschrieben, was wohl vorgefallen ist: Anscheinend wurde eine der kleineren Bibliotheken namens „xz“, die in OpenSSH eingebunden ist, von jemand betreut, der schon länger gesundheitliche Probleme hatte und der übertrug die Verantwortung nur zu gerne an einen anderen Open Source Maintainer namens „Jia Tan“. Über diese Person ist wenig bis gar nichts herauszufinden, aber seine Commits schienen wohl OK genug gewesen zu sein? Jedenfalls war er es, der in einer der letzten Versionen eine gut versteckte Hintertür einbaute, was jetzt ein Security Nightmare für alle Serverbetreiber*innen weltweit ist.

Es wird natürlich wild herumspekuliert, was genau passiert ist. Steckt hinter „Jia Tan“ ein Geheimdienst? Wenn ja, welcher? Die Tatsache, dass Tan sich so fließend in den Gepflogenheiten der Open Source Community auskennt, könnte außerdem darauf hindeuten, dass er wohl schon länger und zu noch mehr Projekten beiträgt? Welchen?? Und die Tatsache, dass die Hintertür nur wegen eines kleineren Bugs im Code (der zu einem kleinen Laufzeitdelay führte) gefunden wurde, führt zu der bangen Frage, was uns noch alles so entgeht …

Nur weil alles voller Verschwörungstheoretiker*innen ist, heißt das nicht, dass nicht überall die Verschwörung lauert!!

Es wird immer schwieriger durch den undurchdringlicheren Wust von Meinungen und Debattenformationen zu navigieren und natürlich kann man dabei nur scheitern. Aber ich komme immer mehr zu der Ansicht, dass es nichts bringt, sich ständig daran zu orientieren, was tribalistische Debattenkrieger oder einfältige und/oder böswillige Spinner mit dieser oder jener Information oder Meinung tun werden. Die werden sowieso nicht aufhören, ihre Seite mit Bullshit-Evidenz aufzupumpen, also scheint mir die Strategie, mit eigenen halbgaren, aber aufrichtigen Takes dagegen zu halten zumindest nicht allzu … schädlich?

Willkommen bei Krasse Links No. 8. Macht es euch bequem und holt die Butterstulle raus. In der heutigen Ausgabe machen wir zusammen mit KI eine Vergnügungsfahrt entlang der Abgründe der Silicon Valley Ideologien.

Anfang der Woche wurde endlich das Interview von Don Lemon mit Elon Musk ausgestrahlt und um es ultrakurz zusammenzufassen: Musk is extremely unwell. Es gäbe tausend Dinge zu sagen (bei Hakendran gibt es eine gute Besprechung), aber ich will nur einen Aspekt herausgreifen: Musk glaubt, dass die Sicherheit von Flugzeugen und von ärztlichen Behandlungen (und allem anderen) durch Anstrengungen in Sachen Diversity (DEI) unterminiert wird und er lässt sich von noch so vielen Studien nicht vom Gegenteil überzeugen, unter anderem weil seine Replyguys auf X das Gegenteil behaupten, aber eigentlich, weil die Idee biologisch bedingter Kompetenzunterschiede tief in sein Denken eingelassen ist.

Das Valley hat nicht erst seit dem KI-Hype eine Obsession mit Intelligenz. James Damore berühmt berüchtigtes Memo bei Google, das behauptete, die Hürden für Frauen in der Techbranche seien biologisch bedingte Kompetenzunterschiede, war nur der erste öffentlich wahrnehmbare Rülpser dieses Denkens. Bereits lange davor hatte sich in der sogenannten „Rationalist-Community“ ein Denkkonzept namens „Race-Realism“ entwickelt, was im Kern der alte, normale Rassismus ist, aber mit Fußnoten. Schon die klassische Intelligenzforschung ist aus der Eugenetik entsprungen, hatte als Scientific Racism eine Renaissance 1980ern mit dem Buch The Bell Curve und spukt bis heute in den Gehirnen von Thilo Sarrazin bis Elon Musk bis herum.

Motherjones hat eine gute Zusammenfassung von Musks Historie zur Verbreitung von neo-eugenetischen Rassentheorien auf X – hier zugehörige das Video von Garrison Hayes.

“Musk is amplifying users who will incorporate cherry-picked data and misleading graphs into their argument as to why people of European descent are biologically superior, showing how fringe accounts, like user @eyeslasho, experience a drastic jump in followers after Musk shares their tweets. The @eyeslasho account has even thanked Musk for raising “awareness” in a thread last year. (Neither @eyeslasho nor Musk, via X, responded to Garrison’s request for an interview.)“

Musk hat seit der Übernahme von Twitter hart daran gearbeitet, diese Ideen in die Welt zu tragen und kann jetzt mit einigem Recht als der reichweitenstärkste „White Nationalist“ der Welt gelten. Musk hat immer wieder klar gemacht, dass er bereit ist, viele Milliarden Dollar in X zu versenken, um die Plattform zu einem zentralen Verbreitungsmedium genau dieser Ideologie umzufunktionieren.

Leute auf X sagen oft immer noch „Twitter“ zu dem Dienst und glauben Musk damit irgendwie zu ärgern, dabei ist das eher ein Teil ihrer eigenen Verdrängungsstrategie. Sie können nicht akzeptieren, dass Twitter aufgehört hat zu existieren und sie ihre Witzchen jetzt auf einer Nazipropagandawaffe veröffentlichen.

Die Politikwissenschaftlerin Jennifer D. Sciubba war bei Ezra Klein, um über den globalen Demographischen Wandel zu sprechen. Klein leitet damit ein, dass der „Population Collaps“ eines der Hauptsorgen in Silicon Valley Kreisen ist und in dem Interview mit Sciubba wird deutlich warum: Die demographische Entwicklung verläuft nämlich nicht im Gleichschritt, sondern die Geburtenrate in den Regionen unterscheidet sich enorm. Während europäische und asiatische Länder teils schon lange unterhalb der Reproduktionsgrenze von 2,2 Kindern liegen, gibt es Regionen in Afrika immer noch durchschnittliche Geburtenraten jenseits von 5 Kinder haben. Das bedeutet, dass sich die Weltbevölkerung nicht nur auf ihren Peak zubewegt, sondern sich gleichzeitig in ihrer ethnische Zusammensetzung ändert.

Niemand promotet den „Population Collaps“ lauter als Elon Musk. Schon 2019 hatte er auf eine KI-Konferenz gesagt:

„Assuming there is a benevolent future with AI, I think the biggest problem the world will face in 20 years is population collapse,”

2022 bezeichnete er den Population Collaps als ein größeres Problem als den Klimawandel. Musk steckt außerdem Millionensummen in Forschung zu dem Thema, die ihm aber trotzdem nicht recht geben will. Musk ist außerdem ein Pro-Natalist und hat 11 Kinder mit drei Frauen.

Doch Musks vorgebliche Sorge vor dem „Population Collaps“ ist nur eine ziemlich durchsichtige Front für seine eigentliche Angst, nämlich vor der Veränderung der Zusammensetzung der Weltbevölkerung, denn das bedeutet in der Denkart von Musk gleichzeitig eine Minderung der Weltdurchschnittsintelligenz, was für ihn und vielen anderen im Silicon Valley einer Menschheitskatastrophe gleichkommt.

Um das zu verstehen, muss man den Kern der Ideologie des Effektive Altruism und des daran verkoppelten „Longtermism“ verstehen, dem nicht nur Elon Musk sich zugehörig fühlt, sondern ein Großteil der Silicon Valley Elite. Longtermists glauben, dass der Menschheit eine wunderbare Zukunft bevorsteht, wenn in einigen Hundert Jahren Dröfzigtrilliarden Seelen (simuliert oder biologisch ist egal) das Universum bevölkern, weil das ja klar ist. Ihre Ethik besagt nun, dass jede Handlung, die dieser Zukunft zuträglich ist, milliarden mal viel ethischer ist, als – idk – Menschen im hier und jetzt zu helfen. Mit anderen Worten, das viele Geld das die Techbros verdienen, ist bei ihnen selbst und ihresgleichen viel ethischer angelegt, solange sie zum Beispiel super hart über Dinge wie „AI Safety“ nachdenken.

Longtermism ist durch seine Bevölkerungsprojektion im Kern eugenetisch, denn in dem Weltbild ist Intelligenz gleichzeitig das Ziel, wie auch der Weg zum Ziel. Daher sind tatsächliche Katastrophen wie der Klimawandel, die Millionen, vielleicht sogar Milliarden Menschen das Leben kosten, durchaus hinehmbar (manche würden sie hinter vorgehaltener Hand sogar begrüßen, da „natürliche Auslese“). Aber eine Reduzierung des Welt-IQs durch Verschiebung der ethnischen Zusammensetzung der Weltbevölkerung vermindert die Chance auf das Trilliardenreich in der Zukunft und ist somit eine SÜNDE!!!11

Seit Musk die Maske fallen gelassen hat und auf X offen die „Great Replacement“ Verschwörungstheorie promotet, muss man gar nicht mehr so tief im ideologischen Keller graben, um zu verstehen, dass er ein Nazi ist, aber es hilft, um zu verstehen, welche Art von Nazi er ist.

Um den Schwachsinn aber nicht so ungechallenged stehen zu lassen, sei an dieser Stelle Theresa Bückers neuer Newsletter empfohlen, in dem sie unter anderem aufbereitet, wie der Rückgang der Geburtenraten und das veraltete Rollenbild von Männern zusammenhängen.

Ein spannendes Paper hat sich den Content auf 120 Facebook-Pages angeschaut, die mindestens 50 KI generierte Inhalte verbreitet hatten und von denen nicht wenige viral gingen. Unter anderem der oben gezeigte Shrimp-Jesus. Das, was da passiert wirkt für normale Menschen ziemlich Random aber die Forscher*innen geben auch ein Rational für den Erfolg dieser Bilder:

„You perhaps feel motivated to share it with your friends, so that they can share in your WTF moment.“

Ryan Broderick hatte zudem darauf aufmerksam gemacht, dass christlicher Content auf Facebook auch deswegen häufig viral geht, weil Christen gerne reflexartig „Amen“ unter jede Jesusdarstellungen kommentieren.

„You get people to say “Amen,” underneath a post, the post gets recommended to others, who say “Amen,” as well, etc. This is especially powerful on the platform right now because as news has been deprioritized on the platform, a lot more religious content has bubbled to the surface. This is why one the largest publishers on the site for the last six months has been a website literally just called catholicfundamentalism.com. it’s getting more engagement on Facebook, according to Newswhip, than, literally, every other publisher on Earth.“

Roland Meyer sieht darin sogar die mögliche Geburtsstunde eines neuen Kultes.

Ich für meinen Teil glaube allerdings, dass es sinnvoller ist, ganz anders über dieses und ähnliche Phänomene nachzudenken:

Zunächst stell Dir einen Raum mit allen denkbaren Bildern vor, also praktisch einen unendlichen Space, bei dem 99,99999,etc % aller Bilder aus undifferenziertem Rauschen bestehen (für Kulturmenschen: Think Borges’ Bibliothek von Babel).

Als nächstes stelle Dir alle tatsächlich existierenden Bilder als Subset dieses unendlichen Möglichkeitsraumes vor. Auch dieser Space ist ziemlich groß, immerhin enthält er von der Mona Lisa bis zur Buntstiftzeichnung deines dreijährigen Neffen alle tatsächlich realisierten Bilder der Welt. Und doch ist dieser Space innerhalb des Möglichkeitsraums verschwindend klein, vergleichbar etwa mit der Erde innerhalb der Universums. Als nächstes fällt dir auf, dass die existierenden Bilder sich nicht random über den Möglichkeitsraum verteilen, sondern dass sie alle miteinander auf vielfältige Arten zu einem vieldimensionalen Netzwerk verbunden sind. Alle Bilder haben Dinge mit anderen Bildern gemeinsam (dargestellte Objekte, Stile, Perspektiven, Farbspektren, etc.) und verweisen so aufeinander, sind miteinander verbunden. Gemeinsam bilden sie also eine Art struppiges aber zusammenhängendes „Gewächs“ innerhalb des Möglichkeitsraums.

In der Informatik nennt man dieses Gewächs einen „Search Tree“, denn, wenn alle Bilder über unterschiedliche Features aufeinander verweisen, kann man von einem Bild aus andere Bilder finden, indem man entlang der Vektoren des Netzwerkes Elemente, Stile, Farben, Objekte, etc. variiert. Wann immer dein Neffe den Buntstift in die Hand nimmt, wann immer Du ein Foto schießt, wann immer ein Maler malt oder Midjourney generiert, kann das als Suchbewegungsschritt am Rande des Search-Trees im Möglichkeitsraum aller Bildern verstanden werden.

Die Bilder, die bei diesen Suchoperationen herausfallen sind mal mehr oder mal weniger fähig, auf Social Media viral zu gehen – und das ist die Suchfunktion der Algo-Hustler auf Facebook, die den Shrimp Jesus entdeckt haben.

Algo-Hustler gibt es, seit es algorithmische Timelines gibt, aber mit generativer KI haben sie ein ganz neues Werkzeug, um den Raum der möglichen Bilder automatisiert abzutasten und die Ergebnisse per Trial&Error auf ihr virales Potential zu testen.

Sorry, für die längliche Erklärung, aber ich denke, diese Art über das Phänomen nachzudenken hilft zu verstehen, wo die Reise hingeht. Zunehmend viele, zunehmend mächtige generative KIs werden in immer größerer Geschwindigkeit und Präzision den Möglichkeitsraum der Bildern ausmappen und uns die Resultate an den Kopf werfen, bis irgendwas viral geht und die Hustler Geld mit Werbeeinblendungen machen können. Und wenn das nur bei jedem Millionsten Bild klappt – so what? Ist halt ein Geschäftsmodell.

Kontrastreicher zum Muskinterview könnte das Interview mit Sam Altman bei Lex Fridman gar nicht sein. Da sitzt ein sehr aufgräumter, fast bescheiden wirkender CEO, der seine Vision von AGI teilt und nebenbei über den Streit mit Musk spricht. Lex Fridman und er reden über Musk, wie von einem Toten („Ich vermisse den alten Elon“).

Aber man sollte sich keinen Illusionen hingeben. Altmans Visionen von der Zukunft sind keinen Deut weniger faschistisch als die von Musk.

Ein Thema der Unterhaltung ist natürlich AGI (Artificial General Intelligence), ein ziemlich fuzzy Konzept, das den Meilenstein markieren soll, wenn KI kompetenzmäßig in etwa auf Augenhöhe mit Menschen agiert, was das erklärte Ziel nicht nur von OpenAI, sondern so ziemlich allen relevanten KI-Startups und -Konzernabteilungen ist.

Versucht man sich AGI vorzustellen, dann denkt man an ein Computer der super kluge Antworten auf super schwierige Probleme findet und auch Altman schürt diese Erwartung, wenn er sagt:

„I think when a system can significantly increase the rate of scientific discovery in the world, that’s a huge deal. I believe that most real economic growth comes from scientific and technological progress.“

Das klingt toll. Ein Computer, der uns Lichtjahre an wissenschaftlichem Fortschritt beschert! Aber ich denke, diese Vorstellung sollten wir zunächst beiseite schieben und uns lieber die offzielle Definition von AGI in der OpenAI Charta anschauen, die da lautet:

„highly autonomous systems that outperform humans at most economically valuable work“

Diese Definition erlaubt einen Einblick in das Silicon Valley-Denken, das Einkommen als objektiv messbaren Proxy für Intelligenz hernimmt, was natürlich ein willkommenes Narrativ für die Tech-Milliardäre ist. Aber diese Definition vereist noch auf tiefere ideologische Schichten (neben der Eugenetik) der KI-Forschung.

Seit einiger Zeit hat sich vom Longtermism ein neuer Flavor in der TESCREAL-Melange abgespalten: E/acc, oder Effective Accelerationalism. Einfach erklärt: Während Longtermists größtenteils eine AGI-Zukunft begrüßen, aber zu enormer Vorsicht mahnen, sehen die Accelrationists es als eine Art unterlassene Hilfeleistung an, AGI nicht so schnell wie möglich aufzuwecken, um damit die Weltprobleme zu lösen. Sam Altman wird immer mal wieder der e/acc zugeordnet was einigen Interpretationen zufolge auch der eigentliche Konflikt um seinen CEO-Posten Ende letzten Jahres war.

E/acc erbt einige Anleihen beim ziemlich durchgeknallten britischen Cyberkapsper Nick Land, der schon in den 1990er Jahren eine gewisse Bekanntheit erlangte und dann immer mehr in die rechtsextreme Szene abgedriftet ist (Hier eine gute Einführung). In seiner aktuellen Variante basiert der Accelerationism allerdings mehr auf der physikalischen Beobachtung, dass jede Form von Leben darauf ausgerichtet ist, Energie für eigene Zwecke umzuwandeln und damit einhergehend die Entropie zu erhöhen. Daraus ergibt sich ein Weltbild, in dem die Erhöhung von Entropie durch ein System als Maßstab für dessen Erfolg gilt – ja, auch für den Erfolg von Gesellschaften. Wenn man einem e/acc KI-Heini also an den Kopf wirft, dass sein System unfassbar viel Energie verschleudert um – basically – nutzlose kulturelle Exkremente zu produzieren, wird er sich wahrscheinlich für das Kompliment bedanken.

In diesem Substack-Artikel werden die Glaubenssätze der Ideologie sehr konzise zusammengefasst (man beachte, wie Sam-Altman-Tweets den ganzen Artikel sprenkeln). Nebenei wird auch klar gemacht, dass der Kapitalismus selbst als eine Form von Intelligenz verstanden wird, der Bedingungslos zu gehorchen ist:

Capitalism is hence a form of intelligence; dynamically morphs the meta-meta-organism such that any sort of utility/energy in the environment is captured and utilized towards the maintenance and growth of civilization.

Weiter heißt es:

Effective accelerationism aims to follow the “will of the universe”: leaning into the thermodynamic bias towards futures with greater and smarter civilizations that are more effective at finding/extracting free energy from the universe and converting it to utility at grander and grander scales.

Und ganz im Ernst: wer würde es schon wagen, dem Universum zu widersprechen??

E/acc ist eine totalitäre Ideologie, die in ihrem Fortschrittsverständnis eine radikalisierte, quasireligiöse Form des Kapitalismus anbetet und alle seine negativen Effekte als unvermeidbare „Cost of Doing Business“ betrachtet. Der Planet und seine Bewohner sind im Zweifel die notwendigen Opfergaben an den Weltgeist.

Dass KI eine Bubble ist, geben sogar diejenigen zu, die grundsätzlich an die Nützlichkeit der Technologie glauben. Schon Ende letzten Jahres sinnierte Cory Doctorow darüber, welche Art von Bubble generative KI ist. Ist es eine, die nützliche Infrastruktur hinterlässt (wie die Techworker*innen nach der Dotcom-Bubble oder das Glasfasernetz von Worldcom), oder ist es eine Bubble, die nichts hinterlässt (wie Enron oder der Cryptohype)?

Doctorows wesentliches Argument ist dasselbe, das wir im Newsletter zur politischen Ökonomie von KI ebenfalls in das Zentrum rückten:

„AI decision support is potentially valuable to practitioners. Accountants might value an AI tool’s ability to draft a tax return. Radiologists might value the AI’s guess about whether an X-ray suggests a cancerous mass. But with AIs’ tendency to “hallucinate” and confabulate, there’s an increasing recognition that these AI judgments require a “human in the loop” to carefully review their judgments.“

Mit anderen Worten: Die „Value Proposition“ von KI, nämlich, den Menschen Arbeit abnehmen/wegnehmen, geht wegen Unzuverlässigkeit auf absehbare Zeit nicht auf, weswegen die Blase irgendwann platzen wird. Wie ich aber ebenfalls im Newsletter ausgeführt habe, gilt das aber nicht für alle Usecases und wie man oben an Shrimp Jesus sehen kann, sind die Automatisierungspotentiale für manche Anwendungsbereiche durchaus gegeben.

Kurz nach Veröffentlichung des Altman-Interviews wurde bekannt, dass OpenAI mit der kommenden Modellversion auch „Agents“ veröffentlichen wird. Agents sind Chatbots, die nicht einfach nur Texte kreieren, sondern autonom Ziele verfolgen können (ausführliche Erklärung). Wenn man ihnen zum Beispiel sagt: Buche eine Reise für zwei Personen irgendwo in der Sonne für wenig Geld, würden sie die Aufgabe in zu lösende Schritte einteilen und dann einen Task nach dem anderen abarbeiten, bis am Ende zwei Flugtickets plus Hotelbuchung herausfallen.

Auch das klingt ziemlich toll und einige sehen in solchen Systemen die Zukunft, aber mein Eindruck ist, dass auch hier noch sehr viel Zeit vergehen wird, bis man den immer noch notorisch unzuverlässigen KIs so relevante Entscheidungen anvertraut.

Was dagegen schnell passieren wird, ist, dass man Agents Geld in die Hand gibt, um Geld zu verdienen, denn hier sind die Risiken durchaus kalkulierbar. Die Experimente dazu laufen bereits auf Basis der aktuellen Modelle, aber um wirklich erfolgreich und autonom zu sein, sind sie offenbar noch nicht gut genug, was sich aber mit GPT-5 ändern könnte.

Im Gegensatz zu dem, was viele Menschen (auch außerhalb des Valleys) denken, braucht es zum Geldverdienen nicht sonderlich viel Intelligenz. Ich kenne die Spammer, die die Facebookpages mit Shrimp Jesus und Co betreiben nicht, aber ich habe keinen Grund davon auszugehen, dass es sich dabei um Genies handelt. Trotzdem denke ich, dass sie wahrscheinlich ganz gut an dem Quatsch verdienen? Sie spielen halt so rum, probieren Dinge aus und das klappt dann manchmal und das reicht doch schon. Der Reiz daran, KI-Agents zu haben, ist also nicht, dass man damit super schlauere Dinge machen kann, sondern dass man schneller und mehr dumme Dinge ausprobieren kann.

Stellt man sich den Möglichkeitsraum aller Tätigkeiten und darin den Search-Tree aller existierenden ökonomisch viablen Tätigkeiten vor, dann sind an dessen Rändern noch schier unendlich viele Arbitrage-Gelegenheiten zu finden, die man nun mit solchen Agents automatisiert ausmappen kann. Eine Möglichkeit solche Gelegenheiten zu finden, wäre zum Beispiel Agents ständig monitoren zu lassen, welche Produkte gerade irgendwie Hip oder viral sind (Pokemonkarten, Stanley Cup, Shrimp Jesus-Stauen, whatever) und dann sofort mit einem mediokren Ripoff oder Metoo-Produkt am Start zu sein. Solche Gelegenheiten zu finden, bekommen KIs sicher bald hin und Mockups zu generieren geht wahrscheinlich heute schon automatisiert. Die Produktion ist eine Herausforderung, aber in China gibt es bereits gute Infrastruktur dafür. Ein Dropshipping-Onlineshop aufzusetzen ist ebenfalls einfach und standardisiert und sogar die Werbeclips können demnächst KI-generiert werden.

Und wer jetzt sagt, dass das vielleicht an der einen oder anderen Stelle hakt, ok: dann schaut halt an diesen Stellen kurz ein Mensch drüber. Und wer jetzt sagt, dass solche Agents ja nicht alle ökonomisch erfolgreich sein werden. Ok: dann schicke ich 1000, 10.000 oder 100.000 von denen an die Arbeit und wenn 20 % der Agents erfolgreich sind, habe ich bereits ne Menge Geld verdient. Ist halt ein Numbersgame.

Schau. Ich weiß nicht ob und wann AGI wirklich kommt und was dann passiert. Aber ich bin mir ziemlich sicher, dass in weniger als fünf Jahren für jeden von uns etwa 1000 solche Agents existieren, die alle daran arbeiten uns irgendeinen sinnlosen Schrott anzudrehen. Und sie werden erfolgreicher sein, als wir denken.

Und ja, ich kann mir dann durchaus vorstellen, dass AGI in der Definition von OpenAI dann irgendwann greift: Wenn spammige Dropshipping-Schemes einen Großteil aller ökomomischen Aktivitäten ausmachen, ist sie ja quasi erfüllt. OpenAI wird dabei ein Plattformgeschäftsmodell betreiben und bei der Erhöhung des allgemeinen Rauschens kräftig mitverdienen.

David Karpf hat die interressante Theorie verbloggt, dass einige der hier geschilderten Phänomene durch das Aufpumpen der Vermögen der Superreichen durch das Quantitative Easing der Zentralbanken während der Coronazeit ausgelöst worden sei. Vor Covid war Elon Musk 27 Milliarden Dollar schwer, nach Corona war er auf einmal dreistelliger Milliardär. Wie Musk ging es vielen Milliardären, vor allem Techmilliardären.

Nun kann man sich einen solchen Vermögensanhub nicht wie die eigene Gehahltserhöhung vorstellen, wo man sich plötzlich einen längeren Urlaub und die größere Karre leisten kann, sondern in diesen Dimensionen verändert das zusätzliche Geld quasi die Schwerkraftverhältnisse im Gesamtsystem der Ökonomie. Karpf vergleicht das mit dem Einfluss, den die Gravitation des Mondes auf die Erde hat. Vor dem Anhub der Vermögen war ein Abendteuer wie der Kauf für Twitter schlicht nicht plausibel, danach … naja, ihr kennt die Geschichte.

The primary story of the post-techlash years hasn’t been driven by new technologies or old companies. The primary story has just been the accumulation of astronomical capital in too few hands, and the comical, catastrophic ineptitude that has followed.

Schon vor der Pandemie hatten die Tech-Milliardäre einen Sprung in der Schüssel, aber jetzt haben die Geld- und Ideologieinduzierten Allmachtsphantasien jegliche Vorsicht, jeden Anstand, jegliche Rücksicht und jede Menschlichkeit aus ihrem Streben nach „Fortschritt“ eliminiert und sie sind immer offener bereit, das Internet, den Planeten und uns alle auf einem riesigen Scheiterhaufen der Entropie zu opfern.

Ab und zu höre ich den Geschichtspodcast der Rosaluxenburg-Stiftung „Rosalux History“ mit Anika Taschke und Albert Scharenberg. Die letzte Folge handelte vom Bauernkrieg, der eines der Ereignisse war, die das Ende des Mittelalters und den Beginn der Neuzeit markieren.

Der Bauernkrieg wurde unter anderem von den immer gieriger werdenden Adel und Klerus ausgelöst, die ihre Machtposition in der Gesellschaft immer unverhohlener ausnutzten, um das durch die Pest dezimierte Volk auszubeuten. Die Bauernkriege waren der erste große Aufstand gegenüber einem überflüssigen, wie ungerechtem System und gegen eine moralisch vollkommen verottete Elite. Es dauerte dann noch einige hundert Jahre, bis die Spinner endlich unter die Guillotine kamen und das System tatsächlich abgeschafft wurde und meine Hoffnung wäre, das wir nicht ganz so lange brauchen?

Willkommen bei Krasse Links No 7. Sag mal besser alle Deine Termine ab, denn diese Woche geht es um Schmerz, Identität und moralische Klarheit. Es wird sehr unangenehm und wenn Du Dich gerade nicht danach fühlst, leg den Newsletter besser weg und komm vielleicht später wieder.

Anfang der Woche sorgte das photogeshopte Foto von Kate Middelton für einen selten gewordenen Moment, bei dem die über viele Netzwerke verstreute digitale Öffentlichkeit wieder einen Main Character bekam.

Charly Warzel hat im Atlantic den besten Take dazu:

„The royal-photo debacle is merely a microcosm of our current moment, where trust in both governing institutions and gatekeeping organizations such as the mainstream press is low.“

Im Anschluss an den letzten Newsletter setze ich einen drauf und sage: die Realität ist broken. Es sind nicht nur die Institutionen, denen wir misstrauen, sondern alle unsere Streams sind suspekt geworden. Unsere digitale Umwelt wirkt zunehmend feindlich. Fake, KI, Propaganda, Photoshop, Bots, Sockenpuppe, Spam, Scam, Phishing, Desinformation, FUD, Einflussoperation, Verschwörungstheorie … – das 21. Jahrhundert kennt 141 Worte für Schnee, Tendenz steigend. Das Zeitalter des Rauschens beginnt nicht deswegen, weil wir plötzlich besser Bilder fälschen können, sondern, weil kein Unterschied mehr einen Unterschied macht, so dass wir kollektiv den Glauben an das Signal verlieren.

In einem Kommentar zu dem letzten Newsletter callte Sascha Lobo meinen „Kulturpessismus“ out und ich denke, das ist fair?

Seit ich in das Internet reinschreibe, habe ich mich immer als Technikoptimist verstanden und die Art, wie sich das geändert hat, ist es wert, einmal aufgeschrieben zu werden.

Die Macht der Plattformen hat einiges von dem, was gerade passiert, als Möglichkeit vorgedacht. Das Buch basiert auf der Erkenntnis, dass Plattformen in erster Linie Infrastrukturen der Macht sind. Ihr Agieren ist grundlegend kolonialistisch und sie streben daher sowohl nach konsolidierter Souveränität wie nach technischer, zunehmend auch nach kultureller und stellenweise sogar nach politischer Hegemonie. Im Buch theoretisiere ich sogar recht überzeugend, wie das alles für uns nur schief gehen kann, lange bevor „Enshittification“ ein geflügeltes Wort wurde.

Und dennoch war das Buch noch awkwardly grenz-optimistisch geschrieben?

Solange die Ereignisse innerhalb der Parameter des Gewohnten bleiben, sieht man keinen Grund den eingespielten Erwartungen zu misstrauen – manchmal wider besseren Wissens. Bis dann doch etwas passiert und man merkt, dass echte Erkenntnis nur über Schmerz zu haben ist. Erst wenn auf den intellektuellen auch der emotionale Erkenntnisschritt folgt, ist tiefgreifende Veränderung möglich.

Elon Musks Umwandlung von Twitter zur Kulturkriegswaffe zwang mich, meine intellektuellen Gespinste als bittere Realität zu durchleben und ich muss sagen, die emotionale Dimension verschiebt die Perspektive noch mal enorm. Würde ich die Macht der Plattformen heute schreiben, würde ich inhaltlich wahrscheinlich gar nicht so viel verändern, aber es bekäme definitiv einen anderen Sound.

Technikoptimismus ist jedoch nicht nur eine Haltung, sondern zumindest bei mir auch eine diskursive Identität (und ein Businessmodell?) und wenn man so lange mit einer Identität unterwegs war, ist es schwer sie aufzugeben; insbesondere, wenn man für sich noch keine Alternativhaltung gefunden hat.

Ich bin noch nicht fertig mit der Suche, aber ein wertvoller Anstoß war dieser Videoessay von Lewis Waller über die deutsche Romantik und ihren Impact auf das westliche Denken. Die Romantik entwickelte sich zwar in Opposition zum Fortschrittsdenken, war aber bei genauerer Betrachtung nicht fortschrittsfeindlich oder gar antiaufklärerisch. Sie ließ den Fortschrittsdiskurs allerdings durch einige dialektische Loops hüpfen, um ihn wieder an menschliche Erfahrungsdimensionen zurückzubinden.

Ich weiß ja auch noch nicht, wo mich das alles noch hinführt, aber auf eine ähnliche Weise versuche ich in diesem Newsletter eine emotionale Aufrichtigkeit in mein Denken über Technologie zu bringen und ich schätze, eines der Ziele dabei ist, die abstrakten und gesichtslosen Wirkzusammenhänge der digitalen Transformation wieder dem moralischen Empfinden zugänglich zu machen. Und wenn dabei Kulturpessimismus rausfällt, dann hoffentlich immerhin ein politischer?

Als ich neulich über diesen Skeet stolperte, machte er mich sofort nachdenklich und ich musste mir eingestehen: ja, auch mich hat die Covidzeit emotional beschädigt.

Ich glaube, es war um den Jahreswechsel 20/21, als die Deltawelle fast 80.000 Menschen in Deutschland das Leben kostete, weil Politiker*innen von der Wirtschaftslobby gedrängt wurden, Eindämmungsmaßnahmen monatelang zu verzögern. Da ging viel in mir kaputt, was bis heute nicht wieder heile ist, aber die Wut hat auch etwas in Gang gesetzt.

Ich schätze, wenn man einmal an dem Punkt gekommen ist, strukturelle Gewalt mit einer ähnlichen Empörung zu koppeln, wie direkte Gewalt, findet man aus der Wut nicht mehr raus. Jedenfalls kann ich mich seitdem nicht mehr nicht aufregen, wenn Systeme horrende Gewalt produzieren und alle so tun, als wäre das das Normalste der Welt.

Jonathon Porritts Warnung, dass der Mainstream-Klimakonsens zum neuen „Denialism“ zu werden droht, hat mich auf dem falschen Fuß erwischt.

Wahrscheinlich habt ihr es auch schon mitbekommen, dass die Klimwakatastrophe viel schneller und intensiver von statten geht, als die Prognosen es vorhergesehen haben. El Niño spielt eine Rolle, klar, aber eine wachsende Menge an Klimawissenschaftler*innen ist gerade extrem besorgt und fühlt sich zunehmend entfremdet vom Mainstream-Klimadiskurs.

So grob hatte ich die Grundprinzipien des Klimawandels in den 1990ern begriffen, aber erst als sie ab Mitte der 2010er Jahre für mich tatsächlich spürbar wurden, traf mich die emotionale Wucht der Erkenntnis, vor allem in Form der Trauer über den Verlust des Ökosystems meiner Jugend. Klimadepression is a thing.

Ich denke in diesem Zusammenhang aber über Depression nicht als Pathologie nach, sondern als einen notwendigen aber schmerzhaften Umbauprozess am persönlichen World Model. Die jungen Menschen, die sich auf die Straße kleben, wollen sich damit nicht wichtig machen, sondern haben die existentielle Bedrohung auf einer emotionalen Ebene durchdrungen, vor der sich die meisten noch verschließen.

Wer mir jetzt vorwirft, Depression zu verharmlosen, dem entgegne ich, dass die Alternative dazu der eigentliche dunkle Pfad ist: Verdrängung. Immer neue Erklärungen, Beschwichtigungen, selektive Wahrnehmung, alternative Narrative zu mentalen Burgen aufrüsten und innerlich die Eisentore runter lassen. Intellektuell wie emotional. Ein Großteil des Verschwörungsglaubens ist hier zu hause, aber eben nicht nur.

Dieselbe Weggabelung von Depression und Verdrängung spaltet laut Jonathon Porritt nun den Mainstream-Klima-Diskurs und auch er merkt, dass er sich identitär distanzieren muss, um sich seine moralische Klarheit zu bewahren:

„And there goes my reputation as a “glass half-full sort of a guy”! I will, from herein on, be badged as a full-on “doomist”, a “prophet of apocalyptic despair”, an anarchist/communist/subversive seeking “to bring down capitalism” by “existentializing” (I kid you not!) the “perfectly manageable threat of climate change”. Guilty as charged.“

Ich fühle das sehr, aber bin noch nicht bereit für eine neue Klimadepression.

Tadzio Müller fordert uns auf, uns intellektuell und moralisch auf eine Zeit der Gewalt einzustellen. Als ich im ersten Newsletter andere Newsletter empfahl, vergas ich auf seine Friedliche Sabotage hinzuweisen. Tadzio ist Klimaaktivist und schreibt viel über Strategie, Klimadepression und vor allem Klimaverdrängung, bettet das ganze aber auch immer schlau in größere gesellschaftliche Kontexte ein. Ich teile z.B. seine These der Verdrängungsgesellschaft und dass sie ein wichtiger Motor im aktuellen Rechtsruck ist.

In diesem Post erweitert er den Horizont nochmal und stellt die Verdrängungsgesellschaft in den Kontext der Polykrise und die Polykrise in den Kontext des sich ankündigenden Endes der US-Hegemomnie und kommt zu dem nachvollziehbaren Schluss, dass die Zeiten nicht ruhiger werden. Tadzio will das aber nicht nur negativ sehen.

Wenn also Veränderung nicht ohne Konflikt und Polarisierung möglich ist, vielleicht könnt Ihr Euch, wissend, dass es Veränderung braucht, zu diesen Dynamiken weniger ablehnend, etwas positiver verhalten. Denn ich sage Euch: Konflikt, Polarisierung, ja, auch Gewalt, wird in Euren Leben schon sehr bald eine viel größere Rolle spielen, als Ihr gewohnt seid. Darauf solltet Ihr vorbereitet sein. Wenn schon nicht physisch – dann doch wenigsten intellektuell und moralisch.

Intellektuell habe ich mich schon vor vielen Jahren von den naiven Varianten des Pazifismus verabschiedet. Gewalt ist nicht etwas, aus dem man einfach ausopten kann, bzw. ja, doch kann man schon irgendwie und dann landet man halt in der Welt, in der wir jetzt leben. Die Gewalt kriecht dann durch die Hintertür wieder ein und malträtiert uns via Rechtsruck, Mietenwahnsinn, Proxykriege, Klimakatastrophe, SUVs, Privatverschuldung, Enshittyfication, Medienoligarchien und generatives Internetrauschen.

Da mich strukturelle Gewalt mittlerweile fast ebenso ankotzt wie direkte Gewalt fühle ich mich kind of moralisch gewappnet, aber ich denke, es ist safe davon auszugehen, dass hier der emotionale Erkenntnisschritt weitaus drastischer sein wird, als ich mir gerade vorstellen kann.

Natalie Wynn hat endlich mal wieder ein neues Video veröffentlicht und es täuscht vor, eine Apologie der Twilight-Saga zu sein, ist aber in Wirklichkeit eine Tiefenbohrung in das komplizierte Verhältnis von Sex und Gewalt. Damit ist nicht sexuelle Gewalt gemeint, auch wenn sie natürlich angesprochen wird, sondern es geht um eine psychoanalytische und kulturanthropolische Bestandsaufnahme der Struktur des Begehrens. Der Zweistunden-Essay zeigt unter anderem überraschende Verbindungen von „Schundliteratur“ und kulturellen Urerzählungen von Bibel bis Gilgamesch und versteigt sich in philosophische Betrachtungen über Leben und Tod, Gut und Böse. Wynn besteht darauf, dass erotische Erzählungen nicht als Vorbild für gelungene Beziehungen fungieren, sondern als narrative Erlaubnisstrukturen, anhand derer wir uns in Situationen imaginieren können, die uns gleichzeitig moralisch abstoßen, aber auch anturnen.

Ich hatte beim Schauen die ganze Zeit Angst, dass mir das Video unangenehm würde, aber das stellte sich nicht ein und hinterher fühlt ich mich sogar leichter als vorher. Vielleicht liegt das daran, dass in diesem Fall die intellektuelle Erkenntnis der emotionalen folgt? Bin gespannt, was das mit mir noch macht.

Am schwersten tat ich mich mit diesem Text des indischen Denkers Pankaj Mishra, „The Shoah after Gaza“, der seinen Finger ohne große Rechtfertigsgeste direkt in den Schmerzpunkt europäischer und vor allem deutscher Erinnerungskultur steckt und darin ungeniert herumpopelt. Im Grunde entfaltet er eine gut informierte Variante der Global South-Perspektive auf den Gaza-Krieg und eben auch auf die Shoah, die in Indien oder Südamerika einfach nicht dieselbe Semantik besitzt, wie bei uns. Mir ist nicht aufgefallen, dass er dabei in antisemitische Fallen tappt, und dennoch war ich geschockt, wie leichthändig er die politische Rezeptionsgeschichte der Shoah in den USA, Europa und Israel entfaltet und dabei die Idiosynkrasien, den Opportunismus und die kaltherzige Instrumentalisierung nicht auslässt. Natürlich wäre es absolut naiv zu glauben, dass ausgerechnet die Shoah, anders als alle anderen historischen Ereignisse, über den politischen Dingen steht, doch schon der Hinweis darauf lässt mich erschaudern. Aber ich verstehe auch, das das eine europäische, genauer: eine deutsche Perspektive ist.

Nichts von dem, was Mishra schreibt, relativiert den Holocaust, aber es verschiebt seine moralische Bedeutung für die Ereignisse von heute.

„Many of the protesters who fill the streets of their cities week after week have no immediate relation to the European past of the Shoah. They judge Israel by its actions in Gaza rather than its Shoah-sanctified demand for total and permanent security. Whether or not they know about the Shoah, they reject the crude social-Darwinist lesson Israel draws from it – the survival of one group of people at the expense of another. They are motivated by the simple wish to uphold the ideals that seemed so universally desirable after 1945: respect for freedom, tolerance for the otherness of beliefs and ways of life; solidarity with human suffering; and a sense of moral responsibility for the weak and persecuted. These men and women know that if there is any bumper sticker lesson to be drawn from the Shoah, it is ‘Never Again for Anyone’: the slogan of the brave young activists of Jewish Voice for Peace.“

Ich habe beim lesen aber auch gemerkt, dass ich immer noch nicht das postkoloniale Argument kaufe, dass die Shoah nur eine Weiterschreibung kolonialistischer Gewalt sei. Natürlich gibt es mit der „White Supremacy“ gemeinsame Vorfahren, doch ohne die Idee des Volkskörpers und der Notwendigkeit der Erhaltung oder Wiederherstellung seiner „Reinheit“, sowie die Besonderheit des Antisemitismus, der anders als andere Rassismen neben der Abwertung auch eine Angstkomponente kennt (Stichwort jüdische Weltverschwörung), scheint mir eine Analyse der Shoah nicht sinnvoll.

Davon abgesehen hat mir der Text sehr geholfen, von meiner europäischen Perspektive etwas weiter zu abstrahieren und zu verstehen, wie man von der Restwelt auf Gaza blickt. Der Text arbeitet noch in mir.

Der Youtuber Shaun hat in diesem Video seinen Erkenntnisprozess aufgearbeitet, der zu zu seiner Haltung im Nahostkonflikt geführt hat. Seine Haltung ist alleine schon dadurch deutlich gekennzeichnet, dass er sein Video nicht „Israel“, oder „Israel and Palistine“, sondern schlicht „Palistine“ genannt hat. Und, ja, sorry, ich bin diese Woche in ein Video-Essay-Rabbit-Hole gefallen.

Shaun macht viele gute Punkte, aber ich will zwei herausgreifen:

Erstens stellt er gleich zu Anfang fest, dass es zur Bewertung der aktuellen Lage in Gaza völlig unerheblich ist, wie viel Du zu dem Konflikt gelesen hast, auf welcher Seite Du stehst, was Deine Haltung zu Israel ist, welche Ereignisse vorher stattgefunden haben und wie Du sie bewertest. Wenn zigtausende unschuldige Zivilist*innen getötet werden – die meisten davon Frauen und Kinder – ist das falsch. Punkt. Nichts, absolut gar nichts, rechtfertigt diese Verbrechen. (Weil man das in Deutschland anscheinend dazusagen muss: wer die Kinder in Gaza mit ihren im Bombenfeuer umgekommenen Nazigroßeltern gleichsetzt, wird sofort geblockt.)

Ich stelle mir den schmerzhaftesten Teil der Depression wie ein Abnutzungskrieg gegen das eigene Ego vor, das sich in einem Gestrüpp aus Identitäten verschanzt hat. Erst wenn das Ego so weit zurückgebombt ist, dass ihm interne und externe Zuschreibungen egal geworden sind, entsteht wieder Raum für unverstelltes moralischen Empfinden. Dann wird plötzlich vieles ganz einfach, was sich vorher als kompliziert tarnte.

Als Zweites nehme ich die philosophische Erzählung „The Ones Who Walk Away from Omelas“ mit. Die Geschichte von Ursula K. Le Guin spielt im fiktiven Ort Omelas, der in jeder Hinsicht als Paradies gelten kann. Allen geht es gut, alle sind gut drauf und das Leben ist eine einzige Party. Erst spät finden wir heraus, dass dieses Wunder darauf basiert, dass alles Leid auf einen einzelnen, kleinen Jungen abgeleitet wird, der allein und vernachlässigt im Kerker unter der Stadt gehalten wird. Alle wissen von dem Jungen, aber sein Leid wird verdrängt, weil das eigene Glück davon abhängt.

Doch einige beginnen, Omelas zu verlassen. Es sind nicht viele. Aber es werden mehr.

Ich mag diese Metapher sehr, weil sie die soziale Dimension des Moments einer moralischen Klarheit so auf den Punkt bringt: Es ist eine Art emotionale Immigration, ein Abschied von eigentlich liebgewordenen Menschen und von einem vertrauten, schönen Ort, der aufgehört hat, schön zu sein, seit man auch emotional durchdrungen hat, wie er funktioniert.

Wir leben alle in Omelas, genauer: in vielen Omelas‘ und sie zu verlassen ist fucking schwer. Ich zum Beispiel esse immer noch Fleisch (lass mich!). Gerade deswegen sollten wir es feiern, wenn es einigen von uns gelingt, das eine oder andere Omelas zu verlassen und wir sollten nachsichtig mit denen sein, die diesen Schritt noch vor sich haben.

Doch wohin soll man gehen? Das ist die Frage, die sich Elliot Sang in seinem – sorry again – Videoessay „Nowhere to Go: The Loss of Third Places“ stellt. Dritte Orte sind Räume, die neben dem Zuhause (erster Ort) und dem Arbeitsplatz (zweiter Ort) eine Form von kollektiver Heimat schaffen. Cafeehäuser, Stammkneipen, Vereinsheime und Jugendzentren sind solche Orte … bzw. waren solche Orte, bis die Gentrifizierung sie im großen Maßstab ausradiert hat.

Der Verlust der dritten Orte hat enorme Effekte auf den gesellschaftlichen Zusammenhalt und auf die Fähigkeit der Menschen, sich politisch zu organisieren. Aber am schlimmsten trifft es die Jugend. Die ausufernden Depressionen bei Jugendlichen werden oft mit Social Media in Beziehung gebracht, aber Sang zeigt, dass beides, sowohl excessive Social Media Nutzung, als auch Depression downstream vom Verlust der dritten Orte ist. Der Zynismus, den jungen Menschen erst ihre Räume zu nehmen und sie dann selbst für ihre Einsamkeit verantwortlich zu machen und im zweiten Schritt das Smartphone zu verbieten oder Tiktok zu sperren, macht mich einfach nur noch sprachlos.

Als ich mich in den letzten Monaten manchmal verloren fühlte, habe ich Zuflucht in den Serien meiner Jugend gesucht. Jerry Seinfelds Wohnung, das Central Perk Cafe bei Friends und die „Cheers“-Kneipe wurden zu meinen parasozialen dritten Orten, die mich mit der Vertrautheit der immer gleichen Gesichter, aber auch mit der Heimeligkeit ihrer 20. Jahrhundert-Semantik lockten.

Die letzte Serie in meiner Nostalgigkreihe war „The Indiana Jones Chronicles“, in der ein junger Indy durch die Anfänge des 20. Jahrunderts tapst und dabei in ein Weltereignis nach dem anderen stolpert, natürlich nicht ohne alle wichtigen Persönlichkeiten der Epoche kennenzulernen. Von Teddy Roosevelt zu Kafka, von Lawrence of Arabia zu Piccasso bis hin zu Charles de Gaulle und den Suffragetten kreuzen alle seinen Weg und in mir bildete sich eine Art Metafaszination, dass sich hier das 20. Jahrundert aus der Perspektive seines Endes selbst erzählt.

In der vorletzten Folge – Indy hat bereits im ersten Weltkrieg gekämpft (witziges Detail, dass die Spanische Grippe komplett ausgelassen wurde?) – lebt er in den wilden 20er Jahren in New York und hat drei Freundinnen gleichzeitig. Eine von ihnen, die Poetin Kate Rivers (ein ausgedachter Charakter), versucht ihn in einem Partygespräch davon zu überzeugen, dass jedes Jahrhundert einen eigenen Rhythmus hat und dass Poesie die Aufgabe habe, diesen einzufangen. So wie man die elisabethanische Kultur in der Poesie Shakespeares heraushören könne, kommen sie gemeinsam zu dem Schluss, dass sich das 20. Jahrhundert als „Automobile Age“ definiere und sein Rhythmus daher „throbbing, driving“ sein müsse.

Eine These die ich mag, aber von der ich nicht sicher bin, ob ich sie irgendwo abgekupfert habe, besagt dass ein Jahrhundert als kohärent empfundene, kulturelle Einheit erst ein transformatives, kollektives Erlebnis braucht, in dem die technischen und sozialen Veränderungen auch emotional eingepreist werden. Für das 20. Jahrhundert war das der erste Weltkrieg und Kate kann das neue Jahrhundert deswegen auf den Punkt bringen, weil sie ihn durchlebt hat.

Analog dazu fühle ich mich gerade, als ob mir zum ersten mal emotional bewusst wird, dass das 20. Jahrhundert tatsächlich vorbei ist. Und daran merke ich, dass ich tief im Inneren immer noch ein 20th Century Guy bin. Das 21. Jahrhundert lockte mich mit den blumigen Versprechen von endloser Kommunikation und der Demokratisierung der Öffentlichkeit aus meiner angestammten Semantik und transferierte mich ins Internet. Als „digital Immigrant“ bedeutet mein neuer Sinneswandel hinsichtlich des Technikoptimismus auch eine nachträgliche Entwurzelung. Das 20ste Jahrhundert fühlt sich seit kurzem wie ein fernes, jedoch vertrautes Land an, das ich vor langer Zeit zurückgelassen habe und zu dem es keine Rückkehr gibt.

Ich habe den Verdacht, dass ein ähnlich strukturierter Schmerz in allen AfD-Anhänger*innen steckt und ihre Sehnsucht nach dem „Normalen“ in Wirklichkeit eine diffuse Sehnsucht nach dem 20. Jahrhundert ist, dieses Omelas, das wir schon seit einiger Zeit dabei sind, zu verlassen. Diesen Verrat haben sie uns nie verziehen.

Meine persönliche Prognose ist, dass rückblickend der 30. November 2022 das 21. Jahrhundert eingeläutet haben wird. An dem Tag wurde ChatGPT vorgestellt und das markiert den Zeitpunkt, an dem die Digitalisierung begann, für alle in ihrer ganzen emotionalen Tiefe erlebbar zu werden. Es ist nicht so, als wäre die Welt nicht schon längst durchdigitalisiert, genauso wie ein Großteil der Maschinen, die im ersten Weltkrieg zum Einsatz kamen, bereits als Auto, Fabrik und Linienflug für die Leute im Alltag erlebbar waren. Doch so wie die Menschen ab 1914 mit ansehen mussten, wie sich ihr Maschinenpark in eine gigantische Mordmaschine verwandelte, erleben wir gerade die Umwidmung unserer kommunikativen Infrastruktur in digitale Waffen. Seien es die Hasskampagnen im Netz, DDoS- und Ransomware-Attacken, die immer mächtiger werdenden Überwachungssysteme, Einflussoperationen, die Umwandlung der Plattformen zu politischen Informationsgeschützen, der generative SEO-Krieg im Netz, KI-gesteuerter Bombenabwurf auf Gaza, die Entwicklung autonomer Drohnen in der Ukraine – alles wird gerade mit Künstlicher Intelligenz gesupercharged und das lässt das weiße Rauschen zu einem ohrenbetäubenden Krach anschwellen. Wir werden in den kommenden Jahren Formen, Arten und Ausmaße von digitaler Gewalt erleben, die uns heute nicht vorstellbar sind.

Was immer bei dem Schlamassel herauskommen wird: spätestens danach werden wir wissen, wie sich das 21. Jahrhundert anfühlt. Diesen Vibe dann in eine Poesie, besser noch in eine lebenswerte Zukunft zu übersetzen, wird Aufgabe der heute dauerdepressiven Tiktokjugend sein. Hoffentlich mit mehr Third Places und weniger Omelas?

Willkommen bei Krasse Links No. 6. Anschnallen, wir müssen heute über politische Ökonomie und KI sprechen.

Für diejenigen unter euch, die nicht sofort wissen, was politische Ökonomie ist, hier die Ultrakurzfassung: Während die klassische Ökonomie das wirtschaftliche Geschehen vom Markt her analysiert, interessiert sich die politische Ökonomie für die Machtverhältnisse hinter den Markttransaktionen (Langfassung).

Phänomene wie Enshittification lassen sich mit neoklassischer Wirtschaftstheorie kaum, mit politischer Ökonomie jedoch prima erklären. Kevin Carson hat genau das in einem lesenswerten, aber ultralangen Aufsatz gemacht. Er will aber auf einen breiteren Punkt hinaus: die allgemeine Ausweitung dessen, was Ökonom*innen „Rente“ nennen, bis zu dem Punkt, dass einige bereits von einem neuen Feudalismus sprechen. Renten sind Einkommen, denen keine notwendige Arbeit oder sonstige Kosten gegenüberstehen, weil sie sich aus dem Besitz von rechtlichen Titeln oder sonstigen Machtpositionen heraus ergeben. Vielen Techunternehmen wird vorgeworfen, dass ihren Geschäftsmodellen das Abgreifen von Renten zugrunde liegt. Man denke nur an Apples 30% Abgabe im App Store. (In meinem Plattformbuch gehe ich einen Schritt weiter und nenne die durch Enshittification erzwungenen Renten „kommerziellen Vandalismus“, vgl. S. 328.)

Carson dröselt die Rentenfrage weiter auf und zeigt, dass sie nicht auf den Techsektor beschränkt ist, sondern dass Renten in vielen Branchen einen großen Teil des verdienten Geldes ausmachen. Geld, das sich in den Taschen von immer weniger Unternehmen und Individuen konzentriert.

Aus Sicht der politischen Ökonomie wirkt der aktuelle Moment im Kapitalismus wie ein riesiger Heist von einigen wenigen am Rest der Gesellschaft und die neoklassische Ökonomie mit ihrer verharmlosenden Markterzählung dient ihnen als Coverstory.

Letzte Woche fand die Elevate Konferenz statt und Nick Srniceks Keynote über die politische Ökonomie von KI ist sehenswert.

Srniceks zieht in den KI-Markt vier Ebenen ein:

• Apps (ChatGPT, Autopilot, etc.)
• Modelle (also GPT4, Gemini 1.5 und Claude 3)
• Infrastruktur (Cloudinfrastruktur zum Training und Betrieb der Modelle)
• Hardware (Grafikkarten und KI-Chips)

Seine These ist nun, dass der Infrastrukturlayer – also Google, Amazon und Microsoft – derart dominant wird, dass er sich mittelfristig alle anderen Ebenen einverleiben wird.

Eine Ebene lässt Srnicek aber aus. Unterhalb des Hardwarelayers (wenn man darin die konkreten Chipdesigns fassen möchte) liegt noch der Chipproduktionslayer und wir wissen ja, dass da ebenfalls ein krasser Flaschenhals steckt. Noch letztes Jahr produzierte das Taiwanesischen Unternehmen TSMC 90% aller Highend-Chips und so könnten die Bemühungen der großen Techunternehmen, ihre Abhängigkeit von Nvidia zu reduzieren, indem sie eigene KI-spezifische Microchips entwickeln, nur in andere Abhängigkeiten führen.

Die Financial Times hat ein erklärbärig illustriertes Feature veröffentlicht, das detailliert durch die Prozesse zur Herstellung von modernen Microchips führt.

Bei dem vielen Geld, Talent und Ressourcen, die gerade in KI gesteckt werden, ist zu erwarten, dass wir tatsächlich dabei sind in eine neue digitale Ära schliddern. Ben Wertmüller hat sich dort schon mal umgesehen, indem er den KI-basierten Arc Search Browser getestet hat.

Statt einer Linkliste mit etlichen Quellen bekommt man bei Arc nur noch eine Antwort. Arc zieht im Hintergrund die Informationen aus den Inhalten anderer Websites zusammen und präsentiert sie als wikipedia-artig strukturiertes Dossier – ja, auch mit Quellenangaben. In Wertmüllers Test lag Arc LLM-typisch zwar immer wieder auch komplett daneben, dennoch lässt es als ein slickes Produkt der nahen Zukunft imaginieren – wenn man vergisst, was es ersetzen soll.

I guess what I’m saying is: thanks, I hate it. Give me context; give me nuance; give me the ability to think for myself. We built the world’s most incredible communication and knowledge-sharing medium, rich with diverse perspectives and alternative ideas; let’s not sanitize it through a banal filter that is designed to strip it of its humanity.

Das Web plus Google bildeten gemeinsam ein atmendes, sich stetig tiefer verzweigendes und dennoch einigermaßen navigierbares soziotechnisches Archiv des Weltwissens, bestehend aus menschlichen Perspektiven, die man in Form von Dokumenten durchstöbern, kritisch begutachten und einordnen muss und deren Informationsreichtum sich niemals auf die gestellte Frage reduziert. Ich glaube, dass uns manchmal gar nicht genug bewusst ist, wie kostbar das ist … war?

Das führt uns zu der zugegeben naheliegenden These, dass generative KI vor allem hier ist, um das Internet zu ersetzen. Oder wie es Henry Farrel in seinem Blogpost elegant auf die Formel bringt: The map is eating the Territory.

Ich mag auch seine Kategorie der „kulturellen Technologien“, zu denen er so abstrakte Wirkzusammenhänge wie Märkte, Regierungen und Unternehmen zählt. Generative KI sei eben eine weitere „kulturelle Technologie“ und stehe somit im Spannungsfeld zu den etablierten Platzhirschen. Die weitere Analyse dreht sich somit um die Frage, ob und wie es KI gelingt, sich Wirkungsbereiche und Kompetenzfelder der anderen kulturellen Technologien einzuverleiben.

Angewandt auf den Streit um das Urheberrecht kommt Farrel schließlich auf die These, dass es bei den aktuellen Gerichtsverfahren (etwa New York Times vs. OpenAI) eben nicht um moralische oder gar gesellschaftliche Fragen geht, sondern dass hier das alte und das neue Regime um Macht ringen.

Das geht schon in die richtige Richtung, aber ich würde noch weiter gehen. Bereits beim Plattformparadigma (das ich übrigens auch als „kulturelle Technologie“ im obigen Sinne einordnen würde) diente das Urheberrecht vor allem der Erlangung und Konsolidierung von Machtpositionen über nicht subsitutierbare kulturelle Graphen (genauso wie Patente für technische Graphen). Am plakativsten lies sich das in den Streaming-Wars beobachten: Die Hinwendung der Streamingdienste zu endlos erweiterbaren Francieses wie Star Wars, Lord of the Rings, Games of Thrones und Marvel Universe ermöglicht das marken- und urheberrechtliche Umzäunen von kulturellen Königreichen, deren Zugang sich dann exklusiv vermarkten lässt.

Ein ähnliches Szenario ist auch für das KI-Feld absehbar: Zunehmende Exklusivdeals mit datenreichen Unternehmen garantieren einerseits eine gewisse Datenqualität aber ermöglichen auch die Ausdifferenzierung eines vermarktbaren „Flavor“ des jeweiligen KI-Outputs. Adobes Firefly brüstet sich bereits mit seinen weitestgehend legalen Trainingsdatensets, Musks xAI positioniert sich (noch erfolglos) als an X-Posts gehärtete un-woke KI, und Deals wie der von Reddit mit Google weisen ebenfalls in diese Richtung.

Völlig unabhängig davon, was bei diesen Urheberrechtsstreits herauskommt: eine Einigung ist nur eine Frage des Geldes und am Ende wird es die Vormachtstellung der KI-Unternehmen konsolidieren. Das ist einfach das, was das Urheberrecht tut: mit genügend Kapital lassen sich alle nötigen Verwertungsrechte zusammenkaufen, um damit neue, legale Königreiche zu errichten, die dann dann unangreifbare Renten abwerfen. Das alte Regime will nur noch schnell einen guten Preis rausholen. Und wer davon mal wieder gar nichts sehen wird: die Urheber.

In meinem KI-Paper für die Böckler Stiftung hatte ich letztes Jahr noch eine grundsätzliche Überlegung hinsichtlich der politischen Ökonomie der Anwendung von KI gemacht:

Bedenkt man, dass laut experimentellen Studien ein Teil der Produktivitätsgewinne der LLMs bei der Text-Produktion durch zusätzliche Korrekturarbeit wieder aufgefressen wird (Noy/Zhang 2023), ergibt sich daraus ein struktureller, ökonomischer Vorteil für Produzent*innen aller Arten von Spam und Desinformation. Akteure, die es in Kauf nehmen oder gar darauf abgesehen haben, möglichst viel Schaden anzurichten, sind schlicht viel weniger darauf angewiesen, fehlerfreie Texte zu verwenden.

Da KIs notorisch unzuverlässig sind, werden sie vor allem dort genutzt, wo es auf Verlässlichkeit nicht ankommt. Und genau das sehen wir jetzt. Die Googlesuche ist bereits immer weniger zu gebrauchen (obwohl Google jetzt Gegenmaßnahmen angekündigt hat), weil das Web im Rekordtempo mit Unsinn vollgepumpt wird. Ausgerechnet die bekannte KI-Kritikerin Emily Bender hatte dazu ein interessantes Erlebnis, nämlich dass eine Spam-News-Seite ihr KI-generierte Zitate unterjubelte – nicht als Angriff gegen sie, sondern … why not? Oder die per KI wiederbelebten Zombie-Newsseiten, wie etwa der Washington Independent, dessen ehemaliger Autor Sam Thielman darüber berichtet, wie seine alten Texte mit neuer By-Line wiederveröffentlicht wurden. Dieser Content wird nicht für Menschen veröffentlicht, sondern dient nur dazu, andere KIs (etwa den Googleaglo) zu verwirren.

Das ist aber nichts gegen das, was im chinesischen und russischen Internet geschieht. Dort werden jetzt Gesichter und Stimmen von bekannten Influencer*innen gestohlen, die dann unter tausenden Fakeidentitäten KI-generierte Propaganda ins Netz pumpen. Dazu empfehle ich dieses wirklich gut recherchierte und durcherklärte Video von Olga Loiek, die als ukraischstämmige Influencerin mit ansehen muss, wie ihre optische Identität für russische Propagandazwecke instrumentalisiert wird.

All das passt wahnsinnig gut zu der steilen These, die ich bei Eryk Salvaggio gelesen habe: KI beendet die Ära des Informationszeitalters und entfaltet das Zeitalter des Rauschens. Rauschen, also „Noise“ bezeichnet aber nicht nur undifferenzierte Audiobelästigung, sondern ist auch ein Begriff in der mathematischen Kommunikationstheorie. Erfolgreiche Kommunikation erfordert nämlich immer die Unterscheidung von Signal und Rauschen, wobei das Rauschen gleichzeitig die Abwesenheit und überbordende Anwesenheit von Information anzeigt, etwa wie weißes Licht die gleichzeitige Abwesenheit und Überanwesenheit von Farbe bedeutet. Die Tatsache, dass Bildgenerierungs-KIs als Diffusionmodelle eben genau über die Zugabe und das Herausrechnen von Noise funktionieren, gibt Salvaggio die perfekte Metapher für seine These.

„These images are diffused, dissolved into static and the machine learns how that static moves as the image is degraded. It can walk that diffusion backward to the source image — and this is how it learns to abstract features from text into generated images. Our training data constrains what is possible to the central tendencies in that training set, the constellations of pixels most likely to match the text in the description.

In other words, it navigates averages, trading meaning for the mean. But the original context is irretrievable.“

„Trading meaning for the mean“ bringt die Funktionsweise von generativer KI perfekt auf den Punkt. Schritt für Schritt verdaut sie den gesamten Kanon der menschlichen Kultur zu einem Brei von immer kleineren, immer ähnlicheren Brocken und dieses kulturelle Exkrement blubbert nun unsere gesamte Infosphäre zu.

Im Kern besteht die politische Ökonomie der generativen KI also aus der Geiselnahme unseres kulturellen Graphen durch die Infrastukturlayer-Unternehmen. Eine Geiselnahme, die sie nun durch Urheberrechtsdeals versuchen zu legalisieren und damit zu konsolidieren. Der Plan ist, uns ein verschwommenes JPEG des Internets in Form von komprimierten Promtantworten zurück zu verkaufen, denn Lösegelder sind schließlich auch prima Renten. Wie es der Zufall so will, produzieren dieselben KIs in der Zwischenzeit so viel Unsinn, Zombiewebsites und KI-Propaganda, dass die Brücken zurück zu dem alten soziotechnischen Archiv von einem Tsunami aus Scheiße weggerissen werden und wir gar keine andere Wahl haben, als zusammen mit den Techbros auf die Erlösung durch AGI zu hoffen. Willkommen im Zeitalter des Rauschens.