Willkommen zu Krasse Links No 68. Widersteht dem Hype, die Pfadgelegenheit ist nah, heute vernetzen wir das Prisoner Dilemma mit Spinoza.

---

Einigen wird es aufgefallen sein: der Newsletter von letzter Woche ist leider aus versehen unfertig rausgegangen.Sorry, hier die die Vollverion.

---

Jimmy Kimmel darf heute Abend wieder senden. Disney hat sich damit dem öffentlichen Aufschrei und dem sich formierenden Boycott (vorerst) gebeugt.

Disney hatte zuerst öffentlichen Drohungen von Brandon Carr, dem Chef der Medienaufsichtsbehörde FCC vorauseilend gehorcht und Kimmel rausgeworfen, nachdem dieser in seiner Sendung unvorsichtiger weise andeutete, dass Kirkmörder Tyler Robinson ein rechter sein könnte. Also direkte staatliche Zensur, wegen einer unvorsichtigen Formulierung in einer Zeit der Ungewissheit. Die Hintergründe gut aufbereitet hat John Oliver.

---

In einem Anflug von Erkläreritis habe ich versucht, meinen Begriff der „Pfadgelegenheit“ zu erklären, woraus dieser LinkedIn-Post entstand (Sorry für Kleinschreibung, ist so ein Social Media-Tick von mir).

der begriff der „pfadgelegenheit“ ist der versuch, das amalgam aus handlung und den dafür notwendigen infrastrukturen in einen netzwerkfähigen begriff zu verpacken und so menschliche handlungen wieder an die gesellschaftlichen strukturen rückzukoppeln.

die grundannahme: du kannst nur handeln, wenn es einen weg dazu gibt. wir gehen nicht „unseren“ pfad, wir entscheiden uns zwischen materiell gegebenen pfaden.

„pfadgelegenheit“ ist so ein einfaches, unscheinbares wort, aber auch so extrem nützlich. hier ein paar beispiele:

wir haben damit eine pfadgelegenheit für eine infrastrukturbewusstere semantik:

eine pfadsetzung ist eine pfadentscheidung aus einer gegebenen menge aus pfadgelegenheiten, die rückblickend zur pfadabhängigkeit wird.

zum netzwerk werden pfadgelegenheiten, wenn man versteht, dass der ganze sinn von pfadgelegehheiten ist, neue pfadgelegenheiten zu ermöglichen.
bonusnutzen: das denken in pfadgelegenheiten entfaltet implizit und ganz automatisch eine räumliche und historische struktur, die sich durch pfad-abhängigkeiten beschreiben lässt und damit implizit auch macht abbildet. das funktioniert sowohl für materielle wie für semantische infrastrukturen.

beispiel: die einfach scheinende handlung: „nudeln kochen“ können wir mithilfe der „pfadgelegenheiten/pfadabhängigkeiten“-semantik in ein beliebig feingranulares netzwerk aus logistikunternehmen, wasserrohren, stromkabeln, historischen ereignissen, kraftwerken, weizenfeldern und arbeitsbedingungen in anderen ländern auffalten.

semantische pfadgelegenheiten:

jedes wort, jeder satz, jeder gedanke ist pfadgelegenheit für weitere semantische pfadgelegenheiten.

jedes wissen bereitet pfadgelegenheiten für neues wissen. aber auch semantische pfadgelegenheiten haben materielle pfadabhängigkeiten. bücher im elternhaus, medienkonsum, schulalltag, der vermittelte „wert von bildung“ etc.

auch: verschwörungstheorien bieten pfadgelegeheiten in andere verschwörungstheorien, „rabbitholes“ bestehen aus semantischen pfadgelegenheiten.

das netz aus semantischen pfadabhängigkeiten in das wir reingeboren wurden, ist die matrix in der wir leben. wir haben nicht genug abstand dazu, sie zu hinterfragen. jedenfalls nicht „individuell“. auch hier sind wir auf pfadgelegenheiten angwiesen, auf andere kritische beobachter*innen und ihren alternativen semantischen pfadgelegenheiten zur erklärung der welt.

aus all dem ergibt sich die endgültige dekonstruktion des „individuums“. es gibt kein ungeteiltes res cogitans, alles ist res extensa. das dividuum ist der schnittpunkt aus milliarden netzwerken. es lebt nicht nur in seiner infrastruktur, das dividuum _ist_ seine infrastruktur.

ich nenne das „relationaler materialismus“. es ist im grunde eine fusion aus sience & technology studies und graphentheorie, inspiriert von spinoza, deleuze und donna haraway.

wer das spannend findet, kann meinem newsletter folgen, wo ich diese redepraxis selbst einübe und immer mal wieder weiterentwickle.

Liked gern, oder hinterlasst einen Kommentar. Meine Inhalte haben es nicht leicht in algorithmischen Umwelten.

---

Eine mir selbst bislang geheim gebliebene Inspiration für den relationalen Materialismus habe ich übrigens von Baruch Spinoza (Wiki), was ich aber erst merkte, als ich dieses wunderbare Then & Now Video über seine Philosophie sah.

Ich weiß selbst nicht, wie diese Trainingsdaten-Kontamination passieren konnte – ich habe Spinoza nie gelesen, aber ich schätze, das ist unvermeidlich, wenn es um einen so pfadentscheidenen Denker geht. Vielleicht könnte die Kontamination über irgendwas mit Hegel und Weltgeist oder so passiert sein?

Die Wege im Netzwerk sind unergründlich.

---

Aline Blankerts mit einer guten und fairen Diskurskritik um Plattformen und ihre Regulierung, am Beispiel eines Meinungsstücks von Meredith Whittaker, die zwar eine gute Analyse liefert, aber auch mit offensichtlich inadäquaten Vorschlägen um die Ecke kommt.

But by describing a real problem and writing about an inadequate solution, it becomes harder for others to open up the window she almost closed. For example, arguing against the inclusion of AI agents at OS-level becomes harder because Whittaker focuses on how to adjust their design rather than whether they are desirable in the first place. Design fixes are not addressing the question of human agency and human connection.

In dem Buch „Power. A radical View“ von Steven Lukes geht er verschiedene Formen von Macht durch und eine, die vielen Philosophen bisher Kopfweh bereitet, war die Macht, die Agenda zu setzen.

Lukes zeigt dafür unterschiedliche Strategien auf, etwa Biases in der Gruppe zu mobilisieren, durch Institutionelle Barrieren oder über die Kontrolle des Zugangs zur Entscheider-Gruppe, etc.

Aber es braucht auch etwas anderes: Die Pfadgelegenheit einen Diskurs aufzugleisen. Denn ist ein Diskurs mit einem bestimmten Frame erstmal etabliert, akkumuliert er alle Aufmerksamkeit und alle debattieren über das für und wieder der Vorschläge innerhalb dieses Frames. Präziser: Der Frame generiert semantische und diskursive Pfadgelegenheiten, die alle pfadabhängig von seinen unausgesprochenen Setzungen und Weglassungen bleiben.

Die Pfadgelegenheit der diskursiven Aufgleisung hat selbst diverse Pfadabhängigkeiten:

• materielle Infrastrukturen, also Medien, um am Diskurs teilzunehmen (internet, Social Media, Medienökosystem)
• mit möglichst breiter etablierter Zuhörerschaft (zb. Economist).
• Dazu bedarf es eine möglichst herausgehobene gesellschaftliche Stellung des Sprechenden (bekannt, renommiert, oder institutionell herausgehoben, zb. CEO von Signal)
• und dann – das ist der kontingente Part – Timing

Ob das Timing richtig war oder nicht, also wie weit der Pfad reicht, den man beschritten hat, stellt man immer erst hinterher fest, aber die Reihenfolge der Beiträge ist definitiv nicht egal.

Wer in einem Moment des anschwellenden Diskurses über ein allgemein sichtbares Problem seinen Frame setzt, während noch wenige oder nur weniger laute, oder weniger plausible alternative Frames als Deutungs-Pfadgelegenheit mit im Entscheidungsraum stehen, hat gute Chancen, den eigenen Frame hegemonial zu machen.

Ich weiß das unter anderem deswegen, weil meine Freundin mich immer wieder darauf hinweist, dass ich in Diskussionen dazu neige. Sorry.

---

Mirko Lange macht mit seinem Projekt „Desinfo-Index“ etwas sehr wichtiges, das in den einfachen Faktenchecks untergeht: nicht nur analysieren, ob etwas „wahr“ oder „unwahr“ ist, sondern in wie fern versucht wird, mit eigenen Frames materielle Realitäten unsichtbar zu machen. Rhetorisches Gaslightning, wenn man so will und eine allseits beliebte Technik der Diskursmächtigen – hier sehr anschaulich demonstriert an einer Äußerung von Jens Spahn.

„Naja, es gibt diejenigen, die glauben, Gerechtigkeit stellt man dadurch her, dass man den einen was nimmt. Ich bin eher auf der Seite, die sagt, Gerechtigkeit stellt man dadurch her, dass man den anderen die Chance
gibt, selbst was aufzubauen.“

Natürlich versucht Spahn hier eine diskursive Pfadsetzung, die die Milliardäre aus der Schußlinie bringt.

Doch volkswirtschaftlich stellt sich die Frage: Ist es überhaupt möglich, echte Chancengleichheit herzustellen, ohne zugleich Vermögen umzuverteilen? Wer 100 Millionen erbt, startet mit Kapital, Netzwerken, Sicherheit. Wer nichts erbt, hat oft sogar strukturelle Nachteile. Solche Unterschiede vererben sich über Generationen hinweg. Und das blendet Spahns These komplett aus. […]

Spahns Satz ist also weder Lüge noch offene Delegitimierung. Es ist auch mehr als ein simples Framing. Die Aussage blendet eine strukturelle Realität aus und verwandelt ein komplexes Spannungsfeld in eine scheinbar klare Alternative. Genau hier setzen wir an: Wir nennen das „strukturelle Verzerrung“ oder „Realitätsverkürzung“. […]

Solche Sätze sind besonders wirksam, weil sie auf den ersten Blick plausibel erscheinen. Sie sind nicht überprüfbar wie eine Faktenbehauptung, aber sie verschieben den Diskurs subtil. Wer Umverteilung fordert, wirkt plötzlich destruktiv; wer nur Chancen betont, erscheint konstruktiv. Doch die gesellschaftliche Wirklichkeit ist komplexer.

Sowas als regelmäßiger und aktueller Service ist viel wert.

---

Vielen dank, dass Du Krasse Links liest. Da steckt eine Menge Arbeit drin und bislang ist das alles noch nicht nachhaltig finanziert. Aber im August kam ich das erste mal über die 500 auf € 505,21- von den angestrebten 1.500,-, Yeah! Mit einem monatlichen Dauerauftrag kannst Du helfen, die Zukunft des Newsletters zu sichern. Genaueres hier.

Michael Seemann
IBAN: DE58251900010171043500
BIC: VOHADE2H

Du kannst dem Newsletter außerdem helfen, indem du ihn Freund*innen empfiehlst und ihn auf Social Media verbreitest.

---

Haha, ChatGPT ist so doof!

Aber jetzt mal Hand aufs Herz wer das nicht kennt? Das hat nix mit KI oder Menschen zu tun: Semantik erzeugt Anschlusssemantik und es erfordert immer ein kleinen Akt der Gewalt, ein Gespräch zu beenden.

---

Der Mustread-Text der Woche kommt von Henry Farrel, der in seinem Newsletter Martin Niemöllers bekanntes Gedicht „Als die Nazis die Kommunisten holten…“ als vernetztes Prisoner Dilemma modelliert.

Ausgehend vom Collective Action Problem folgert er, dass Macht aus der Fähigkeit entspringt, Menschen zu koordinieren.

struggles for power are struggles over the means of coordination. Who is capable of coordinating better, wins. And want-to-be authoritarians and mass publics face different coordination problems.

In der politischen Ökonomie der Abhängigkeiten würde ich es so formulieren: die Macht des „Leaders“ entspringt der Abhängigkeit der anderen von seiner Fähigkeit – partiell oder generell – das Collective Action-Problem für sie zu überwinden, um versprochene Pfadgelegenheiten (echt oder erlogen) zu erreichen. Schafft es ein Leader, Menschen zu koordinieren, ergeben sich daraus Netzwerkeffekte: Je mehr sich von ihm führen lassen, desto größer und relevanter werden die sich daraus ergebenen kollektiv erreichbaren Pfadgelegenheiten.

Draus ergibt sich u.a. folgende Strategie:

In more modern circumstances, your best strategy as an aspiring tyrant is likely to convince others (a) that they do live in a society of competing groups, and (b) that the smart money will always be on joining the dominant group, and not being one of the dominated ones.

Im Grunde macht man allen weis, dass sie in einem „Prisoners Dilemma“ mit allen anderen stecken, in dem es die rationalste Strategie ist, sich zu ergeben, weil man annehmen muss, dass die anderen Akteure diese Strategie ebenfalls fahren.

Der Kniff ist nun, das Prisoners Dilemma unter den Bedingungen vernetzter Aufmerksamkeit zu betrachten.

Their approach to both universities and law firms has been to make simple coordination seem like a prisoner’s dilemma, by picking off opponents, one by one, and by trying to create a common understanding that collective resistance is useless, since your potential allies are likely to defect. The early decision of one extremely prominent law firm, Paul Weiss, to defect, shaped common expectations so that several others rushed immediately to defect too, for fear that they would be stranded amidst the dominated group, rather than joining the dominating coalition in a subordinated role.

Der Erste, der fällt, setzt den Frame und gleist die allgemeine Erwartung auf, dass die anderen Eliten ebenfalls einknicken. Weil wir keine Individuen sind, die entweder egoistisch oder solidarisch sind, sondern Dividuen, die einander beim egoistisch oder solidarisch sein zuschauen, und daraus ihre Schlüsse für ihre Strategie ziehen, hat Trump eine Möglichkeit gefunden, die halbe gesellschaftliche Elite der USA – immer einen nach dem anderen – in die Knie zu zwingen.

Doch die Wahrheit ist: Sie haben nur noch nicht verstanden, das alle in einem Boot sitzen.

Als die Nazis die Kommunisten holten,
habe ich geschwiegen,
ich war ja kein Kommunist.

Als sie die Sozialdemokraten einsperrten,
habe ich geschwiegen,
ich war ja kein Sozialdemokrat.

Als sie die Gewerkschafter holten,
habe ich geschwiegen,
ich war ja kein Gewerkschafter.

Als sie mich holten,
gab es keinen mehr,
der protestieren konnte.

Aber Trump strebt nach unbeschränkter Macht, so Farall weiter.

Absolute power implies absolute impunity: if I enjoy such power, I have no incentive to behave trustworthily to anyone. For just the same reason, no-one has any incentive to trust me. You will not believe my promises, and you may fear that if you give in to my threats, you will only open yourself to further abuse. Thus – as I, as an aspiring authoritarian move closer to unbounded control, I need to artfully balance the benefits that my power can bring to my allies with the fear those allies may reasonably have over what happens should that power be turned against them.

Das ist seine Schwäche, denn Trump kann in seiner selbstherrlichen Mannier nicht die allgemeine Erwartung aufrecht halten, sich an irgendwelche Abmachungen zu halten. Und wenn diese Erwartung bricht, wird auch seine Macht zu koordinieren prekär und der Widerstand bekommt eine Chance.

As a whole body of research on “tying the king’s hands” argues, independent actors will prefer to flee monarchs who refuse to be bound rather than to cooperate with them, because they know that such monarchs can’t be trusted. Any deal that they make can later be un-made, and probably will be, if unmaking it is to the king’s advantage. The best option may be not to submit, especially if you believe that others are similarly unwilling to comply. This may, in effect, turn what was a prisoner’s dilemma (in which everyone’s best strategy is to defect) back into a nearly pure coordination game again, allowing easier collective resistance.

Wir müssen das Spiel ändern: von Prisoners Dilemma zu – ich schlage vor – Star Wars.

---

Andor-Showrunner Dan Gilroy ruft zum Widerstand auf.

I deeply disagree but acknowledge it was a difficult decision. If you believe otherwise, wait until fate knocks on your door and demands you choose between conscience and hardship — because if you work in this industry that day is coming.

Whether you’re reading this on line at Blue Bottle or killing time before your 3 o’clock Zoom or staring at a glowing screen unable to sleep, we have all become characters in a story where our actions carry actual weight and consequence. Our industry faces the most sophisticated, venomous, creeping evil in America’s history. There’s no standing above this conflict. No impartial observers. If you’re on the sidelines you’ve made a choice and must live with it.

In unserem Andor-Talk auf der Republica haben wir unter anderem herausgearbeitet, wie konsequent die Serie das Opfer inszeniert, das die Rebellion bedeutet. Und ich glaube, wenn wir uns nicht ehrlich darüber machen, dass das hier kein Spiel mehr ist und dass die Verteidigung der Freiheit zunehmend Opferbereitschaft fordert und weiter fordern wird, werden wir das kollective Action Problem nie überwinden.

---

so?

The Rebellion will be cringe or not at all.

---

KI wird nicht nur als „Blase“ bezeichnet, sondern immer wieder auch als „Hype„, auch von mir. Das mag intuitiv richtig klingen, jedoch ist auch diese Bezeichnung irreführend und verdeckt die ganz realen und schädlichen Anwendungsfelder, in denen KI jetzt schon genutzt wird, argumentieren Hagen Blix und Ingeborg Glimmer in diesem sehr lesenswerten Essay, der mir sehr aus der Seele spricht.

We find ourselves in a moment where big tech has allied with the far right, where AI mass produces fascist slop aesthetics, where visas are getting revoked because AI tools took issue with someone’s speech, and where an AI job crisis is unfolding. Meanwhile, many criticisms of AI latch on to the lies and exaggerations used in marketing chatbots and other technologies. They focus on identifying and deflating hype (or on calling AI snake oil, suggesting that it’s all a bubble, a con, a scam, a hoax, etc.). This kind of critical frame is dangerously inadequate for understanding what is actually going on, let alone for doing something about it. Even if the AI peddlers listened and the hype disappeared, the problems would remain. So the problem with AI isn’t hype. The problem is who and what it’s useful for. […]

Is any of this an issue of hype, of some discrepancy between promised capabilities and real capabilities? Or is the root issue that the very real affordances of very real AI potentiate fascist political aims and methods? Is the problem that some model output is untrue, or is it that AI models operate akin to the online troll, who just asks questions and just says (bullshit) things for the lulz? Of course, AI tools have no intentions. They cannot care for the lulz. But they are, by design, incapable of not bullshitting. They cannot recognize that “their reality” (bytes, letters, pixels, etc) is distinct from reality as such.

Dieses Mißverständnis spiegelt unseren inadäquaten Umgang mit dem Faschismus: Auch seine Inkonsistenzen sind kein „Mangel“, sondern Herrschaftstechnik, eine Herrschaftstechnik, die durch KI-Slop auch noch ausgeweitet wird.

Fascism, meanwhile, is committed to a play of power and aesthetics that regards a desire for truthfulness as an admission of weakness. It loves a bullshit generator, because it cannot conceive of a debate as anything but a fight for power, a means to win an audience and a following, but never a social process aimed at deliberation, emancipation, or progress towards truth. Fascists do, of course, try to exploit the very prerequisites for discourse (a willingness to assume good faith, to treat equality if not as a condition, then at least as a laudable aim of social progress, etc). Take, for example, the free speech debates as an attempt to blindside the enemy (that is, us). Fascists are continually proclaiming their defense of and love for free speech.

They are also arresting people for speech, banning books, and attacking drag story hours. To take this as an inconsistency, or an intellectual mistake is to misunderstand the very project—fascists are not in it for consistency, nor for making a rational, reasonable world with rules that free and equal people give themselves. The apparent contradiction is, instead, part of the same family of strategies as flooding the zone is—to use whatever tool is necessary in order to accrue power, strengthen hierarchies, and entrench privilege.

Fast alle die „Shortcomings“, die KI nachgesagt werden sind für die Herrschenden Vorteile, actually.

Journalist and researcher Sophia Goodfriend calls this whole thing an AI drag net and observes quite acutely: “Where AI falters technically, it delivers ideologically”. Indubitably, people are getting falsely classified as having engaged in speech unsanctioned by the self-proclaimed free speech absolutists. But those misclassifications are mistakes only in a narrow technical sense. After all, we can actually be quite certain about the real political aims of Marco Rubio’s state department. They’re invested in a) an increase in deportations, and b) the suppression of particular kinds of speech—and neither of those depends on amazing accuracy (hitting the “right” people). They depend mostly on scale (hitting a lot of people). For the first goal—more false positives means more cancelled visas, means more deportations. Check. As for the second aim, the suppression of speech depends on a sufficient reach to make everyone feel like “it could be me next, (unless I censor myself/make myself quiet and small/self-deport/etc)”. And here, too, the tool certainly delivers. In our book, Why We Fear AI, we argue that it is in fact precisely the error-prone and brittle nature of these systems that makes them work so well for political repression. It’s the unpredictability of who gets caught in the drag net, and the unfathomability of the AI black box that make such tools so effective at producing anxiety, that make them so useful for suppressing speech.

Dazu gehören auch die berühmten „Biases“, die in den Modellen verbaut sind.

We certainly know that the “mistakes”, the misidentifications, aren’t randomly distributed. In fact, we’ve known at least since Joy Buolamwini and Timnit Gebru’s 2018 Gender Shades paper, that facial recognition algorithms are, among other things, more likely to misidentify Black people than white people. When the AI errors are so clearly distributed unequally, and the errors are a source of harm—of false arrests and possible police violence—then it is obviously unhelpful to simply call them “errors”, or theorize this through a lens of “hype”. What this system produces isn’t errors, it’s terror. […]

The gap provides plausible deniability: “It’s the algorithm that messed up”, they will surely tell us, and that therefore, no person is really responsible for racist false arrests. But the very fact that the misidentifications are predictable at the level of populations (we know what groups will be misidentified more often), and unpredictable at the level of individuals (nobody knows in advance who in particular will be misidentified) also enhances its usefulness to the political project of producing political terror: Again, it’s about producing the widespread feeling that “it could happen to any of us, it could happen to me”. This is as true of AI as it is of other, older tools of political terror and police intimidation.

In the words of cybernetician Stafford Beer, there is „no point in claiming that the purpose of a system is to do what it constantly fails to do“. And to focus primarily on what the system can’t actually do (as the hype frame does) risks distracting from what it is actually doing.

Um zu verstehen, wozu AI wirklich da ist, muss man sich ansehen, an wen und mit welcher Message die Services beworben werden: Manager und CEOs.

The union busting pitch gives the real economic purpose of AI away: It’s a tool to depress wages. And for that goal, whether the tool can actually replace the work done by people at the same level of quality is often largely irrelevant. After all, replaceability is not about simple equivalence, but more often than not about price-quality tradeoffs. People like to buy whatever they think is a good bang for the buck. Companies do too, often substituting cheaper inputs (skills, stuff, etc) to drive down their costs even if it reduces quality. That’s the obvious horizon for AI—not full automation, but the model of fast fashion or IKEA: Offer somewhat lower quality at significantly lower prices and capture the market from the bottom up.

But the real economic problem isn’t hype. The attack on workers, on the quality of jobs, and the quality of the things we make and consume, is the problem—and that problem exists quite regardless of the hype. Unless you’re a venture capitalist, you aren’t the target of the AI advertisement—you’re the target of the threat. We have no use for terms that warn investors that they might be making bad investments, we need terms that are useful for fighting back.

Wir müssen aufhören, KI als „Hype“ „entlarven“ zu wollen und stattdessen Licht auf KI als politisches Projekt werfen.

Ultimately, hype itself is too stuck in a narrowly technical perspective, too focused on identifying lies, rather than identifying political projects. We should not make the mistake of thinking that just because a statement is a lie, it can be disregarded. Contrary to what the hype frame may suggest, once you figure out that a lie is a lie, the work is only just beginning.

Und dann lasst uns anders über KI reden:

Let’s call AI what it is, a weapon in the hands of the powerful. Take the wage-depression project—let’s call it class war through enshitification, automated union busting, a bullshit machine for bullshit jobs, or Techno-Taylorism. Let’s take some inspiration from the Luddites, who called the big tech innovation of their day, the steam engine, “a demon god of factory and loom”, or “a tyrant power and a curse to those who work in conjunction with it.” Let’s make up better words, better phrases, and better frames that clarify the political stakes. Let’s de-shitify the world!