Frohe Feiertage wünscht Krasse Links No 9. Heute suchen wir eine komplizierte aber aufrichtige Passage durch das Archipelago diskursiver Ostereier.
Die Woche fing schon mal gut damit an, dass plötzlich alle die Pandemie aufarbeiten wollten, was mir ja nur recht ist, aber der eigentliche Grund war leider, dass ein Spinnerblog die internen RKI-Protokolle freigeklagt hatte. Meine Frage, ob man eine seriöse Aufarbeitung der Files nur hinter Paywalls bekommt, wurde vielfach mit diesem tatsächlich lesenswerten Fact-Check der Tagesschau beantwortet, aber das grundsätzliche Problem, dass man die Loonie-Interpretation überall frei Haus ins Gesicht gedrückt bekommt, während man für seriöse Takes entweder suchen oder bezahlen muss, ist dadurch leider nicht gelöst. Jaja, ich weiß, Journalismus hat seinen Wert, Demokratie aber auch!
Jedenfalls fand ich die Schlussfolgerungen von Martin Rücker bei Riffreporter nachvollziehbar, der das RKI und die Journalist*innen für ihren pikierten Umgang mit diesen Files kritisiert. Er fragt, warum erst die Verschwörungsheinis die Akten freiklagen mussten und hofft, dass in Zukunft Transparenz und ein offener Umgang mit eignen Fehlern für mehr Vertrauen sorgen werde.
Ebenfalls diese Woche rammte ein großes Containerschiff die Francis Scott Key Bridge in Baltimore, die daraufhin in sich zusammenstürzte. Wer die Serie The Wire gesehen hat, hat eine Ahnung davon, welchen zentralen wirtschaftlichen Stellenwert der Hafen in der eh schon vergleichsweise armen Stadt hat und dieser Hafen wird jetzt über Jahre nicht nutzbar sein. Die ganze Stadt droht jetzt in Armut zu versinken, es ist eine Tragödie.
Das Baltimore-Desaster hat aber auch ein Scheinwerferlicht auf eine andere Krisenregion geworfen: X. Vox hat einen zusammenfassenden Artikel darüber, wie sofort die beknacktesten und rassistischsten Verschwörungstakes viral gingen und der Dienst für seriöse Informationssuche zu keinem Moment zu gebrauchen war (im Gegensatz zu früher, als die dümmsten Takes immerhin noch ein paar Stunden auf sich warten ließen).
Der Medienwissenschaftler Mike Caulfield hatte bereits vor einiger Zeit eine interessante Theorie aufgeschrieben, die sowohl auf die RKI-Files, als auch auf die abstrusen Baltimoretakes passt. Argumentieren, so Caulfield, sei eine Art genereller Trieb des Menschen und dabei gehe es gar nicht darum, den anderen zu überzeugen, sondern die eigene Position als „reasonable“ zu verteidigen.
Seit dem Internet haben Debatten aber die Eigenschaft nie zu Ende zu gehen und so hätten auch die jeweiligen Diskursteilnehmer*innen nie aufgehört nach Evidenzversatzstücken zu graben. Ob eine Debatte „offen“ sei oder nicht, bestimmt dabei nicht, wie viele und wie starke wissenschaftliche Beweise es für die eine oder andere Seite gebe, sondern nur, ob die Seiten aufhören zu diskutieren. Deswegen sind die RKI-Files so ein gefundenes Fressen für die Verschwörungsloonies, denn darin finden sich wieder endlos viele Sätze über Masken, Gefahreneinschätzungen und Impfungen, die sie triumphierend als Puzzelteile ihrer Weltsicht hochalten können.
Caulfield schließt, dass sich in unserer heutigen, zunehmend polarisierten Internetsituation jede Nachricht und jede Information sofort zum „Beweis“ für die eine oder andere Seite der ein oder anderen Debatte erklärt wird. Alles ist jetzt Evidenz.
Part of what is happening is this — because open arguments must be advanced or maintained at all times, anything that happens must be read in terms of its use in advancing the pertinent open arguments. Everything is grist for the argument mill.
Ich fürchte, das bedeutet, dass keine Debatte jemals „geklärt“ ist und dass am Ende diejenigen gewinnen, deren intrinsische Motivation für die „Beweissuche“ am längsten anhält? Und das bedeutet leider auch, dass Transparenz einfach keine Lösung für dieses Problem ist, denn Transparenz bedeutet in der Realität nur immer mehr „Beweise“ und damit ein Sich-weiter-drehen der Debattenspirale.
Das hat aber in zweiter Ableitung noch den Chilling-Effect, dass jetzt alle vernünftigen Leute öffentlich nur noch auf Eierschalen gehen, weil sie ständig Angst haben, den Trottels Munition zu liefern. Das erklärt auch das awkwarde Handling der Files durch das RKI und die Journalist*innen, aber wie man an der entgleisten Debatte erkennt, ist keine Transparenz halt auch keine Lösung. *Seufz*
Johnathan Haidts neues Buch, The Anxious Generation, das behauptet, die zunehmenden psychischen Störungen unter Jugendlichen seien vor allem Social Media induziert, macht gerade überall die Runde, und ich muss ehrlich sagen, dass ich weiterhin nicht überzeugt bin. Mit Caulfield könnte ich hier selbstkritisch einwenden, dass ich vor langer Zeit (kennt noch wer Manfred Spitzer?) auf der anderen Seite dieser Debatte gelandet bin und seitdem nach Argumenten gegen diese These suche. Allerdings macht es mir Haidt auch einfach und so ich kann ich mich fürs erste an dieser Rezension von Candice L. Odgers in Nature festhalten. Sie ist Psychologin an der Universität von Kalifornien und im Gegensatz zu Haidt tatsächlich Spezialistin auf diesem Gebiet und sagt, dass die Forschung Haidts These nicht stütze. HIER! DA! Beweis! HAHA!
Meredith Whittaker meldet sich lesenswert zu dem drohenden Tiktok-Verbot in den USA zu Wort. Ja, Tiktoks potentielle Propagandapower sei gefährlich, aber als CEO von Signal habe sie einen globaleren Blick auf die Plattformlandschaft und da sehe sie derzeit die größere Gefahr in der Tech-Hegemonie der USA. Es sei ja nicht so, als habe die USA nicht auch Interessen, die sie über die hiesigen Plattformen versuche, in die Weltöffentlichkeit zu drücken. Als Beispiel nennt sie den Druck, den die amerikanische Politik hinsichtlich der Berichterstattung über den Gaza-Krieg ausübe und den sie auch als den wesentlichen Motivationsfaktor für das Tiktokverbot identifiziert.
Am Ende sei allen diesen Plattformen zu mißtrauen, aber ihr sei es lieber, wenn dann wenigstens eine gewisse Pluralität der Propagandaregimes existiere.
Or, to oversimplify for the sake of explanation, one platform may suppress pro-Palestinian speech, and another may suppress documentation of Uyghur genocide, but together they could provide access to both.
Ich finde ihren Punkt fair, insbesondere, wenn man dabei eine mögliche zweite (und damit endgültige?) Trumppräsidentschaft in Betracht zieht.
Die Website „New Extractivism“ versucht den Prozess der Extraktion bei digitalen Plattformen im Detail nachvollziehbar zu machen und ist in vielerlei Hinsicht wirklich gelungen. Der Netztheoretiker Vladen Joler verknüpft dabei seine Theorie der Plattformen mit einer ansprechenden grafischen Aufbereitung, die die einzelnen Mechanismen in metaphorische Bilder einfängt und sie zu einem komplexen Gesamtsystem verbindet.
Ich finde das Gesamtkonzept beeindruckend, auch wenn ich inhaltlich manche Dinge anders sehe. Ich bin zum Beispiel überhaupt kein Fan von Zuboffs Konzept des „Behavioral Surplus“ (Soo viele Probleme, aber allein schon die Frage wo genau Mehrwert entsteht, wenn Nutzer*innen dazu bewegt werden, ihr Geld für x statt für y auszugeben?). Ein bisschen ähnlich geht es mir auch mit vielen anderen Elementen des Systems. Die meisten Narrative sind bereits bekannt und Joler steckt sie gewissermaßen nur zu einem Gesamtgefüge zusammen, aber ich schätze, ähnliches könnte man durchaus auch über die Macht der Plattformen sagen und wahrscheinlich bin ich nur neidisch: ja, fuck, ich will auch so Grafikkram für die Macht der Plattformen!
Eine ebenfalls spannende grafische Aufarbeitung ist Models all the Way Down, aber statt schnöde Theorie aufzubuzzen steckt dahinter eine handfeste Recherche zu KI-Trainigsdaten. Das Team von „Knowing Machines“ hat sich dafür in die Untiefen des Bild-Trainingssets LAION-5B versenkt und sich auch die Methoden und Tools zur Erstellung dieses Sets genauer angeschaut und dabei einige wirklich spannende Erkenntnisse zutage gefördert. Z.B. dass die Trainingsdaten-Bilder, einfach weil es so unfassbar viele sind, selbst durch KI-Modelle kuratiert werden. Von KIs, die wiederum an Daten trainiert wurden, die von Menschen ausgewählt wurden usw. KI wird immer mehr zum Briefkastenfirma-Scheme, wo hinter der KI eine weitere KI und hinter der eine weitere KI steht, die sich alle ihre Biases weitervererben. Am Ende kommt raus, dass ein Subset von LAION-5B, LAION-Aesthetics, durch eine KI zusammengestellt wurde, deren „Geschmack“ anhand der Präferenzen einer Handvoll Nerds aus einem spezifischen KI-Bildgenerierungs-Discord trainiert wurde und genau dieses LAION-Aesthetics-Set ist jetzt die Fine-Tuning-Grundlage von Midjourney.
The concepts of what is and isn’t visually appealing can be influenced in outsized ways by the tastes of a very small group of individuals, and the processes that are chosen by dataset creators to curate the datasets.
In the case of Midjourney, by a handful of esoteric nerds, and by a 65-year old mechanical engineer living in Southeastern Wisconsin.
Die Washington Post hatte letztes Jahr etwas ähnliches (aber nicht so tiefgreifendes) mit den Textdaten eines Googlesets gemacht. Solche Recherchen sind super wertvoll, weil das Verhalten, das „Weltbild“ und der Stil von KI-Modellen eben nicht in der Software, sondern in Trainingssets steckt, was sie zu einem zentralen Ort der Politik macht.
Ich höre den Decoder Podcast von Nilay Patel, dem Chefredakteur von The Verge noch gar nicht so lange, aber er ist wirklich eine gernerelle Empfehlung. Diese Woche war Jay Graber, die CEO von Bluesky zu Gast und ich habe wirklich viel gelernt. Besonders spannend fand ich, als die beiden über die Mastodonkultur sprachen.
„This was, as I mentioned, one of the reasons that we didn’t try to get ActivityPub to change toward the direction of what we wanted to build because not just the technical primitives being different, there’s also this culture of resistance to global feeds and global algorithms.“
Ich bin noch nicht davon überzeugt, dass Bluesky das Rennen macht, aber ich muss sagen: She has a point? Derzeit scheint Mastodons größtes Problem seine Kultur zu sein. Es gibt so viele Leute, die keinen Fuß mehr auf Mastodon setzen, wegen der nerdigen Besserwisser-Replyguy-Kultur und Entwickler*innen sind abgeschreckt von der Feindseligkeit der Community bezüglich jeder Weiterentwicklung, die Mastodon aus der Nische herausführen könnte. Egal, ob globale Suche, BlueSky-Bridge oder seit neustem die Öffnung zu Threads – man will einfach gerne unter sich bleiben und deswegen mieft es dort zunehmend wie in einer runtergekommenen Eckkneipe mit Schultheiss vom Fass. Jungs, macht mal das Fenster auf Kipp!
Dieser Artikel bei Technology Review versucht der Frage nachzugehen, die ich ebenfalls bei Large Language Models am spannendsten finde, nämlich, warum die Dinger überhaupt funktionieren. Leider bietet er keine Antwort auf die Frage, außer, dass die KI-Wissenschaftler*innen auch nur an den vielen zur Verfügung stehenden Reglern drehen, bis die Antworten irgendwie gut aussehen. Famously dargestellt von XKCD.
Ein paar spannende Phänomene werden dennoch besprochen: Overfitting und Double Descent, inklusive der (umstrittenen) These, dass beides zusammenhängt.
Ich glaube aber, dass die Antworten in der Statistik zu Suchen ein ähnlicher Kategorienfehler ist, wie Zellteilung anhand von atomarem Elektromagnetismus erklären zu wollen. Ja natürlich ist das alles auch Physik, aber für Erklärungen ist es schlicht der falsche Layer? Ich persönlich glaube tatsächlich, dass in LLMs emergente Phänomene passieren, die im Kern zwar statistisch, aber mit dem statistischen Begriffsapparat nicht zu fassen sind.
Ich mag zum Beispiel die Erklärungen von Timothy Lee und Sean Trott in diesem LLM-Explainer, die sich an vielen Stellen auf durch Forschung informierte „educated Guesses“ beziehen, dadurch zwar spekulativer aber auch erkenntnisreicher sind.
Ich mein, hey. Niemand weiß wirklich, was da in den hunderten von Milliarden von Parametern geschieht also was soll die Zurückhaltung? In den 1970er Jahren hätte jeder französische Philosoph schon fünf Bücher darüber geschrieben!
Steven Levy, das alte Tech-Reporter Schlachtross, traut sich aus der Deckung und widerspricht den Stimmen, die in generativer KI nur einen Hype sehen. Sein wesentliches Argument ist, dass die Technologie einen anhaltenden Adaptionsschub im Arbeitskontext erlebe – von 12 auf 20% innerhalb der letzten 6 Monate laut PEW Studie. Er vergleicht die Einführung von generativer KI mit der Einführung von Spreadsheets Anfang der 1980er Jahre, was die Weltwirtschaft bekanntlich nachhaltig veränderte, deren Adaption aber viel langsamer verlief.
Ich merke immer mehr, dass ich mich in Sachen KI in einer tricky diskursiven Position befinde. Ich glaube, die Technologie ist des Teufels und wir sollten morgen mit Panzern ins Silicon Valley einfahren und alle festnehmen, aber gleichzeitig glaube ich weder an den AGI-Doomerism, noch daran, dass das alles nur überhyptes Geschnatter von stochastischen Papageien ist. Die Technologie als Technologie ernst zu nehmen und gleichzeitig ihre Auswirkungen auf die Gesellschaft zu befürchten, scheint irgendwie kein richtiges Camp innerhalb dieser Technologiedebatte zu sein?
Ich mein, wenn Steven Levy recht hat und man alleine die Unfälle, die Excel verursacht hat zur Grundlage nimmt, können wir uns auf Einiges gefasst machen.
Ok, gut. Ein Artikel in der traditionell eher linken „The Nation“ von Sage Cammers-Goodwin und Rosalie Waelen geht in eine ähnliche Stoßrichtung in die ich auch denke, bleibt aber analytisch eher an der Oberfläche. Trotzdem wurde der Artikel sofort wegen seinen „Anthromorphismen“ zerrissen.
Deswegen hier vier Gründe, warum ich Anthropomorphisierung von generativer KI OK und manchmal sogar gut finde:
- Ich halte die Gefahren der „Antromorphisierung“ für übertrieben. Natürlich besteht die Gefahr, aber die Leute, die das tun (sich zum Beispiel in Chatbots verlieben und ihnen ein Bewusstsein zuschreiben) sind selten die Leute, die kritische Texte dazu lesen. Daher frage ich mich, für wen die Warnung gut sein soll?
- Die Leute, die immer laut rufen, dass LLMs nicht „Denken“, „Verstehen“, „Sprechen“ oder „Übersetzen“ können, wirken immer so, als wüssten sie ganz genau, was diese Begriffe bedeuten. Das wissen sie aber genauso wenig, wie der Rest von uns, was mich zu der These veranlasst, dass es hier um identitätspolitisches Abrgrenzungsgehabe geht. Anthropozentrische Identitätspolitik is a thing now, I guess? (PS: Ich habe mich in dem Böckler-Paper zu LLMS auch mit der Frage befasst, ob LLMs verstehen. tl;dr: its complicated)
- Es wird außerdem immer so getan, als würde man implizit davon ausgehen, dass „Verstehen“ bei LLMs haargenau den Prozesse im menschlichen Gehirn entsprechen müsse, was natürlich quatsch ist. Es gibt offenbar eine gewisse, funktionale Äquivalenz, obwohl ebenfalls offensichtlich ist, dass eine LLM zB kein Bewusstsein hat. Aber deswegen darauf zu bestehen, dass, was immer in den LLMs passiert kein „Verstehen“ sei, würde auch bedeuten, dass Flugzeuge keine Flügel haben, weil die Flugmechanik bei Vögeln ja ganz anders funktioniert.
- Darüber hinaus finde ich „Antropomorphisierungen“ von KI durchaus hilfreich und empfehle das sogar. Die Dinger reagieren nun mal in vielerlei Hinsicht eher wie Menschen als Computer und es macht durchaus Sinn, ihre Aussagen zum Beispiel eher wie die des super selbtbewussten aber häufig bullshittenden Arbeitskollegen zu behandeln, als die von, sagen wir, einer wissenschaftlichen Datenbank.
Der Historiker Adam Tooze hat in seinem Newsletter einen längeren Essay über die Hintergründe von Merkels berühmter „Israels Sicherheit ist deutsche Staatsraison“-Rede geschrieben, die bis heute die politischen Beziehungen zu Israel bestimmt. Die wichtigste Erkenntnis: der Satz fiel in einem Kontext, der sich gar nicht auf die Unabhängigkeitsbestrebungen der Palästinener als Sicherheitsrisiko bezog, sondern auf den Iran, dessen angestrebtes Atomprogramm damals im Zentrum globaler Aufmerksamkeit stand. Außerdem war die Rede nicht nur Rhetorik, sondern durch die Lieferung mehrerer atomwaffenbestückbarer U-Boote aus deutschen Werften untermauert.
Die Rede muss, mit ihrer klaren Referenz auf das vordemokratisches Konzept der Staatsraison auch als Ankündigung eines „Eliten-Projekts“ verstanden werden, das sich noch heute im Topdown Umgang der Bundesregierung mit dem Gazakrieg zeige, so Tooze:
„But what Merkel was saying before the Knesset in 2008 was precisely this: the Federal Republic’s commitment to Israel does not depend on fickle democratic mandates or public opinion on the German side. It is a deeper principle, if necessary to be defended, argued for and insisted upon in the face of an unwilling German public. Indeed, in front of the Knesset, Merkel explicitly defined the task of German democratic leadership as cleaving to Israel even in the face of public opinion polls that revealed a groundswell of German attitudes that were far more skeptical about Israel and Germany’s historical obligation.“
Das ist wieder so eine Passage, bei der ich sofort schlucken musste, denn natürlich kann ich mir denken, wie solche Sätze von Verschwörungstheoretiker*innen gefeiert werden. Aber ich bin es leid, mich ständig an der Beweisaufnahme-Motivation von Spinnern zu orientieren. Die Dinge sind, wie sie sind, lasst sie uns diskutieren und die Schwurbler werden dann einfach geblockt.
RealLiveLore hat einmal die wechselhafte Geschichte der afrikanischen Sahelzone aufgearbeitet, unter anderem weil es derzeit einer der Hauptgründe für das gesteigerte Säbelrasseln der Franzosen gegenüber Russland ist.
RealLiveLore ist durchaus sehr russlandkritisch und hat bereits viele sehenswerte Videos zum Urkainkrieg gemacht und dennoch kann man sich in diesem Video des Eindrucks nicht erwehren, dass die Russen gar nicht so viel schlimmer als die Franzosen sein können. Die brutale, verbrecherische Herrschaft Frankreichs über die Region erklärt gut, warum die Menschen dort keine Lust mehr auf Europäer haben. Mir war allerdings auch die anhaltende Ausbeutungsstruktur über die CFA-Franc-Währung gar nicht bewusst, die die Staaten dort immer noch in einem extraktiven Abhängigkeitsverhältnis von Frankreich hält und die die Menschen dort verständlicher Weise abzuschütteln versuchen.
Wenn man zwischen französischer Ausbeutung, eiserner Diktatur und dem Horror von ISIS lebt, wirken die brutalen Wagner-Söldner wahrscheinlich plötzlich gar nicht mehr so schlimm? Jedenfalls ist es wahrscheinlich, dass die Spannungen zwischen Russland und Frankreich noch eskalieren könnten, spätestens, wenn die Uranlieferungen aus dem Niger bedroht sind.
Die Woche Endet mit der Entdeckung einer Hintertür in einem der wichtigsten Sysadmin-Tools überhaupt: OpenSSH. In diesem Text wird ganz gut beschrieben, was wohl vorgefallen ist: Anscheinend wurde eine der kleineren Bibliotheken namens „xz“, die in OpenSSH eingebunden ist, von jemand betreut, der schon länger gesundheitliche Probleme hatte und der übertrug die Verantwortung nur zu gerne an einen anderen Open Source Maintainer namens „Jia Tan“. Über diese Person ist wenig bis gar nichts herauszufinden, aber seine Commits schienen wohl OK genug gewesen zu sein? Jedenfalls war er es, der in einer der letzten Versionen eine gut versteckte Hintertür einbaute, was jetzt ein Security Nightmare für alle Serverbetreiber*innen weltweit ist.
Es wird natürlich wild herumspekuliert, was genau passiert ist. Steckt hinter „Jia Tan“ ein Geheimdienst? Wenn ja, welcher? Die Tatsache, dass Tan sich so fließend in den Gepflogenheiten der Open Source Community auskennt, könnte außerdem darauf hindeuten, dass er wohl schon länger und zu noch mehr Projekten beiträgt? Welchen?? Und die Tatsache, dass die Hintertür nur wegen eines kleineren Bugs im Code (der zu einem kleinen Laufzeitdelay führte) gefunden wurde, führt zu der bangen Frage, was uns noch alles so entgeht …
Nur weil alles voller Verschwörungstheoretiker*innen ist, heißt das nicht, dass nicht überall die Verschwörung lauert!!
Es wird immer schwieriger durch den undurchdringlicheren Wust von Meinungen und Debattenformationen zu navigieren und natürlich kann man dabei nur scheitern. Aber ich komme immer mehr zu der Ansicht, dass es nichts bringt, sich ständig daran zu orientieren, was tribalistische Debattenkrieger oder einfältige und/oder böswillige Spinner mit dieser oder jener Information oder Meinung tun werden. Die werden sowieso nicht aufhören, ihre Seite mit Bullshit-Evidenz aufzupumpen, also scheint mir die Strategie, mit eigenen halbgaren, aber aufrichtigen Takes dagegen zu halten zumindest nicht allzu … schädlich?