Willkommen zu Krasse Links No 74. Dies ist gewissermaßen eine Sonderausgabe zu Sprache, Denken und Handeln, an der ich ziemlich lange gesessen habe und die etwas länger geworden ist, deswegen sorry für die lange Stille und den langen Newsletter, aber da musste ich gerade mal durch. Aber nun haltet euch an euren Paradigmen fest, heute verfolgen wir Jeffrey Epstein durch die Evolution des Unterschieds und differenzieren den Kognitivismus mit der Proto-Semantik der Intelligenz.
Ich war kurz erschrocken, als Benjamin Riley in The Verge berichtete, dass Wissenschaftler*innen zweifelsfrei zeigen können, dass Denken und Sprechen zwei vollkommen unterschiedliche Dinge seien, die rein gar nichts miteinander zu tun hätten und dann war ich fast enttäuscht, wie wenig sie aufzubieten hatten.
The problem is that according to current neuroscience, human thinking is largely independent of human language — and we have little reason to believe ever more sophisticated modeling of language will create a form of intelligence that meets or surpasses our own. Humans use language to communicate the results of our capacity to reason, form abstractions, and make generalizations, or what we might call our intelligence. We use language to think, but that does not make language the same as thought.
„Brain-Scans“ zeigen, dass Sprache ein Areal im Hirn beansprucht, dass bei bestimmten kognitiven Aufgaben kaum benutzt wird, außerdem sind Menschen mit kognitiven Störungen ihrer Sprachfähigkeit unabhängig davon durchaus fähig, komplexe Aufgaben zu lösen und auch Babies zeigen kognitive Fähigkeiten lange vor dem Spracherwerb u.s.w.
Second, studies of humans who have lost their language abilities due to brain damage or other disorders demonstrate conclusively that this loss does not fundamentally impair the general ability to think. “The evidence is unequivocal,” Fedorenko et al. state, that “there are many cases of individuals with severe linguistic impairments … who nevertheless exhibit intact abilities to engage in many forms of thought.” These people can solve math problems, follow nonverbal instructions, understand the motivation of others, and engage in reasoning — including formal logical reasoning and causal reasoning about the world.
Interessant ist, was sie als „nicht-sprachliche kognitive Fähigkeiten“ ansehen:
Aus dem zitierten Paper:
mathematical reasoning, formal logical reasoning, performing demanding executive function tasks such as working memory or cognitive control tasks, understanding computer code, thinking about others’ mental states, and making semantic judgments about objects or events.
Ich komm nicht darüber hinweg, wie eng diese Menschen „Sprache“ definieren. Als wäre formale Sprache, mathematische Formeln, Zahlen, Computer Code, etc. nicht teil der Sprache.
Wie man diesem Newsletter ab und an anmerkt bin in meinem Denken eher von der (post-)strukturalistischen Schule geprägt, die das alles ganz anders sieht.
Alles fing damit an, dass der Schweizer Ferdinand de Saussure darauf kam, wie Sprache funktioniert: Als System von Differenzen. Die Rolle von Buchstaben besteht im Grunde darin, anders zu sein, als die anderen Buchstaben des Systems, damit man daraus Wörter bauen kann, die anders sind, als die anderen Worte, damit man mit den Worten Sätze bilden kann, die anders sind, als die anderen Sätze und so weiter.
Die Zeichen selbst sind dabei „arbiträr“, das heißt, sie könnten auch ganz anders aussehen oder klingen, wichtig ist nur ihre Unterscheidbarkeit und ihre Eingebettetheit in das System.
Aus Saussures Erkenntnis sprudelte in der zweiten Hälfte des 20ten Jahrhunderts ein ganzes Feld von neuen Weltbetrachtungsweisen, die man später unter dem Wort „Strukturalismus“ fasste: Claude Levi-Strauss wandte das Framework in der Ethnologie an, um die kulturellen Praktiken indigener Völker in Beziehung zur eigenen zu setzen, Lacan zur Erforschung des Unbewussten, Roland Bartes nutzte es, um unsere Konsum-Alltagswelt semiotisch aufzuschlüsseln, Pierre Bourdieu wandte das Framework auf Klasse an, Foucault zur Identifikation und Beschreibung von vergangenen und gegenwärtigen Diskursformationen und Umberto Eco für alles mögliche.
Auch Derrida baut auf De Saussure auf, aber radikalisiert ihn, indem er darauf aufmerksam macht, dass das Zeichen neben der Differenz noch eine weitere, vertrackte Pfadabhängigkeit mitbringt: und das ist die Wiederholbarkeit. Wiederholung heißt aber immer auch Alternierung, denn keine Erscheinungsform und kein Kontext des Zeichens ist je wieder dieselbe. Jede Wiederholung ist somit eine Iteration, die einerseits die Generalisierung der Unterscheidung bestätigt, aber durch die Alteration von Kontext und Form immer schon eine Art Meta-Differenz („Differance“, mit „a“ statt „e“) in sich trägt, die die „Identität des Zeichens“ spaltet und seine Bedeutung aufschiebt.
Die Iteration – also die Alternierung und gleichzeitige Wiederholung des Zeichens – ist die materielle Grundlage des Bedeutens. Aber eigentlich können wir nicht mehr von „Zeichen“ und „Bedeutung“ sprechen, denn diese Begriffe werden instabil. Denn wenn „Bedeutung“ nicht im Zeichen ansich, sondern in der Differenz der sich wiederholenden Alterationen im jeweiligen Kontext liegt, dann gibt es keine abgeschlossene „Bedeutung“. Bedeutung bleibt für Alternierung und damit für die Zukunft offen. Für immer aufgeschoben. Wegen dieser Dekonstruktion des Zeichens wird Derrida auch dem Post-Strukturalismus zugeordnet (wobei das alles Fremdzuschreibungen sind, gegen sie sich alle Betroffenen stets gewehrt haben).
Aber das war das Paradigma, das Mitte der 1990er Jahre vom Kognitivismus abgelöst wurde, der heute überall hegemonial ist. Das Stück von Riley fährt fort:
We can credit Thomas Kuhn and his book The Structure of Scientific Revolutions for our notion of “scientific paradigms,” the basic frameworks for how we understand our world at any given time. He argued these paradigms “shift” not as the result of iterative experimentation, but rather when new questions and ideas emerge that no longer fit within our existing scientific descriptions of the world. Einstein, for example, conceived of relativity before any empirical evidence confirmed it. Building off this notion, the philosopher Richard Rorty contended that it is when scientists and artists become dissatisfied with existing paradigms (or vocabularies, as he called them) that they create new metaphors that give rise to new descriptions of the world — and if these new ideas are useful, they then become our common understanding of what is true. As such, he argued, “common sense is a collection of dead metaphors.”
Moment, eben noch waren Sprache und Denken zwei kommplett verschiedene Dinge und jetzt sagt derselbe Autor, dass wir andere Fragen stellen können, wenn wir andere Unterscheidungen machen? Und zitiert dazu noch zwei strukturalistisch beeinflusste Denker: Kuhn und Rorty? Wie passt das zusammen?
Ich möchte folgende Definition vorschlagen:
Ein „wissenschaftliches Paradigma“ ist eine (im jeweiligen Kontext) hegemonial gewordene erkenntnisleitende Unterscheidung und alle die sich daraus ergebenden Forschungspfadgelegenheiten, inklusive ihrer materiellen und semantischen Infrastrukturen.
Ein Paradigma entsteht, wenn eine bestimmte Unterscheidung nützlich scheinende Pfadgelegenheiten eröffnet: Dann fließen Forschungsgelder und Paper und im besten Fall auch „Erkenntnisse“. Doch wie das immer so ist: das neue Paradigma – die neue fancy Unterscheidung, so toll sie auch ist – birgt meist nur eine begrenzte Zahl an beforschbaren Pfaden und wenn die „Low Hanging Fruits“ bereits geerntet sind und die „Erkenntnisse“ nicht mehr so purzeln, geht das Paradigma in den Selbstverteidigungsmodus über.
Ich stell mir das so vor: Jede erkenntnisleitende Unterscheidung produziert pfadabhängige „blinde Flecke“, denn es gibt immer auch Millionen Möglichkeiten, anders zu unterscheiden und diese anderen Möglichkeit zu unterscheiden hätten aber ebenso Pfadgelegenheiten eröffnet, die aber deswegen unbeforscht blieben, weil das bestehende Paradigma die Aufmerksamkeit, das Geld und die Infrastrukturen bei sich konzentriert. Ein Paradigmenwechsel passiert also dann, wenn eine grundlegende Art zu unterscheiden, eine andere Art zu unterscheiden ablöst.
It [the LLM] will be forever trapped in the vocabulary we’ve encoded in our data and trained it upon — a dead-metaphor machine. And actual humans — thinking and reasoning and using language to communicate our thoughts to one another — will remain at the forefront of transforming our understanding of the world.
Das ist zwar eine richtige Beschreibung von LLMs, es ist aber auch zu einem gewissen Maß richtig für uns alle. Wir alle leben in den toten Metaphern unserer Vorfahren und kommen da schwer raus. Und in einem ganz besonderen Maße ist es richtig für das Paradigma des Kognitivismus, das in Wirklichkeit noch bei Descartes hängen geblieben ist. Zeit für was Neues.
Ich habe angefangen, etwas Ordnung in mein semantisches Gerümpel zu bringen, dass ich im Laufe des Newsletters angehäuft habe, indem ich ausführliche und möglichst einsteigerfreundliche Explainer geschrieben habe: Angefangen habe ich mit den beiden wichtigsten Begriffen: Dividuum und Pfadgelegenheit, weitere werden folgen.
Außerdem gibt es noch einen Explainer dazu, wie man von der Macht-Inderdependenz-Theorie zur Macht/Wert-Formel kommt.
Heise fasst ein Interview mit dem Richter am internationalen Strafgerichtshof in Le Monde, Nicolas Guillou, zusammen, der wegen seiner Untersuchungen des Genozids in Gaza auf die Sanktionsliste der US-Regierung fiel und deswegen Zugang zu Services und Bankverbindungen verlor.
Im Alltag von Guillou bedeutet das, dass er vom digitalen Leben und vielem, was heute als Standard gilt, ausgeschlossen ist, schilderte er der französischen Zeitung Le Monde. All seine Konten bei US-Unternehmen wie Amazon, Airbnb oder PayPal wurden von den Anbietern sofort geschlossen. Online-Buchungen, wie über Expedia, werden sofort storniert, selbst wenn es um Hotels in Frankreich geht. Auch die Teilnahme am E-Commerce sei ihm praktisch nicht mehr möglich, da US-Unternehmen auf die eine oder andere Weise immer eine Rolle spielen, und es diesen strikt untersagt ist, mit Sanktionierten in irgendeine Handelsbeziehung zu treten.
Als drastisch beschreibt er auch die Auswirkungen, am Bankenwesen teilzunehmen. Zahlungssysteme seien für ihn blockiert, da US-Unternehmen wie American Express, Visa und Mastercard quasi über ein Monopol in Europa verfügten. Auch das restliche Banking beschreibt er als stark eingeschränkt. So seien auch Konten bei nicht-amerikanischen Banken teilweise geschlossen worden. Transaktionen in US-Dollar oder über Dollar-Konversion sind ihm verboten.
Ich denke ja schon länger, dass das Mittel der Wahl wird, wie der Techfaschismus seine Gegener*innen kontrolliert. Wer unbequem wird, landet auf der Liste und die Plattformen und Zahlungsanbieter machen den Rest.
Wie neulich hier besprochen arbeitet die Trumpregierung bereits an einer inländischen Implementierung zum „War against Antifa“. Wobei die Schwammigkeit des Targets dieser Form der Unterdrückung durchaus entgegenkommt. Millionen zerstörter Einzelschicksale, weil „Antifa“. Gleichzeitig kann man mit solchen Listen prima am Gesetz vorbei unterdrücken: Die Plattformen setzen nur ihr Hausrecht durch und wer will schon „Terroristen“ unterstützen?
Die kommende Purge-Koalition wird nur ein Teil des Problems sein und wenn sich all diese Plattformen koordinieren, knallt der Thanos-Effekt an die Decke. Unsere Abhängigkeiten von der amerikanischen Tech-Oligarchie sind eine tickende Zeitbombe.
Jason Pargin hat ein kurzes Erklärvideo über die psychologische Ökonomie des Kulturkampfes.
Wenn wir die politische Ökonomie der Pfadgelegenheiten auf die Konsumwelt anlegen, dann sehen wir, dass die zusätzlichen Kaffee-Pfadgelegenheiten zwar nichts an der Verfügbarkeit der materiellen Pfadgelegenheit „Coffee, Black“ ändert, wohl aber an ihrem Wert, denn die Macht-Wert-Formel teilt immer durch die Pfadalternativen.
Und das gilt für die semantische Ebene erst recht: Der Orientierungspunkt „Kaffee“ wird ambivalent, verzweigt sich, verliert damit einen Gutteil seines Werts als Erwartungs-Koordinationsanker.
Jede Pfadalternative ist semantisch dem Spiel der Differenzen ausgeliefert: Neue Kaffee-Pfadgelegenheiten sind auch Pfadgelegenheiten zur Distinktion und das wird von den semantisch Zurückgelassen gespürt und machmal als Pfadgelegenheit genutzt, in dem geänderten Verhalten um sich herum eine Form der Herabsetzung ihrer Art zu leben zu lesen. Der semantische Ausdruck dieser Herabsetzung ist die Degradierung ihres Kaffees von „universeller, voll oker Kaffee, den halt alle trinken“ zur „Basic-Variante“.
Im Zuge der Veröffentlichung interner Untersuchungen am MIT kamen ein Haufen E-Mails zwischen Joscha Bach und Jeffrey Epstein zu Tage. Aus dem Boston Globe:
“In the US, black children outperform white children in motor development, even in very poor and socially disadvantaged households, but they lag behind (and never catch up) in cognitive development even after controlling for family income,” he wrote. […]
In another email, sent to Epstein about two weeks later in 2016, Bach claimed that women “tend to find abstract systems, conflicts and mechanisms intrinsically boring” and attributed gender disparities in scientific involvement to this.
“Most women in computer science do not write programs because they enjoy solving puzzles, but because they want to help people, get approval etc,” he wrote. “There are almost no women in math, because it does not help people or yield social attention.”
He also drew further generalizations about the differences between racial groups and mused about fascism, describing it as “probably the most efficient and rationally stringent way of governance,” but adding that it “makes romantic doo-gooders like me very uncomfortable.”
Aber auch der größere Kontext ist interessant:
According to the MIT report on Epstein’s interactions with the institute, Epstein introduced Bach to Ito, the Media Lab leader, in 2013. Bach was hired by the lab “in large part because Epstein subsidized the cost,” the report said. Epstein made donations in November 2013, July 2014, and September 2014 totaling $300,000 to support Bach’s research, according to the report.
Epstein also introduced Bach to Martin Nowak, a professor of mathematics and biology at Harvard University, according to the school’s report into its connections to Epstein. (Like MIT, Harvard commissioned a review into the university’s connections to Epstein and released the findings in 2020.)
Nowak, who led Harvard’s Program for Evolutionary Dynamics, which was funded by a multimillion-dollar gift from Epstein, was sanctioned by Harvard in 2021. He was barred from leading new research projects and taking on advisees for two years, and the program was shut down.Nowak gave Bach access to the program’s offices from 2014 to 2019, and the program listed Bach as a research scientist on its website, according to the Harvard report. The report said Harvard did not pay Bach or provide funds to support his research. After leaving MIT in 2016, Bach continued to intermittently use the program’s office space, including to meet with Epstein, according to the report.
Was weniger Gegenstand der allgemeinen Diskussion um Epstein ist, aber zur Wahrheit unbedingt dazugehört, ist die Tatsache, dass er eine einflussreiche Figur in der Wissenschaftspolitik der USA war. Epstein war sehr engagiert, teil eines intellektuellen Umfelds zu werden, dass sich um den Literaturagenten John Brockman gebildet hatte, die dieser mal in seinem gleichnamigen Buch als „Third Culture“ bezeichnete. Eine neue Form von Intellektuellen, der nicht mehr diesen papierverstaubten kulturwissenschaftlichen Background hat, sondern die Aura des „Innovators“ hat und aus der „echten Wissenschaft“ kommt: Richard Dawkins, Daniel Dennet, Marvin Minsky, Roger Penrose und Steven Pinker uns so weiter. Also das, wovon Jordan Peterson und das „intellektual Dark Web“ die pfadanhängigen Ausläufer in unsere Zeit sind.
Brockman und seine neuen Intellektuellem etablierten aber auch die Erlangung der Deutungshoheit der „Hard Science“ über eigentlich traditionell kultur- und geisteswissenschaftlichen Fragen, unter anderem: Was ist Erkennen, was ist Denken, was ist Bedeutung, was ist Sprache? Diese Fragen wurden jetzt zunehmend von „Cognitive Scientists“, also Psycholog*innen, Neurowissenschaftler*innen und im weitesten Sinne auch KI-Forscher*innen beantwortet.
In seinem Buch „Language Machines“ macht Leif Weatherby den Showdown dieses Paradigmenwechsels an der Popularisierung von Noam Chomskys Konzept der „Generativen Grammatik“ fest. Ich tue ihm sicherlich unrecht, aber verkürzt sagt Chomsky, dass wir eine Art evolutionären Sprachprozessor im Hirn hätten, der zwischen Gedanken und gelernter Sprache übersetzt. Dabei ist das Language-Modul nur ein Modul unter vielen und wird eigentlich nur zur Kommunikation verwendet. Wichtig ist: Denken und Sprechen sind zwei voneinander unabhängige Vorgänge.
Es war aber Steven Pinker, der in seinem Bestseller von 1994 „The Language Instinct“ die Ideen Chomskys in einer abgespeckten Form popularisierte und damit den „Cognitive Turn“ (mein Wort) einleitete, der bis heute das Wissenschaftsfeld und die gesamte Debatte prägt.
Ende der 1990er Jahre kommt dann nach und nach Jeffrey Epstein ins Bild. Er war fasziniert von den großen Ideen um Geist, Sprache und Intelligenz und natürlich: Künstlicher Intelligenz. Auch er wird wie Brockman ein Broker in diesem neuen wissenschaftlichen Paradigma, aber statt mit Buchverträgen und Ruhm, stattet Epstein diese Szene mit Geld und Kontakten zu seinen Milliardärs-Freunden und Politeliten aus. Er selbst finanziert ein paar Projekte hier und da, den Psychologen Howard Gardner, Martin Nowak eben „Joscha Bach“ (auf Anraten von Marvin Miskys), er freundet sich mit Noam Chomsky an und hängt mit Steven Pinker rum. Aber vor allem vermittelte er Kontakte zur neuen Intelligenzija, zu Geld, zur Tech-Szene, zur höchsten Politik und naja, zu … Minderjährigen.
Ich will niemandem Dinge unterstellen, die er oder sie nicht getan hat und Jeffrey Epsteins Einfluss auf die Hegemonialwerdung des kognitiven Paradigmas kam relativ spät und man sollte es auch nicht zu hoch hängen, aber die semantischen Pfadabhängigkeiten und ideologischen Übergangswahrscheinlichkeiten sollten uns dennoch zu Denken geben.
Der Kognitivismus als verwissenschaftlichter Individualismus konnte das descartsche Individuum gegen den Angriff der Poststrukturalisten nicht nur verteidigen, sondern ein eigenes Paradigma auf diesem Sieg errichten.
Solange die Sprache nur Übersetzung innerer Geisteszustände ist, bleibt die Res Cogitans intakt, bleibt das Indivduum unteilbar, denn nur durch diese Unteilbarkeit, so die Vorstellung, hat der Mensch „Agency“. Chomsky steht in einer „anarchistisch-liberalen Tradition“ und da gehört das Individuum zum pfadabhängigen Erbe und wie anschlussfähig diese Position nach rechts ist, war in den 1980ern weniger klar als heute.
Gleichzeitig öffnet sich diese undefiniert gelassene Stelle des Denkens, das nicht Sprache ist, der pfadabhängigen Imagination: Mit dem „Bewusstsein“ und seiner „Intelligenz“ hatte man eine mit der Welt (von der Genetik abgesehen) unkorrelierte „Qualia“, der man jetzt versuchte, mit Brain-Scans, Zwillingsstudien, „Intelligenz-Tests“ und „evolutionärer Psychologie“ auf die Spur zu kommen.
Auch wenn man sich nach wie vor nicht sicher ist, was Intelligenz oder Bewusstsein überhaupt sind, ist man sich sicher, dass es etwas mit Skalierung zu tun hat, eine These, die sich oberflächlich gesehen mit „KI“ zu bewahrheiten scheint. Hinter all dem steht eine Vorstellung von „Intelligenz“ als lineare Qualitäts-Hierarchie der Bewusstseine – von der Amöbe über Albert Einstein bis zum Cognitive Scientist der Third Culture und mit „AGI“ vielleicht demnächst sogar darüber hinaus.
Dabei gilt so grob: Je Intelligenz desto Agency und je Agency desto Individuum.
Damit wird folgendes Narrativ möglich: der Ort in der Gesellschaft, den du (und die Gruppe, zu der du gehörst) einnimmst, reflektiert deine Agency (statt, wie es wirklich ist: andersrum) und deine Agency (und die deiner Gruppe) reflektiert deine Intelligenz.
Wer hat wohl Interesse an so einem Weltbild?
Hm, reiche Menschen?
Rassisten?
Aber vor allem: reiche Rassisten?
Der Kognitivismus ist nur das vorherrschende wissenschaftliche Paradigma, sondern auch, wo der „Scientific Racism“ seinen Most holt. Außerdem der semantische Ort, von dem die KI-Bros ihre naive Vorstellung von Intelligenz beziehen und nicht zuletzt auch die Erlaubnisstruktur für das neuerliche Milliardärs-Klassenbewusstsein.
Jeffrey Epstein war ein echtes Individuum, ein Superindividuum das andere „Individuen“ wie Dividuen aussehen lässt, wie Joscha bewundernd bemerkte:
“I find your ‘political incorrectness’ very fascinating,” Bach wrote. “In the beginning, I thought it is a form of costly signaling, but now I think you are simply entirely unconstrained in your thoughts.”
He added, “I wonder what kind of person you want to transform into.”
Dieser Video-Explainer über KI dreht sich eigentlich um die Frage, in wie weit Schmerz die wesentliche Zutat ist, die Lernen ermöglicht, kommt dabei aber immer wieder auf die sogenannte „Value Function“ moderner Machine Learning-Systeme zurück.
Schon Claude Shannon führte als erster eine Art Value Function ein, um über die Ketten von Pfadentscheidungen nachzudenken, die ein Schachspiel ausmachen. Mit der Value Function ergibt sich die Möglichkeit einen Pfad zu evaluieren, ohne ihn wirklich zu gehen. Mit einer entsprechend ausgefuchsten Value Function, so dachte schon Shannon, gewänne man jedes Spiel.
Mit Neuronalen Netzen dachte man auf der richtigen Spur zu sein, aber erst mit der Neukonzeption der Value Function durch Christopher Whatskins gelingt der Durchbruch.
In seinem Paper „Learning from Delayed Rewards“ definiert er den Wert um, von dem Wert eines Status des Spiels, hin zu dem Wert einer Handlung im Status des Spiels, den er Q-Function nennt. Das, zusammen mit vielen „Hidden Layern“ ergibt das Deep-Q-Network, das sich bei Deep Mind Atari spielen beigebracht hat.
Q-Function errechnet also den subjektiven „Wert“ von Pfadgelegenheiten.
Ich bin seit ungefähr anderthalb Jahren fasziniert von der evolutionären Theorie des Bewusstseins, die der Biologie Nicholas Humphrey aufgestellt hat. Hier sein absolut sehenswerter Vortrag zum Thema, sein letztes Buch muss ich aber noch lesen.
Der ganze Vortrag ist erhellend, aber ich bin vor allem auf seiner evolutionsbiologischen Spekulation über die Entstehung von Perzeption und Bewusstsein hängengeblieben.
Versetzen wir uns in eine Amöbe zur Halbzeit der Evolution.
- Die Amöbe entwickelt unterschiedliche Reaktionen auf Reizungen durch unterschiedliche Umweltzustände: Sie unterscheidet, sagen wir „Grenze“ (hier gehts nicht weiter), „Gefahr“ (run), „Lecker“ (absorbieren).
- In Phase 2 bildet die Amöbe eine Art Proto-Gehirn, ein Zentrum, das die Umwelt-Reaktionen zentral koordiniert.
- Dann die entscheidende Phase: Von den Reaktionensmustern werden „Kopien“ angelegt und im Zentrum abgelegt und nervlich adressierbar gemacht. Humphrey meint, dass „Planung“ und komplexeres verhalten damit möglich wird.
- Zuletzt: Feedbackloop zwischen motorischem System, sensorischen System und den gespeicherten Repräsentationen, ermöglicht/unterstützt durch die Evolution zu Warmbutkörpern.
Soviel zu Humphrey, aber hier, was mein von der Metaphysik des Dividuums „bamboozeltes“ „Mind“ daraus macht:
Dieser evolutionäre Moment, den Humphrey beschreibt, ist gleichzeitig die Geburt der „Pfadgelegenheit“, sowie von Semantik, von Agency, von Widerstand und von Kunst.
Aber Eins nach dem Anderen:
- Mit der Kopie des Reizreaktionsschemas zum repräsentativen Aufrufen in Schritt 3 haben wir das, was ich im Pfadgelegenheits-Explainer eine „projizierte Handlung“ nenne.
- Und in Schritt vier sehen wir, wie die Pfadgelegenheits-Turing-Machine angeworfen wird: Infrastruktur (das motorische System in seiner Umwelt), Perspektive (das sensorische System) und die Reizreaktionsschema-Kopie „projizierte Handlung“ sind beisammen.
- Erste Pfadabhängigkeit: Erst durch die „projizierten Handlung“ kann es „Handlung“ überhaupt geben. Erst wenn ich einen Pfad projizieren kann, kann ich mich für ihn entscheiden. Alles andere ist nur „Reaktion“.
- Pfadabhängigkeit der Pfadabhängigkeit: Entscheidung aber gibt es erst, wenn ich eine Wahl habe. Eine Wahl habe ich aber nur, wenn ich mehrere Pfadgelegenheiten zur Auswahl habe, klar, aber um auswählen zu können, muss ich erst in der Lage sein, eine Pfadgelegenheit zu antizipieren, ohne sie nehmen zu müssen. Freiheit entsteht aus dem „Nein“.
- Pfadabhängigkeit der Pfadabhängigkeit der Pfadabhängigkeit: „Antizpieren“ (Q-Function) heißt aber konkret, eine Reaktion zu projizieren, das heißt, zu imaginieren. So tun als ob. Jede Pfadgelegenheit ist eine Inszenierung.
- Mit der Pfadgelegenheit entsteht also auch „Agency“ und wir verstehen: Die Bedingung der Möglichkeit von Freiheit ist die Fähigkeit einen Pfad zu inszenieren und dann „Nein“ zu ihm zu sagen.
- Zusatzbeobachtung: Pfadgelegenheiten sind immer und grundsätzlich mit Emotionen verbunden. Der Schmerz des Hungers (Reproduktionsschmerz), aber auch der Genuss des Essens, der Schmerz der nicht (mehr) vorhandenen Pfadgelegenheiten (Netzwerkschmerz) und der Genuss des Flows, die vielen unterschiedlichen Schmerzen der Gefahr (Stress) und der Genuss der Geborgenheit sind von vornherein Teil der kopierten Reaktionsmuster, also mit all unseren „projizierten Handlung“ verknüpft und immer wenn ich etwas entscheide, spielt ein komplexes Zusammenspiel dieser Emotionen eine Rolle (Bauchgefühl).
Um zu verstehen, wo die Semantik sich versteckt, müssen wir Gregory Batesons elegante und treffende Definition von „Information“ nehmen und sie zu einer strukturalistischen Evolutionstheorie erweitern. Die Definition lautet:
Information is a difference, that makes a difference.
Aber welche Difference maked die Difference? Spoiler: Sie verändert Erwartungen.
Das symbolische System der Amöbe unterscheidet ihre Umwelt in Grenze, Gefahr und Lecker, indem sie die projizierten Handlungen „Richtung ändern“, „Run“ und „Absorbieren“ als Heuristik verwendet, als Q-Function, um für jeden ihr sich ihr bietenden Pfad den „Wert“ zu bestimmen, bevor sie sich dafür oder dagegen entscheidet.
Doch um zu funktionieren, müssen die projizierten Handlungen zu wiedererkennenbaren Symbolen werden, die voneinander hinreichend unterscheidbar sind und die bei jedem Kontakt mit der Welt eine Iteration aus Generalisierung und Differenzierung vollziehen. Das heißt, Grenze, Gefahr, Lecker sind bereits notwendig dem Spiel der Zeichen nach Saussure ausgesetzt und der Evolutionsdruck richtet sich von nun an auch danach, wie gut dieses Generalisieren und Differenzieren klappt und der Amöbe dabei hilft, ihre Umwelt erfolgreich zu navigieren.
Von diesen Unterscheidungen können wieder weitere Unterscheidungen abgezweigt werden:
Lecker auf die eine oder andere Weise, gefährlich auf die eine oder andere Weise, Ausweichen nach rechts, links, geradeaus? Jede Differenz ist eine Pfadgelegenheit, um weitere Differenzen daran anzuschließen.
Deswegen ist die Pfadgelegenheit selbst bereits „proto-semantisch„: Sobald wir eine Wahl haben, tragen die Pfade, die wir ein- oder ausschlagen „Bedeutung“, insofern, dass wir jeden Pfad mit einer bestimmten Erwartung verbinden.
Noch bevor wir ein Wort sprechen können, sind wir in ein Netzwerk der Erwartungen eingebunden, das uns an uns selbst, aber auch mit der Welt und mit den Menschen um uns herum verbindet.
Strukturalismus evolutionär gesehen, bedeutet also: Erwartungen differenzieren sich aus, indem sie einander als differenzielle Infrastruktur verwenden: Aus Strukturen werden Metastrukturen, werden Metastrukturen, werden Metastrukturen etc. Nach Bateson: A Second Order Information is a difference making difference, that makes a Difference compared to other the difference making differences, etc.
Erwartungen sind intern vernetzt. Nicht nur orientieren sich unsere Erwartungen an den Erwartungen der Menschen um uns herum, sondern eine Erwartung baut immer auch auf ein Netz pfadabhängiger Erwartungen auf, ob unbewusst oder unbewusst. Ich erwarte, dass die Zeichen, die ich hier schreibe, gespeichert werden, weil ich erwarte, dass WordPress sie abspeichert, was die Erwartung voraussetzt, dass der Server erreichbar ist, was erwartet, dass der Strom funktioniert, usw. Ändert sich ganz unten was in der Kette – etwa mit dem Strom – dann ist das eine mächtige „Information“, denn sie verändert alle davon pfadabhängigen Erwartungen.
Auch mein Hund Cobi unterscheidet Dinge, Menschen, Tiere und nutzt diese Unterscheidungen als Pfadgelegenheit zu unterschiedlichem Verhalten. Ein Baum ist auch für ihn nicht nur dieser eine Baum, sondern er hat eine zur Erwartung geronnene Erfahrung von „Baum“, die er aus all seinen Begegnungen mit „Baum“ generalisiert und differenziert hat. „Baum“ ist bei ihm vor allem mit der Pfadgelegenheit zur Kommunikation assoziiert. Weil er und andere Hunde bevorzugt gegen Bäume pinkeln ist sein ausgiebiges Schnüffeln seine Art der Morgenlektüre der Lokalnachrichten. Seine feine Nase ermöglicht ihm alle möglichen Aspekte des Geruchs zu unterscheiden und feine Differenzen darin wiederum als Pfadgelegenheiten zu nutzen, um sich zu Verhalten, zB. selbst eine Antwort zu hinterlassen.
Natürlich hat Cobi eine ganz andere (Proto-)Semantik von „Baum“ als ich. Die Unterscheidung zwischen Mast und Baum empfände er wahrscheinlich als eine lächerliche Spitzfindigkeit und ich glaube über solche Sachen würden wir uns den ganzen Tag streiten, wenn er meine Sprache spräche. Dann würde ich mich aufspielen, dass meine Unterscheidung viel besser, viel differenzierter sei, als seine Unterscheidung und ich würde mir toll vorkommen, dass wir Menschen mit dem Wort „Baum“ eine viel bessere semantische Infrastruktur zur Verfügung hätten, als seine zusammengewürfelte Privatempirie der Erscheinungen.
Dann würde mich aber Cobi darauf hinweisen, dass „Baum“ biologisch und damit in gewisser weise auch „ontologisch“ eine falsche Bezeichnung ist. Es gibt nicht die Spezies „Baum“, sondern nur einen heterogenen Mix aus unterschiedlichen und größtenteils kaum verwandten Pflanzenarten, die jeweils parallel auf den evolutionären Pfad der „Verholzung“ eingeschwungen sind.
Das habe er sich doch gerade erst angelesen, würde ich ihm entgegenrufen, um den Punkt zu machen, dass nur menschliche Semantik die notwendigen Infrastrukturen bietet, um solche Dinge wie „Spezies“ überhaupt zu unterscheiden!
Ach ja, sagt Cobi? Also er habe diese Unterscheidung schon immer gerochen. „Fichte, Buche, Eiche, Tanne für mich war das schon immer ein Unterschied, der einen Unterschied macht.“ Auf Fichte komme zum Beispiel sein Geruch am besten zur Geltung. „Aber ihr Menschen seht nur Holz. Hauptsache brennt gut, was?“ Er ist so ein Klugscheißer!
Here is the Thing: Das, worauf Saussure, die (Post-)Strukturalist*innen gestoßen sind, ist mehr als nur „Sprache“ in dem sehr engen Sinn, wie die Kognitivisten sie wegerklären. Sprache, im universell Saussure’schen Sinn, fängt dort an, wo wir Unterscheidungen machen und sie für unterschiedliche Pfadgelegenheiten nutzen. Deswegen irritieren mich die Befunde und Brainscans der Kognitivisten gar nicht: Es gibt keine kognitiven Fähigkeiten, für die die Fähigkeit zu Unterscheiden und diese Unterscheidung als Infrastruktur für weitere Unterscheidungen zu verwenden, nicht eine pfadabhängige Infrastruktur wäre.
Aber wie entsteht das, was wir normaler weise „Semantik“ nennen: also intersubjektive Bedeutung?
Cobi kann natürlich nicht sprechen, aber dennoch hat er einen eingeschränkten Zugang zu menschlichen Semantiken. Ich konnte ihm einige Unterscheidungen, die mir wichtig waren (z.B. darf er anknabbern/darf er nicht anknabbern) vermitteln und auf einige Worte, die ich ihm zurufe, reagiert er mit dem gewünschten Verhalten (manchmal). Gleichzeitig verstehe auch ich ihn mit der Zeit immer besser: Sein Verhalten, seine Blicke, sein Bellen, seine Kommunikation durch körperliche Haltung und Nähe, etc. In einem kontinuierlichen Prozess aus Differenzierung und Generalisierung legen wir uns durch unsere Interaktion ein gemeinsames Set an semantischen Pfadgelegenheiten an.
Wenn Erwartungen auf Erwartungen treffen geschieht das eigentliche Wunder: Dividuen lernen, mit den Erwartungen der anderen umzugehen, das heißt, sie zu erwarten.
Bei Niklas Luhmann findet sich das wunderbare Konzept der „Erwartungserwartung„, also Erwartungen, von denen ich erwarte, dass andere sie haben. Man könnte das grob mit der „Theory of Mind“ bei den Kognitivisten übersetzten, aber dann kauft man ihre Vorstellung einer „Theorie“, die sich ein abgeschlossenes „Mind“ von einem anderen abgeschlossenen „Mind“ macht, wo es doch einfach nur darum geht, die Erwartungen unseres Gegenübers zu antizipieren.
Wenn Pfadgelegenheiten Proto-Semantiken sind, weil sie projizierte Handlungen sind, die erwarteten Pfaden in vorhandenen Infrastrukturen folgen, dann sind semantische Pfadgelegenheiten, projizierte Pfade in den erwarteten Erwartungen meines Gegenübers – also seiner und meinen gemeinsamen wechselseitig erwarteten semantischen Infrastrukturen. Wenn ich unterscheide, was Menschen erwarten, kann ich ihre Erwartung als Pfadgelegenheit nutzen, mich zu ihnen in für sie erwartbarer oder auch unerwartbarer Weise zu verhalten und mich damit unter umständen auszudrücken.
Semantiken sind Pfadgelegenheiten zur Modifikation von Erwartungen, die die erwarteten Unterscheidungen anderer als Infrastruktur nutzen.
Nun ist es aber so, dass ich die Worte, die ich Cobi zurufe nicht erfunden habe. „Sitz“, „Platz“, „Hier“ – das sind geläufige Formen seinen Hund konditionieren und weil ich kein Individuum bin, das sich die Mühe macht, eine Privatsprache für sowas zu erfinden, sondern nur ein Dividuum, das die Sprache der anderen nutzt, wie es sie vorfindet, ist Cobis Verständnis von der Welt stellenweise semantisch verwoben mit dem Netzwerk der menschlichen Erwartungserwartungen.
Im Gegensatz zu Hunden betreiben wir mit den „gesellschaftlichen Semantiken“ ein Feld lokal stabilisierter, aber sich dennoch ständig wandelnder Erwartungserwartungen, von dem ich geprägt bin, noch bevor ich meine „eigenen“ Unterscheidungen überhaupt hätte treffen können. Das heißt, die Unterscheidungen, mit denen ich die Welt betrachte, sind durch die Sprache, in der ich denken und sprechen gelernt habe, überformt und vordefiniert. Ich erbe diese Unterscheidungen, ohne mich wirklich kritisch mit diesem Erbe zu befassen (ist auch nicht so leicht, tbh.)
Aber das heißt, wir sind erstmal geprägt von den Unterscheidungen, die andere vor uns und für uns getroffen haben. Unser Verständnis der Welt ist durch die vorhandenen semantischen Pfadgelegenheiten vorstrukturiert und da kommen wir nur raus, wenn wir alternative semantische Pfade suchen und schaffen.
Dass das Resultat der KI-Anstrengungen der Kognitivisten ausgerechnet in der LLM mündete, die den endgültigen empirischen Beweis für die Richtigkeit des poststrukturalistischen Ansatzes erbracht hat, ist eine Ironie der Geschichte, auf die als erster Ted Underwood hinwies und die auch ich im KI-Paper für die Hans-Böcklerstiftung und dann im Aufsatz „Im Dickicht der Bedeutung“ genauer erklärt habe und die jetzt Leif Weatherby in seinem absolut lesenswerten Buch „Language Machines“ genaustens seziert.
Semantik basiert nicht auf irgendeinem Brain-Voodoo, sondern auf dem komplexen Verweisungsnetzwerk der Zeichen untereinander. Die LLM ist quasi ein statisches Modell des Dividuums, dessen Welt nur aus semantischer Infrastruktur und deren Pfadgelegenheiten nur aus Tokens bestehen und das mit dem „Latent Space“ einen unterdimensionierten Abdruck der gesellschaftlichen Erwartungserwartungen bewohnt, aber dessen Orientierungswissen darin reicht, erfolgreich unsere semantischen Erwartungen zu navigieren. Hätten die Kognitivisten recht, könnte ChatGPT nicht so funktionieren, wie es funktioniert. Kurz: das was ChatGPT funktionieren macht, ist nicht „Intelligenz“ sondern Sprache.
Das bedeutet aber auch, dass es „AGI“ so, wie es sich die Kognitivisten vorstellen, nicht geben kann. Wenn Intelligenz nicht die Eigenschaft eines Systems, sondern eine Beziehung zwischen System und Umwelt ist, dann gibt es „bessere Intelligenz“ in unserem (post-)strukturalistischen Framework nur durch neue und bessere Unterscheidungen, statt durch „Skalierung von Kognition“.
Das Platzen der KI-Blase, so meine Hoffnung, wird damit hoffentlich auch das Ende des Kognitivismus einleiten und vielleicht sogar das Königreich des Individuums endgültig kollabieren lassen. Und so notwendig das ist: das wird nicht schön.