Hacker, Geniekult und Kontrollverlust

Wo ich gerade den grandiosen Artikel von Kathrin Passig lese, in dem sie die in Feuilletonkreisen virulent gewordene „Algorithmuskritik“ detailliert auseinander nimmt: das wichtigste steckt in diesem Absatz:

2009 wurde der mit einer Million US-Dollar dotierte „Netflix Prize“ für die Verbesserung von Film-Empfehlungen verliehen. Die am Wettbewerb beteiligten Teams gaben in Interviews an, nicht mehr nachvollziehen zu können, wie ihre eigenen Algorithmen zu manchen Ergebnissen gelangen. Dass die Empfehlungen treffsicher sind, ist unstrittig, weil sich ihre Qualität anhand der abgegebenen Nutzerbewertungen überprüfen lässt. Aber der Weg dorthin erschließt sich auch den Programmierern nicht mehr.

In den Gesprächen mit Schirrmacher hatte ich immer das Gefühl, dass es da die Hoffnung auf eine technische Intelligenz gibt, die das alles richten wird. Leute, die zu erklären im Stande sind, was da passiert. Ich glaube, er denkt das im CCC gefunden zu haben. Und in der tat, ist das natürlich auch das Selbstbild der Hacker. „Der Kontrollverlust gilt ja nur für die da draußen. Die, die keine Ahnung haben.“ Stilprägend ist für diese Haltung immer der höhnische Unterton des Talks „Security Nightmares“ auf dem CCC-Kongress.

Zwar wäre es begrüßenswert, wenn über solche Themen besser Leute schreiben, die sich wenigstens ein bisschen auskennen (mehr Passig als Meckel!). Aber nicht, weil diese Leute im Stande sind, haarklein herzuleiten, was da genau passiert, sondern weil dann nicht so ein himmelschreiender Unsinn verbreitet wird, wie die Artikel von Meckel.

Aber die Hoffnung auf die technische Intelligenz als die neue Erklärbärelite unserer Zeit ist dennoch ein Irrtum. Nicht erst Julien Assange musste schmerzhaft feststellen, dass der Kontrollverlust kein Außerhalb kennt. Auch bei den Hackern wachsen die Zweifel, dass sie noch die coolen Schockwellenreiter sind. Der letzte Security Nightmare Talk lies jedenfalls schon mal ein paar nachdenklichere Töne zu.

Wir betreten gerade die Ära, wo Computer Dinge tun, die wir nicht mehr verstehen können. Auch keine supertollen Hacker und nee, auch keine noch so intelligenten Wissenschaftler. Mit Big Data ist das definitiv vorbei. Was wir aber weiterhin tun können, ist zu überprüfen, ob die Prognosen stimmen und die Algorithmen Dinge tun, mit denen wir zufrieden sind. An den Kontrollverlust aber müssen wir uns gewöhnen. Auch die Hacker.

Nachtrag: Natürlich wäre auf einer solchen Ebene auch eine sinnvolle Algorithmenkritik wichtig. Welche Algorithmen tun was und wie gut? Gemessen an ihren Ergebnissen. Und natürlich ist es wichtig und gut, sich mit der Funktionsweise von Computern zu beschäftigen und zu lernen wie Datenbanken und Webservices funktionieren. Aber nicht, um alles unter „Kontrolle zu haben“, sondern einzuschätzen, in welchem Maße man sie überhaupt noch haben kann.


8 Gedanken zu “Hacker, Geniekult und Kontrollverlust

  1. Ja, es ist ein weitverbreitetes Missverständnis, dass Programmierer, nur weil sie die (Micro-)Funktionalität eigenen Codes verstehen, das Gesamt-(Makro-) Verhalten einer Software genau vorhersagen können. Ich habe mein eigenes Desaster vor zig Jahren erlebt, als mein eigenes KI-Programm sich nicht mehr so verhielt, wie ich es erwartet hätte. Offenbar kommt man in den Geisteswissenschaften nicht auf die Idee, dass „die IT-Experten“ manchmal genauso ratilos vor der Komplexität sitzen, die sie da produzieren.

  2. die qualität eines algorithmus der dazu dient mir medien zu empfehlen kann allein daran gemessen werden wie gut die vorschläge sind. „gut“ bedeutet in dem zusammenhang dass mir dinge vorgeschlagen werden die ich nicht kenne aber mir gefallen würden. transparanz is da nice-to-have und sicherlich interessant, aber keine pflicht. anders schauts mit algorithmen aus die meinen handlungsspielraum einschränken und nicht erweitern. ich denke da zb an die rankingmechanismen für geldkredite oder versicherungen. da fordere ich schon transparenz der verwendeten diskriminierungsberechnungen um benachteiligungen überhaupt politisch debattieren zu können.

  3. Pingback: Live: Simon liest das Internet. | lemontreepresse

  4. Pingback: Der #Algorithmus, das unbekannte Wesen at qrios

  5. Der vollalgorithmisierte Börsenverkehr und Wert(papier)handel wird vollständig von Algorithmen gesteuert, über die weder ein Finanzmathematiker noch ein einfacher Bankangestellter den Überblick behält.

    Aber warum so kompliziert?

    function credit(value:float, interest:float) {
    value += value * interest / 100;
    return credit(value);
    }

    Kein Wunder, dass irgendwann mal der Speicher überläuft. Eigentlich ist die gesamte Weltwirtschaft nichts weiter als eine einzige Kreditrekursion. Und irgend eine arme Wurst darf am Ende alles zahlen. Nur, wenn das Ende nicht kommt…?

  6. Kommt mir komisch vor. Nicht dass jemand darin ein Argument beispielsweise gegen Opensource sieht.
    Wenn sie nicht gut genug sind, müssen die Hacker halt besser werden. Die Undurchschaubarkeit der Algorithmen ist ja nur eine weitere Quelle für Intransparenzen.
    Nicht erst Ergebnis abwarten, vorher Bildung liefern, visualisieren, Verständnisabstraktionen vermitteln, …, dranbleiben.

  7. Hm, dieses Jahr soll „Security Nightmares“ aber eher unhöhnisch gewesen sein …

  8. Ach so, sollte auch zusenden lesen …

    Passig fordert doch zu differenzieren. Interessant an dem Text fand ich noch, dass sprachen- bzw Länderubergreifende Algorithmen gefordert wurden sowie den Hinweis auf den Klimawandel als Fakt. Andere fanden das mit Kafka toll.

Die Kommentarfunktion ist geschlossen.