Das hätte auch in einen Tweet gepasst, aber man muss die Maschine nicht füttern: Dass Twitter jetzt auffällt, dass ihre Anti-Hacking-Klausel zum Beispiel die Wikileaks-Enthüllungen geblockt hätte, ist… tja, typisch für dieses Unternehmen, das sich nie aus der Perspektive „Software-löst-alles“ lösen konnte, ohne eine entsprechende Software zu entwickeln.

Klar: Die Twitter-Probleme sind komplex (Moderation unter Skalen-Bedingungen und auf einem schmalen Grat rund um Meinungsäußerungen). Aber die müssten gar nicht so komplex sein, ich würde Twitter auch so keine Lösung zutrauen, solange Jack Dorsey das Unternehmen führt.

The I in the Internet

In part out of a desire to preserve what’s worthwhile from the decay that sur­rounds it, I’ve been thinking about five intersecting problems: first, how the internet is built to distend our sense of identity; second, how it encourages us to overvalue our opinions; third, how it maximizes our sense of opposition; fourth, how it cheap­ens our understanding of solidarity; and, finally, how it destroys our sense of scale.

Jia Tolentinos Essay aus dem Februar (Teil einer jüngst erschienenen Sammlung) ist eine strukturierte Erzählung und Meta-Theorie, wie das (kommunizierende) Internet das wurde, was es ist. Von Geocities über Gamergate bis in die Gegenwart.

Ein kluges Stück, auch wegen einer entwaffneten Ratlosigkeit, ob die Frage „Wie wurde das Internet, was es ist?“ überhaupt eine produktive Beschäftigung ist. Ich empfehle es sehr. Gerade wegen dem Zusammenwirken von Beobachtung, Struktur und sprachlicher Klarheit.

The internet reminds us on a daily basis that it is not at all reward­ing to become aware of problems that you have no reasonable hope of solving.

The house party returns

Trotz Wirtschaftskrise steigen in den Industrienationen die Immobilienpreise – in Deutschland zuletzt um 11 Prozent. Allerdings geht der Niedrigzins offenbar im Schnitt nicht mit einer größeren Kredit-Zusage der Banken einher. Ich würde also schlussfolgern, dass es für Normalverdiener schwieriger wird, sich ein Haus zu leisten.

Der Economist hat das Ganze aufgeschrieben. Vor ein paar Jahren noch hätte das Fazit dort gelautet: 1) Vorsicht vor Blasen 2) Wir brauchen mehr Bauland. Heute lautet es: 1) In der Spreizung liegt sozialer Sprengstoff 2) Regierungen müssen den Immobilienmarkt stärker regulieren.

Die Zeiten ändern sich.

Do No Harm ($)

Das, was wir „Content-Moderation“ nennen, ist bekanntermaßen alles andere als perfekt. Niloufar Salehi nennt im neuen Logic-Magazin das Beispiel Rachepornografie: Ein Opfer muss das entsprechende Material hochladen, damit Facebook ein Wasserzeichen für das Blocken erstellt. Die Betroffenen erfahren aber nicht, ob jemand danach versucht, das Video nochmal hochzuladen. Beweise für Gerichtsverfahren erhalten sie ebenfalls in der Regel nicht.

Sie schlägt deshalb einen anderen Weg vor, im Sinne von „Restorative Justice“, also Vergebungsprozessen. „Wer wurde verletzt? Was braucht diese Person? Wer hat Sorge zu tragen, dass diese Bedürfnisse erfüllt werden?“, sind drei Fragen, die eine solche Herangehensweise stellt. Letztlich geht es darum, bei solchen Fällen geschulte Mitarbeiter einzusetzen, die sich mit den Trauma-Dimensionen von Online-Bösartigkeiten auseinandersetzen.

Das funktioniert nicht bei einem Riesen-Netzwerk. Aber ich kann mit theoretisch vorstellen, dass eine solche Betreuung in einigen Jahren zur Zulassungsvoraussetzung gehören könnte, überhaupt Soziale Netzwerke (die dann reguliert viel kleinere Maximalnutzerzahlen hätten) betreiben zu dürfen.

Accidental cover-up

Bei allen Kontroversen über die Löschung von Inhalten gibt es hierüber keinen Zweifel: Gewaltvideos von Terroristen müssen gelöscht werden. Der Economist weist auf eine unbeabsichtigte Nebenwirkung hin: Damit kann auch Beweismaterial über Menschenrechtsverletzungen verschwinden – zum Beispiel aus dem syrischen Bürgerkrieg. Automatisierte Moderation verschlimmert das Problem: Prinzipiell ist es gut, dass Menschen keinen Blick mehr auf Gewalttaten werfen müssen. Aber so verschwindet das Material ungesehen.

Revenge of the Money Launderers

Matt Taibbi über den FinCen-Skandal im Kontext früherer Geldwäsche-Strafzahlungen. Lehrreich und unterhaltsam, was bei komplexer Finanzskandal-Berichterstattung eher selten ist. Taibbi beschreibt auch noch einmal den wichtigen Unterschied zwischen Regulierung/Compliance auf dem Papier und Regulierung/Compliance in der praktischen Umsetzung:

„Every time compliance officers discover derogatory information that leads to an account being closed, it’s a direct hit to a bank’s revenues. On the other hand, to keep regulators off their backs, banks have to be seen to be doing all they can to sniff out illegalities. Therefore there’s an incentive for banks to cycle through creative ways of looking like they’re engaging in compliance, without actually doing so.

A bank might create sizable AML departments, but pad them with inexperienced, entry-level employees incapable of spotting problems (see here for the HSBC example I wrote about years ago). A firm may hire a top-of-the-line department head, but not give him or her real resources. Required hiring boxes may be checked, but the company may non-report or under-report problems. Companies may even generate huge numbers of suspicious activity reports while leaving key data like names or addresses missing.“

Seeing Like an Algorithm von Eugene Wei

Eugene Wei mit einem weiteren TikTok-Essay. Ein bisschen banal erscheinen die Erkenntnisse schon: Wenn „Künstliche Intelligenz“ bedeutet, dass ein Computer sehen lernt, dann folgt TikTok als erstes (?) Netzwerk diesem Prinzip: Design für Datenfütterung, also ein geschlossenes Feedback-Loop, an dem die Software lernen kann. Demnach löst „algorithmen-freundliches Design“ das Prinzip von reibungslosem, „nutzerzentriertem“ Design ab. Damit wird auch die „Followerschaft“ sozialer Netzwerke von einem anderen Paradigma abgelöst: sofware-basierte Interessen.

Dass das banal klingt, heißt nicht, dass es falsch ist. Um seine These zu stützen, muss Wei allerdings herunterspielen, dass Tinder ähnlich funktioniert und die von ihm genannten Verhaltensinformationen auch in Formaten wie Instagram Stories vorhanden sind. Und dass schlicht jedes UX/UI-Design der datenverarbeitenden Industrie an Datenproduktion interessiert sein muss.

 

Swing and a Miss: "The Social Dilemma" Didn't Get It by an authoran author ([object Object])
Failing to address the root causes of technological toxicity, the video essay amounts to no more than a missed opportunity.

Michael O. Church, hier bereits häufiger erwähnt, nimmt sich in der ersten Edition seine Substack-Newsletters (den ich hiermit empfehle) die Netflix-Doku „The Social Dilemma“ vor. Genauer: dessen unterkomplexe Darstellung, wie in der Tech-Branche Entscheidungen fallen und was Verantwortung bedeutet.

„Silicon Valley is not a bastion of cosmic evil. It is not Mordor or R’lyeh. Technology executives, in general, do not set out to damage the world for damage’s own sake. What we have is not cosmic evil, but the banal kind. The whole system runs on metrics: daily active users, clicks per hour, ads served, time of use, viral growth, et cetera. Each worker is enslaved to the short-term fluctuations of indicators over which he has limited control, and is usually pushed to do unethical things by the need to keep the numbers in line. Even software engineers are promoted, demoted, or fired based on the number of tickets they close. Senior product managers live or die based on whether they can get users to spend five more seconds within walled gardens. At the lower levels, no one’s trying to foster addiction or radicalization— they’re just trying to survive.“

Dass für Michael Church das Problem im „Konzern-Kapitalismus“ liegt, gehört zu seiner bekannten Haltung. Und so ist das ganze Essay eine Abrechnung mit unserer Gegenwart.

The Supreme Court and Normcore by Henry Farrell

Sollten die US-Demokraten – im Falle eines Sieges von Biden und einer Übernahme des Senatsmehrheit – den Obersten Gerichtshof aufstocken? Henry Farrell von Crooked Timber argumentiert: Normen existieren nicht im Vakuum, sie müssen auch mit reziproken Maßnahmen gestützt werden.

What this means, pretty straightforwardly, is that norms don’t just rely on the willingness of the relevant actors to adhere to them. They also rely on the willingness of actors to violate them under the right circumstances. If one side violates, then the other side has to be prepared to punish. If one side threatens a violation, then the other side has to threaten in turn, to make it clear that deviating from the norm will be costly. A norm governing relations between two opposing sides, where one side acts strategically (to exploit opportunities) and the other naively (always to support the norm) can’t be sustained.

Von einem Gleichgewicht der Abschreckung kann in den USA nicht mehr die Rede sein, für die Demokraten gliche eine Aufstockung des Supreme Court dem Versuch, Gleichgewicht durch Schrecken zu schaffen.

Der angesehene Rechtskorrespondent Jeffrey Toobin hat im New Yorker einen Vier-Punkte-Plan formuliert, den die Demokraten im Falle des Gewinns von Kongress und Weißem Haus umsetzen könnten:
1. Filibuster im Senat abschaffen
2. Washington DC und Puerto Rico zu Bundesstaaten erklären
3. Per Gesetz die Zahl von Bundesrichtern an niedrigeren Gerichten erhöhen
4. Die Zahl der Obersten Richter um zwei bis drei aufstocken.

AI ethics groups are repeating one of society’s classic mistakes by Abhishek Gupta und Victoria Heath ([object Object])
Too many councils and advisory boards still consist mostly of people based in Europe or the United States.

The newly formed Global AI Ethics Consortium, for example, has no founding members representing academic institutions or research centers from the Middle East, Africa, or Latin America.

(Hinter dem Hinweis verbirgt sich der Hinweis des Autorenduos, dass ihr Montreal AI Ethics Institute das anders macht).