Von Matthias C. Kettemann, Josefa Francke und Martin Fertmann / epd Medien

“Mehr Freiheit” versprach Elon Musk, als er ankündigte, Twitter kaufen zu wollen. Weniger Regeln soll es geben; alles, was legal ist, soll gesagt werden dürfen. Diese Ankündigung, die vor allem die sich online – entgegen allen empirischen Befunden – von den großen Plattformen verfolgt fühlende amerikanische Rechte freute, zeigt die Macht auf, die einzelne reiche Menschen über Online-Kommunikationsräume haben, in denen Millionen Menschen kommunizieren, ihre Meinungen bilden, debattieren, ihre Rechte verwirklichen, demokratische Diskurse pflegen und Memes teilen. Ist es vertretbar, dass ein Elon Musk, ein Mark Zuckerberg so viel Macht über die Regeln haben, nach denen online kommuniziert wird? Ginge es besser?

Erprobte demokratische Prinzipien lassen sich nicht ohne weiteres übersetzen, um die Teilhabe der Nutzerinnen an der Gestaltung privater Selektions­algorithmen und Moderations­praktiken zu ermöglichen. Die Plattformen selbst sind zum Regelsetzer, Regel­durchsetzer und zur Richterin über ihre Entscheidungen geworden. Gewaltenteilung und -trennung sieht anders aus. Zu viel Kommunikationsmacht ohne demokratische Kontrolle, also das Fehlen von “checks” und “balances”, führt zu Spannungen im gesellschaftlichen Diskursgewebe.

Mehr Gewalten­teilung in Online­räumen

Die Kommunikations­räume und die kommunikativen Infrastrukturen demokratischer Öffentlichkeiten sind erheblichen Wandlungs­prozessen ausgesetzt. In zunehmend von digitalen Plattformen algorithmisch optimierten und rechtlich gestalteten Räumen werden Grundfragen unserer Gesellschaft ausverhandelt. Doch die Staaten leisten Widerstand über Gesetze und Gerichte. Im wachsenden Ausmaß wirken private normative Ordnungen und staatliche Rechtsordnungen zusammen in unterschiedlichen, weder allein privatwirtschaftlichen noch staatlichen, sondern hybriden Formen der Governance von Onlinekommunikation. Diese Entwicklung ist folgerichtig: Der Interessenausgleich auf Plattformen ist sowohl eine öffentliche Angelegenheit als auch das Ergebnis der Produktgestaltung der Plattformanbieter.

Im Auftrieb sind derzeit institutionelle Lösungsansätze, die gleich einem verlängerten Arm der pluralen Gesellschaft Verbesserungen in den hybriden Ordnungs­systemen anstoßen sollen. In ihrer gemeinsamen Stellungnahme zu Digitalisierung und Demokratie forderten etwa die Akademien der Wissenschaften kürzlich eine Verpflichtung von Plattform­betreibern, “ein von ihnen finanziertes, jedoch unabhängiges und pluralistisch besetztes Gremium mit verbindlicher Entscheidungsbefugnis zu schaffen, “das aus Vertreterinnen und Vertretern staatlicher und zivil­gesellschaftlicher Stellen sowie aus Nutzerinnen und Nutzern besteht” und “an den Entscheidungen über Prinzipien und Verfahren der Kuratierung von Inhalten” beteiligt werden sollte.

Diese Diskussionen um die gesellschaftliche Rückbindung der Regeln und Entscheidungen von Plattformen (ungenau auch als “(Re)Demokratisierung” der Plattformen beziehungsweise der privaten Online-Räume bezeichnet) werden unter dem Stichwort “Plattformräte” oder “Social Media Councils” geführt. Es ist leicht, nach neuen “Institutionen”, neuen Gremien oder Beiräten zu rufen, die bessere Regeln für komplexe hybride Regulierungs­regime entwickeln und durchsetzen sollen, ohne empirisch untersucht zu haben, welche Modelle denkbar und sinnvoll sind.

Die Fragen, die sich vor diesem Hintergrund abheben, sind so bedeutsam wie aktuell – und sie sind politisch brisant. So hat sich die Bundesregierung im aktuellen Koalitionsvertrag ins Pflichtenheft geschrieben, über die Zukunft der Onlineregeln nachzudenken. Da liest man, die Bundesregierung möchte “den Aufbau von Plattformräten” vorantreiben. In einem im April gestarteten Forschungsprojekt wollen wir hierfür die Grundlagen legen und global bestehende Modelle gesellschaftlicher Rückbindung von privaten und hybriden Normenordnungen sichten.

Das derzeitige Recht reguliert Plattformen mit einer Vielzahl unterschiedlicher Ziele und Instrumente, der Schutz der Kommunikationsinfrastrukturen, der kommunikativen Prozesse und der Kommunikate ist aber noch ausbaufähig.

Das Netzwerk­durchsetzungs­gesetz (NetzDG) in Deutschland setzte zunächst auf einen bußgeld­basierten Ansatz, um Entscheidungen über Inhalte auf Plattformen zu regulieren. Dieser wurde seitdem durch Beschwerdeverfahren (sogenannte Gegenvorstellungsverfahren) und Einrichtungen (wie “Einrichtungen Regulierter Selbst­regulierung” und außergerichtliche “Schlichtungsstellen”) erweitert, um stärker auf die internen Entscheidungs­strukturen der Unternehmen Einfluss zu nehmen. Das österreichische Kommunikations­plattformen-Gesetz (KoPl-G) verfolgt einen ähnlichen Ansatz.

Nachträglicher Rechtsschutz­

Kernprobleme dieser bisherigen Ansätze sind, dass die hochkarätig besetzten Gremien nur Entscheidungen über die Rechtswidrigkeit einzelner vorgelegter Posts treffen. Sie dienen weder der Diskussion von Maßnahmen, die über die Grenzen strafrechtlicher Verbote hinausgehen (gegenüber sogenanntem “lawful, but awful content”), noch können sie systemische Fragen adressieren, die einen vorgelegten Einzelfall übersteigen (etwa nach der Ausgestaltung unternehmens­interner Überprüfungsverfahren und Kuratierungsalgorithmen). Auch die Gerichte halten sich zurück, sich inhaltlich mit den Ordnungen der Plattformen und ihren Wirkungszusammenhängen auseinanderzusetzen, und fokussieren auf nachträglichen Rechtsschutz.

Das Gesetzgebungs­paket aus Digital Services Act (DSA) und Digital Markets Act (DMA) als zukünftiger Rahmen für Plattform­regulierung in Europa setzt auch Akzente auf die Zugänglichkeit von Informationen über die Gestaltung der Plattformen und die Prinzipien der Kuratierung und will so zu einem informierten zivilgesellschaftlichen Diskurs über die Rahmenbedingungen der Meinungsbildung im Internet beitragen (epd 17, 19/22). Unmittelbare Teilhabe­möglichkeiten der Bürgerinnen und Nutzer an diesen Systemen werden aber nicht geschaffen. Die Regulierungsstruktur setzt vielmehr auf eine starke Rolle der Kommission sowie nationaler Aufsichtsbehörden, die als Digital Services Coordinators tätig werden.

Nationale Regulierungs­bestrebungen und aktuelle Vorschläge auf europäischer Ebene adressieren drängende Fragen demokratischer Rückbindung und institutioneller Ausdifferenzierung hybrider Online-Ordnungen derzeit nicht. Bisherige Vorschläge für Plattformräte, die insbesondere von der Menschenrechts­organisation Article 19 und David Kaye in seiner damaligen Rolle als UN-Sonder­berichterstatter für Meinungs­freiheit in die Diskussion eingebracht wurden, haben bisher erst zu praktischen institutionellen Experimenten seitens Plattformen, aber noch nicht durch Staaten oder die Zivilgesellschaft geführt.

Abgesehen von früheren Experimenten mit Nutzerinnen­abstimmungen über Regeln stellt das Facebook (Meta) Oversight Board, das unter anderem über das Deplatforming Trumps entschieden hat (beziehungsweise die Entscheidung an Facebook/Meta zurückgespielt hat), den bislang konkretesten Ansatz zur freiwilligen Öffnung des privaten Entscheidungs­systems einer kommerziellen Plattform nach außen dar.

Spektakulärer Einzelfall

Dieses “Außen”, also die Zivil­gesellschaft, aber in einer Weise zu formieren und in Stellung zu bringen, die systemische Verbesserungen für Nutzer und Nutzerinnen nicht nur verspricht, sondern über den – im Fall von Trump spektakulären – Einzelfall hinaus tatsächlich anstößt, bleibt eine Herausforderung. Zwar hat das Oversight Board in seiner bisherigen Entscheidungs­praxis seine eigene Position im Ordnungsgefüge des Unternehmens selbstbewusst definiert, zugleich ist aber offen, wie gut die – in Ermangelung harter Durchsetzungs­mechanismen entscheidende – Kooperations­beziehung zwischen dem Gremium und Unternehmen tatsächlich funktioniert.

Im Zuge der Enthüllungen der Whistleblowerin Frances Haugen untersucht das Board etwa derzeit Hinweise, dass vorherige Stellung­nahmen des Unternehmens gegenüber dem Board im Hinblick auf Ungleichbehandlungen unterschiedlicher Nutzer (sogenanntes Cross-Check-Programm) nicht wahrheitsgemäß beziehungs­weise zumindest unvollständig waren. Ob und inwieweit damit der plattform­spezifische freiwillige, auf öffentlichen Druck und ein globales Experten­gremium setzende Ansatz dieser Institution sich bewährt, ist derzeit noch völlig offen.

Auch Tiktok hat kürzlich mehrere regionale Beiräte eingerichtet, Twitter betreibt seit längerem einen “Trust and Safety Council”, ebenso Spotify, und auch die Streaming-Plattform Twitch hat kürzlich einen gleichnamigen Beirat eingeführt. Diese Selbstregulierungsinitiativen sind im Vergleich zum Oversight Board zwar noch deutlich weicher (also beratend) und zielen stärker auf das Beisteuern unverbindlicher Stellungnahmen als auf verbindliche Entscheidungen der Mitglieder, lassen aber deutlich einen Trend hin zur institutionellen Ausdifferenzierung und Verantwortungsdelegation innerhalb privater Ordnungen digitaler Plattformen erkennen. Dieser Trend ist kritisch zu begleiten und vor dem Hintergrund erfolgreicher Initiativen zur Rückbindung privater oder hybrider Ordnungen an gesellschaftliche Werte zu reflektieren.

Legitime Online-Regeln

Demokratien können aber die institutionelle Beschränkung der Plattform­macht und die Verbesserung der Legitimität von Ordnungen und algorithmisch-menschlichen Regelungs- und Durchsetzungs­arrangements nicht den Plattformen überlassen. Vielmehr sollten, wie die Nationale Akademie der Wissenschaften forderte, “innovative Partizipationsideen gezielt gefördert werden, da etablierte Plattform­betreiber und Diensteanbieter ihren gängigen Geschäfts- und Beteiligungs­modellen verhaftet sein dürften, was die Unterstützung demokratie­freundlicher, kommerziell weniger verwertbarer Formate von privat­wirtschaftlicher Seite behindern könnte”.

Zunächst gilt es, innovative Partizipations­ideen überhaupt erst zu entwickeln und in einen konkreten Ausgestaltungs­vorschlag zu überführen. Eine ergebnisoffene Herangehens­weise an die Entwicklung dieser institutionellen Struktur setzt internationale Offenheit voraus, sowohl konzeptuell im Hinblick auf potenzielle Lehren aus anderen Weltregionen für den deutschen und europäischen Kontext als auch zur Beurteilung der internationalen und regionalen Anschlussfähigkeit von Plattformrats­modellen, die in ihrer geografischen Zuständigkeit über einzelne National­staaten hinausgehen.

Das Projekt “Plattform://Demokratie” will empirisch erforschen, wie private Ordnungen und Regelungssysteme, die gesellschaftliche Relevanz haben, stärker an gesellschaftliche Werte gebunden werden können. Dabei werden die Plattformräte untersucht, aber auch andere Modelle gesellschaftlicher Rückbindung wie Fernsehräte in Ländern mit öffentlich-rechtlichem Fernsehen, Jugend­medienräte wie in Deutschland, KI-Räte wie in Finnland und Internet­regulierungsräte wie in Brasilien. Die global angelegte, ergebnisoffene Erhebung soll empirisch untersuchen, welche Akteure einbezogen werden müssen und welche Rolle die Räte im Organisationsgefüge haben müssen, um das gewünschte Legitimationsplus sicherzustellen. Damit will das Projekt den Boden bereiten für die Pilotierung guter Modelle für die demokratische Kontrolle von privaten Ordnungsregimen, wie sie bei Plattformen aktuell besonders wirkmächtig sind.

Ganz so leicht wird es Elon Musk übrigens nicht fallen, “mehr Freiheit” und weniger Moderation auf Twitter zu verwirklichen. Zumindest innerhalb der Europäischen Union ist er an das bestehende und das kommende Plattformrecht gebunden, das ihm engere Ketten anlegt. Man kann trefflich über die Details der europäischen Plattform­regulierung streiten, es findet sich wohl keiner, der den grundsätzlichen Ansatz – mehr Verantwortung und mehr Transparenz – für verfehlt hält. Hier sieht man das demokratische (und demokratisierende) Potenzial von Plattform­regeln – bis hin zu einem Check der Werte, auf die die Empfehlungs­algorithmen optimiert sind. Unser Ziel ist herauszufinden, wie viel nachhaltiger sich die Plattformen entwickeln können, wenn eine noch breitere Gruppe von Bürgerinnen integriert wird.


Alle Beiträge aus der Reihe “Das Beste aus epd Medien bei turi2” >>>