Berlin. Ein neuer Verhaltenskodex für Content Moderation soll die Zusammenarbeit zwischen Mensch und Maschine im digitalen Raum verbessern. Unter der Leitung von Prof. Dr. Matthias C. Kettemann hat das Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) den Kodex „Strengthening Trust“ entwickelt, der zehn praxisnahe Leitlinien für den Umgang mit Online-Inhalten formuliert. Die Initiative versteht sich als Ergänzung zum Digital Services Act der EU.
Der Verhaltenskodex entstand in enger Kooperation mit Fachleuten aus Behörden, Wissenschaft, NGOs und Plattformbetreibern. Mitgewirkt haben unter anderem Vertreterinnen und Vertreter von HateAid, gutefrage.net, AlgorithmWatch, dem Oxford Internet Institute, der Bertelsmann Stiftung sowie dem Nachbarschaftsnetzwerk Nebenan.de. Ziel ist es, digitale Räume sicherer und inklusiver zu gestalten, ohne dabei die Meinungsfreiheit einzuschränken.
Content Moderation unter Druck
Digitale Plattformen stehen zunehmend unter Beobachtung. Täglich entscheiden automatisierte Systeme und menschliche Moderator*innen millionenfach über die Sichtbarkeit von Inhalten – eine Aufgabe, die unter anderem psychisch belastend ist und rechtlich sowie ethisch komplexe Fragen aufwirft. Der Digital Services Act verpflichtet große Plattformen wie TikTok oder Meta dazu, systemische Risiken wie Hassrede, Desinformation und Gewalt einzudämmen.
Der neue Kodex nimmt diese Herausforderungen auf und empfiehlt unter anderem transparente Meldewege, stärkeren Schutz marginalisierter Gruppen, datenschutzkonforme Prozesse und Maßnahmen zur Entlastung menschlicher Moderationsteams. „Wir müssen das Vertrauen in die Content Moderation stärken – durch klare Leitlinien, die technologische Möglichkeiten mit menschlichem Augenmaß verbinden“, erklärt Prof. Dr. Kettemann.
Mehr Hintergründe zur Umsetzung und den beteiligten Institutionen nach dem Klick.
Der Verhaltenskodex wird am Montag, 10. November, um 13:30 Uhr Vertreter*innen der europäischen Digital Services Coordinators (DSCs) sowie nationalen Aufsichtsbehörden vorgestellt. Mit dabei sind unter anderem KommAustria aus Österreich und Arcom aus Frankreich, die den EU-Arbeitskreis „Content Moderation and Data Access“ mitgestalten. Das HIIG stellt den Kodex damit erstmals auf europäischer Ebene zur Diskussion.
