Mit der großflächigen Anwendung und zunehmenden Reichweite digitaler Inhalte ist der Bereich der Content Moderation heute relevanter denn je. So sind eine effektive Überprüfung und Verwaltung dieser Inhalte unerlässlich, um Nutzer:innen nachhaltig zu schützen. Gleichzeitig werden Moderationsrichtlinien gelockert, Moderationsbemühungen reduziert und bestehende Services wie Perspective API eingestellt. Dabei sind die Konsequenzen von unzureichender Moderation bereits aus datengetriebenen Studien bekannt – und reichen von psychischen Folgen bei Betroffenen bis hin zu realen Gewalttaten.
Angesichts dieser Entwicklungen konzipierte ein interdisziplinäres Team aus Wissenschaftler:innen den Workshop „MI-WS102: Human-Centered Moderation Expertise, Context, and Evaluation“, welcher am 30. August 2026 auf der Konferenz Mensch und Computer in Duisburg stattfinden wird. Zentrale Themen des Workshops umfassen die Entwicklung von Sprache und Kontext in Bezug auf Hassrede, Datensätze und Benchmarks für KI, sowie die Integration menschlicher Expertise und Moderationsarbeit.
Für einen umfassenden Wissenstransfer sorgt ein Panel aus Wissenschaft, NGO und Content Moderation. Die Podiumsteilnehmer:innen beleuchten dabei aktuelle Ereignisse, datengetriebene Forschungsmethoden und bestehende Forschungslücken. Sämtliche Ergebnisse werden im Nachgang transparent dokumentiert und in Form eines Conference Proceedings, gemeinsamen Policy Papers sowie einer kuratierten Zusammenfassung der wichtigsten Erkenntnisse frei zugänglich veröffentlicht.
Über den reinen Fachaustausch hinaus schafft der Workshop Raum für interdisziplinäre Vernetzungen. Akteur:innen können hier Ressourcen bündeln, gemeinsame Projekte planen und nachhaltige Strukturen für Folgeaktivitäten aufbauen. Damit wird der Grundstein für eine langfristige Kooperation in der Content Moderation gelegt. Gleichzeitig stärkt die Veranstaltung die aktiv wachsende Gemeinschaft aus Wissenschaftler:innen, Praktiker:innen und Moderator:innen im deutschsprachigen Raum – und sichert so einen nachhaltigen Dialog über die Zukunft datengetriebener Forschung in der Content Moderation.
Förderempfängerin:
Anna Ricarda Luther (FB 3 – Mathematik und Informatik)
Förderdauer:
22. Juni 2026 – 28. Februar 2027
Haben Sie Interesse am DSC Seed Grant?
Mehr Infos zum DSC Seed Grant finden Sie hier.
Fragen beantwortet:
Dr. Lena Steinmann
DSC Koordinatorin
Tel. +49 (421) 218 - 63941
E-Mail: lena.steinmannprotect me ?!uni-bremenprotect me ?!.de
