60 https://www.uni-bremen.de/digitale-transformation/projekte/impact/ethik IMPACT de Universität Bremen Fri, 06 Mar 2026 12:53:18 +0100 Fri, 06 Mar 2026 12:53:18 +0100 Universität Bremen content-484753 Fri, 06 Mar 2026 10:36:23 +0100 https://www.uni-bremen.de/digitale-transformation/projekte/impact/ethik#c484753 <p>Bei der Entwicklung und dem Einsatz von KI-Anwendungen spielen neben rechtlichen auch ethische und soziale Fragen eine wichtige Rolle: Wie gut können wir Bias oder Diskriminierung in unseren KI-Anwendungen vermeiden? Welche sozialen oder gesellschaftlichen Auswirkungen hat der Einsatz von KI? Unter welchen rechtlichen Bedingungen können wir KI in der Lehre einsetzen? Zur Beantwortung dieser Fragen, werden im IMPACT Projekt verschiedene Maßnahmen ergriffen. Wichtige Stakeholder, wie z.B. Studierende, Lehrende und Datenschutzbeauftragte, werden bereits zu Beginn des Projekts mit in den Entwicklungsprozess integriert. Durch regelmäßiges Informieren der Beilegten soll Transparenz geschaffen werden. Die DSGVO dient als Grundlage für das Datenschutzkonzept und die Anforderungen, welche sich daraus ergeben, werden sensibel umgesetzt. Auch auf Barrierefreiheit wird in den Anwendungen beachtet werden, sodass Zugänglichkeit für alle Betroffenen sichergestellt wird. Ein weiteres Augenmerk liegt auf dem Thema algorithmischer Bias, um ungewollte Diskriminierung in den KI-Anwendungen zu vermeiden.</p> <p><strong>Was ist Bias? </strong><br /> Bias kann während des maschinellen Lernprozesses entstehen. Bei der Datensammlung sowie der Entwicklung der Modelle können unbeabsichtigte und unerwünschte Ergebnisse dazu führen, dass verschiedene gesellschaftliche Gruppen diskriminierend werden könnten. So können z.B. bei Auswertungen von Texten Nachteile in Bezug auf die Geschlechtsidentität, Herkunftssprache oder Alter der Autor:innen entstehen. Dies gilt es selbstverständlich zu vermeiden.  </p> Content content-485929 Fri, 06 Mar 2026 10:36:23 +0100 https://www.uni-bremen.de/digitale-transformation/projekte/impact/ethik#c485929 <p>Weiterführende Informationen zu Ethik und Datenschutz:</p> <p>Link zum Trusted Analystics Verhaltenskodex für die Hochschulehre: <a href="https://www.researchgate.net/publication/340183667_Verhaltenskodex_fur_Trusted_Learning_Analytics">https://www.researchgate.net/publication/340183667_Verhaltenskodex_fur_Trusted_Learning_Analytics</a></p> <p>Leitlinien der Initiative D21 zum ethischen Umgang mit Algorithmen-Monitoring: <a href="https://initiatived21.de/app/uploads/2019/11/algomon_leitlinien_191119-1.pdf">https://initiatived21.de/app/uploads/2019/11/algomon_leitlinien_191119-1.pdf</a></p> Content