KI-basierte Systeme für Lehre und Studium

Empfehlungen zur Nutzung für Lehre und Studium an der Universität Bremen

Technische Systeme, die auf Verfahren der „Künstlichen Intelligenz“ (KI) basieren, sind in der Lage, menschenähnliche Intelligenz zu imitieren, um komplexe Aufgaben zu lösen. Sie sind so konzipiert, dass sie mit einem unterschiedlichen Grad an Autonomie arbeiten. Generative KI wie ChatGPT ist eine spezifische Untergruppe, die darauf abzielt, eigenständig neue Inhalte zu erstellen, indem sie Muster und Strukturen aus vorhandenen Daten lernt und Ergebnisse wie Texte, Bilder oder Musik generiert.

Wir sehen die Entwicklungen KI-basierter Systeme als eine Chance, alle Bereiche der Universität (Lehre und Studium, Forschung und Transfer und Verwaltung) voranzubringen.  Wir verstehen sie als Werkzeuge, die in einem rechtlich abgesicherten Rahmen genutzt werden können, um Prozesse zu verbessern. Dies wollen wir aktiv mitgestalten. Obwohl KI-basierten Systemen große Potenziale zugeschrieben werden, müssen wir sorgfältig abwägen, ob und wie sie eingesetzt werden sollen, wie ethische, datenschutzrechtliche, sicherheitstechnische, ökologische oder soziale Risiken erkannt und verhindert werden können und wie geeignete Strategien zur effektiven, effizienten und transparenten Nutzung gefunden werden können. Alle Einsatzszenarien müssen daher offengelegt und Verabredungen darüber getroffen werden, wie wir damit umgehen. Dabei sind die rechtlichen Rahmenbedingungen, etwa durch die Datenschutz-Grundverordnung (DSGVO), dem EU AI Act sowie zum Urheberrecht, zu berücksichtigen.

In einem ersten Schritt geben wir universitätsweite Empfehlungen für die Nutzung von KI-basierten Systemen in Lehre und Studium, um einen verlässlichen und transparenten Rahmen für Lehrende und Studierende herzustellen, der die rechtlichen Anforderungen berücksichtigt. Die Universität Bremen sieht die Chancen und Möglichkeiten und stellt sich auch den Risiken. Die Studierenden sollen in der Lehre eine kritisch-reflektierende Umgangsweise erlernen und eine Haltung entwickeln, die die Potentiale für das Studium und die Berufswelt integriert. An der Universität Bremen findet kompetenzorientierte Lehre in vielfältigen Lehr-Lernszenarien statt. Wird hierfür mit KI-basierten Systemen gearbeitet, so ist eine Aufklärung der Studierenden über Funktionen, Grenzen und Risiken der Instrumente notwendig, um Potentiale und Probleme sichtbar zu machen und die Einhaltung der datenschutzrechtlichen Vorgaben zu garantieren. Ungleichheiten in Bezug auf Vorwissen und Bereitschaft zur Nutzung müssen mit Blick auf die Lernziele beachtet, abgewogen und sinnvoll gehandhabt werden. Hierzu gehört auch eine fachlich-methodische Reflexion und die Anwendung der Grundsätze guter wissenschaftlicher Praxis auf die Nutzung von KI-basierten Systemen beim Lehren und Lernen. Diese Kompetenz im kritisch-reflektierten Umgang mit KI-basierten Systemen wird in allen Fächern und Studiengängen ein Querschnittsthema werden.

Herausforderungen in Studium und Lehre lassen sich aktuell vor allem für das Prüfen identifizieren. Dabei geht es um die Nutzung KI-basierter Systeme im Kontext von Prüfungsleistungen sowohl in der Hand von Studierenden (bspw. automatisch generierte Texte, Bilder oder Musik) als auch von Lehrenden (bspw. automatisierte Bewertung von Hausarbeiten). Gleichzeitig entstehen zusätzliche Chancen für Lehr- und Lernszenarien, beispielsweise 

lernendenorientiert die Individualisierung von Lernmaterial, automatisiertes Feedback, Erleichterung der Zusammenarbeit der Lernenden sowie
- lehrendenorientiert die Automatisierung von Aufgaben, Fortschrittsanalysen, Unterstützung bei der Veranstaltungsplanung sowie Assistenz bei Forschungsprozessen.

Die Konkretisierung und Ausgestaltung, der optionale Einsatz oder auch der Nicht-Einsatz in der Lehre liegt in der Zuständigkeit der Fachbereiche, Studiengänge und der Lehrenden.

Die Allgemeinen Teile der Bachelor- und Masterprüfungsordnungen, vor allem §8 und §9 AT, beinhalten Regelungen, nach denen bei schriftlichen Arbeiten die Eigenständigkeitserklärung abzugeben sind. Darin wird der Umgang mit Hilfsmitteln bei der Verfassung schriftlicher Arbeiten geregelt, der auch für die Nutzung KI-basierter Instrumente anzuwenden ist. Ergänzend gelten gemäß § 7 DigiPrüfO entsprechende Regelungen für digitale Prüfungen.

KI-basierte Systeme und weitere Instrumente können als Hilfsmittel zugelassen werden, eine Verpflichtung zur Nutzung kann es aber nicht geben. Allerdings sind Regeln von den Lehrenden und Prüfenden festzulegen und zu kommunizieren. Dies gilt insbesondere, da die Studierenden immer die Verantwortung für ihre Arbeitsergebnisse haben und im Fall der Nutzung von KI-basierten Systemen deutlich gemacht werden muss, worin genau die Leistung der Studierenden und worin die Leistung der KI-basierten Systeme besteht. Die Aufgabe, Umfang und Art der Nutzung von KI-basierten Systemen zu erklären und die Übernahme der Verantwortung für die Ergebnisse liegt bei den Erstellenden.

Der Nachweis der Nutzung und die Dokumentation inkl. der Form der „Quellenangaben“ sind festzulegen. Eine rechtmäßige Bewertung setzt voraus, dass die Lehrenden wissen, was die/der zu Prüfende geleistet hat. Damit die Eigenleistung bemessen werden kann, muss im Quellennachweis nachvollziehbar sein, was Eigenleistung und was die Leistung der KI-basierten Systeme ist. Hier müssen Lehrende genau kommunizieren, welche Nachweise erforderlich sind.  Die Lehrenden können beispielsweise einfordern, dass die verwendeten Prompts und/oder Promptverläufe eingereicht werden oder dass die Nutzung der KI-basierten Systeme transparent dokumentiert wird.

Es wird empfohlen, dass sich Lehrende, Studiengänge bzw. Fachbereiche für ihre Studiengänge auf ein grundsätzliches Vorgehen verständigen. Zu beachten ist insbesondere:

  • Die Qualität von Studien- und Prüfungsleistungen, in denen die Ergebnisse KI-basierter Instrumente Verwendung finden, liegt in der Verantwortung der Studierenden.
  • Die Grundsätze guter wissenschaftlicher Praxis gelten immer, hier ist besonders die Forderung nach Transparenz zu beachten.
  • Die Fragen des Urheberrechtes sind rechtlich nicht abschließend geklärt, hier sind immer die aktuellen Regelungen zu beachten. Wenn die Daten, auf denen KI-basierte Systeme basieren, Arbeiten enthalten, die plagiiert wurden, könnten die von dem Instrument erzeugten Antworten ebenfalls als Plagiate angesehen werden. Wer einen solchen Text nach §§ 16 und 19 UrhG vervielfältigt oder veröffentlicht, begeht eine Urheberrechtsverletzung. In der Prüfungsleistung wäre die dann fehlende Angabe der Quelle ein Plagiat und somit nach § 18 AT zu behandeln.

Im Umgang mit personenbezogenen Daten Dritter im Zusammenhang mit KI-basierten Systemen ist die Wahrung des Datenschutzrechts, insbesondere der DSGVO sowie des Bremischen Ausführungsgesetzes zur EU-Datenschutz-Grundverordnung (BremDSGVOAG) sicherzustellen. Dies betrifft sowohl den Upload von Informationen in KI-basierte Instrumente als auch die durch diese erzeugten Inhalte.

Bei Verdachtsfällen bzgl. Täuschungsversuchen bzw. bei Verstößen gegen gute wissenschaftliche Praxis ist das übliche prüfungsrechtliche Verfahren nach § 18 AT (Täuschungsversuch) durchzuführen. Auch hier sind allgemein die unerlaubten Hilfsmittel formuliert, was auch die KI umfassen würde.

Eine Arbeitsgruppe zu KI in der Lehre arbeitet zusammen an der weiteren Erschließung des Themas für die Universität.
Im nächsten Schritt sollen die Grundsätze/Empfehlungen auch auf die anderen Bereiche der Universität Forschung und Transfer sowie Verwaltung ausgeweitet werden.
Zusätzlich zu den themen- und zielgruppenspezifischen Diskussionen wird eine übergreifende Arbeitsgruppe die KI-Themen zusammenführen.

Bei Interesse an der Mitarbeit wenden Sie sich gern an die unten genannten Kontakte.

Das Zemtrum für Multimedia in der Lehre unterstützt beim Einsatz von KI in der Lehre. Weiterer Informationen finden Sie auf den Webseiten.

Kontakt

Franziska Richter

Referat Lehre und Studium

Gebäude/Raum: VWG 0300
Telefon: +49-421-218-60372
E-Mail: hddgprotect me ?!vw.uni-bremenprotect me ?!.de

Christina Gloerfeld

Team CDO

Gebäude/Raum: ECO5, Raum 3.91
Telefon: +49-421-218-60042
E-Mail: cdo@vw.uni-bremen.de

Martina Salm/Yildiray Ogurol

Zentrum für Multimedia in der Lehre 

Gebäude/Raum: FZB 0561
Telefon: +49-421-218-61470
E-Mail: infoprotect me ?!zmml.uni-bremenprotect me ?!.de