Logo Universität Bremen, zurück zur Startseite

Suche

Platzhalter: Sternchen (*)
Digitale Transformation

BRAID

Ziel

Die Universität Bremen möchte die Möglichkeiten generativer KI nutzen, um die Verwaltung der Universität effizienter zu gestalten. Unser Ziel ist die Eingliederung datenschutzkonformer Tools in die Arbeitsabläufe der Verwaltung und die Unterstützung von Mitarbeitenden.
Gerade in der Verwaltung wird mit vielen sensiblen Daten agiert. Dabei spielen Datenschutz- und Urheberrecht, aber auch Bias eine zentrale Rolle. Wir unterstützen Sie bei Fragen rund um KI Funktionalität, Risiken und Implementierung.

Projektinformationen

 

Projektteam

teamkiprotect me ?!uni-bremenprotect me ?!.de

Jule Jensen
Jeroen van Kempen
Lucas Krüll

Förderung

BRAID wird aus Digitalisierungsmitteln des Landes gefördert.

Projektlaufzeit

1. Juni 2025 - 30. September 2027

Handreichung zur Nutzung von Chat-AI in der Academic Cloud der GWDG an der Universität Bremen

Verabschiedet vom Rektorat am 12.08.2025

Die Universität Bremen bietet ab sofort einen sicheren Zugang zu generativen KI-Diensten (GenKI) über die Academic Cloud der GWDG. Nach einem einjährigen Testlauf steht dieser Dienst nun universitätsweit für alle Angehörigen zur Verfügung. Um sicherzustellen, dass Sie diese Ressourcen bestmöglich nutzen können, wurde nachfolgende Handreichung erstellt, welche die wichtigsten Informationen und Richtlinien für die Nutzung der GenKI-Dienste enthält. Bitte lesen Sie diese sorgfältig durch, sie bildet die Voraussetzungen für die gestattete Nutzung der Dienste.

 

 

Die Universität Bremen ermöglicht über die Academic Cloud der GWDG (Gesellschaft für wissenschaftliche Datenverarbeitung mbH), einer gemeinsamen Einrichtung der Georg-August-Universität Göttingen und der Max-Planck-Gesellschaft (www.gwdg.de), einen datenschutzkonformen Zugang zu verschiedenen Modellen generativer KI (genKI). Diese genKI-Services heißen ChatAI. Die Nutzung ist freiwillig. Der Zugriff (Login) erfolgt mit den Anmeldedaten des Accounts der Universität Bremen über ein Webinterface („föderierte Anmeldung“). https://academiccloud.de/services/chatai/

Darüber können verschiedene OpenSource Modelle, die selbst gehostet sind (intern), und auch kommerzielle Modelle (extern gehostet), wie ChatGPT von OpenAI, genutzt werden.

Die Vorteile sind:

  • Die GWDG verarbeitet alle Daten gemäß der DSGVO
  • Es wurde ein Vertrag zum Schutz der Nutzer:innendaten mit der GWDG abgeschlossen. Für die Anmeldung werden von der GWDG nur die Daten zur Prüfung der Authentifizierung und Autorisierung verarbeitet – dies ist vertraglich abgesichert
  • Auch bei extern gehosteten Tools ist keine Weitergabe von personenbezogenen Daten der Nutzer:innen von der GWDG an die externen Dienstleister  erforderlich (Hinweis: Inhalte der Eingaben (Prompts) müssen aber ungefiltert weitergegeben werden)
  • Die eingegebenen Daten werden nicht zum Training der KI-Modelle genutzt
  • Die Eingaben werden nicht auf den Servern der GWDG gespeichert, sondern nur lokal im genutzten Browser. Beim externen Modell (ChatGPT) behält sich Microsoft aber vor die Daten bis zu 30 Tage zu speichern, um Missbrauch vorzubeugen.

Die sichere Bereitstellung der KI-basierten Systeme durch die Universität Bremen über die GWDG entbindet nicht von der eigenen Verantwortung für die Eingabe von Inhalten, die kritische Überprüfung von Ergebnissen und ihrer Verwendung.

Die Nutzung externer generativer KI-basierter Systeme (außerhalb von Chat-AI der GWDG) wird nicht empfohlen, eine Ausnahme können Forschungsprojekte bilden. Die Freie Hansestadt Bremen bereitet derzeit die Einführung eines verwaltungs-spezifischen KI-basierten Systems vor (LLMoin), das auch den Verwaltungsmitarbeiter:innen der Universität Bremen zur Verfügung gestellt werden soll.

Diese Handreichung wird laufend aktualisiert, um den sich verändernden technischen, rechtlichen und ethischen Anforderungen Rechnung zu tragen.

Reflektierter Einsatz

Nutzen Sie generative KI stets überlegt: Was sind ihre Ziele und welche Ergebnisse erwarten Sie? Kennen Sie die Funktionsweise, die Stärken und Schwächen des genutzten Modells?  Wissen Sie was Sie eingeben und wie Sie Ausgaben nutzen dürfen?

Prüfen und verifizieren Sie die Ausgaben immer mit Primär- und Fachquellen oder Rücksprache mit Expert:innen.

Kritisches Hinterfragen

Geben Sie keine Texte oder Ergebnisse ungeprüft weiter, übernehmen Sie Verantwortung für die Weiterverwendung und bewerten Sie die Ausgabe sorgfältig. Sind die Informationen plausibel, richtig und ethisch vertretbar? Liegen möglicherweise Verzerrungen und Diskriminierungen vor?

Datenschutz

Geben Sie keine personenbezogenen Daten in die genKI-Systeme ein (Ausnahme: vorliegende Rechtsgrundlage oder Einwilligung). Prüfen Sie, ob Ausgaben personenbezogene Daten beinhalten, die nicht weitergegeben werden dürfen.

Informationssicherheit

Geben sie keine vertraulichen Daten in KI-Systeme ein. Beachten Sie die Klassifizierung und Sensibilität Ihrer Informationen.

Urheberrecht

Achten Sie darauf, keine urheberrechtlich geschützten Inhalte einzugeben oder zu veröffentlichen. Prüfen Sie die Ausgaben, ob Verletzungen des Urheberrechts vorliegen und wer Rechte an KI-generierten Inhalten hat. Im Zweifelsfalle veröffentlichen sie keine KI-generierten Inhalte.

Ethische Aspekte

Hinterfragen Sie Ergebnisse auf mögliche Verzerrungen oder Fehldarstellungen; Kennzeichnen Sie Inhalte, die mit KI generiert wurden und dokumentieren Sie ggfs. den Einsatz nachvollziehbar.

Verbotene Anwendungsfälle

Generative KI darf nicht eingesetzt werden zur Erstellung von Profilen, zur automatisierten Benotung, Erstellung von Gutachten, Plagiaten oder irreführender/intransparenter Informationen

Nutzen Sie zur Unterstützung diese Checkliste zum rechtskonformen Umgang mit generativen KI-Diensten  

Checkliste genKI

Generative Künstliche Intelligenz (KI) 

KI-Anwendungen, die auf Basis trainierter Daten aus einer Eingabe (Prompt) automatisch Inhalte wie Texte, Bilder, Töne, Videos oder Programmcode erzeugen.

Large Language Models (LLMs)

Textgenerierende Systeme (z. B. ChatGPT, Llama, Gemini, Claude), die mit großen Datenmengen trainiert werden. Sie verstehen Inhalte nicht inhaltlich, sondern berechnen die statistisch wahrscheinlichste nächste Zeichen- oder Wortfolge. Fehlerhafte, erfundene oder inhaltlich falsche Ausgaben („Halluzinationen“) sind möglich.

Halluzinationen

Die KI gibt überzeugend formulierte, aber inhaltlich falsche Informationen aus. Inhalt und Argumentation wirken stimmig, sind jedoch vom KI-System frei erfunden.

Bias / Verzerrungen

Vorurteile oder Fehldarstellungen in den Trainingsdaten oder Modellen können sich auf die Ausgaben der KI übertragen und zu Diskriminierung (z. B. Ungleichbehandlung von Personengruppen) führen.

Checkliste zum Umgang mit Generativen KI-Diensten

Bei der Nutzung von generativen KI-Diensten wie dem Angebot ChatAI der GWDG (das unter anderem ChatGPT enthält) entstehen unweigerlich rechtliche Frage­stellungen. Dabei ist wichtig zu bedenken, dass für eine Vielzahl rechtlicher Herausforderungen beim Umgang mit KI-Diensten noch keine umfassenden Rechtsklärungen existieren.

Dieses Dokument gibt einen Überblick rechtlicher Anforderungen. Es stellt keine Rechtsberatung dar und ersetzt nicht die Einholung eines Rechtsrates im Einzel­fall. Alle Angaben erfolgen nach sorgfältiger Prüfung, jedoch ohne Gewähr für die Richtigkeit, Vollständigkeit und Aktualität.

Für persönliche Beratung stehen Ihnen die Mitarbeiterinnen und Mitarbeiter der zuständigen Fachabteilungen zur Verfügung:

  • Unterstützung bei allgemeinen rechtlichen Fragen oder Unsicherheiten finden Sie in der Rechtsabteilung, im Referat 13 und im ZMML.
  • Für Fragen des Datenschutzes kontaktieren Sie gerne die/den Datenschutzbe­auftragte/n der Hochschule.
 

 

 
  • Ich habe die Nutzungsbedingungen des KI-Diensts sorgfältig gelesen und für meine Nutzung beachtet.
 
 
  • Ich nutze den KI-Dienst über die föderierte Anmeldung der Academic Cloud, die von der GDWG für Hochschulen bereitgestellt wird. Dadurch ist eine sichere Authentifizierung und verschlüsselte Datenübertragung gewährleistet.
 
 
  • Ich habe geprüft, ob ich urheberrechtlich geschütztes Material als Input für den KI-Dienst verwenden möchte. Dies gilt z.B. für die Eingabe von Abbildungen, Text­kopien und Prüfungsleistungen.
 
 
  • Wenn ja, habe ich dessen rechtmäßige Verwendung abgesichert, z.B. durch Einholen der Zustimmung der Urheber:in, und dies schriftlich dokumentiert.
 
 
  • Als Input habe ich keinepersonenbezogenen Daten Dritter gem. Art. 4 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu zählen bspw. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollstän­dige postalische Anschrift oder Foto- oder Videoaufnahmen, auf denen Personen erkennbar sind.
 
 
  • Als Input habe ich keinebesonders sensiblen personenbezogenen Daten Dritter gem. Art. 9 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der besonders sensiblen personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu zählen personenbezogene Angaben zur ethnischen Herkunft, politische Meinun­gen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit sowie die Verarbeitung von genetischen oder biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.
 
 
  • Wenn bei meiner Arbeit mit dem KI-Dienst personenbezogene Daten Dritter vorkommen, habe ich sie vor der Verwendung als Input anonymisiert, damit kein Rückschluss auf die Person möglich ist oder ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst (z.B. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
 
 
  • Wenn KI-Dienste meine Entscheidungen oder Bewertungen zu einer natürlichen Person unterstützen, habe ich nachvollziehbar dokumentiert, dass die Entscheidung primär auf einer menschlichen Urteilsfindung beruht und dass es sich damit nicht um eine automatisierte Entscheidung im Einzelfall gem. Art. 22 Abs. 2 DS-GVO handelt.
 
 
  • Ich habe bei der Verfassung des Inputs geltende vertragliche Vereinbarungen, gesetzliche Bestimmungen und Hochschul-interne Richtlinien nach bestem Wissen und Gewissen eingehalten. Insbesondere sind dies Vereinbarungen zur Vertraulichkeit, der Wahrung von Dienstgeheimnissen oder gesetzliche Vorgaben.
 
 
  • Ich habe keine Materialien aus vertraulichen Quellen als Input verwendet.
 
 
  • Ich nehme auf Basis der Antworten des KI-Dienstes keine automatisierten Entscheidungen zu einer natürlichen Person gemäß Art. 22 Abs. 1 DS-GVO vor, die gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, etwa im Fall von arbeits- und personalrechtlichen Entscheidungen. Dazu habe ich sichergestellt, dass die Letztentscheidungskompetenz bei einer natürlichen Person liegt, z.B. bei mir selbst.
 
 
  • Wenn ich den Output des KI-Dienstes verbreiten oder veröffentlichen möchte, habe ich diesen auf urheberrechtlich geschützte Inhalte geprüft, die z.B. entstehen können, wenn die KI zufällige Ähnlichkeiten zu bestehenden Werken produziert. Dafür habe ich die rechtlichen Empfehlungen für die Nutzung von KI in der Lehre meiner Hochschule beachtet.
 
 
  • Wenn ich den Output des KI-Diensts verbreiten oder veröffentlichen möchte, habe ich ihn nach wissenschaftlichen Grundsätzen geprüft, u.a. auf fachliche Richtigkeit. Dazu habe ich die Verfahren und Leitlinien zur Sicherung guter wissenschaftlicher Praxis meiner Hochschule beachtet.
 
 
  • Sie kopieren urheberrechtlich geschützte Werke wie z.B. Fotografien oder Zeitungsartikel als Input in einen KI-Dienst ein. Diese Verwendung ist nicht zulässig, solange keine Zustimmung der Rechteinhaber vorliegt.
 
 
  • Sie verwenden ohne Rechtsgrundlage wie bspw. eine Einwilligung der betroffenen Person personenbezogene oder besonders sensible personenbezogene Daten Dritter als Teil eines Inputs (wie z.B. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollständige postalische Anschrift, Foto- oder Videoaufnahmen auf denen natürliche Personen erkennbar sind oder personenbezogene Angaben zur ethnischen Herkunft oder mit biometrischen oder medizinischen Daten o. ä.). Diese Verwendung ist nicht zulässig. Personenbezogene Daten sind zu anonymisieren (= die Zuordnungsmöglichkeit der Daten zu der betroffenen Person ist zu entfernen).
 
 
  • Sie kopieren Bewerbungsunterlagen, persönliche Anschreiben, Lebensläufe oder andere sensible Unterlagen dritter Personen in nicht-anonymisierter Form als Teil eines Inputs in den KI-Dienst ein. Diese Verwendung ist nicht zulässig.
 
 
  • Sie kopieren nicht-öffentliche Schriftstücke wie z.B. Angebotsabgaben, Selbstauskünfte oder Geschäftsberichte als Input in einen KI-Dienst ein. Diese Verwendung ist ohne Zustimmung der Betroffenen nicht zulässig.
 
 
  • Sie kopieren ohne datenschutzrechtliche Rechtsgrundlage Prüfungsleistungen von Studierenden oder Auszubildenden wie z.B. schriftliche Klausurlösungen oder Zeichnungen als Input in einen KI-Dienst ein, um Sie bei der Korrektur zu unterstützen. Diese Verwendung ist nicht zulässig.
 
 
  • Sie verwenden vertrauliche Materialien wie Gremienprotokolle aus geschlossenen Sitzungen, nicht-öffentliche Forschungsergebnisse oder Verschlusssachen als Teil eines Inputs. Diese Verwendung ist nicht zulässig.
 
 
  • Sie führen eine automatische Bewertung von Unterlagen mithilfe von KI-Diensten durch, die beeinträchtigende Wirkungen für die betroffenen Personen entfaltet und bei der Sie das Ergebnis aus dem KI-Dienst ohne umfassende menschliche Bewertung übernehmen. Diese Verwendung ist nicht zulässig.
 

Entscheidungshilfe Urheberrecht

Hier finden Sie eine von Prof. Dr. Iris Kirchner-Freis, LL.M.Eur. für die Universität Bremen entwickelte Entscheidungshilfe in Bezug auf Fragen bezüglich des Urheberrechts.

mehr

Neu

Aktualisiert von: Mirjana Etteldorf
RSS
Seite drucken