Logo Universität Bremen, zurück zur Startseite

Suche

Platzhalter: Sternchen (*)
Digitale Transformation

GenKI@UHB

Ziel

Die Universität Bremen möchte die Möglichkeiten generativer KI nutzen, um Forschung, Studium und Lehre sowie Verwaltung zu unterstützen. Generative KI-Modelle durchdringen alle Lebens- und Arbeitsbereiche, aber ihre Nutzung birgt auch Risiken, wie die rechtswidrige Verarbeitung personenbezogener Daten und Verletzungen des Urheberrechts.

Ziel ist der Aufbau von KI-Kompetenz und die Erprobung dieser Technologie. Dazu schaffen wir einen datenschutzkonformen Zugang für alle Mitarbeitenden.

Eine Handreichung und Checkliste zur Nutzung von Chat-AI in der Academic Cloud der GWDG an der Universität Bremen finden Sie unten oder als pdf hier: 

Handreichung genKI

Checkliste genKI

Projektinformationen

 

Projektteam

genKIprotect me ?!uni-bremenprotect me ?!.de

Christina Gloerfeld (stellv. CDO)
Martina Salm (ZMML)
Franziska Richter (Ref. 13)

 

Förderung

GenKI@UHB wird aus Digitalisierungsmitteln des Landes gefördert.

 

Projektlaufzeit

01. Juli 2024 - 31. Dezember 2025

Projektumsetzung

Die Umsetzung erfolgt  über das akademische Serviceportal des Landes Niedersachsen (Academic Cloud) der GWDG (Gesellschaft für wissenschaftliche Datenverarbeitung mbH). Der Zugang über das Serviceportal ermöglicht einen datenschutzkonformen Zugriff sowie die Erprobung verschiedener LLMs (Large Language Modelle) - unter anderem verschiedene ChatGPT-Modelle

Hier geht es zu den ChatAI-Diensten in der Academic Cloud: academiccloud.de/de/services/chatai/

Während des Projektes werden mit einer Fokusgruppe, bestehend aus Mitarbeitenden aller Bereiche, Bedarfe und Anforderungen der Nutzenden erhoben sowie begleitende Maßnahmen erprobt. Melden Sie sich gerne, wenn Sie Interesse an einer Teilnahme haben: GenKI@uni-bremen.de

 

Begleitung und Unterstützung

Um einen kompetenten Umgang mit generativer KI zu fördern, werden Maßnahmen wie Aufklärung und Schulung mit Informationsmaterial, Tutorials und Videos, Workshopangebote und einen kontinuierlichen Support umgesetzt. Das Angebot richtet sich an alle Mitarbeitenden der Universität und wird gemeinsam vom Referat 13, dem ZMML, dem Team CDO sowie der Personalentwicklung begleitet. Alle Maßnahmen bauen auf den Grundlagenschulungen im Bereich Datenschutz und Informationssicherheit auf sowie auf den bisherigen Angeboten zum Thema.

Einen verbindlichen Rahmen für den Einsatz und die Nutzung generativer KI möchten wir mit einer neuen Leitlinie zur Nutzung generativer KI an der Universität schaffen, die zwischen der Hochschulleitung, der Rechtsstelle, dem Personalrat und dem Team CDO abgestimmt wurde:

 

 

Kurse und Veranstaltungen

Zum Thema Einsatz und Nutzung generativer KI in Studium und Lehre, aber auch in Forschung und Verwaltung finden Sie verschiedenen Informations -und Bildungsangebote. Diese reichen von der Formulierung konkreter Prompts über rechtliche Fragen bis zur Darstellung von Anwendungsszenarien.

Melden Sie sich gerne, wenn Ihnen ein bestimmtes Thema fehlt.

Handreichung zur Nutzung von Chat-AI in der Academic Cloud der GWDG an der Universität Bremen

Verabschiedet vom Rektorat am 12.08.2025

Die Universität Bremen bietet ab sofort einen sicheren Zugang zu generativen KI-Diensten (GenKI) über die Academic Cloud der GWDG. Nach einem einjährigen Testlauf steht dieser Dienst nun universitätsweit für alle Angehörigen zur Verfügung. Um sicherzustellen, dass Sie diese Ressourcen bestmöglich nutzen können, wurde nachfolgende Handreichung erstellt, welche die wichtigsten Informationen und Richtlinien für die Nutzung der GenKI-Dienste enthält. Bitte lesen Sie diese sorgfältig durch, sie bildet die Voraussetzungen für die gestattete Nutzung der Dienste.

 

 

Die Universität Bremen ermöglicht über die Academic Cloud der GWDG (Gesellschaft für wissenschaftliche Datenverarbeitung mbH), einer gemeinsamen Einrichtung der Georg-August-Universität Göttingen und der Max-Planck-Gesellschaft (www.gwdg.de), einen datenschutzkonformen Zugang zu verschiedenen Modellen generativer KI (genKI). Diese genKI-Services heißen ChatAI. Die Nutzung ist freiwillig. Der Zugriff (Login) erfolgt mit den Anmeldedaten des Accounts der Universität Bremen über ein Webinterface („föderierte Anmeldung“). https://academiccloud.de/services/chatai/

Darüber können verschiedene OpenSource Modelle, die selbst gehostet sind (intern), und auch kommerzielle Modelle (extern gehostet), wie ChatGPT von OpenAI, genutzt werden.

Die Vorteile sind:

  • Die GWDG verarbeitet alle Daten gemäß der DSGVO
  • Es wurde ein Vertrag zum Schutz der Nutzer:innendaten mit der GWDG abgeschlossen. Für die Anmeldung werden von der GWDG nur die Daten zur Prüfung der Authentifizierung und Autorisierung verarbeitet – dies ist vertraglich abgesichert
  • Auch bei extern gehosteten Tools ist keine Weitergabe von personenbezogenen Daten der Nutzer:innen von der GWDG an die externen Dienstleister  erforderlich (Hinweis: Inhalte der Eingaben (Prompts) müssen aber ungefiltert weitergegeben werden)
  • Die eingegebenen Daten werden nicht zum Training der KI-Modelle genutzt
  • Die Eingaben werden nicht auf den Servern der GWDG gespeichert, sondern nur lokal im genutzten Browser. Beim externen Modell (ChatGPT) behält sich Microsoft aber vor die Daten bis zu 30 Tage zu speichern, um Missbrauch vorzubeugen.

Die sichere Bereitstellung der KI-basierten Systeme durch die Universität Bremen über die GWDG entbindet nicht von der eigenen Verantwortung für die Eingabe von Inhalten, die kritische Überprüfung von Ergebnissen und ihrer Verwendung.

Die Nutzung externer generativer KI-basierter Systeme (außerhalb von Chat-AI der GWDG) wird nicht empfohlen, eine Ausnahme können Forschungsprojekte bilden. Die Freie Hansestadt Bremen bereitet derzeit die Einführung eines verwaltungs-spezifischen KI-basierten Systems vor (LLMoin), das auch den Verwaltungsmitarbeiter:innen der Universität Bremen zur Verfügung gestellt werden soll.

Diese Handreichung wird laufend aktualisiert, um den sich verändernden technischen, rechtlichen und ethischen Anforderungen Rechnung zu tragen.

Reflektierter Einsatz

Nutzen Sie generative KI stets überlegt: Was sind ihre Ziele und welche Ergebnisse erwarten Sie? Kennen Sie die Funktionsweise, die Stärken und Schwächen des genutzten Modells?  Wissen Sie was Sie eingeben und wie Sie Ausgaben nutzen dürfen?

Prüfen und verifizieren Sie die Ausgaben immer mit Primär- und Fachquellen oder Rücksprache mit Expert:innen.

Kritisches Hinterfragen

Geben Sie keine Texte oder Ergebnisse ungeprüft weiter, übernehmen Sie Verantwortung für die Weiterverwendung und bewerten Sie die Ausgabe sorgfältig. Sind die Informationen plausibel, richtig und ethisch vertretbar? Liegen möglicherweise Verzerrungen und Diskriminierungen vor?

Datenschutz

Geben Sie keine personenbezogenen Daten in die genKI-Systeme ein (Ausnahme: vorliegende Rechtsgrundlage oder Einwilligung). Prüfen Sie, ob Ausgaben personenbezogene Daten beinhalten, die nicht weitergegeben werden dürfen.

Informationssicherheit

Geben sie keine vertraulichen Daten in KI-Systeme ein. Beachten Sie die Klassifizierung und Sensibilität Ihrer Informationen.

Urheberrecht

Achten Sie darauf, keine urheberrechtlich geschützten Inhalte einzugeben oder zu veröffentlichen. Prüfen Sie die Ausgaben, ob Verletzungen des Urheberrechts vorliegen und wer Rechte an KI-generierten Inhalten hat. Im Zweifelsfalle veröffentlichen sie keine KI-generierten Inhalte.

Ethische Aspekte

Hinterfragen Sie Ergebnisse auf mögliche Verzerrungen oder Fehldarstellungen; Kennzeichnen Sie Inhalte, die mit KI generiert wurden und dokumentieren Sie ggfs. den Einsatz nachvollziehbar.

Verbotene Anwendungsfälle

Generative KI darf nicht eingesetzt werden zur Erstellung von Profilen, zur automatisierten Benotung, Erstellung von Gutachten, Plagiaten oder irreführender/intransparenter Informationen

Nutzen Sie zur Unterstützung diese Checkliste zum rechtskonformen Umgang mit generativen KI-Diensten  

Checkliste genKI

Generative Künstliche Intelligenz (KI) 

KI-Anwendungen, die auf Basis trainierter Daten aus einer Eingabe (Prompt) automatisch Inhalte wie Texte, Bilder, Töne, Videos oder Programmcode erzeugen.

Large Language Models (LLMs)

Textgenerierende Systeme (z. B. ChatGPT, Llama, Gemini, Claude), die mit großen Datenmengen trainiert werden. Sie verstehen Inhalte nicht inhaltlich, sondern berechnen die statistisch wahrscheinlichste nächste Zeichen- oder Wortfolge. Fehlerhafte, erfundene oder inhaltlich falsche Ausgaben („Halluzinationen“) sind möglich.

Halluzinationen

Die KI gibt überzeugend formulierte, aber inhaltlich falsche Informationen aus. Inhalt und Argumentation wirken stimmig, sind jedoch vom KI-System frei erfunden.

Bias / Verzerrungen

Vorurteile oder Fehldarstellungen in den Trainingsdaten oder Modellen können sich auf die Ausgaben der KI übertragen und zu Diskriminierung (z. B. Ungleichbehandlung von Personengruppen) führen.

Checkliste zum Umgang mit Generativen KI-Diensten

Bei der Nutzung von generativen KI-Diensten wie dem Angebot ChatAI der GWDG (das unter anderem ChatGPT enthält) entstehen unweigerlich rechtliche Frage­stellungen. Dabei ist wichtig zu bedenken, dass für eine Vielzahl rechtlicher Herausforderungen beim Umgang mit KI-Diensten noch keine umfassenden Rechtsklärungen existieren.

Dieses Dokument gibt einen Überblick rechtlicher Anforderungen. Es stellt keine Rechtsberatung dar und ersetzt nicht die Einholung eines Rechtsrates im Einzel­fall. Alle Angaben erfolgen nach sorgfältiger Prüfung, jedoch ohne Gewähr für die Richtigkeit, Vollständigkeit und Aktualität.

Für persönliche Beratung stehen Ihnen die Mitarbeiterinnen und Mitarbeiter der zuständigen Fachabteilungen zur Verfügung:

  • Unterstützung bei allgemeinen rechtlichen Fragen oder Unsicherheiten finden Sie in der Rechtsabteilung, im Referat 13 und im ZMML.
  • Für Fragen des Datenschutzes kontaktieren Sie gerne die/den Datenschutzbe­auftragte/n der Hochschule.
 

 

 
  • Ich habe die Nutzungsbedingungen des KI-Diensts sorgfältig gelesen und für meine Nutzung beachtet.
 
 
  • Ich nutze den KI-Dienst über die föderierte Anmeldung der Academic Cloud, die von der GDWG für Hochschulen bereitgestellt wird. Dadurch ist eine sichere Authentifizierung und verschlüsselte Datenübertragung gewährleistet.
 
 
  • Ich habe geprüft, ob ich urheberrechtlich geschütztes Material als Input für den KI-Dienst verwenden möchte. Dies gilt z.B. für die Eingabe von Abbildungen, Text­kopien und Prüfungsleistungen.
 
 
  • Wenn ja, habe ich dessen rechtmäßige Verwendung abgesichert, z.B. durch Einholen der Zustimmung der Urheber:in, und dies schriftlich dokumentiert.
 
 
  • Als Input habe ich keinepersonenbezogenen Daten Dritter gem. Art. 4 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu zählen bspw. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollstän­dige postalische Anschrift oder Foto- oder Videoaufnahmen, auf denen Personen erkennbar sind.
 
 
  • Als Input habe ich keinebesonders sensiblen personenbezogenen Daten Dritter gem. Art. 9 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der besonders sensiblen personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu zählen personenbezogene Angaben zur ethnischen Herkunft, politische Meinun­gen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit sowie die Verarbeitung von genetischen oder biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.
 
 
  • Wenn bei meiner Arbeit mit dem KI-Dienst personenbezogene Daten Dritter vorkommen, habe ich sie vor der Verwendung als Input anonymisiert, damit kein Rückschluss auf die Person möglich ist oder ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst (z.B. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
 
 
  • Wenn KI-Dienste meine Entscheidungen oder Bewertungen zu einer natürlichen Person unterstützen, habe ich nachvollziehbar dokumentiert, dass die Entscheidung primär auf einer menschlichen Urteilsfindung beruht und dass es sich damit nicht um eine automatisierte Entscheidung im Einzelfall gem. Art. 22 Abs. 2 DS-GVO handelt.
 
 
  • Ich habe bei der Verfassung des Inputs geltende vertragliche Vereinbarungen, gesetzliche Bestimmungen und Hochschul-interne Richtlinien nach bestem Wissen und Gewissen eingehalten. Insbesondere sind dies Vereinbarungen zur Vertraulichkeit, der Wahrung von Dienstgeheimnissen oder gesetzliche Vorgaben.
 
 
  • Ich habe keine Materialien aus vertraulichen Quellen als Input verwendet.
 
 
  • Ich nehme auf Basis der Antworten des KI-Dienstes keine automatisierten Entscheidungen zu einer natürlichen Person gemäß Art. 22 Abs. 1 DS-GVO vor, die gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, etwa im Fall von arbeits- und personalrechtlichen Entscheidungen. Dazu habe ich sichergestellt, dass die Letztentscheidungskompetenz bei einer natürlichen Person liegt, z.B. bei mir selbst.
 
 
  • Wenn ich den Output des KI-Dienstes verbreiten oder veröffentlichen möchte, habe ich diesen auf urheberrechtlich geschützte Inhalte geprüft, die z.B. entstehen können, wenn die KI zufällige Ähnlichkeiten zu bestehenden Werken produziert. Dafür habe ich die rechtlichen Empfehlungen für die Nutzung von KI in der Lehre meiner Hochschule beachtet.
 
 
  • Wenn ich den Output des KI-Diensts verbreiten oder veröffentlichen möchte, habe ich ihn nach wissenschaftlichen Grundsätzen geprüft, u.a. auf fachliche Richtigkeit. Dazu habe ich die Verfahren und Leitlinien zur Sicherung guter wissenschaftlicher Praxis meiner Hochschule beachtet.
 
 
  • Sie kopieren urheberrechtlich geschützte Werke wie z.B. Fotografien oder Zeitungsartikel als Input in einen KI-Dienst ein. Diese Verwendung ist nicht zulässig, solange keine Zustimmung der Rechteinhaber vorliegt.
 
 
  • Sie verwenden ohne Rechtsgrundlage wie bspw. eine Einwilligung der betroffenen Person personenbezogene oder besonders sensible personenbezogene Daten Dritter als Teil eines Inputs (wie z.B. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollständige postalische Anschrift, Foto- oder Videoaufnahmen auf denen natürliche Personen erkennbar sind oder personenbezogene Angaben zur ethnischen Herkunft oder mit biometrischen oder medizinischen Daten o. ä.). Diese Verwendung ist nicht zulässig. Personenbezogene Daten sind zu anonymisieren (= die Zuordnungsmöglichkeit der Daten zu der betroffenen Person ist zu entfernen).
 
 
  • Sie kopieren Bewerbungsunterlagen, persönliche Anschreiben, Lebensläufe oder andere sensible Unterlagen dritter Personen in nicht-anonymisierter Form als Teil eines Inputs in den KI-Dienst ein. Diese Verwendung ist nicht zulässig.
 
 
  • Sie kopieren nicht-öffentliche Schriftstücke wie z.B. Angebotsabgaben, Selbstauskünfte oder Geschäftsberichte als Input in einen KI-Dienst ein. Diese Verwendung ist ohne Zustimmung der Betroffenen nicht zulässig.
 
 
  • Sie kopieren ohne datenschutzrechtliche Rechtsgrundlage Prüfungsleistungen von Studierenden oder Auszubildenden wie z.B. schriftliche Klausurlösungen oder Zeichnungen als Input in einen KI-Dienst ein, um Sie bei der Korrektur zu unterstützen. Diese Verwendung ist nicht zulässig.
 
 
  • Sie verwenden vertrauliche Materialien wie Gremienprotokolle aus geschlossenen Sitzungen, nicht-öffentliche Forschungsergebnisse oder Verschlusssachen als Teil eines Inputs. Diese Verwendung ist nicht zulässig.
 
 
  • Sie führen eine automatische Bewertung von Unterlagen mithilfe von KI-Diensten durch, die beeinträchtigende Wirkungen für die betroffenen Personen entfaltet und bei der Sie das Ergebnis aus dem KI-Dienst ohne umfassende menschliche Bewertung übernehmen. Diese Verwendung ist nicht zulässig.
 
Aktualisiert von: Mirjana Etteldorf
RSS
Seite drucken