ChatAI - Grundlagen

Um ChatAI zu nutzen, melden Sie sich zunächst unter http://academiccloud.de/de/services/chatai/ in der Academic Cloud an, indem Sie oben rechts auf den blauen Login-Button klicken. 

Sie benötigen hierfür keinen zusätzlichen Account. Der Zugang erfolgt über die Föderierte Anmeldung durch die Universität Bremen mit den Zugangsdaten Ihres Uni-Accounts. Beim ersten Anmeldevorgang werden Ihnen einige Hinweise angezeigt, die Sie lesen und bestätigen müssen, um die Anmeldung abzuschließen.

Dies ist die Hauptansicht von ChatAI. Mittig platziert sehen Sie das Fenster zum Eingeben Ihrer Anfrage.

Hier stehen Ihnen weitere Einstellmöglichkeiten zur Verfügung, die im Folgenden noch näher erklärt werden:

• Auswahl des Sprachmodells (LLM): Das verwendete Sprachmodell wählen Sie über das Drop-down-Menü am oberen Bildrand aus.
• Verwaltung der ChatAI-Konversationen: Über den Pfeil am linken Bildrand gelangen Sie zur Verwaltung Ihrer persönlichen Chats.
• Einstellungen für den Chat: Über das Zahnrad rechts oben gelangen Sie zu detaillierten Einstellmöglichkeiten und Werkzeugen für Ihrer Chat.
• Persönliche Einstellungen: Am rechten Rand sehen Sie Ihre Initialen. Hiermit gelangen Sie zu Ihren persönlichen Nutzungs-Voreinstellungen.

Ebenfalls am rechten Rand wird Ihnen in Abhängigkeit vom genutztem Modell ein Hinweis eingeblendet, der über die Sicherheit und Verarbeitung Ihrer eingegebenen Daten informiert. Standardmäßig verwendet ChatAI Modelle, die von der GWDG lokal betrieben werden. Bei diesen werden Ihre Daten nicht außerhalb der GWDG-Server verarbeitet und nicht gespeichert. 

Darüber hinaus können Sie mit den zwei Symbolen in der unteren rechten Ecke Sprache und Aussehen der ChatAI-Oberfläche beeinflussen:

• Hell-/Dunkelmodus: durch einen Klick auf die Mond/Sonne-Icons können Sie jederzeit zwischen dem Hell- und Dunkelmodus wechseln, je nachdem welche Ansicht sich für Sie angenehmer anfühlt.
• Spracheinstellung deutsch/englisch: durch einen Klick auf die britische bzw. deutsche Flagge können Sie zwischen deutscher und englischer Sprache wechseln.

Innerhalb von ChatAI steht Ihnen eine Vielzahl an unterschiedlichen Sprachmodellen (LLMs) zur Verfügung. Sie können diese über die Dropdown-Liste am oberen Rand auswählen und jederzeit wechseln.

Die verschiedenen Sprachmodelle haben unterschiedliche Stärken und Schwächen. Eine Übersicht über die in ChatAI zu Verfügung stehenden LLMs mit ihren Stärken und Schwächen finden Sie unter https://docs.hpc.gwdg.de/services/chat-ai/models/index.html

In der Drop-Down-Liste werden Ihnen rechts von den Modellnamen Symbole angezeigt, die auf besondere Fähigkeiten hinweisen:

• Gehirn: das LLM ist als Thinking/Reasoning Model speziell für komplexe Denkaufgaben ausgelegt, die sich über mehrere Schritte erstrecken.
• Buch: das LLM kann auf eine ArcanaRAG zugreifen und diese als Wissensdatenbank für seine Ausgaben verwenden.
• Bild: das LLM nimmt Bilder als Eingabe entgegen und kann diese interpretieren.
• Mikrofon: das LLM nimmt Audiodateien als Eingabe entgegen und kann diese interpretieren.
• Kamera: das LLM nimmt Videodateien als Eingabe entgegen und kann diese interpretieren.

Ein entscheidender Unterschied besteht auch zwischen internen und externen LLMs: 

• Intern: die freien Modelle werden von der GWDG auf eigenen Servern betrieben. Ihre Daten werden bei der Verwendung dieser Modelle nicht an externe Dienstleister weitergeleitet, gespeichert, oder zu Trainungszwecken verwendet.
• Extern: die GWDG bietet auch kommerzielle Modelle von OpenAI (ChatGPT) an. Hierbei werden Ihre Chatverläufe anonymisiert weitergeleitet für 30 Tage auf Microsoft-Azure-Servern innerhalb der EU gespeichert.

Wenn Sie ein internes Modell ausgewählt haben, sehen Sie am oberen rechten Rand ein grünes Schloss. Wenn Sie ein externes Modell gewählt haben, wird Ihnen ein gelbes Warnsignal angezeigt (siehe Abbildung).

Dieses Menü können Sie am linken Bildrand ausklappen. Es bietet Ihnen folgende Möglichkeiten:

• Button “+ New Conversation”: startet einen neuen Chat.
• FOLDERS: Hier können Sie Ordner anlegen, um Ihre gespeicherten Chats thematisch abzulegen
• ALL CHATS: In dieser Liste können Sie nach Belieben zwischen ihren Chats wechseln. Bei jedem Chat gelangen Sie mit einem Klick auf die drei Punkte an der rechten Seite zu einem Menü mit folgenden Optionen:
  • Rename: Geben Sie dem Chat einen (neuen) Namen
  • Move: Verschieben Sie den Chat in einen Ordner
  • Export: Exportieren Sie den Chat
  • Delete: Löschen Sie den Chat
• Import Chat: Hiermit können Sie einen zuvor exportierten Chat wieder importieren, um ihn fortzusetzen.
• Chat with Persona: Wählen Sie eine bestehende Persona aus oder erstellen Sie nach eigenen Vorstellungen eine neue Persona, um mit dieser zu chatten.

In diesem Menü können Sie eine Vielzahl an Werkzeugen aktivieren und Voreinstellungen treffen, die das Verhalten und die Ergebnisse des Chats beeinflussen.

• GWDG-Werkzeuge
  • Websuche: ChatAI kann auf Basis Ihrer Anfrage bzw. des Gesprächsverlaufs Anfragen an Suchmaschinen senden, um aktuelle und genauere Informationen zu erhalten. Dies bedeutet, dass Ihre Eingaben und Daten an externe Dienstleister weitergeleitet werden. Nutzen Sie die Websuche daher nicht beim Umgang mit sensiblen Informationen. Sie müssen dieser Weitergabe Ihrer Daten bei der Aktivierung dieser Funktion aktiv zustimmen und es wird Ihnen ein Warnhinweis angezeigt.
  • Bildgenerierung: Sie können mit ChatAI Bilder generieren. Geben Sie einfach ein, was auf dem Bild dargestellt sein soll, und lassen Sie sich überraschen. Sie können dies mehrfach tun, da immer unterschiedliche Bilder generiert werden. Oder sie können die nachfolgend beschriebene Funktion zur Bildbearbeitung nutzen, um das Resultat zu überarbeiten.
  • Bildbearbeitung: Ermöglicht die Manipulation eines generierten oder hochgeladenen Bildes auf Basis Ihrer Anweisung.
  • Audiogenerierung: Erzeugt eine Audiodatei auf Basis Ihrer Eingabe (Text to Speech)
  • Videogenerierung
  • Arcana: Wenn Sie mithilfe des separaten Tools ArcanaRAG eine Wissensdatenbank auf Basis eigener Dokumente generiert haben, können Sie diese in ChatAI einbinden. Das Tool ArcanaRAW steht Ihnen ebenfalls über die GWDG zur Verfügung, eine Anleitung folgt.
  • MCP-Server: Mit Hilfe eines MCP (Model Context Protocol) Servers können Sie ChatAI zusätzliche Werkzeuge, Datenquellen oder Verarbeitungskapazitäten bereitstellen, um das Wissen zu Erweitern. Sie müssen hierfür die URL des MCP-Servers eintragen. Dies bedeutet, dass Ihre Daten an einen externen Dienst weitergeleitet werden. Ein entsprechender Warnhinweis wird Ihnen angezeigt.
• Suggest user prompts: Falls Sie Inspiration für Ihre Prompts brauchen, kann ChatAI Ihnen auf Basis Ihrer Eingabe Vorschläge für weitere Fragen zum selben Thema machen.
• Memory: Standardmäßig behandelt ChatAI jede Anfrage für sich. Es kann sich aber auch an den Chatverlauf erinnern und dazulernen. Wichtig: Ihr Gesprächsverlauf und das “Memory” werden in allen Fällen trotzdem immer nur lokal in Ihrem Webbrowser gespeichert.
  • None: ChatAI behandelt jede Ihrer Anfragen separat.
  • Recall: ChatAI berücksichtigt den Verlauf Ihrer Konversation und kann auf vorherige Eingaben verweisen.
  • Learn: ChatAI “lernt” im Gesprächsverlauf dazu. Diese Einstellung ähnelt der anderer bekannter Chatbot-Dienste. 
• temp
• top_p
• System prompt