Chatbot der GWDG
Die GWDG bietet seit dem 22. Februar 2024 ihren eigenen Chatbot Chat AI an, der auf einer hauseigenen Hardware läuft. Sie können sich über die AcademicCloud oder direkt über diesen Link einfach per SSO einloggen und mit der generativen KI chatten. Wir haben hier mögliche Einsatzszenarien für Sie zusammengestellt.
Oberfläche und Bedienung
Die intuitive Gestaltung ermöglicht Ihnen eine einfache Navigation und effiziente Nutzung. Sie können mit der KI per Nachricht oder Textdatei chatten (siehe Abbildung).
Zudem haben Sie im unteren Bereich die Möglichkeit, zwischen verschiedenen künstlichen Intelligenzmodellen (sog. Large Language Models, kurz LLMs) auszuwählen: Die internen LLMs Mixtral 8x7B Instruct, Qwen2 72B Instruct, Meta LLaMA 3 SauerkrautLM 70B Instruct, Meta LLaMA 3.1 70B Instruct und Meta LLaMA 3.1 8B Instruct laufen auf hauseigener Hardware der GWDG, während die externen LLMs OpenAI GPT-3.5-Turbo und OpenAI GPT-4 von Drittanbietern stammen.
Über die erweiterten Optionen können Sie zusätzlich Ihren Workflow anpassen, indem Sie den System-Prompt einstellen, der Kontext und Anleitung für die Antwort des Modells bereitstellt. Sie können außerdem die Temperatur einstellen, was wiederum die Kreativität und Zufälligkeit des Modells beeinflusst (siehe Abbildung).
Umgang mit Daten
Bei der Konzipierung des Dienstes hat die GWDG besonderen Wert auf den Datenschutz gelegt. Um Ihre und die Anfragen Ihrer Studierenden zu schützen, werden die Eingaben und Antworten nur lokal beim Nutzenden innerhalb einer Sitzung gespeichert. Wenn Sie die Webseite schließen, werden alle Eingaben und Antworten gelöscht. Lediglich die Anzahl der Anfragen pro Nutzer*in wird erfasst, um den Bedarf dieses neuen Dienstes ermitteln zu können.Achtung! Dies betrifft nur die internen LLMs (Mixtral, Qwen und Meta). Bei den OpenAI-Modellen werden von der GWDG zwar keine Informationen über die Nutzenden verschickt, allerdings werden die Anfragen ungefiltert weitergegeben. Persönliche Informationen, die in den Anfragen selbst enthalten sind, werden an den externen Dienstleister übermittelt. Genauere Informationen dazu finden Sie in der Datenschutzerklärung.
Bei Fragen oder Rückmeldungen können Sie sich gerne an uns oder direkt an support@gwdg.de wenden.