KI-Chat

Hochschule: Johannes Gutenberg-Universität Mainz
Einrichtung: Zentrum für Datenverarbeitung

Kurzbeschreibung

Das ZDV der JGU bietet einen KI-Dienst mit Sprachmodellen wie Gemma3 27B, Nemotron Ultra 253B, Qwen2.5 Coder.

KI-Technologien und Dienste

  • Nemotron Ultra 253B (Starke Leistung in allen Bereichen
  • optionales "Reasoning" für verbesserte Logikfähigkeiten)
  • Gemma3 27B (Multimodale Verarbeitung von Text & Bildern
  • trainiert auf über 140 Sprachen
  • sehr effizient)
  • Qwen2.5 Coder 32B (Spezialisiert auf Programmieraufgaben
  • akkurates&schnelles Coding auf Niveau der besten Modelle ohne Reasoning)
  • KI-Chat (KI-Dienst zur Verfügung gestellt vom ZDV für Mitarbeitende und Studierende)
  • OpenWebUI (Benutzeroberfläche für die Interaktion)
  • vllm (Führt die KI-Modelle auf den GPUs aus)
  • Verbesserte Extraktion und Suche in Dokumenten (In Planung)
  • Erstellung permanenter "Wissensspeicher" (In Planung)
  • Regelmäßiges Update der AI-Modelle (In Planung)
  • Anbindung von Anwendungen wie Moodle oder BBB (In Planung)

Anwendungsbereich

Hauptanwendungsgebiet
  • Nicht angegeben
Zielgruppe
Mitarbeitende, Studierende

Weitere Details

Schnittstellen
  • Load Balancer (LiteLLM)
  • AI-Server (vllm)
Open Source
Ja

Kontakt

  • E-Mail: digitale-lehre@uni-mainz.de