KI-Chat

Hochschule: Universität Mainz
Einrichtung: Zentrum für Datenverarbeitung

Kurzbeschreibung

Das ZDV der JGU bietet einen KI-Dienst mit verschiedenen großen Sprachmodellen wie Gemma3 27B, Nemotron Ultra 253B, Qwen2

KI-Technologien und Dienste

  • Nemotron Ultra 253B - Starke Leistung in allen Bereichen, optionales "Reasoning" für verbesserte Logikfähigkeiten
  • Gemma3 27B - Multimodale Verarbeitung von Text & Bildern, trainiert auf über 140 Sprachen, sehr effizient
  • Qwen2.5 Coder 32B - Spezialisiert auf Programmieraufgaben, akkurates&schnelles Coding auf Niveau der besten Modelle ohne Reasoning
  • KI-Chat - KI-Dienst zur Verfügung gestellt vom ZDV für Mitarbeitende und Studierende
  • OpenWebUI - Benutzeroberfläche für die Interaktion
  • vllm - Führt die KI-Modelle auf den GPUs aus
  • Verbesserte Extraktion und Suche in Dokumenten - In Planung
  • Erstellung permanenter "Wissensspeicher" - In Planung
  • Taschenrechner - In Planung
  • Regelmäßiges Update der AI-Modelle - In Planung
  • Anbindung von Anwendungen wie Moodle oder BBB - In Planung

Anwendungsbereich

Hauptanwendungsgebiet
  • Nicht angegeben
Zielgruppe
Mitarbeitende, Studierende

Weitere Details

Schnittstellen
  • Load Balancer (LiteLLM)
  • AI-Server (vllm)
Open Source
Nicht angegeben

Kontakt

  • E-Mail: digitale-lehre@uni-mainz.de