KI-Chat
Kurzbeschreibung
Das ZDV der JGU bietet einen KI-Dienst mit Sprachmodellen wie Gemma3 27B, Nemotron Ultra 253B, Qwen2.5 Coder.
KI-Technologien und Dienste
- Nemotron Ultra 253B (Starke Leistung in allen Bereichen
- optionales "Reasoning" für verbesserte Logikfähigkeiten)
- Gemma3 27B (Multimodale Verarbeitung von Text & Bildern
- trainiert auf über 140 Sprachen
- sehr effizient)
- Qwen2.5 Coder 32B (Spezialisiert auf Programmieraufgaben
- akkurates&schnelles Coding auf Niveau der besten Modelle ohne Reasoning)
- KI-Chat (KI-Dienst zur Verfügung gestellt vom ZDV für Mitarbeitende und Studierende)
- OpenWebUI (Benutzeroberfläche für die Interaktion)
- vllm (Führt die KI-Modelle auf den GPUs aus)
- Verbesserte Extraktion und Suche in Dokumenten (In Planung)
- Erstellung permanenter "Wissensspeicher" (In Planung)
- Regelmäßiges Update der AI-Modelle (In Planung)
- Anbindung von Anwendungen wie Moodle oder BBB (In Planung)
Anwendungsbereich
- Hauptanwendungsgebiet
-
- Nicht angegeben
- Zielgruppe
- Mitarbeitende, Studierende
Weitere Details
- Schnittstellen
-
- Load Balancer (LiteLLM)
- AI-Server (vllm)
- Open Source
- Ja
Kontakt
- E-Mail: digitale-lehre@uni-mainz.de