KI-Chat
Kurzbeschreibung
Das ZDV der JGU bietet einen KI-Dienst mit verschiedenen großen Sprachmodellen wie Gemma3 27B, Nemotron Ultra 253B, Qwen2
KI-Technologien und Dienste
- Nemotron Ultra 253B - Starke Leistung in allen Bereichen, optionales "Reasoning" für verbesserte Logikfähigkeiten
- Gemma3 27B - Multimodale Verarbeitung von Text & Bildern, trainiert auf über 140 Sprachen, sehr effizient
- Qwen2.5 Coder 32B - Spezialisiert auf Programmieraufgaben, akkurates&schnelles Coding auf Niveau der besten Modelle ohne Reasoning
- KI-Chat - KI-Dienst zur Verfügung gestellt vom ZDV für Mitarbeitende und Studierende
- OpenWebUI - Benutzeroberfläche für die Interaktion
- vllm - Führt die KI-Modelle auf den GPUs aus
- Verbesserte Extraktion und Suche in Dokumenten - In Planung
- Erstellung permanenter "Wissensspeicher" - In Planung
- Taschenrechner - In Planung
- Regelmäßiges Update der AI-Modelle - In Planung
- Anbindung von Anwendungen wie Moodle oder BBB - In Planung
Anwendungsbereich
- Hauptanwendungsgebiet
-
- Nicht angegeben
- Zielgruppe
- Mitarbeitende, Studierende
Weitere Details
- Schnittstellen
-
- Load Balancer (LiteLLM)
- AI-Server (vllm)
- Open Source
- Nicht angegeben
Kontakt
- E-Mail: digitale-lehre@uni-mainz.de