Open WebUI

Open WebUI ist eine freie Anwendung, die auf dem Server installiert wird, auf dem Ihre Sprachmodelle laufen. Sie bietet eine Chat-Oberfläche, die mit der großer Online-Assistenten vergleichbar ist: Gesprächsverlauf, Modellauswahl, Datei-Upload, formatierte Antworten. Jeder Mitarbeitende greift über den Browser darauf zu, am Computer, Tablet oder Smartphone, ohne etwas installieren zu müssen.

Open WebUI führt die Modelle nicht selbst aus: Es verbindet sich mit einer Engine wie Ollama oder mit jeder kompatiblen API, etwa der von vLLM. Dazu kommen Funktionen, die im Unternehmen nützlich sind: Benutzerkonten mit Rollen und Rechten, Wissensdatenbanken, um Dokumente per RAG abzufragen, optionale Websuche, individuelle Assistenten mit eigenen Anweisungen sowie zusätzliche Werkzeuge.

Die Software selbst ist schlank: Tempo und Qualität der Antworten bestimmt die Maschine, auf der die Modelle laufen. Für die gemeinsame Nutzung achten Sie vor allem auf den VRAM der GPU und die erwartete Zahl gleichzeitiger Nutzer. Im lokalen Netzwerk installiert, hält Open WebUI alle Unterhaltungen und Dokumente in Ihren vier Wänden. Ein Fernzugriff ist möglich, sofern er richtig abgesichert wird.

Unsere KI-Workstations werden mit einsatzbereitem Open WebUI ausgeliefert, verbunden mit Ollama, damit Ihr Team vom ersten Tag an mit der KI arbeiten kann.