Open WebUI ist eine selbst gehostete und erweiterbare KI-Plattform, die vollständig offline betrieben werden kann. Sie bietet eine reichhaltige und benutzerfreundliche Chat-Schnittstelle, um mit Sprachmodellen zu interagieren, die entweder von Ollama oder über jede OpenAI-kompatible API bereitgestellt werden. Vollständiges Markdown und LaTeX, gleichzeitige Multi-Modelle-Gespräche, Bildgenerierung und -bearbeitung sowie Sprach-/Videocalls mit mehreren Synthese- und Spracherkennungsmodellen sind Teil der Erfahrung.

Das Tool integriert eine eingebettete Inferenz-Engine und eine lokale RAG-Funktion (Retrieval Augmented Generation), die mit neun Vektordatenbanken kompatibel ist, sowie Websuche und Dokumentintegration über den Befehl „#“. Für Entwickler stehen native Python-Funktionsaufrufe, ein Plugin-Framework (Pipelines) und Bildgenerierung durch mehrere Engines zur Verfügung.

Auch für Unternehmen gedacht, bietet Open WebUI rollenbasierten Zugriff, LDAP/Active Directory und SSO-Authentifizierung, SCIM 2.0-Provisioning, Unterstützung für SQLite oder PostgreSQL, OpenTelemetry-Überwachung und ein Docker/Kubernetes-Deployment mit horizontaler Skalierung.