Text Generation Web UI (a menudo llamada «oobabooga») es una de las interfaces web de referencia para ejecutar grandes modelos de lenguaje de forma local. Reúne en una sola herramienta la carga de modelos, una interfaz de chat, un modo cuaderno y una API, todo autoalojable y funcional sin conexión.

Su gran fortaleza es la versatilidad de los motores de inferencia: soporta varios backends (llama.cpp, Transformers, ExLlamaV3) y numerosos formatos de modelos cuantizados (GGUF, EXL2), lo que permite cargar prácticamente cualquier modelo open-weight y cambiar de uno a otro en caliente.

Expones una API compatible con OpenAI para conectar tus aplicaciones, ofrece un sistema de extensiones, la gestión de personajes y plantillas de prompt, así como un despliegue Docker sencillo — ideal para experimentar y servir tus propios modelos sin depender de un servicio en la nube.