LightRAG ist ein leichtgewichtiges Framework für RAG (Retrieval Augmented Generation), das Wissensgraphen und vektorbasierte Embeddings kombiniert, um ein Dokumentenkörpus besser zu verstehen und abzufragen. Während klassisches RAG sich darauf beschränkt, ähnliche Textstellen zu finden, erstellt LightRAG einen Graphen, der Entitäten und Konzepte verbindet, was zu vollständigeren Antworten auf übergreifende Fragen über mehrere Dokumente hinweg führt.

Es bietet fünf Abfragemodi (lokal, global, hybrid, naiv und gemischt), inkrementelle Updates der Datenbank ohne Neuaufbau und eine rollenbasierte Konfiguration (Extraktion, Abfrage, Schlüsselwörter, Modell mit Sehfähigkeit/VLM). Bei den Modellen bindet es an ein lokales Open-Weight-LLM (über Ollama) oder an jede OpenAI-kompatible API, mit optionaler Auswahl von Embedding und Reranking. Die multimodale Verarbeitung von Dokumenten basiert auf MinerU und Docling.

LightRAG stützt sich auf zahlreiche Speicher-Backends (PostgreSQL, MongoDB, Neo4j, Memgraph, Milvus, Qdrant …) und bietet eine REST-API sowie eine Weboberfläche. Selbst gehostet bei DINAO und an ein lokales Modell angebunden, wird es zu einem wirklich souveränen Dokumentenassistenten: Ihre Inhalte verlassen Frankreich niemals.