LightRAG è un framework leggero di RAG (Retrieval Augmented Generation) che combina grafi di conoscenza ed embedding vettoriali per comprendere e interrogare meglio un corpus di documenti. Laddove il RAG classico si limita a recuperare passaggi simili, LightRAG costruisce un grafo che collega entità e concetti, consentendo risposte più complete per domande trasversali a più documenti.

Offre cinque modalità di interrogazione (locale, globale, ibrida, ingenua e mista), aggiornamenti incrementali del database senza ricostruzione e una configurazione per ruoli (estrazione, interrogazione, parole chiave, modello visione/VLM). Per quanto riguarda i modelli, si integra con un LLM open-weight locale (tramite Ollama) o con qualsiasi API compatibile OpenAI, con scelta dell'embedding e reranking opzionale. L'elaborazione multimodale dei documenti si basa su MinerU e Docling.

LightRAG si appoggia a numerosi backend di archiviazione (PostgreSQL, MongoDB, Neo4j, Memgraph, Milvus, Qdrant…) ed espone una API REST nonché un'interfaccia web. Auto-ospitato su DINAO e integrato con un modello locale, diventa un assistente documentale realmente sovrano: i tuoi contenuti non lasciano mai la Francia.