Un'unica API per gestire tutta la tua IA
🔒 Solo VPSIl gateway LLM industriale che unifica tutti i tuoi modelli, ne misura le prestazioni e ottimizza prompt e costi. Installato e supervisionato da DINAO, le tue inferenze e i tuoi feedback restano sui nostri server francesi.
Cos'è TensorZero ?
TensorZero è una piattaforma open-source che unisce in un unico prodotto una gateway LLM, l'osservabilità, la valutazione, l'ottimizzazione e la sperimentazione. Espone una API unica compatibile con OpenAI che dà accesso a tutti i principali fornitori di modelli, e conserva ogni inferenza e ogni feedback per permettere in seguito di ottimizzare prompt, modelli e strategie di inferenza.
Il gateway è scritto in Rust per puntare a prestazioni industriali: meno di un millisecondo di latenza al p99 e diverse migliaia di richieste al secondo. Routing intelligente, fallback automatici, retry, cache, rate limiting, tracciamento dei costi e test A/B sono integrati nativamente, così come il supporto per output strutturati, tool use, embeddings, multimodale e batch.
Per quanto riguarda i dati, l'osservabilità si basa su ClickHouse (consigliato per alto volume) o PostgreSQL (configurazione più semplice), e il deployment avviene tramite Docker o Kubernetes con una configurazione compatibile con GitOps.
Alloggia TensorZero su DINAO
Livelli di risorse compatibili con i requisiti di TensorZero (1 vCPU (gateway 0,5 vCPU + store) / 512 Mo (gateway) + 1 Go (store) / 5 à 10 Go minimo). Ospitato in Francia, fully managed.
Applicazione disponibile su VPS dedicato
Questa applicazione richiede un accesso privilegiato alla macchina host, incompatibile con l'hosting condiviso gestito. Viene installata su un server VPS dedicato dove mantieni il controllo completo — gestita da DINAO.
Motivo tecnico: bind-mount d'un chemin hôte (volumes nommés uniquement en managé).
Scopri il VPS Docker →Requisiti di TensorZero: 1 vCPU (gateway 0,5 vCPU + store), 512 Mo (gateway) + 1 Go (store), 5 à 10 Go. Il nostro VPS Docker a 11 € IVA escl. al mese li copre.
Questa applicazione utilizza l'IA
Il contenitore ospita l'applicazione, non il motore di IA (che richiede GPU dedicate) : l'inferenza si collega dall'esterno, con la tua chiave del fornitore. Priorità a un motore sovrano — Mistral AI, NumSpot, Scaleway o OVHcloud AI Endpoints (Francia, GDPR) ; un attore internazionale (OpenAI, Anthropic…) solo se una capacità specifica lo richiede. Abbonamenti all'inferenza non inclusi nell'hosting.
Dettagli tecnici
Ti chiedi…
TensorZero ospita i modelli stessi?
No. TensorZero è una gateway: instrada le tue richieste verso i fornitori (Anthropic, OpenAI, Mistral…) o verso un server di inferenza locale. È lei a unificare l'accesso, l'osservabilità e l'ottimizzazione — senza GPU richiesta sull'istanza.
Devo riscrivere il mio codice applicativo?
No. L'API è compatibile con OpenAI: basta reindirizzare il base_url del tuo SDK verso la tua istanza DINAO. Cambi poi modello o fornitore senza toccare il codice.
Dove sono ospitati i dati?
Sull'infrastruttura DINAO in Francia, in uno dei datacenter disponibili. I tuoi log di inferenza, prompt e feedback non lasciano il territorio.
Servono competenze tecniche?
DINAO gestisce l'installazione, il backend di osservabilità (ClickHouse/PostgreSQL), la sicurezza e gli aggiornamenti. Il tuo team tecnico si concentra sull'integrazione applicativa e sull'analisi dei risultati.
Posso cambiare formula o esportare i miei dati?
Sì. Aumenti o riduci il livello in qualsiasi momento, e le tue inferenze rimangono esportabili — nessun blocco proprietario.
