Un'unica API per gestire tutta la tua IA
Il gateway LLM industriale che unifica tutti i tuoi modelli, ne misura le prestazioni e ottimizza prompt e costi. Installato e supervisionato da DINAO, le tue inferenze e i tuoi feedback restano sui nostri server francesi.
Cos'è TensorZero ?
TensorZero è una piattaforma open-source che unisce in un unico prodotto una gateway LLM, l'osservabilità, la valutazione, l'ottimizzazione e la sperimentazione. Espone una API unica compatibile con OpenAI che dà accesso a tutti i principali fornitori di modelli, e conserva ogni inferenza e ogni feedback per permettere in seguito di ottimizzare prompt, modelli e strategie di inferenza.
Il gateway è scritto in Rust per puntare a prestazioni industriali: meno di un millisecondo di latenza al p99 e diverse migliaia di richieste al secondo. Routing intelligente, fallback automatici, retry, cache, rate limiting, tracciamento dei costi e test A/B sono integrati nativamente, così come il supporto per output strutturati, tool use, embeddings, multimodale e batch.
Per quanto riguarda i dati, l'osservabilità si basa su ClickHouse (consigliato per alto volume) o PostgreSQL (configurazione più semplice), e il deployment avviene tramite Docker o Kubernetes con una configurazione compatibile con GitOps.
Alloggia TensorZero su DINAO
Livelli di risorse compatibili con i requisiti di TensorZero (1 vCPU (gateway 0,5 vCPU + store) / 512 Mo (gateway) + 1 Go (store) / 5 à 10 Go minimo). Ospitato in Francia, fully managed.
- 1 vCPU dedicati
- 2 Go di RAM
- 20 Go NVMe
- Backup quotidiani
- Fully managed & supervisionato da DINAO
- 2 vCPU dedicati
- 4 Go di RAM
- 40 Go NVMe
- Backup quotidiani
- Fully managed & supervisionato da DINAO
- 4 vCPU dedicati
- 8 Go di RAM
- 80 Go NVMe
- Backup quotidiani
- Fully managed & supervisionato da DINAO
- 8 vCPU dedicati
- 16 Go di RAM
- 160 Go NVMe
- Backup quotidiani
- Fully managed & supervisionato da DINAO
Questa applicazione utilizza l'IA
Il contenitore ospita l'applicazione, non il motore di IA (che richiede GPU dedicate) : l'inferenza si collega dall'esterno, con la tua chiave del fornitore. Priorità a un motore sovrano — Mistral AI, NumSpot, Scaleway o OVHcloud AI Endpoints (Francia, GDPR) ; un attore internazionale (OpenAI, Anthropic…) solo se una capacità specifica lo richiede. Abbonamenti all'inferenza non inclusi nell'hosting.
Dettagli tecnici
Ti chiedi…
TensorZero ospita i modelli stessi?
No. TensorZero è una gateway: instrada le tue richieste verso i fornitori (Anthropic, OpenAI, Mistral…) o verso un server di inferenza locale. È lei a unificare l'accesso, l'osservabilità e l'ottimizzazione — senza GPU richiesta sull'istanza.
Devo riscrivere il mio codice applicativo?
No. L'API è compatibile con OpenAI: basta reindirizzare il base_url del tuo SDK verso la tua istanza DINAO. Cambi poi modello o fornitore senza toccare il codice.
Dove sono ospitati i dati?
Sull'infrastruttura DINAO in Francia, in uno dei datacenter disponibili. I tuoi log di inferenza, prompt e feedback non lasciano il territorio.
Servono competenze tecniche?
DINAO gestisce l'installazione, il backend di osservabilità (ClickHouse/PostgreSQL), la sicurezza e gli aggiornamenti. Il tuo team tecnico si concentra sull'integrazione applicativa e sull'analisi dei risultati.
Posso cambiare formula o esportare i miei dati?
Sì. Aumenti o riduci il livello in qualsiasi momento, e le tue inferenze rimangono esportabili — nessun blocco proprietario.
