AI Infrastructure & Engineering

Framework AI Enterprise per Sistemi Agentici Multi-Tenant

Il framework AI proprietario che alimenta tutti i prodotti GE.CO.: orchestrazione agentiva durable, memoria semantica multi-livello, esecuzione distribuita in container e multi-tenancy by design — costruito per la produzione, non per i proof of concept.

Stack

.NET 10SQLite vettoriale (memoria semantica)Docker (container orchestration)OpenAI · Anthropic · OllamaMongoDB · Redis

Risultati

  • Cambio provider LLM in < 10 minuti, zero riscritture di codice
  • Memoria semantica con latenza < 50ms, nessun round-trip di rete
  • Recovery completo dell'agente in < 100ms dopo crash del worker
  • Isolamento multi-tenant garantito a livello framework, non a livello applicativo
  • 74 moduli NuGet componibili, zero dipendenze esterne nel core

Il Problema

La maggior parte dei framework AI esistenti è progettata per demo e prototipi. Quando si porta un sistema agentico in produzione, emergono problemi che nessun tutorial descrive: cosa succede se il worker si interrompe a metà di un tool call? Come si gestisce l'isolamento dei dati tra tenant senza che l'LLM possa — anche involontariamente — accedere a informazioni di altri clienti? Come si sostituisce OpenAI con un modello locale senza riscrivere l'intera logica degli agenti?

I framework più diffusi trattano queste problematiche come edge case. Noi le trattiamo come requisiti fondamentali.

La Soluzione

Nel corso di anni di sviluppo su sistemi AI complessi, abbiamo estratto, generalizzato e raffinato i componenti comuni in un framework proprietario per .NET: un'infrastruttura a layer che separa nettamente le astrazioni dall'implementazione e che tratta multi-tenancy, durabilità e sicurezza come primitive di design, non come aggiunte a posteriori.

Architettura esagonale con zero dipendenze esterne nel core: il modulo di astrazioni definisce tutti i contratti — provider LLM, tool, memory store, execution engine — senza dipendere da alcuna libreria esterna. Questo permette di aggiornare o sostituire qualsiasi provider senza toccare la logica degli agenti. Passare da un modello cloud a uno locale richiede una modifica alla configurazione, non al codice.

Esecuzione durable con suspend/resume: ogni fase del ciclo di vita di un agente viene persistita come evento immutabile. Se il processo si interrompe durante l'esecuzione di un tool, al riavvio il framework ricostruisce l'intero stato dalla sequenza eventi e riprende dal punto esatto di interruzione. Gli agenti possono anche sospendersi in attesa di un'approvazione umana — con scadenza configurabile — e riprendere quando l'approvazione arriva, senza perdere il contesto accumulato.

Multi-tenancy strutturale: il framework impone che ogni accesso ai dati avvenga tramite un'interfaccia che risolve il contesto del tenant server-side, indipendentemente da ciò che l'LLM ha prodotto come output. Non è possibile costruire un agente che — anche in caso di prompt injection o output anomalo del modello — acceda ai dati di un altro tenant. L'isolamento è architetturale, non procedurale.

Memoria semantica multi-livello: il sistema gestisce tre livelli di memoria. Il livello conversazionale mantiene la storia immediata. Il livello episodico archivia i fatti estratti dalle sessioni precedenti in un database vettoriale locale, con ricerca semantica a latenza inferiore a 50ms. Il livello di consolidamento sintetizza automaticamente le informazioni rilevanti e le distilla in conoscenza a lungo termine. L'intera pipeline funziona on-premise, senza inviare dati a servizi esterni.

Orchestrazione container per esecuzione isolata: il framework include un motore di orchestrazione per eseguire agenti in container Docker isolati, con provisioning automatico, health check, gestione dei timeout e cleanup degli orfani. Il pattern scatter-gather consente di parallelizzare N agenti e aspettare il completamento di tutti prima di aggregare i risultati.

I Risultati

Il framework è la base operativa di tutti i prodotti GE.CO. — dal gestionale enterprise al project management agentivo, dalla piattaforma di formazione AI al sistema di analisi delle parcelle agricole. Ogni prodotto beneficia della stessa infrastruttura: non è necessario risolvere nuovamente i problemi di durabilità, sicurezza multi-tenant o gestione della memoria per ciascuna applicazione.

In pratica, questo si traduce in un time-to-market drasticamente ridotto per nuovi prodotti AI: le fondamenta sono già testate in produzione, i problemi di sicurezza sono già risolti a livello architetturale, e la libertà di cambiare provider LLM in minuti elimina il rischio di lock-in su un singolo fornitore.

Il framework è distribuito come suite di pacchetti NuGet componibili. I team possono adottare solo i moduli necessari, mantenendo la libertà di estendere o sostituire qualsiasi componente senza dipendere da implementazioni monolitiche.

Costruiamo qualcosa insieme

Raccontaci il tuo caso. Ti diremo come affrontarlo e in quanto tempo.