Versione 1.0.0-alpha.1ultima
Capitolo 2.1
Architettura
Di cosa è responsabile ciascun servizio nel chart di Nexus e quali archivi risiedono al di sotto, oltre alle regole che li tengono insieme, dall'identità tra i servizi al percorso seguito da ogni chiamata ai modelli.
Questa pagina è stata tradotta dall'IA a partire dall'originale in inglese. In caso di dubbi, fa fede la pagina in inglese. Legga questa pagina in inglese

Quando Tomás Reilly ha terminato la prima installazione presso la Harrow Port Authority, kubectl -n nexus get pods mostrava dieci Deployment e sette StatefulSet, oltre a tre CronJob. I Job di migrazione che avevano costruito il database erano già scomparsi, poiché ciascuno si autoelimina una volta completato con successo. Quell'elenco costituisce l'intera piattaforma. La impari a memoria, perché la maggior parte delle domande nella fase operativa inizia con "quale di questi gestisce quello?"
Questo capitolo risponde a tale domanda per ciascun componente, segue il percorso di una richiesta attraverso di essi, quindi illustra le regole a cui tutti obbediscono. Il resto della Parte 2 si basa su questo quadro.
I servizi e le rispettive competenze
Il chart è un unico chart Helm, nexus, versione 1.0.0-alpha.1, per Kubernetes 1.33 o versioni successive. Ogni carico di lavoro viene eseguito con il proprio ServiceAccount, come utente non-root, con tutte le capability Linux rimosse. Le chiamate ai servizi che proteggono l'identità e le chiavi avvengono tramite mutual TLS (Transport Layer Security), e l'API (Application Programming Interface) pubblica condivide un processo con il router dell'IA (intelligenza artificiale).
| Componente | Deployment e Service | Porta del Service | Di cosa è responsabile |
|---|---|---|---|
| Console | nexus-alpha |
3000 | Le pagine visualizzate dagli utenti; serve HTML (Hypertext Markup Language) presso l'host della console |
| BFF (backend for frontend) | nexus-alpha-bff |
8080 | I dati propri della console, il menu assegnato a ciascun utente, il registro dei rilasci |
| Autenticazione | nexus-auth |
9101 (mutual TLS sulla 8443) | Persone, organizzazioni, sessioni, token, chiavi API, il pool di chiavi dei modelli dell'organizzazione |
| Gateway | nexus-gateway |
9092, WebSocket 8093 | L'AI Provider Router e l'edge dell'API pubblica per REST (Representational State Transfer) e MCP (Model Context Protocol) |
| Orchestratore | nexus-orchestrator |
8080 | Smistamento UNO: accettazione e accodamento di ogni job |
| Flussi di lavoro | nexus-workflows |
8081 | Esecuzione UNO: il worker che esegue i job in coda |
| GraphRAG | nexus-graphrag |
8090, WebSocket 8091 | Memoria: il grafo della conoscenza e il recupero dei dati da esso |
| Probitas | nexus-probitas |
9151 (HTTPS) | Prove: registrazioni di governance e il registro sigillato |
| Motore delle competenze | nexus-skills-engine |
8095 | La libreria delle competenze; ricerca ed esecuzione delle competenze |
| Chiavi | nexus-keys |
8080 (HTTPS, TLS reciproco) | Chiavi per singola organizzazione in OpenBao, custodia, l'identità dell'installazione |
| Plugin | nexus-plugins |
9111 | Il registro dei plugin e i record del catalogo; disattivato per impostazione predefinita |
| Elaborazione dei file | nexus-fileprocess |
9109 | Lettura dei documenti e delle immagini caricati; disattivato per impostazione predefinita |
I primi dieci sono obbligatori. Gli ultimi due sono facoltativi, attivabili con components.plugins.enabled e components.fileprocess.enabled qualora un'installazione Enterprise o un pacchetto di dominio li utilizzi. Un ulteriore servizio facoltativo, nexus-alive sulla porta 8080, dispone del proprio interruttore, components.alive.enabled, ed è anch'esso disattivato per impostazione predefinita. Le repliche e le risorse per ciascuno si trovano sotto components.<name>.
La console è costituita da pagine renderizzate lato server senza database. Comunica con il BFF e con nexus-auth all'interno del cluster, senza mai uscire attraverso l'host di autenticazione pubblico per poi rientrare. Rifiuta di avviarsi senza la propria edizione, che il chart passa come NEXUS_EDITION dall'unico valore edition. Ogni membro di un'organizzazione vi lavora in base al proprio ruolo. Le pagine di amministrazione sono riservate ai proprietari e agli amministratori, e un membro che ne apre una visualizza la pagina "Non sei un amministratore".
Il BFF è la metà server della console ed è realizzato come plugin della piattaforma, registrato come prodotto Nexus Alpha. Mantiene le tabelle proprie della console in un database separato, nexus_alpha, e decide quali gruppi di menu una persona può visualizzare. Quando la console richiede l'esecuzione di un'operazione, il BFF si rivolge al servizio che ne è responsabile.
nexus-auth è scritto in Go ed è l'unico servizio che emette token. Per impostazione predefinita, i token di accesso durano 15 minuti e i token di aggiornamento 12 ore (auth.accessTokenTTL, auth.refreshTokenTTL). Limita ogni utente autenticato a 5,000 richieste al minuto prima di rispondere con l'errore 429 (auth.rateLimitPerMinute). Esegue due listener: quello semplice sulla porta 8080 del container, raggiunto dall'Ingress pubblico, e uno in mutual TLS sulla porta 8443 che ogni chiamante interno al cluster deve utilizzare. Considera attendibile X-Forwarded-For solo se proveniente dagli hop presenti in proxy.trustedCIDRs, un elenco di intervalli CIDR (Classless Inter-Domain Routing), che per impostazione predefinita corrisponde a 10.42.0.0/16, la rete dei pod k3s. Se il Suo ingress controller viene eseguito altrove, modifichi questo valore. Altrimenti ogni accesso sembrerà provenire dal controller.
Il gateway svolge due compiti che condividono un unico processo. All'interno del cluster è l'AI Provider Router (il centralino dell'IA nella Parte 1 e nelle pagine della console), l'unico detentore delle credenziali dei modelli di un'organizzazione (maggiori dettagli più avanti). Sull'edge è ciò che viene raggiunto da api.<domain>: i client REST e i client MCP, i cui token riportano l'audience https://<hosts.api>/mcp e provengono dal server di autorizzazione OAuth 2.1 presso l'host di autenticazione (OAuth è lo standard aperto per l'autorizzazione delegata).
L'orchestrator e i workflows costituiscono insieme UNO, il motore di workflow. Tutto il calcolo passa attraverso di essi. L'orchestrator accetta un job presso POST /api/v1/dispatch, risponde con il codice 202 fornendo jobId, runId e traceId, e lo mette in coda. Non esiste alcun percorso di esecuzione inline: un client esegue sempre il polling su GET /api/v1/dispatch/{jobId} o riceve una callback. Il worker dei workflows preleva i job dalla coda, quattro alla volta per replica per impostazione predefinita (workflows.concurrency), e dispone esattamente di una rotta HTTP, GET /health.
Probitas è il servizio delle prove. Gestisce autonomamente il protocollo TLS, a partire da un certificato emesso dal chart, e mantiene le proprie tabelle nello schema trust con un ruolo separato per il registro. Le sue funzionalità di governance sono controllate da probitas.flags. Diverse vengono fornite in modalità shadow: il verdetto viene calcolato e registrato, ma nulla viene bloccato finché non si modifica il flag.
nexus-keys è il servizio chiavi della piattaforma, scritto in Go. Conserva una chiave per ciascuna organizzazione in un key store OpenBao e le ruota ogni notte. I suoi job notturni distruggono inoltre le chiavi la cui data di conservazione è giunta a termine ed esportano le relative ricevute in un volume dedicato. La cancellazione della chiave di un'organizzazione rende i dati bloccati con essa definitivamente illeggibili. Emette inoltre l'identità dell'installazione al primo bootstrap, sotto keys.installationName, e tale nome è permanente. Lo scelga con cura: il chart rifiuta un nome vuoto (INSTALLATION_NAME_MISSING) e rifiuta il nome presente nei propri valori di esempio (INSTALLATION_NAME_EXAMPLE).
Tre host pubblici
Il chart pubblica esattamente tre nomi host, che insieme costituiscono l'identità dell'installazione. Ogni servizio rifiuta di avviarsi in loro assenza.
| Ingress | Valore dell'host | Backend |
|---|---|---|
nexus-console |
hosts.console |
nexus-alpha, porta 3000 |
nexus-api |
hosts.api |
nexus-gateway, porta 9092 |
nexus-auth |
hosts.auth |
nexus-auth, porta 9101 |
Gli esempi in questo libro utilizzano console.harrow.example, api.harrow.example e auth.harrow.example. Gli Ingress sono semplici oggetti networking.k8s.io/v1 con una regola ciascuno, percorso /. Il protocollo TLS sull'edge segue tls.mode: existing (un Secret da Lei creato, nominato in tls.existingSecret), cert-manager (un ClusterIssuer da Lei gestito, nominato in tls.clusterIssuer) oppure none (il TLS termina prima del cluster). Il chart non aggiunge alcun reindirizzamento proprio, pertanto una challenge HTTP ACME (Automated Certificate Management Environment) raggiunge il Suo solver inalterata. Il Capitolo 2.11, Varianti: archivi esterni, TLS e ingress, illustra ciascuna modalità.
Null'altro viene esposto. Gli archivi dati, OpenBao e ogni servizio interno restano in ascolto esclusivamente all'interno del namespace.
Una richiesta, dall'inizio alla fine
Ecco cosa accade quando Aoife Brennan, responsabile IT presso Harrow, apre la console e pone all'assistente una domanda sul programma degli ormeggi di questo mese.
- Il suo browser carica
https://console.harrow.example. L'Ingressnexus-consolelo invia anexus-alphasulla porta 3000. - Effettua l'accesso con la sua passkey. Le pagine di accesso comunicano con
nexus-authtramiteauth.harrow.example, e nexus-auth emette per lei un token di accesso contenente il suo utente, la sua organizzazione e, quando la sessione ne prevede una, la sua business unit. - Il server della console chiama il BFF, il quale verifica il suo token e chiede a nexus-auth se la sua organizzazione detiene il prodotto e se il suo ruolo è ammesso. Risponde indicando i gruppi di menu che lei è autorizzata a visualizzare.
- La sua domanda passa dal BFF alla rotta di smistamento dell'orchestrator, con l'organizzazione e l'utente estratti dal token verificato. L'orchestrator risponde con il codice 202 e inserisce il job in una coda in Valkey.
- Un worker dei workflows prende in carico il job. La competenza che esegue viene risolta dallo skills engine, e il recupero dei dati sui documenti di Harrow viene indirizzato a GraphRAG, che legge Neo4j, Qdrant e il proprio schema PostgreSQL.
- La chiamata al modello viene inviata all'AI Provider Router presso
/internal/ai/chat. Il router seleziona il fornitore e il modello dal pool di chiavi e dalla policy di instradamento propri di Harrow, effettua la chiamata con la chiave di Harrow e restituisce il completamento. - Il risultato viene registrato nella riga di esecuzione del job. Il BFF lo legge e la console mostra la risposta, completa delle relative citazioni.
I passaggi da servizio a servizio trasportano token di servizio proiettati, quelli diretti a nexus-auth, nexus-keys e Probitas avvengono su TLS emesso dall'autorità di certificazione propria dell'installazione, e ogni accesso ai dati nei passaggi da 4 a 6 è confinato all'organizzazione di Harrow all'interno del database stesso. Le sezioni seguenti spiegano entrambi gli aspetti.
Il livello dei dati
Nexus fornisce la propria copia firmata di ciascun archivio, con la relativa offerta di codice sorgente inclusa nel pacchetto. Ciascuno è stato scelto tanto per la sua licenza quanto per la sua funzione.
| Archivio | Versione | Licenza | Perché è presente | Porta | Volume predefinito |
|---|---|---|---|---|---|
| PostgreSQL con PostGIS e pgvector | PostgreSQL 16, PostGIS 3, pgvector 0.8 | Licenza PostgreSQL; PostGIS GPL-2.0-or-later | Il sistema di registrazione per ogni servizio; PostGIS per i dati cartografici; pgvector per i vettori conservati accanto alle righe | 5432 | 50 GiB |
| Valkey | 8.1 | BSD-3-Clause | Le code dei job UNO e le cache di breve durata, come la cache delle chiavi API di nexus-auth | 6379 | 5 GiB |
| Neo4j Community Edition | 5.26 | GPL-3.0 | Il grafo della conoscenza che GraphRAG costruisce e attraversa | 7687 (Bolt) | 20 GiB |
| Qdrant | 1.15 | Apache-2.0 | Ricerca vettoriale per GraphRAG e per lo skills engine | 6333 (HTTP), 6334 (chiamate di procedura remota gRPC) | 10 GiB |
| SeaweedFS | 4.48 | Apache-2.0 | Archiviazione a oggetti per i file, compatibile con Amazon Simple Storage Service (S3) | 8333 | 50 GiB |
| OpenBao | 2.6 | MPL-2.0 | Il key store e il relativo unsealer, per nexus-keys | 8200 | 5 GiB e 1 GiB |
Alcune scelte hanno sostituito soluzioni più familiari. Valkey subentra a Redis 7.4, le cui licenze attuali sono rifiutate dal rilascio. MinIO è sotto licenza AGPL-3.0, pertanto l'archivio a oggetti è SeaweedFS. GraphRAG comunica con Neo4j Community Edition tramite Bolt, un protocollo di rete, e i servizi comunicano con PostGIS tramite il protocollo PostgreSQL, cosicché la licenza GPL rimane confinata a ciascuno di essi. OpenBao è il fork di Vault realizzato dalla Linux Foundation prima del cambio di licenza di Vault.
Ogni archivio viene eseguito con l'autenticazione attiva e credenziali generate: una password per Valkey, una chiave API per Qdrant, chiavi di accesso per SeaweedFS.
Ciascuno dei cinque archivi sotto dataTier viene eseguito nel cluster (mode: in-cluster, l'impostazione predefinita) oppure è un archivio che Lei già gestisce (mode: external, con external.host e un Secret nominato da external.existingSecret). Per un PostgreSQL esterno, imposti sslmode su verify-full o verify-ca, e inserisca il certificato dell'autorità di certificazione (CA) del server in quel Secret; il capitolo 2.11, Varianti: archivi esterni, TLS e ingress, contiene tutti i dettagli.
# harrow-values.yaml (Helm values): Harrow's own PostgreSQL, every other store in the cluster
dataTier:
postgres:
mode: external
sslmode: verify-full
external:
host: pg.harrow.example
existingSecret: harrow-postgresLa coppia OpenBao rappresenta l'eccezione: viene sempre eseguita all'interno dell'installazione, poiché il Job di custodia la inizializza in tale sede.
Identità tra i servizi
Nexus funziona senza un service mesh. Il mutual TLS proviene da un'autorità di certificazione (CA) locale che il chart crea tramite cert-manager, il quale deve essere installato preventivamente (è stata testata la v1.21.3).
Un Issuer autofirmato genera un unico certificato CA, nexus-local-ca, ECDSA (Elliptic Curve Digital Signature Algorithm) P-256, valido per dieci anni. Un secondo Issuer firma con tale CA. Ogni carico di lavoro che chiama un server TLS all'interno dell'installazione ottiene il proprio certificato client, denominato <service-account>-client-tls, valido per 90 giorni e rinnovato 15 giorni prima della scadenza. Il suo unico nome è un identificatore uniforme di risorsa (URI) nel formato di identità SPIFFE:
spiffe://cluster.local/ns/<namespace>/sa/<service-account>
Ogni carico di lavoro trova il certificato pubblico della CA come ca.crt nel proprio Secret del certificato. Nessun pod monta la chiave della CA e non è necessario utilizzare trust-manager.
Tre servizi verificano i chiamanti tramite certificato. nexus-auth lo fa sul suo secondo listener, la porta 8443, e ogni chiamante interno al cluster si connette a quest'ultima. nexus-keys lo fa sul suo unico listener. Probitas serve il protocollo TLS a partire dal proprio certificato, nexus-probitas-tls, che rilegge quando cert-manager lo rinnova. Nessuno si fida di un'intestazione X-Forwarded-Client-Cert.
Ogni carico di lavoro riceve inoltre token Kubernetes della durata di un'ora presso /var/run/secrets/nexus, uno per ciascun servizio che chiama, con tale servizio impostato come audience. La ConfigMap nexus-service-identities mappa ciascun <namespace>/<service-account> al nome di un servizio o di un plugin, e un carico di lavoro assente da essa è privo di identità e viene rifiutato. L'orchestrator e Probitas verificano questi token tramite l'API di Kubernetes. Tra i servizi in esecuzione, solo questi due detengono system:auth-delegator o hanno un token API montato; l'unico altro carico di lavoro dotato di token è il Job di custodia che viene eseguito durante l'installazione.
Le policy di rete chiudono ciò che non viene chiuso dall'identità. Il chart parte da un rifiuto predefinito (default deny), quindi ammette il traffico tra i pod propri dell'installazione, il DNS (Domain Name System), il namespace dell'ingress controller (networkPolicy.ingressNamespace, kube-system per impostazione predefinita) verso i tre Service pubblici, e l'API server per i due verificatori di token. I pod OpenBao riportano un'etichetta diversa rispetto al resto della piattaforma, cosicché la regola di apertura interna al namespace non li raggiunge: solo nexus-keys, i relativi Job e il Job di custodia possono passare, sulla porta 8200. Qualsiasi altra risorsa che un carico di lavoro debba raggiungere all'esterno del namespace, come il Suo relay di posta, va inserita in networkPolicy.externalEgressCIDRs, che per impostazione predefinita è vuoto.
Migrazioni e registro dello schema
Le migrazioni vengono eseguite come hook di Helm, su post-install e pre-upgrade. Un hook post-install viene eseguito dopo che i Deployment del rilascio sono stati creati. Pertanto, durante una prima installazione, i servizi si avviano mentre i loro schemi non esistono ancora, ed entrerebbero in crash-loop contro un database privo di ruolo, di password e di tabelle. Nexus evita questo problema mediante un registro.
Gli hook vengono eseguiti in ordine di peso, e Helm attende il completamento di ciascun Job prima che inizi il peso successivo:
| Peso | Hook | Cosa fa |
|---|---|---|
| -30 | nexus-migrations-env e prerequisiti |
Crea il Secret riservato agli hook con le credenziali del migratore, e tutto ciò che viene letto dal Job di custodia |
| -20 | nexus-db-bootstrap |
Crea i database nexus e nexus_alpha, il ruolo del migratore, il ruolo di runtime di ogni servizio, le estensioni e il registro |
| -15 | nexus-openbao-custody-init |
Inizializza il key store e l'unsealer ed emette l'identità dell'installazione |
| -12 | nexus-graphrag-migrations |
Lo schema di GraphRAG, che possiede gli oggetti a cui fa riferimento la baseline di nexus-auth |
| -10 | nexus-auth-migrations |
Lo schema dell'identità |
| -5 | migrazioni di orchestrator, gateway e Probitas | I rispettivi schemi; Probitas verifica innanzitutto l'esistenza delle tabelle di autenticazione |
| 0 | nexus-alpha-bff-migrations |
Il database proprio della console |
Ogni Job di migrazione ha backoffLimit: 0, pertanto una migrazione non riuscita determina il fallimento dell'installazione.
Il registro è costituito da un'unica tabella, nexus_release.schema_applied, con una riga per ciascuna catena e digest dell'immagine. Ogni hook scrive la propria riga solo dopo che il relativo esecutore di migrazione ha terminato. Ogni Deployment che utilizza PostgreSQL include un init container, wait-for-schema, il quale legge tale tabella con un ruolo autorizzato a non leggere null'altro (nexus_ledger_reader) e attende finché ogni catena da cui dipende non mostra una riga per l'immagine di questo rilascio. A quel punto il servizio si avvia. Il worker dei workflows attende la catena dell'orchestrator, poiché condivide quel database, mentre lo skills engine attende solo il bootstrap.
Esegue il polling ogni 3 secondi (schemaWait.intervalSeconds) e rinuncia dopo 1.800 (schemaWait.timeoutSeconds) restituendo una riga che elenca le catene ancora mancanti. Il container del servizio stesso non si avvia mai con uno schema errato.
kubectl -n nexus logs deploy/nexus-gateway -c wait-for-schemaQuesto è il motivo per cui non deve mai eseguire helm install --wait. Con --wait, Helm attende i Deployment prima di eseguire gli hook post-install, e i Deployment attendono gli hook. Nessuno dei due procede. Esegua l'installazione senza tale opzione e attenda in seguito; il capitolo 2.6, Installazione di Community su Kubernetes, fornisce il comando esatto.
Isolamento su tre assi
Ogni lettura, scrittura, chiamata di strumento e smistamento di competenza in Nexus ha un ambito definito su tre assi.
| Asse | Campo | Cosa separa |
|---|---|---|
| Tenant | organization_id |
Un'organizzazione da un'altra, un confine rigido |
| Proprietario | owner_user_id |
Gli elementi di una persona da quelli di chiunque altro, anche all'interno della stessa organizzazione |
| Unità | business_unit_id |
Una suddivisione di un'organizzazione, facoltativa |
L'asse del proprietario (owner) sorprende spesso le persone. Una casella di posta o un blocco note personale è privato e riservato al suo proprietario, persino rispetto ai colleghi della stessa unità con il medesimo ruolo. Un amministratore imposta le policy ma non legge i contenuti.
Gli assi provengono dalla richiesta autenticata e da nessun'altra parte. Nessuna variabile d'ambiente, intestazione, parametro di query o segmento di percorso può impostarli. Un corpo della richiesta che nomina un'organizzazione viene rifiutato con TENANT_NOT_A_PARAMETER. Una superficie che non è in grado di dichiarare a quale tenant, proprietario e unità appartenga una riga oppone un rifiuto con codice 403 SCOPE_PREDICATE_MISSING, e il corpo elenca quali assi sono stati risolti e quali no. Non ripiega mai su una lettura più ampia.
Ciò vale in due punti contemporaneamente.
Nel database. Ogni servizio si connette con i propri ruoli di runtime: nexus_auth, auth_app e auth_platform per il servizio di identità, nexus_probitas e nexus_probitas_ledger per Probitas, e nexus_gateway, nexus_graphrag, nexus_skills, orchestrator_app, workflows_app e il resto per gli altri. Nessuno è un superuser o dispone di BYPASSRLS. Nessuno è inoltre proprietario delle tabelle che utilizza, pertanto ogni policy di sicurezza a livello di riga (RLS, Row-Level Security) si applica ad esso. I ruoli condividono un gruppo, nexus_runtime, che concede la connessione e l'uso dello schema ma nessun diritto sulle tabelle; a ciascun servizio vengono concesse le proprie tabelle dalle rispettive migrazioni. Le impostazioni del tenant lette dalle policy RLS possono essere configurate esclusivamente tramite la funzione bind_scope di ciascun servizio, che viene eseguita con i privilegi del relativo proprietario. Il bootstrap revoca set_config a chiunque altro, e l'orchestrator e Probitas rifiutano di avviarsi se il loro ruolo di runtime potesse chiamarla direttamente (Probitas denomina tale condizione DB_ROLE_SETS_SCOPE_DIRECTLY). Le uniche connessioni superuser nell'intera installazione appartengono al Job di bootstrap e al passaggio di provisioning del BFF.
Nella primitiva condivisa per le query con ambito. Ogni repository nella piattaforma e ogni plugin sviluppato con l'SDK (Software Development Kit) eredita un'unica barriera che costruisce il predicato SQL a partire da un ambito risolto. La sua funzione di ambito riceve l'identità verificata e non presenta alcun parametro per l'organizzazione, cosicché un chiamante non possa passarne uno e nessuna rotta possa sottrarvisi.
Esiste esattamente un solo attraversamento del confine del tenant, ed è strettamente limitato: una concessione registrata. Due persone presso l'organizzazione che detiene le righe registrano quale organizzazione può leggere quali tabelle, e fino a quando. Ogni lettura viene eseguita in una transazione di sola lettura e viene registrata nei log di entrambi i tenant. I proprietari e gli amministratori non effettuano mai letture trasversali, e il lettore non può ampliare una concessione.
Il percorso dell'IA
I chiamanti esprimono preferenze. L'AI Provider Router detiene la credenziale ed effettua la scelta finale.
Ogni chiamata al modello in Nexus passa attraverso le rotte /internal/ai/* del router, e il router ammette esclusivamente i chiamanti nominati. Il chart imposta tre elenchi sul gateway:
| Rotte | Chi può chiamare |
|---|---|
| Chat e streaming della chat | nexus-orchestrator, nexus-workflows, nexus-skills-engine |
| Embedding e rerank | nexus-graphrag, nexus-skills-engine, nexus-workflows |
| Tutto il resto, inclusa l'esecuzione degli strumenti | nexus-orchestrator, nexus-workflows |
Una chiamata priva dell'identità del chiamante viene rifiutata con il codice 403 MISSING_CALLER_IDENTITY, e un chiamante non presente nell'elenco con il codice 403 UNAUTHORIZED_CALLER. I plugin non figurano in alcun elenco, e ciò è intenzionale: le chiamate ai modelli da parte di un plugin avvengono per suo conto, tramite lo smistamento UNO.
Ciò che un chiamante può inviare è una preferenza: un fornitore e un modello preferiti, oltre a un profilo di capacità quale una lunghezza minima del contesto o l'utilizzo di strumenti. Il router soddisfa una preferenza solo quando l'organizzazione ha quel fornitore abilitato e dotato di credenziali; in caso contrario effettua una sostituzione, prima all'interno dello stesso fornitore, poi tra gli altri fornitori dell'organizzazione. Un profilo di capacità si limita a filtrare, e un requisito di residenza dei dati al suo interno è vincolante. Quando nulla soddisfa i criteri, non esiste alcun modello di ripiego: il chiamante riceve l'errore 422 MODEL_CAPABILITY_UNAVAILABLE o 422 NO_PROVIDER_FOR_ROLE, accompagnato da una stringa di risoluzione che la console mostra a un amministratore.
Le chiavi appartengono all'organizzazione. Gli amministratori di ciascuna organizzazione inseriscono le proprie chiavi dei fornitori nel relativo pool dalla console, e il router le risolve al momento della chiamata. Nessuna chiave di modello è un valore del chart e nessuna viene fornita con Nexus. Un'organizzazione priva di chiave non ottiene alcuna risposta dall'IA, e la console lo indica chiaramente; nulla colma tale lacuna attingendo da altre fonti.
Due valori del chart modellano il router. ai.localProvider.baseUrl indica un server di modelli compatibile con OpenAI che gestite, instradato come qualsiasi altro provider. ai.installationHosts elenca i vostri server di modelli su nomi privati, che il router considera interni all'installazione. Anche GraphRAG genera gli embedding attraverso il router, per conto dell'organizzazione a cui appartiene il contenuto. Il modello di embedding predefinito viene eseguito nel cluster senza una scheda grafica; gli embedding ospitati esternamente sono a discrezione di ciascuna organizzazione.
Nessuna telemetria
Nulla esce da un'installazione a meno che non siate voi a inviarlo. Il valore telemetry.enabled del chart può essere solo false; lo schema rifiuta qualsiasi altro valore. Anche l'invio di dati del livello dati è disattivato: il report sull'utilizzo di Neo4j e la telemetria di Qdrant sono disabilitati nel chart.
Con networkPolicy.enabled attivo, l'impostazione predefinita, nessun pod può raggiungere Internet a meno che non elenchiate la destinazione in networkPolicy.externalEgressCIDRs. Un provider di modelli ospitato esternamente è una di queste destinazioni, così come il vostro mail relay.
La stessa regola ha modificato un'impostazione predefinita che noterete. Il CAPTCHA di nexus-auth per le registrazioni richiede un servizio Internet, quindi su un'installazione è disattivato e la registrazione di uno sconosciuto resta in attesa dell'approvazione di un amministratore (403 SIGNUP_REQUIRES_APPROVAL). Anche il filtro che blocca le registrazioni dalle reti di hosting è disattivato, poiché richiede database con licenza che Nexus non include. Perdete quindi tale controllo preliminare.

