PieteiktiesPieteikt konsultāciju

2.1. nodaļa

Arhitektūra

Par ko atbild katrs pakalpojums Nexus shēmā un kuras krātuves atrodas zem tā, kā arī noteikumi, kas tos saista kopā — no identitātes starp pakalpojumiem līdz ceļam, ko veic katrs modeļa izsaukums.

Šo lapu no oriģināla angļu valodā ir tulkojis MI. Neskaidrību gadījumā par pamatu jāņem lapa angļu valodā. Lasīt šo lapu angļu valodā

19 minūšu lasīšana

Kad Tomás Reilly pabeidza pirmo instalēšanu uzņēmumā Harrow Port Authority, kubectl -n nexus get pods parādīja desmit Deployment un septiņus StatefulSet, kā arī trīs CronJob objektus. Migrācijas Job uzdevumi, kas izveidoja datubāzi, jau bija pazuduši, jo katrs no tiem pēc veiksmīgas izpildes izdzēš pats sevi. Šis saraksts ir visa platforma. Apgūstiet to, jo lielākā daļa ikdienas uzturēšanas jautājumu sākas ar "kurš no šiem par to atbild?"

Šī nodaļa sniedz atbildi par katru daļu, izseko vienam pieprasījumam cauri tām, un pēc tam apskata noteikumus, kuriem tās visas pakļaujas. Pārējā 2. daļa balstās uz šo kopskatu.

Pakalpojumi un par ko katrs atbild

Šī pakotne ir viena Helm pakotne, nexus, versija 1.0.0-alpha.1, paredzēta Kubernetes 1.33 vai jaunākai versijai. Katra darba slodze darbojas savā ServiceAccount kontā kā ne-root lietotājs, ar visām atspējotām Linux privilēģijām (capabilities). Izsaukumi uz pakalpojumiem, kas sargā identitāti un atslēgas, notiek, izmantojot abpusēju TLS (Transport Layer Security), un publiskais API (lietojumprogrammu saskarne) dala procesu ar MI (mākslīgā intelekta) maršrutētāju.

Komponents Deployment un Service Pakalpojuma ports Par ko tas atbild
Konsole nexus-alpha 3000 Lapas, kuras redz lietotāji; apkalpo HTML (hiperteksta iezīmēšanas valodu) konsoles resursdatorā
BFF (aizmugursistēma priekšgalsistēmai) nexus-alpha-bff 8080 Konsoles pašas dati, izvēlne, ko saņem katrs lietotājs, laidienu reģistrs
Auth nexus-auth 9101 (abpusējs TLS portā 8443) Lietotāji, organizācijas, sesijas, marķieri, API atslēgas, organizācijas modeļu atslēgu kopums
Vārteja nexus-gateway 9092, WebSocket 8093 MI nodrošinātāju maršrutētājs un publiskā API robeža REST (reprezentatīvā stāvokļa pārsūtīšanai) un MCP (Modeļa konteksta protokolam)
Orķestrētājs nexus-orchestrator 8080 UNO nosūtīšana: katra uzdevuma pieņemšana un ievietošana rindā
Darbplūsmas nexus-workflows 8081 UNO izpilde: izpildītājs, kas darbina rindā ievietotos uzdevumus
GraphRAG nexus-graphrag 8090, WebSocket 8091 Atmiņa: zināšanu grafs un informācijas izguve no tā
Probitas nexus-probitas 9151 (HTTPS) Pierādījumi: pārvaldības ieraksti un aizzīmogotais virsgrāmatas reģistrs
Prasmju dzinējs nexus-skills-engine 8095 Prasmju bibliotēka; prasmju meklēšana un izpilde
Atslēgas nexus-keys 8080 (HTTPS, abpusējs TLS) Katras organizācijas atslēgas sistēmā OpenBao, glabāšana, instalācijas identitāte
Spraudņi nexus-plugins 9111 Spraudņu reģistrs un kataloga ieraksti; pēc noklusējuma izslēgts
Failu apstrāde nexus-fileprocess 9109 Augšupielādēto dokumentu un attēlu lasīšana; pēc noklusējuma izslēgts

Pirmie desmit ir obligāti. Pēdējie divi ir neobligāti, ieslēdzami ar components.plugins.enabled un components.fileprocess.enabled, ja tos izmanto Enterprise instalācija vai domēna pakotne. Vēl vienam neobligātam pakalpojumam, nexus-alive portā 8080, ir savs slēdzis, components.alive.enabled, un arī tas pēc noklusējuma ir izslēgts. Katra pakalpojuma replikas un resursi atrodas zem components.<name>.

Konsole ir serverī renderētas lapas bez datubāzes. Tā sazinās ar BFF un ar nexus-auth klastera iekšienē, nekad neizejot ārpusē caur publisko autentifikācijas resursdatoru un atpakaļ iekšā. Tā atsakās startēt bez sava izdevuma (edition), ko pakotne padod kā NEXUS_EDITION no vienīgās edition vērtības. Katrs organizācijas dalībnieks tajā strādā atbilstoši savai lomai. Administrēšanas lapas ir paredzētas īpašniekiem un administratoriem, un dalībnieks, kurš tādu atver, redz lapu "Nav administrators".

BFF ir konsoles servera daļa un ir izveidota kā platformas spraudnis, kas reģistrēts kā produkts Nexus Alpha. Tas glabā konsoles pašas tabulas atsevišķā datubāzē, nexus_alpha, un izlemj, kuras izvēlnes grupas lietotājs redz. Kad konsolei ir jāveic kāds darbs, BFF vēršas pie pakalpojuma, kas par to atbild.

nexus-auth ir rakstīts Go valodā un ir vienīgais pakalpojums, kas izsniedz marķierus. Piekļuves marķieri pēc noklusējuma ir derīgi 15 minūtes, bet atsvaidzināšanas marķieri — 12 stundas (auth.accessTokenTTL, auth.refreshTokenTTL). Tas ierobežo katru pierakstījušos lietotāju līdz 5,000 pieprasījumiem minūtē, pirms atbild ar 429 (auth.rateLimitPerMinute). Tam darbojas divi klausītāji: parastais konteinera portā 8080, kuru sasniedz publiskais Ingress, un abpusēja TLS klausītājs portā 8443, kas jāizmanto katram izsaucējam klastera iekšienē. Tas uzticas X-Forwarded-For tikai no posmiem (hops), kas norādīti proxy.trustedCIDRs — Classless Inter-Domain Routing (CIDR) diapazonu sarakstā, kas pēc noklusējuma ir 10.42.0.0/16, k3s pod tīkls. Ja jūsu Ingress kontrolieris darbojas citur, nomainiet to. Pretējā gadījumā katra pierakstīšanās izskatīsies tā, it kā tā nāktu no kontroliera.

Vārtejai ir divi uzdevumi, kas dala vienu procesu. Klastera iekšienē tā ir MI nodrošinātāju maršrutētājs (MI komutators 1. daļā un konsoles lapās), vienīgais organizācijas modeļu akreditācijas datu glabātājs (vairāk par to tālāk). Robežā tā ir vieta, ko sasniedz api.<domain>: REST klienti un MCP klienti, kuru marķieriem ir auditorija https://<hosts.api>/mcp un kuru marķieri nāk no OAuth 2.1 autorizācijas servera autentifikācijas resursdatorā (OAuth ir atvērtais standarts deleģētai autorizācijai).

Orķestrētājs un darbplūsmas kopā veido UNO — darbplūsmu dzinēju. Visa skaitļošana notiek caur tiem. Orķestrētājs pieņem uzdevumu maršrutā POST /api/v1/dispatch, atbild ar 202, norādot jobId, runId un traceId, un ievieto to rindā. Tiešas (inline) izpildes ceļa nav: klients vienmēr aptaujā GET /api/v1/dispatch/{jobId} vai saņem atpakaļizsaukumu. Darbplūsmu izpildītājs izņem uzdevumus no rindas, pēc noklusējuma četrus vienlaikus uz katru repliku (workflows.concurrency), un tam ir tieši viens HTTP maršruts — GET /health.

Probitas ir pierādījumu pakalpojums. Tas pats apkalpo TLS, izmantojot sertifikātu, ko izsniedz pakotne, un glabā savas tabulas trust shēmā ar atsevišķu lomu virsgrāmatai. Tā pārvaldības funkcijas tiek pārslēgtas ar probitas.flags. Vairākas no tām tiek piegādātas shadow režīmā: lēmums tiek aprēķināts un reģistrēts, un nekas netiek bloķēts, kamēr nenomaināt karodziņu.

nexus-keys ir platformas atslēgu pakalpojums, kas rakstīts Go valodā. Tas glabā atslēgu katrai organizācijai OpenBao atslēgu krātuvē un katru nakti veic to rotāciju. Tā nakts uzdevumi arī iznīcina atslēgas, kurām ir pienācis glabāšanas termiņš, un eksportē savus apliecinājumus uz savu atsevišķu sējumu. Izdzēšot organizācijas atslēgu, ar to aizslēgtie dati kļūst neatgriezeniski nelasāmi. Pirmās sākotnējās ielādes (bootstrap) laikā tas arī izveido instalācijas identitāti zem keys.installationName, un šis nosaukums ir nemainīgs. Izvēlieties to rūpīgi: pakotne nepieņem tukšu nosaukumu (INSTALLATION_NAME_MISSING) un nepieņem nosaukumu, kas atrodas tās pašas piemēra vērtībās (INSTALLATION_NAME_EXAMPLE).

Šī instalācija (Community)
Šī instalācija (Community)
Community instalācijas pašas lapa rāda tās versiju un dzinēja darbības stāvokli. Tajā skaidri norādīts, ka licence nav nepieciešama. Lapas Enterprise daļas ir attēlotas kā priekšskatījuma reklāmas.

Trīs publiskie resursdatori

Pakotne publicē tieši trīs resursdatoru nosaukumus, kas kopā veido instalācijas identitāti. Katrs pakalpojums atsakās startēt bez tiem.

Ingress Resursdatora vērtība Aizmugursistēma
nexus-console hosts.console nexus-alpha, ports 3000
nexus-api hosts.api nexus-gateway, ports 9092
nexus-auth hosts.auth nexus-auth, ports 9101

Šīs grāmatas piemēros tiek izmantoti console.harrow.example, api.harrow.example un auth.harrow.example. Ingress objekti ir parasti networking.k8s.io/v1 objekti ar vienu kārtulu katrā, ceļš /. TLS robežā seko tls.mode: existing (jūsu izveidots Secret, kas nosaukts tls.existingSecret), cert-manager (jūsu darbināts ClusterIssuer, kas nosaukts tls.clusterIssuer) vai none (TLS beidzas pirms klastera). Pakotne nepievieno savu pāradresāciju, tāpēc ACME (Automated Certificate Management Environment) HTTP izaicinājums sasniedz jūsu risinātāju nemainītā veidā. 2.11. nodaļā "Variācijas: ārējās krātuves, TLS un Ingress" ir aprakstīts katrs režīms.

Nekas cits netiek eksponēts. Datu krātuves, OpenBao un katrs iekšējais pakalpojums klausās tikai nosaukumvietas (namespace) iekšienē.

Trīs horizontālas joslas. Augšējā josla ir "Edge" ar trim Ingress blokiem ar apzīmējumiem console, api un auth, no kuriem katrs norāda uz leju uz savu Service (nexus-alpha :3000, nexus-gateway :9092, nexus-auth :9101). Vidējā josla ir "Platform services": bloks priekš nexus-alpha-bff; nexus-orchestrator blakus nexus-workflows, sagrupēti un apzīmēti kā UNO; tālāk nexus-graphrag, nexus-probitas, nexus-skills-engine, nexus-keys; un divi raustītas līnijas bloki neobligātajiem nexus-plugins un nexus-fileprocess. Apakšējā josla ir "Data tier" ar vienu bloku katrai krātuvei (PostgreSQL, Valkey, Neo4j, Qdrant, SeaweedFS) un atsevišķu iežogotu bloku ar apzīmējumu "Key store", kurā atrodas openbao un openbao-unsealer un kuram var piekļūt tikai nexus-keys.
Nexus instalācijas komponenti un zem tiem esošās krātuves.

Pieprasījums no sākuma līdz beigām

Lūk, kas notiek, kad Aoife Brennan, IT vadītāja uzņēmumā Harrow, atver konsoli un uzdod asistentam jautājumu par šī mēneša piestātņu grafiku.

  1. Viņas pārlūkprogramma ielādē https://console.harrow.example. nexus-console Ingress nosūta to uz nexus-alpha portā 3000.
  2. Viņa pierakstās ar savu piekļuves atslēgu (passkey). Pierakstīšanās lapas sazinās ar nexus-auth caur auth.harrow.example, un nexus-auth izsniedz viņai piekļuves marķieri, kas satur viņas lietotāju, viņas organizāciju un, ja viņas sesijai tāda ir, viņas struktūrvienību.
  3. Konsoles serveris izsauc BFF, kas pārbauda viņas marķieri un jautā nexus-auth, vai viņas organizācijai ir šis produkts un vai viņas loma ir atļauta. Tas atbild ar izvēlnes grupām, kuras viņa drīkst redzēt.
  4. Viņas jautājums no BFF dodas uz orķestrētāja nosūtīšanas maršrutu, kur viņas organizācija un lietotājs tiek paņemti no verificētā marķiera. Orķestrētājs atbild ar 202 un ievieto uzdevumu Valkey rindā.
  5. Darbplūsmu izpildītājs paņem uzdevumu. Prasmi, ko tas darbina, atrod prasmju dzinējs, un informācijas izguve no Harrow dokumentiem dodas uz GraphRAG, kas lasa Neo4j, Qdrant un savu PostgreSQL shēmu.
  6. Modeļa izsaukums dodas uz MI nodrošinātāju maršrutētāju adresē /internal/ai/chat. Maršrutētājs izvēlas nodrošinātāju un modeli no Harrow paša atslēgu kopuma un maršrutēšanas politikas, veic izsaukumu ar Harrow atslēgu un atgriež pabeigto atbildi.
  7. Rezultāts nonāk uzdevuma izpildes rindā. BFF to nolasa, un konsole attēlo atbildi kopā ar atsaucēm.

Starp-pakalpojumu posmi pārsūta projicētos pakalpojumu marķierus, savienojumi ar nexus-auth, nexus-keys un Probitas notiek, izmantojot TLS no instalācijas pašas sertifikātu iestādes, un katra piekļuve datiem no 4. līdz 6. solim ir norobežota līdz Harrow organizācijai pašā datubāzē. Turpmākajās sadaļās ir izskaidrots gan viens, gan otrs.

Secība no kreisās uz labo pusi. Pārlūkprogrammas bloks nosūta "1 page" uz Ingress console, pēc tam uz nexus-alpha. Sānu bultiņa "2 sign-in" ved no pārlūkprogrammas caur Ingress auth uz nexus-auth. nexus-alpha nosūta "3 menu" uz nexus-alpha-bff, kas veic pārbaudi ar nexus-auth. nexus-alpha-bff nosūta "4 dispatch, 202" uz nexus-orchestrator, kas ieraksta Valkey rindas ikonā. nexus-workflows paņem "5 job" no rindas un izsauc nexus-skills-engine un nexus-graphrag (tā trīs krātuves ir uzzīmētas zem GraphRAG). nexus-workflows nosūta "6 chat" uz nexus-gateway ar apzīmējumu "AI Provider Router: organisation key pool", kas nosūta vienu bultiņu ārpus klastera robežas uz "model provider". Punktēta atgriešanās bultiņa "7 result on run row" ved atpakaļ uz nexus-alpha-bff.
Viens asistenta jautājums — no pārlūkprogrammas līdz modeļa nodrošinātājam un atpakaļ.

Datu līmenis

Nexus piegādā savu parakstītu katras krātuves kopiju, iekļaujot katras pirmkoda piedāvājumu komplektā. Katra tika izvēlēta tikpat lielā mērā tās licences, cik funkciju dēļ.

Krātuve Versija Licence Kāpēc tā tur ir Ports Noklusējuma sējums
PostgreSQL ar PostGIS un pgvector PostgreSQL 16, PostGIS 3, pgvector 0.8 PostgreSQL licence; PostGIS GPL-2.0-or-later Pamata ierakstu sistēma katram pakalpojumam; PostGIS karšu datiem; pgvector vektoriem, kas tiek glabāti blakus rindām 5432 50 GiB
Valkey 8.1 BSD-3-Clause UNO uzdevumu rindas un īslaicīgās kešatmiņas, piemēram, nexus-auth API atslēgu kešatmiņa 6379 5 GiB
Neo4j Community Edition 5.26 GPL-3.0 Zināšanu grafs, ko GraphRAG būvē un pārlūko 7687 (Bolt) 20 GiB
Qdrant 1.15 Apache-2.0 Vektoru meklēšana priekš GraphRAG un prasmju dzinēja 6333 (HTTP), 6334 (gRPC attālinātie procedūru izsaukumi) 10 GiB
SeaweedFS 4.48 Apache-2.0 Objektu krātuve failiem, saderīga ar Amazon Simple Storage Service (S3) 8333 50 GiB
OpenBao 2.6 MPL-2.0 Atslēgu krātuve un tās atslēdzējs, priekš nexus-keys 8200 5 GiB un 1 GiB

Dažas izvēles aizstāja ko pazīstamāku. Valkey aizstāj Redis 7.4, kura pašreizējās licences laidiens nepieņem. MinIO ir AGPL-3.0, tāpēc objektu krātuve ir SeaweedFS. GraphRAG sasniedz Neo4j Community Edition, izmantojot tīkla protokolu Bolt, un pakalpojumi sasniedz PostGIS, izmantojot PostgreSQL protokolu, tādējādi GPL paliek pie katra no tiem. OpenBao ir Linux Foundation izveidots Vault atzarojums pirms Vault licences maiņas.

Katra krātuve darbojas ar ieslēgtu autentifikāciju un ģenerētiem akreditācijas datiem: paroli priekš Valkey, API atslēgu priekš Qdrant, piekļuves atslēgām priekš SeaweedFS.

Katra no piecām krātuvēm zem dataTier darbojas klasterī (mode: in-cluster, pēc noklusējuma) vai arī ir tāda, kuru jūs jau uzturat (mode: external, ar external.host un Secret objektu, ko nosauc external.existingSecret). Ārējam PostgreSQL iestatiet sslmode uz verify-full vai verify-ca un ievietojiet servera sertifikātu iestādes (CA) sertifikātu šajā Secret objektā; 2.11. nodaļā "Variācijas: ārējās krātuves, TLS un Ingress" ir sniegta detalizēta informācija.

# harrow-values.yaml (Helm values): Harrow's own PostgreSQL, every other store in the cluster
dataTier:
  postgres:
    mode: external
    sslmode: verify-full
    external:
      host: pg.harrow.example
      existingSecret: harrow-postgres

OpenBao pāris ir izņēmums: tas vienmēr darbojas instalācijas iekšienē, jo glabāšanas (custody) Job uzdevums to tur inicializē.

Identitāte starp pakalpojumiem

Nexus darbojas bez pakalpojumu tīkla (service mesh). Abpusējs TLS nāk no lokālas sertifikātu iestādes (CA), ko pakotne izveido caur cert-manager, kuram jābūt instalētam vispirms (ir pārbaudīta v1.21.3).

Pašparakstīts Issuer izveido vienu CA sertifikātu, nexus-local-ca, ECDSA (Elliptic Curve Digital Signature Algorithm) P-256, kas ir derīgs desmit gadus. Otrs Issuer paraksta ar šo CA. Katra darba slodze, kas izsauc TLS serveri instalācijas iekšienē, saņem savu klienta sertifikātu ar nosaukumu <service-account>-client-tls, kas ir derīgs 90 dienas un tiek atjaunots 15 dienas pirms termiņa beigām. Tā vienīgais nosaukums ir vienotais resursu identifikators (URI) SPIFFE identitātes formā:

spiffe://cluster.local/ns/<namespace>/sa/<service-account>

Katra darba slodze atrod CA publisko sertifikātu kā ca.crt savā sertifikāta Secret objektā. Neviens pod nepiemontē CA atslēgu, un jums nav nepieciešams trust-manager.

Trīs pakalpojumi verificē izsaucējus pēc sertifikāta. nexus-auth to dara savā otrajā klausītājā, portā 8443, un katrs izsaucējs klastera iekšienē zvana uz to. nexus-keys to dara savā vienīgajā klausītājā. Probitas apkalpo TLS no sava sertifikāta, nexus-probitas-tls, kuru tas pārlasa, kad cert-manager to atjauno. Neviens neuzticas X-Forwarded-Client-Cert galvenei.

Katra darba slodze saņem arī vienas stundas Kubernetes marķierus ceļā /var/run/secrets/nexus, pa vienam katram pakalpojumam, ko tā izsauc, ar šo pakalpojumu kā auditoriju. ConfigMap nexus-service-identities kartē katru <namespace>/<service-account> uz pakalpojuma vai spraudņa nosaukumu, un darba slodzei, kuras tajā nav, nav identitātes un tā tiek noraidīta. Orķestrētājs un Probitas pārbauda šos marķierus ar Kubernetes API. No strādājošajiem pakalpojumiem tikai šiem diviem ir system:auth-delegator vai piemontēts API marķieris; vienīgā cita darba slodze ar marķieri ir glabāšanas (custody) Job uzdevums, kas darbojas instalēšanas laikā.

Tīkla politika aizver to, ko neaizver identitāte. Pakotne sāk ar noklusējuma liegumu, pēc tam atļauj datplūsmu starp instalācijas pašas pod objektiem, DNS (domēna nosaukumu sistēmu), Ingress kontroliera nosaukumvietu (networkPolicy.ingressNamespace, pēc noklusējuma kube-system) uz trim publiskajiem Service objektiem, un API serveri abiem marķieru pārbaudītājiem. OpenBao pod objektiem ir cita iezīme (label) nekā pārējai platformai, tāpēc atvērtā nosaukumvietas iekšējā kārtula tos nesasniedz: cauri tiek tikai nexus-keys, tā Job uzdevumi un glabāšanas (custody) Job uzdevums portā 8200. Viss pārējais, kas darba slodzei jāsasniedz ārpus nosaukumvietas, piemēram, jūsu pasta relejs, tiek ierakstīts networkPolicy.externalEgressCIDRs, kas pēc noklusējuma ir tukšs.

Migrācijas un shēmu virsgrāmata

Migrācijas darbojas kā Helm āķi (hooks), pie post-install un pre-upgrade. Pēc-instalēšanas āķis darbojas pēc tam, kad ir izveidoti laidiena Deployment objekti. Tātad pirmajā instalēšanas reizē pakalpojumi startē, kamēr to shēmas vēl nepastāv, un tie nonāktu avārijas ciklā (crash-loop) pret datubāzi bez lomas, bez paroles un bez tabulām. Nexus no tā izvairās ar virsgrāmatas palīdzību.

Āķi darbojas svara secībā, un Helm gaida katru Job uzdevumu, pirms sākas nākamais svars:

Svars Āķis Ko tas dara
-30 nexus-migrations-env un priekšnosacījumi Izveido tikai āķiem paredzēto Secret objektu ar migrētāja akreditācijas datiem un visu, ko lasa glabāšanas (custody) Job uzdevums
-20 nexus-db-bootstrap Izveido nexus un nexus_alpha datubāzes, migrētāja lomu, katra pakalpojuma izpildlaika lomu, paplašinājumus un virsgrāmatu
-15 nexus-openbao-custody-init Inicializē atslēgu krātuvi un atslēdzēju un izveido instalācijas identitāti
-12 nexus-graphrag-migrations GraphRAG shēmu, kurai pieder objekti, uz kuriem atsaucas nexus-auth bāzes līnija
-10 nexus-auth-migrations Identitātes shēmu
-5 orķestrētāja, vārtejas un Probitas migrācijas To shēmas; Probitas vispirms pārbauda, vai pastāv auth tabulas
0 nexus-alpha-bff-migrations Konsoles pašas datubāzi

Katram migrācijas Job uzdevumam ir backoffLimit: 0, tāpēc neveiksmīga migrācija izraisa instalēšanas neveiksmi.

Virsgrāmata ir viena tabula, nexus_release.schema_applied, ar rindu katrai ķēdei un attēla kontrolsummai (digest). Katrs āķis ieraksta savu rindu tikai pēc tam, kad tā migrācijas izpildītājs ir pabeidzis darbu. Katrs Deployment objekts, kas izmanto PostgreSQL, satur inicializācijas konteineru, wait-for-schema, kurš lasa šo tabulu kā loma, kurai nav atļauts lasīt neko citu (nexus_ledger_reader), un gaida, līdz katra ķēde, no kuras tas ir atkarīgs, uzrāda rindu šī laidiena attēlam. Pēc tam pakalpojums startē. Darbplūsmu izpildītājs gaida orķestrētāja ķēdi, jo tas dala šo datubāzi, un prasmju dzinējs gaida tikai sākotnējo ielādi (bootstrap).

Tas veic aptauju ik pēc 3 sekundēm (schemaWait.intervalSeconds) un pārtrauc mēģinājumus pēc 1800 (schemaWait.timeoutSeconds), izvadot rindu, kurā nosauktas joprojām trūkstošās ķēdes. Paša pakalpojuma konteiners nekad netiek startēts ar nepareizu shēmu.

kubectl -n nexus logs deploy/nexus-gateway -c wait-for-schema

Tāpēc jūs nekad nedrīkstat palaist helm install --wait. Ar --wait Helm gaida Deployment objektus, pirms tas palaiž pēc-instalēšanas āķus, un Deployment objekti gaida āķus. Neviens nekustas uz priekšu. Instalējiet bez tā un pagaidiet pēc tam; 2.6. nodaļā "Community instalēšana Kubernetes vidē" ir sniegta precīza komanda.

Izolācija trīs asīs

Katra lasīšana, rakstīšana, rīka izsaukums un prasmes nosūtīšana sistēmā Nexus tiek ierobežota pa trim asīm.

Ass Lauks Ko tā atdala
Nomnieks (Tenant) organization_id Vienu organizāciju no citas, stingra robeža
Īpašnieks owner_user_id Vienas personas lietas no visu pārējo lietām, pat vienas organizācijas ietvaros
Struktūrvienība business_unit_id Organizācijas apakšvienību, neobligāta

Īpašnieka ass pārsteidz lietotājus. Pastkaste vai personīgā piezīmju grāmatiņa ir privāta tās īpašniekam pat no kolēģiem tajā pašā struktūrvienībā ar tādu pašu lomu. Administrators nosaka politiku un nelasa saturu.

Asis nāk no autentificētā pieprasījuma un no nekurienes citur. Neviens vides mainīgais, galvene, vaicājuma parametrs vai ceļa segments nevar tās iestatīt. Pieprasījuma pamatteksts, kurā nosaukta organizācija, tiek noraidīts ar TENANT_NOT_A_PARAMETER. Saskarne, kas nevar norādīt, kuram nomniekam, īpašniekam un struktūrvienībai pieder rinda, noraida ar 403 SCOPE_PREDICATE_MISSING, un pamattekstā tiek uzskaitīts, kuras asis tika atrisinātas un kuras nē. Tā nekad neatkāpjas uz plašāku lasīšanu.

Tas ir spēkā divās vietās vienlaikus.

Datubāzē. Katrs pakalpojums pieslēdzas savās izpildlaika lomās: nexus_auth, auth_app un auth_platform identitātes pakalpojumam, nexus_probitas un nexus_probitas_ledger priekš Probitas, un nexus_gateway, nexus_graphrag, nexus_skills, orchestrator_app, workflows_app un pārējās citiem. Neviena no tām nav superlietotājs un nevienai nav BYPASSRLS. Nevienai nepieder arī tabulas, kuras tā izmanto, tāpēc uz to attiecas katra rindu līmeņa drošības (RLS) politika. Lomām ir kopīga grupa, nexus_runtime, kas piešķir savienojuma un shēmas lietošanas tiesības un nekādas tabulu tiesības; katram pakalpojumam tā tabulas piešķir tā paša migrācijas. Nomnieka iestatījumus, ko lasa RLS politikas, var iestatīt tikai caur katra pakalpojuma bind_scope funkciju, kas darbojas kā tās īpašnieks. Sākotnējā ielāde (bootstrap) atsauc set_config visiem pārējiem, un orķestrētājs un Probitas atsakās startēt, ja to izpildlaika loma varētu to izsaukt tieši (Probitas to sauc par DB_ROLE_SETS_SCOPE_DIRECTLY). Vienīgie superlietotāja savienojumi visā instalācijā pieder sākotnējās ielādes Job uzdevumam un BFF nodrošināšanas (provisioning) solim.

Kopīgajā tvēruma vaicājuma primitīvā. Katra krātuve (repository) platformā un katrs spraudnis, kas izveidots uz SDK (programmatūras izstrādes komplekta) bāzes, manto vienu norobežojumu, kas veido SQL predikātu no atrisināta tvēruma. Tā tvēruma funkcija pieņem verificēto identitāti un tai nav organizācijas parametra, tāpēc izsaucējs nevar to padot iekšā, un neviens maršruts nevar no tā atteikties.

Ir tieši viens nomnieka robežas šķērsošanas veids, un tas ir šaurs: reģistrēta atļauja (grant). Divas personas organizācijā, kurai pieder rindas, reģistrē, kura organizācija drīkst lasīt kuras tabulas un līdz kuram laikam. Katra lasīšana notiek tikai lasīšanas transakcijā un tiek reģistrēta abos nomniekos. Īpašnieki un administratori nekad nelasa pāri robežām, un lasītājs nevar paplašināt atļauju.

MI ceļš

Izsaucēji izsaka vēlmes. MI nodrošinātāju maršrutētājam pieder akreditācijas dati un tas pieņem galīgo lēmumu.

Katrs modeļa izsaukums sistēmā Nexus iet caur maršrutētāja /internal/ai/* maršrutiem, un maršrutētājs ielaiž tikai nosauktos izsaucējus. Pakotne iestata trīs sarakstus vārtejā:

Maršruti Kas drīkst izsaukt
Tērzēšana un tērzēšanas straumēšana nexus-orchestrator, nexus-workflows, nexus-skills-engine
Iegulšana (embeddings) un pārkārtošana (rerank) nexus-graphrag, nexus-skills-engine, nexus-workflows
Viss pārējais, ieskaitot rīku izpildi nexus-orchestrator, nexus-workflows

Izsaukums bez izsaucēja identitātes tiek noraidīts ar 403 MISSING_CALLER_IDENTITY, un izsaucējs, kura nav sarakstā — ar 403 UNAUTHORIZED_CALLER. Spraudņi nav nevienā sarakstā, un tas ir darīts apzināti: spraudņa modeļa izsaukumi notiek tā vārdā, izmantojot UNO nosūtīšanu.

Tas, ko izsaucējs var nosūtīt, ir vēlme: vēlamais nodrošinātājs un modelis, kā arī spēju profils, piemēram, minimālais konteksta garums vai rīku izmantošana. Maršrutētājs izpilda vēlmi tikai tad, ja organizācijai šis nodrošinātājs ir iespējots un tam ir akreditācijas dati; pretējā gadījumā tas veic aizstāšanu — vispirms tā paša nodrošinātāja ietvaros, pēc tam starp pārējiem organizācijas nodrošinātājiem. Spēju profils tikai filtrē, un tajā iekļautā datu rezidences prasība ir stingra. Ja nekas neatbilst, rezerves modeļa nav: izsaucējs saņem 422 MODEL_CAPABILITY_UNAVAILABLE vai 422 NO_PROVIDER_FOR_ROLE ar problēmas novēršanas virkni, ko konsole parāda administratoram.

Atslēgas pieder organizācijai. Katras organizācijas administratori no konsoles ievieto savas nodrošinātāju atslēgas tās kopumā, un maršrutētājs tās atrod izsaukuma brīdī. Neviena modeļa atslēga nav pakotnes vērtība, un neviena netiek piegādāta kopā ar Nexus. Organizācija bez atslēgas nesaņem nekādas MI atbildes, un konsole to skaidri pasaka; nekas neaizpilda šo robu no citienes.

Divas diagrammas (chart) vērtības veido maršrutētāju. ai.localProvider.baseUrl norāda ar OpenAI saderīgu modeļu serveri, ko jūs darbināt un kas tiek maršrutēts kā jebkurš cits pakalpojumu sniedzējs. ai.installationHosts uzskaita jūsu modeļu serverus ar privātiem nosaukumiem, kurus maršrutētājs uzskata par esošiem instalācijas iekšienē. Arī GraphRAG veic iegulšanu caur maršrutētāju kā tā organizācija, kurai pieder šis saturs. Noklusējuma iegulšanas modelis darbojas klasterī bez grafiskās kartes; viesotās iegulšanas ir katras organizācijas izvēle.

Bez telemetrijas

Nekas neatstāj instalāciju, ja vien jūs to nenosūtāt. Diagrammas telemetry.enabled vērtība var būt tikai false; shēma noraida jebko citu. Arī datu līmeņa paša ziņošana ir izslēgta: Neo4j lietojuma pārskats un Qdrant telemetrija diagrammā ir atspējoti.

Kad networkPolicy.enabled ir ieslēgts (pēc noklusējuma), neviens pods nevar sasniegt internetu, ja vien jūs nenorādāt galamērķi sarakstā networkPolicy.externalEgressCIDRs. Viesota modeļa pakalpojumu sniedzējs ir viens šāds galamērķis, tāpat kā jūsu pasta relejs.

Tas pats noteikums mainīja vienu noklusējuma iestatījumu, ko jūs pamanīsiet. nexus-auth CAPTCHA reģistrācijai ir nepieciešams interneta pakalpojums, tāpēc instalācijā tas ir izslēgts, un svešinieka reģistrācija gaida administratora apstiprinājumu (403 SIGNUP_REQUIRES_APPROVAL). Arī filtrs, kas bloķē reģistrācijas no mitināšanas tīkliem, ir izslēgts, jo tam ir nepieciešamas licencētas datubāzes, kuras Nexus nepiegādā. Jūs zaudējat šo filtrēšanu.

Instalācijas darbības stāvoklis
Instalācijas darbības stāvoklis
Enterprise versijā darbības stāvokļa lapa rāda klasteri zem Nexus: cik noslogota ir katra daļa un cik daudz jaudas ir atlicis, pie katra brīdinājuma norādot, kā rīkoties.