PrisijungtiUžsisakyti pristatymą

2.1 skyrius

Architektūra

Ką valdo kiekviena Nexus paketo paslauga ir kokios saugyklos yra po ja, taip pat taisyklės, kurios jas jungia – nuo tapatybės tarp paslaugų iki kelio, kurį nueina kiekviena modelio užklausa.

Šį puslapį iš originalo anglų kalba išvertė DI. Jei kas nors neaišku, remkitės puslapiu anglų kalba. Skaityti šį puslapį anglų kalba

19 min. skaitymo

Kai Tomás Reilly užbaigė pirmąjį diegimą „Harrow Port Authority“, kubectl -n nexus get pods rodė dešimt „Deployment“ ir septynis „StatefulSet“ objektus bei tris „CronJob“ užduotis. Migracijos „Job“ užduotys, sukūrusios duomenų bazę, jau buvo išnykusios, nes kiekviena jų sėkmingai pasibaigusi ištrina pati save. Šis sąrašas ir yra visa platforma. Išmokite jį, nes dauguma antrosios dienos klausimų prasideda nuo „kuris iš šių valdo tą?“

Šis skyrius atsako į šį klausimą apie kiekvieną dalį, palydi vieną užklausą per jas visas, o tada aptaria taisykles, kurioms jos visos paklūsta. Likusi 2 dalies medžiaga remiasi šiuo vaizdu.

Paslaugos ir ką kiekviena iš jų valdo

Šis paketas yra vienas „Helm“ paketas (chart), nexus, 1.0.0-alpha.1 versijos, skirtas „Kubernetes“ 1.33 ar naujesnei versijai. Kiekvienas darbinis krūvis veikia su savo „ServiceAccount“ paskyra, kaip ne „root“ naudotojas, atėmus visas „Linux“ galimybes (capabilities). Kvietimai į tarnybas, kurios saugo tapatybę ir raktus, vyksta per abipusį TLS (Transport Layer Security), o viešoji API (application programming interface) dalijasi procesu su DI (dirbtinio intelekto) maršrutizatoriumi.

Komponentas „Deployment“ ir „Service“ Tarnybos prievadas Ką valdo
Konsolė nexus-alpha 3000 Puslapiai, kuriuos mato žmonės; teikia HTML (Hypertext Markup Language) konsolės mazge
BFF (backend for frontend – vartotojo sąsajai skirta serverio dalis) nexus-alpha-bff 8080 Pačios konsolės duomenys, meniu, kurį gauna kiekvienas asmuo, leidimų registras
Autentifikavimas nexus-auth 9101 (abipusis TLS per 8443) Žmonės, organizacijos, sesijos, prieigos raktai (tokens), API raktai, organizacijos modelių raktų telkinys
Šliuzas (Gateway) nexus-gateway 9092, WebSocket 8093 DI tiekėjų maršrutizatorius (AI Provider Router) ir viešasis API paribys, skirtas REST (representational state transfer) bei MCP (Model Context Protocol)
Orkestratorius nexus-orchestrator 8080 UNO išsiuntimas: kiekvienos užduoties priėmimas ir įtraukimas į eilę
Darbo eigos (Workflows) nexus-workflows 8081 UNO vykdymas: darbinis procesas, vykdantis eilėje esančias užduotis
GraphRAG nexus-graphrag 8090, WebSocket 8091 Atmintis: žinių grafas ir duomenų paieška jame
Probitas nexus-probitas 9151 (HTTPS) Įrodymai: valdysenos įrašai ir užantspauduota didžioji knyga (ledger)
Įgūdžių variklis nexus-skills-engine 8095 Įgūdžių biblioteka; įgūdžių radimas ir vykdymas
Raktai (Keys) nexus-keys 8080 (HTTPS, abipusis TLS) Kiekvienos organizacijos raktai „OpenBao“ saugykloje, saugojimas (custody), diegimo tapatybė
Įskiepiai nexus-plugins 9111 Įskiepių registras ir katalogo įrašai; pagal numatytuosius nustatymus išjungta
Failų apdorojimas nexus-fileprocess 9109 Įkeltų dokumentų ir vaizdų skaitymas; pagal numatytuosius nustatymus išjungta

Pirmieji dešimt yra privalomi. Paskutiniai du yra pasirenkami – jie įjungiami naudojant components.plugins.enabled ir components.fileprocess.enabled, kai juos naudoja „Enterprise“ diegimas arba srities paketas (domain pack). Dar viena pasirenkama tarnyba, nexus-alive per 8080 prievadą, turi savo jungiklį components.alive.enabled ir pagal numatytuosius nustatymus taip pat yra išjungta. Kiekvienos iš jų replikos ir ištekliai nurodomi po components.<name>.

Konsolė yra serveryje generuojami puslapiai be duomenų bazės. Ji bendrauja su BFF ir su „nexus-auth“ klasterio viduje, niekada neišeidama per viešąjį autentifikavimo mazgą ir negrįždama atgal. Ji atsisako pasileisti be savo leidimo (edition) reikšmės, kurią paketas perduoda kaip NEXUS_EDITION iš vienos edition reikšmės. Kiekvienas organizacijos narys joje dirba pagal savo vaidmenį. Administravimo puslapiai skirti savininkams ir administratoriams, o narys, atidaręs tokį puslapį, gauna puslapį „Ne administratorius“ (Not an administrator).

BFF yra serverinė konsolės pusė, sukurta kaip platformos įskiepis ir užregistruota kaip produktas „Nexus Alpha“. Ji laiko pačios konsolės lenteles atskiroje duomenų bazėje, nexus_alpha, ir sprendžia, kurias meniu grupes mato asmuo. Kai konsolei reikia atlikti darbą, BFF kreipiasi į tą darbą valdančią tarnybą.

nexus-auth yra parašyta „Go“ kalba ir yra vienintelė tarnyba, išduodanti prieigos raktus (tokens). Pagal numatytuosius nustatymus prieigos raktai galioja 15 minučių, o atnaujinimo raktai – 12 valandų (auth.accessTokenTTL, auth.refreshTokenTTL). Ji apriboja kiekvieną prisijungusį asmenį iki 5,000 užklausų per minutę, prieš atsakydama kodu 429 (auth.rateLimitPerMinute). Ji vykdo du klausytojus (listeners): paprastąjį per konteinerio 8080 prievadą, kurį pasiekia viešasis „Ingress“, ir abipusio TLS klausytoją per 8443 prievadą, kurį privalo naudoti kiekvienas klasterio viduje esantis kvietėjas. Ji pasitiki X-Forwarded-For tik iš šuolių (hops), nurodytų proxy.trustedCIDRs – Classless Inter-Domain Routing (CIDR) rėžių sąraše, kuris pagal numatytuosius nustatymus yra 10.42.0.0/16, t. y. „k3s“ pod'ų tinklas. Jei jūsų „ingress“ valdiklis veikia kitur, pakeiskite šią reikšmę. Priešingu atveju atrodys, kad kiekvienas prisijungimas atėjo iš valdiklio.

Šliuzas (gateway) atlieka du darbus, kurie dalijasi vienu procesu. Klasterio viduje tai yra DI tiekėjų maršrutizatorius (DI komutatorius 1 dalyje ir konsolės puslapiuose) – vienintelis organizacijos modelių prisijungimo duomenų turėtojas (daugiau apie tai žemiau). Paribyje (edge) tai yra vieta, kurią pasiekia api.<domain>: REST klientai ir MCP klientai, kurių prieigos raktai turi auditoriją https://<hosts.api>/mcp ir yra gaunami iš OAuth 2.1 autorizavimo serverio autentifikavimo mazge (OAuth yra atvirasis deleguotojo autorizavimo standartas).

Orkestratorius ir darbo eigos kartu sudaro UNO – darbo eigų variklį. Visi skaičiavimai vyksta per juos. Orkestratorius priima užduotį adresu POST /api/v1/dispatch, atsako kodu 202 su jobId, runId ir traceId bei įtraukia ją į eilę. Tiesioginio (inline) vykdymo kelio nėra: klientas visada periodiškai tikrina GET /api/v1/dispatch/{jobId} arba priima atgalinį kvietimą (callback). Darbo eigų darbinis procesas ima užduotis iš eilės – pagal numatytuosius nustatymus po keturias vienu metu kiekvienai replikai (workflows.concurrency) – ir turi lygiai vieną HTTP maršrutą, GET /health.

Probitas yra įrodymų tarnyba. Ji pati teikia TLS iš sertifikato, kurį išduoda paketas, ir laiko savo lenteles trust schemoje su atskiru vaidmeniu didžiajai knygai (ledger). Jos valdysenos funkcijas perjungia probitas.flags. Kelios iš jų pristatomos shadow režimu: verdiktas apskaičiuojamas ir įrašomas, tačiau niekas neblokuojama, kol nepakeičiate požymio (flag).

nexus-keys yra platformos raktų tarnyba, parašyta „Go“ kalba. Ji laiko po raktą kiekvienai organizacijai „OpenBao“ raktų saugykloje ir kasnakt juos rotuoja. Jos naktinės užduotys taip pat sunaikina raktus, kurių saugojimo data suėjo, ir eksportuoja kvitus į savo atskirą tomą (volume). Ištrynus organizacijos raktą, juo užrakinti duomenys visam laikui tampa neįskaitomi. Ji taip pat sukuria diegimo tapatybę pirmojo pradinio paleidimo (bootstrap) metu po keys.installationName, ir šis pavadinimas yra nuolatinis. Pasirinkite jį atidžiai: paketas atmeta tuščią pavadinimą (INSTALLATION_NAME_MISSING) ir atmeta pavadinimą, esantį jo paties pavyzdinėse reikšmėse (INSTALLATION_NAME_EXAMPLE).

Šis diegimas (Community)
Šis diegimas (Community)
„Community“ diegimo puslapyje rodoma jo versija ir variklių būklė. Jame aiškiai parašyta, kad licencija nereikalinga. „Enterprise“ puslapio dalys atvaizduojamos kaip anonsai.

Trys viešieji mazgai

Paketas paskelbia lygiai tris mazgų pavadinimus (host names), kurie kartu sudaro diegimo tapatybę. Kiekviena tarnyba atsisako pasileisti be jų.

Ingress Mazgo reikšmė Vidinė tarnyba (Backend)
nexus-console hosts.console nexus-alpha, 3000 prievadas
nexus-api hosts.api nexus-gateway, 9092 prievadas
nexus-auth hosts.auth nexus-auth, 9101 prievadas

Šios knygos pavyzdžiuose naudojami console.harrow.example, api.harrow.example ir auth.harrow.example. „Ingress“ objektai yra įprasti networking.k8s.io/v1 objektai su viena taisykle kiekvienam ir keliu /. TLS paribyje (edge) seka tls.mode: existing (jūsų sukurtas „Secret“ objektas, įvardytas tls.existingSecret), cert-manager (jūsų vykdomas „ClusterIssuer“, įvardytas tls.clusterIssuer) arba none (TLS baigiasi prieš klasterį). Paketas neprideda jokio savo peradresavimo, todėl ACME (Automated Certificate Management Environment) HTTP iššūkis pasiekia jūsų sprendiklį nepakeistas. 2.11 skyriuje „Variacijos: išorinės saugyklos, TLS ir ingress“ aptariamas kiekvienas režimas.

Niekas kitas nėra atveriama išorei. Duomenų saugyklos, „OpenBao“ ir kiekviena vidinė tarnyba klausosi tik vardų erdvės (namespace) viduje.

Trys horizontalios juostos. Viršutinė juosta yra „Edge“ su trimis Ingress langeliais, pažymėtais console, api ir auth, kurių kiekvienas rodo žemyn į savo paslaugą (Service) (nexus-alpha :3000, nexus-gateway :9092, nexus-auth :9101). Vidurinė juosta yra „Platformos paslaugos“: langelis, skirtas nexus-alpha-bff; nexus-orchestrator šalia nexus-workflows, sugrupuoti ir pažymėti UNO; toliau nexus-graphrag, nexus-probitas, nexus-skills-engine, nexus-keys; ir du punktyriniai langeliai pasirenkamiems nexus-plugins bei nexus-fileprocess. Apatinė juosta yra „Duomenų sluoksnis“ su vienu langeliu kiekvienai saugyklai (PostgreSQL, Valkey, Neo4j, Qdrant, SeaweedFS) ir atskiru aptvertu langeliu, pažymėtu „Raktų saugykla“, kuriame yra openbao ir openbao-unsealer, pasiekiami tik per nexus-keys.
„Nexus“ diegimo komponentai ir po jais esančios saugyklos.

Užklausa nuo pradžios iki pabaigos

Štai kas nutinka, kai Aoife Brennan, „Harrow“ IT vadovė, atidaro konsolę ir užduoda asistentui klausimą apie šio mėnesio krantinių tvarkaraštį.

  1. Jos naršyklė įkelia https://console.harrow.example. nexus-console „Ingress“ nusiunčia užklausą į nexus-alpha per 3000 prievadą.
  2. Ji prisijungia naudodama savo prieigos raktą (passkey). Prisijungimo puslapiai bendrauja su nexus-auth per auth.harrow.example, ir „nexus-auth“ sukuria jai prieigos raktą (access token), kuriame nurodytas jos naudotojas, jos organizacija ir, kai jos sesija jį turi, jos verslo padalinys.
  3. Konsolės serveris iškviečia BFF, kuris patikrina jos prieigos raktą ir paklausia „nexus-auth“, ar jos organizacija turi šį produktą ir ar jos vaidmuo yra įleidžiamas. Jis atsako nurodydamas meniu grupes, kurias ji gali matyti.
  4. Jos klausimas keliauja iš BFF į orkestratoriaus išsiuntimo maršrutą kartu su jos organizacija ir naudotoju, paimtais iš patvirtinto prieigos rakto. Orkestratorius atsako kodu 202 ir įdeda užduotį į eilę „Valkey“ saugykloje.
  5. Darbo eigų darbinis procesas paima užduotį. Jo vykdomą įgūdį parenka įgūdžių variklis, o paieška „Harrow“ dokumentuose nukreipiama į „GraphRAG“, kuris skaito „Neo4j“, „Qdrant“ ir savo „PostgreSQL“ schemą.
  6. Modelio kvietimas keliauja į DI tiekėjų maršrutizatorių adresu /internal/ai/chat. Maršrutizatorius parenka tiekėją ir modelį iš pačios „Harrow“ raktų telkinio bei maršrutizavimo politikos, atlieka kvietimą naudodamas „Harrow“ raktą ir grąžina sugeneruotą atsakymą (completion).
  7. Rezultatas patenka į užduoties vykdymo eilutę. BFF jį perskaito, o konsolė atvaizduoja atsakymą su citatomis.

Šuoliai tarp tarnybų perduoda projektuotus tarnybų prieigos raktus (projected service tokens), kvietimai į „nexus-auth“, „nexus-keys“ ir „Probitas“ vyksta per TLS iš paties diegimo sertifikatų įstaigos, o kiekviena prieiga prie duomenų 4–6 žingsniuose yra apribota iki „Harrow“ organizacijos pačioje duomenų bazėje. Tolesniuose poskyriuose paaiškinami abu šie dalykai.

Seka iš kairės į dešinę. Naršyklės langelis siunčia „1 puslapis“ į Ingress console, tada į nexus-alpha. Šoninė rodyklė „2 prisijungimas“ eina iš naršyklės per Ingress auth į nexus-auth. nexus-alpha siunčia „3 meniu“ į nexus-alpha-bff, kuris pasitikrina su nexus-auth. nexus-alpha-bff siunčia „4 išsiuntimas, 202“ į nexus-orchestrator, kuris įrašo į Valkey eilės piktogramą. nexus-workflows paima „5 užduotis“ iš eilės ir iškviečia nexus-skills-engine bei nexus-graphrag (jo trys saugyklos pavaizduotos po GraphRAG). nexus-workflows siunčia „6 pokalbis“ į nexus-gateway, pažymėtą „DI teikėjų maršrutizatorius: organizacijos raktų fondas“, kuris siunčia vieną rodyklę už klasterio ribos į „modelio teikėjas“. Punktyrinė grįžtamoji rodyklė „7 rezultatas vykdymo eilutėje“ grįžta atgal į nexus-alpha-bff.
Vienas klausimas asistentui – nuo naršyklės iki modelio tiekėjo ir atgal.

Duomenų lygmuo

„Nexus“ pristato savo pasirašytą kiekvienos saugyklos kopiją kartu su išeitinio kodo pasiūlymu (source offer) kiekvienai iš jų paketo viduje. Kiekviena saugykla buvo pasirinkta tiek dėl jos licencijos, tiek dėl funkcijos.

Saugykla Versija Licencija Kodėl ji čia yra Prievadas Numatytasis tomas
PostgreSQL su PostGIS ir pgvector PostgreSQL 16, PostGIS 3, pgvector 0.8 PostgreSQL licencija; PostGIS GPL-2.0-or-later Pagrindinė įrašų sistema kiekvienai tarnybai; PostGIS – žemėlapių duomenims; pgvector – vektoriams, laikomiems šalia eilučių 5432 50 GiB
Valkey 8.1 BSD-3-Clause UNO užduočių eilės ir trumpalaikės podėlio saugyklos, pavyzdžiui, „nexus-auth“ API raktų podėlis 6379 5 GiB
Neo4j Community Edition 5.26 GPL-3.0 Žinių grafas, kurį „GraphRAG“ kuria ir kuriuo keliauja 7687 (Bolt) 20 GiB
Qdrant 1.15 Apache-2.0 Vektorinė paieška, skirta „GraphRAG“ ir įgūdžių varikliui 6333 (HTTP), 6334 (gRPC nuotoliniai procedūrų kvietimai) 10 GiB
SeaweedFS 4.48 Apache-2.0 Objektų saugykla failams, suderinama su Amazon Simple Storage Service (S3) 8333 50 GiB
OpenBao 2.6 MPL-2.0 Raktų saugykla ir jos atantspaudavimo tarnyba, skirta „nexus-keys“ 8200 5 GiB ir 1 GiB

Kai kurie pasirinkimai pakeitė geriau pažįstamus įrankius. „Valkey“ pakeičia „Redis“ 7.4, kurio dabartinių licencijų šis leidimas nepriima. „MinIO“ turi AGPL-3.0 licenciją, todėl objektų saugykla yra „SeaweedFS“. „GraphRAG“ pasiekia „Neo4j Community Edition“ per „Bolt“ tinklo protokolą, o tarnybos pasiekia „PostGIS“ per „PostgreSQL“ protokolą, todėl GPL licencija lieka tik jiems patiems. „OpenBao“ yra „Linux Foundation“ atšaka (fork) iš „Vault“, sukurta dar prieš „Vault“ licencijos pakeitimą.

Kiekviena saugykla veikia su įjungtu autentifikavimu ir sugeneruotais prisijungimo duomenimis: slaptažodžiu „Valkey“, API raktu „Qdrant“, prieigos raktais „SeaweedFS“.

Kiekviena iš penkių saugyklų, esančių po dataTier, veikia klasteryje (mode: in-cluster, numatytoji reikšmė) arba yra ta, kurią jūs jau eksploatuojate (mode: external, su external.host ir „Secret“ objektu, įvardytu per external.existingSecret). Išoriniam „PostgreSQL“ nustatykite sslmode į verify-full arba verify-ca ir įdėkite serverio sertifikatų įstaigos (CA) sertifikatą į tą „Secret“ objektą; išsami informacija pateikta 2.11 skyriuje „Variacijos: išorinės saugyklos, TLS ir ingress“.

# harrow-values.yaml (Helm values): Harrow's own PostgreSQL, every other store in the cluster
dataTier:
  postgres:
    mode: external
    sslmode: verify-full
    external:
      host: pg.harrow.example
      existingSecret: harrow-postgres

„OpenBao“ pora yra išimtis: ji visada veikia diegimo viduje, nes saugojimo (custody) „Job“ užduotis ją ten inicijuoja.

Tapatybė tarp paslaugų

„Nexus“ veikia be tarnybų tinklelio (service mesh). Abipusis TLS gaunamas iš vietinės sertifikatų įstaigos (CA), kurią paketas sukuria per „cert-manager“ – šis turi būti įdiegtas pirmiausia (išbandyta v1.21.3 versija).

Savirašis „Issuer“ sukuria vieną CA sertifikatą, nexus-local-ca, ECDSA (Elliptic Curve Digital Signature Algorithm) P-256, galiojantį dešimt metų. Antrasis „Issuer“ pasirašo šiuo CA. Kiekvienas darbinis krūvis, kviečiantis TLS serverį diegimo viduje, gauna savo kliento sertifikatą, pavadintą <service-account>-client-tls, galiojantį 90 dienų ir atnaujinamą likus 15 dienų iki galiojimo pabaigos. Vienintelis jo pavadinimas yra universalusis ištekliaus identifikatorius (URI) SPIFFE tapatybės forma:

spiffe://cluster.local/ns/<namespace>/sa/<service-account>

Kiekvienas darbinis krūvis randa viešąjį CA sertifikatą kaip ca.crt savo paties sertifikato „Secret“ objekte. Joks pod'as neprijungia (mount) CA rakto, ir jums nereikia „trust-manager“.

Trys tarnybos tikrina kvietėjus pagal sertifikatą. „nexus-auth“ tai daro savo antrajame klausytojuje, 8443 prievade, ir kiekvienas klasterio viduje esantis kvietėjas jungiasi būtent prie jo. „nexus-keys“ tai daro vieninteliame savo klausytojuje. „Probitas“ teikia TLS iš savo paties sertifikato, nexus-probitas-tls, kurį perskaito iš naujo, kai „cert-manager“ jį atnaujina. Nė viena iš jų nepasitiki X-Forwarded-Client-Cert antrašte.

Kiekvienas darbinis krūvis taip pat gauna vienos valandos trukmės „Kubernetes“ prieigos raktus adresu /var/run/secrets/nexus – po vieną kiekvienai jo kviečiamai tarnybai, nurodant tą tarnybą kaip auditoriją. „ConfigMap“ objektas nexus-service-identities susieja kiekvieną <namespace>/<service-account> su tarnybos arba įskiepio pavadinimu, o darbinis krūvis, kurio jame nėra, neturi tapatybės ir yra atmetamas. Orkestratorius ir „Probitas“ tikrina šiuos prieigos raktus per „Kubernetes“ API. Iš veikiančių tarnybų tik šios dvi turi system:auth-delegator arba prijungtą API prieigos raktą; vienintelis kitas darbinis krūvis su prieigos raktu yra saugojimo (custody) „Job“ užduotis, vykdoma diegimo metu.

Tinklo politika uždaro tai, ko neuždaro tapatybė. Paketas pradeda nuo numatytojo draudimo (default deny), o tada leidžia srautą tarp paties diegimo pod'ų, DNS (Domain Name System), „ingress“ valdiklio vardų erdvės (networkPolicy.ingressNamespace, pagal numatytuosius nustatymus kube-system) į tris viešąsias „Service“ tarnybas bei į API serverį dviem prieigos raktų tikrintojams. „OpenBao“ pod'ai turi kitokią žymę (label) nei likusi platformos dalis, todėl atvira taisyklė vardų erdvės viduje jų nepasiekia: per 8200 prievadą praleidžiami tik „nexus-keys“, jo „Job“ užduotys ir saugojimo (custody) „Job“ užduotis. Visa kita, ką darbinis krūvis turi pasiekti už vardų erdvės ribų, pavyzdžiui, jūsų pašto perdavimo serveris (mail relay), įrašoma į networkPolicy.externalEgressCIDRs, kuris pagal numatytuosius nustatymus yra tuščias.

Migracijos ir schemų registras

Migracijos vykdomos kaip „Helm“ kabliai (hooks) ant post-install ir pre-upgrade. Kablys po įdiegimo (post-install hook) vykdomas po to, kai sukuriami leidimo „Deployment“ objektai. Todėl pirmojo diegimo metu tarnybos pasileidžia, kai jų schemos dar neegzistuoja, ir jos įstrigtų gedimų cikle (crash-loop) jungdamosi prie duomenų bazės be vaidmens, be slaptažodžio ir be lentelių. „Nexus“ to išvengia naudodama didžiąją knygą (ledger).

Kabliai vykdomi svorio (weight) tvarka, ir „Helm“ laukia kiekvienos „Job“ užduoties pabaigos prieš pradėdamas kito svorio vykdymą:

Svoris Kablys Ką daro
-30 nexus-migrations-env ir būtinosios sąlygos Sukuria tik kabliams skirtą „Secret“ objektą su migravimo įrankio prisijungimo duomenimis ir viskuo, ką skaito saugojimo (custody) „Job“ užduotis
-20 nexus-db-bootstrap Sukuria nexus ir nexus_alpha duomenų bazes, migravimo įrankio vaidmenį, kiekvienos tarnybos vykdymo laiko vaidmenį, plėtinius ir didžiąją knygą
-15 nexus-openbao-custody-init Inicijuoja raktų saugyklą bei atantspaudavimo tarnybą ir sukuria diegimo tapatybę
-12 nexus-graphrag-migrations „GraphRAG“ schemą, kuriai priklauso objektai, į kuriuos remiasi „nexus-auth“ bazinė linija
-10 nexus-auth-migrations Tapatybės schemą
-5 orkestratoriaus, šliuzo ir „Probitas“ migracijos Jų schemas; „Probitas“ pirmiausia patikrina, ar egzistuoja autentifikavimo lentelės
0 nexus-alpha-bff-migrations Pačios konsolės duomenų bazę

Kiekviena migracijos „Job“ užduotis turi backoffLimit: 0, todėl nepavykus migracijai nepavyksta ir diegimas.

Didžioji knyga yra viena lentelė, nexus_release.schema_applied, turinti po eilutę kiekvienai grandinei ir atvaizdo santraukai (image digest). Kiekvienas kablys įrašo savo eilutę tik tada, kai jo migracijos vykdyklė sėkmingai baigia darbą. Kiekvienas „Deployment“ objektas, naudojantis „PostgreSQL“, turi inicijavimo konteinerį (init container), wait-for-schema, kuris skaito šią lentelę su vaidmeniu, kuriam neleidžiama skaityti nieko kito (nexus_ledger_reader), ir laukia, kol kiekviena grandinė, nuo kurios jis priklauso, parodys eilutę šio leidimo atvaizdui. Tada tarnyba pasileidžia. Darbo eigų darbinis procesas laukia orkestratoriaus grandinės, nes dalijasi ta duomenų baze, o įgūdžių variklis laukia tik pradinio paleidimo (bootstrap).

Jis tikrina kas 3 sekundes (schemaWait.intervalSeconds) ir pasiduoda po 1800 (schemaWait.timeoutSeconds) su eilute, įvardijančia vis dar trūkstamas grandines. Pačios tarnybos konteineris niekada nepasileidžia su netinkama schema.

kubectl -n nexus logs deploy/nexus-gateway -c wait-for-schema

Štai kodėl niekada neturite vykdyti helm install --wait. Su --wait, „Helm“ laukia „Deployment“ objektų prieš vykdydamas kablius po įdiegimo, o „Deployment“ objektai laukia kablių. Nė vienas nepajuda iš vietos. Diekite be šios parinkties ir palaukite po to; 2.6 skyriuje „Community diegimas Kubernetes aplinkoje“ pateikta tiksli komanda.

Izoliacija trijose ašyse

Kiekvienas skaitymas, rašymas, įrankio kvietimas ir įgūdžio išsiuntimas „Nexus“ sistemoje yra apribojamas pagal tris ašis.

Ašis Laukas Ką atskiria
Nuomininkas (Tenant) organization_id Vieną organizaciją nuo kitos – griežta riba
Savininkas (Owner) owner_user_id Vieno asmens dalykus nuo visų kitų, net ir vienos organizacijos viduje
Padalinys (Unit) business_unit_id Organizacijos padalinį, pasirenkama

Savininko ašis nustebina žmones. Pašto dėžutė ar asmeninis užrašų knygutės įrašas yra privatus jo savininkui net ir nuo kolegų tame pačiame padalinyje su tuo pačiu vaidmeniu. Administratorius nustato politiką, bet neskaito turinio.

Ašys gaunamos iš autentifikuotos užklausos ir iš niekur kitur. Joks aplinkos kintamasis, antraštė, užklausos parametras ar kelio segmentas negali jų nustatyti. Užklausos turinys (body), kuriame įvardijama organizacija, atmetamas su TENANT_NOT_A_PARAMETER. Paviršius, negalintis nurodyti, kuriam nuomininkui, savininkui ir padaliniui priklauso eilutė, atmeta užklausą kodu 403 SCOPE_PREDICATE_MISSING, o atsako turinyje išvardijama, kurios ašys buvo nustatytos, o kurios – ne. Sistema niekada neatsitraukia į platesnį skaitymą.

Tai galioja dviejose vietose vienu metu.

Duomenų bazėje. Kiekviena tarnyba jungiasi naudodama savo vykdymo laiko vaidmenis: nexus_auth, auth_app ir auth_platform – tapatybės tarnybai, nexus_probitas ir nexus_probitas_ledger – „Probitas“ tarnybai, o nexus_gateway, nexus_graphrag, nexus_skills, orchestrator_app, workflows_app ir likusieji – kitoms. Nė vienas iš jų nėra supernaudotojas (superuser) ir neturi BYPASSRLS teisės. Nė vienas taip pat nėra savo naudojamų lentelių savininkas, todėl jam taikoma kiekviena eilučių lygmens saugumo (row-level security, RLS) politika. Vaidmenys dalijasi grupe nexus_runtime, kuri suteikia prisijungimo ir schemos naudojimo teises, bet jokių teisių į lenteles; kiekvienai tarnybai teisės į jos lenteles suteikiamos per jos pačios migracijas. Nuomininko nustatymai, kuriuos skaito RLS politikos, gali būti nustatyti tik per kiekvienos tarnybos bind_scope funkciją, kuri vykdoma jos savininko teisėmis. Pradinis paleidimas (bootstrap) atšaukia set_config teisę visiems kitiems, o orkestratorius ir „Probitas“ atsisako pasileisti, jei jų vykdymo laiko vaidmuo galėtų iškviesti ją tiesiogiai („Probitas“ tai vadina DB_ROLE_SETS_SCOPE_DIRECTLY). Vieninteliai supernaudotojo prisijungimai visame diegime priklauso pradinio paleidimo „Job“ užduočiai ir BFF paruošimo (provisioning) žingsniui.

Bendrame aprėpties užklausų primityve. Kiekviena platformos saugykla (repository) ir kiekvienas įskiepis, sukurtas naudojant SDK (software development kit), paveldi vieną užtvarą, kuri suformuoja SQL predikatą iš nustatytos aprėpties. Jos aprėpties funkcija paima patvirtintą tapatybę ir neturi organizacijos parametro, todėl kvietėjas negali jo perduoti, ir joks maršrutas negali to atsisakyti.

Yra lygiai vienas nuomininko ribos kirtimo būdas, ir jis yra siauras: įrašytas leidimas (grant). Du žmonės iš organizacijos, kuriai priklauso eilutės, įrašo, kuri organizacija kurias lenteles gali skaityti ir iki kada. Kiekvienas skaitymas vyksta tik skaitymui skirtoje transakcijoje ir yra registruojamas pas abu nuomininkus. Savininkai ir administratoriai niekada neskaito per šią ribą, o skaitytojas negali išplėsti leidimo.

DI kelias

Kvietėjai išreiškia pageidavimus. DI tiekėjų maršrutizatorius valdo prisijungimo duomenis ir priima galutinį sprendimą.

Kiekvienas modelio kvietimas „Nexus“ sistemoje vyksta per maršrutizatoriaus /internal/ai/* maršrutus, o maršrutizatorius įleidžia tik įvardytus kvietėjus. Paketas šliuze nustato tris sąrašus:

Maršrutai Kas gali kviesti
Pokalbiai (chat) ir pokalbių srautinis perdavimas nexus-orchestrator, nexus-workflows, nexus-skills-engine
Įterpiniai (embeddings) ir perrikiavimas (rerank) nexus-graphrag, nexus-skills-engine, nexus-workflows
Visa kita, įskaitant įrankių vykdymą nexus-orchestrator, nexus-workflows

Kvietimas be kvietėjo tapatybės atmetamas kodu 403 MISSING_CALLER_IDENTITY, o kvietėjas, kurio nėra sąraše – kodu 403 UNAUTHORIZED_CALLER. Įskiepių nėra jokiame sąraše, ir tai padaryta sąmoningai: įskiepio modelių kvietimai vyksta jo vardu per UNO išsiuntimą.

Tai, ką kvietėjas gali atsiųsti, yra pageidavimas: pageidaujamas tiekėjas ir modelis bei galimybių profilis, pavyzdžiui, minimalus konteksto ilgis arba įrankių naudojimas. Maršrutizatorius išpildo pageidavimą tik tada, kai organizacija yra įjungusi tą tiekėją ir pridėjusi jo prisijungimo duomenis; priešingu atveju jis parenka pakaitalą – pirmiausia to paties tiekėjo ribose, o tada tarp kitų organizacijos tiekėjų. Galimybių profilis tik filtruoja, o jame esantis duomenų rezidavimo vietos reikalavimas yra griežtas. Kai niekas netinka, atsarginio modelio nėra: kvietėjas gauna 422 MODEL_CAPABILITY_UNAVAILABLE arba 422 NO_PROVIDER_FOR_ROLE su taisymo eilute, kurią konsolė parodo administratoriui.

Raktai priklauso organizacijai. Kiekvienos organizacijos administratoriai iš konsolės sudeda savo tiekėjų raktus į jos telkinį, o maršrutizatorius juos parenka kvietimo metu. Joks modelio raktas nėra paketo reikšmė ir joks raktas nėra pristatomas kartu su „Nexus“. Organizacija, neturinti rakto, negauna jokių DI atsakymų, ir konsolė tai aiškiai pasako; niekas neužpildo šios spragos iš kitur.

Dvi schemos (chart) reikšmės formuoja maršrutizatorių. ai.localProvider.baseUrl nurodo jūsų valdomą su OpenAI suderinamą modelių serverį, kurio užklausos nukreipiamos kaip ir bet kurio kito teikėjo. ai.installationHosts išvardija jūsų modelių serverius privačiais vardais, kuriuos maršrutizatorius laiko esančiais diegimo viduje. GraphRAG taip pat kuria įterpinius (embeddings) per maršrutizatorių, veikdamas tos organizacijos, kuriai priklauso turinys, vardu. Numatytasis įterpinių modelis veikia klasteryje be vaizdo plokštės; išorinių įterpinių paslaugų naudojimas yra kiekvienos organizacijos pasirinkimas.

Jokios telemetrijos

Niekas neišeina iš diegimo ribų, nebent patys tai išsiunčiate. Helm diagramos telemetry.enabled reikšmė gali būti tik false; schema atmeta bet kokią kitą reikšmę. Duomenų sluoksnio ataskaitų teikimas taip pat išjungtas: Neo4j naudojimo ataskaita ir Qdrant telemetrija diagramoje yra išjungtos.

Kai įjungta networkPolicy.enabled (numatytoji reikšmė), joks pod'as negali pasiekti interneto, nebent nurodote paskirties vietą networkPolicy.externalEgressCIDRs. Išorinis modelių teikėjas yra viena iš tokių paskirties vietų, kaip ir jūsų pašto perdavimo serveris (mail relay).

Ta pati taisyklė pakeitė vieną numatytąjį nustatymą, kurį pastebėsite. nexus-auth CAPTCHA patikrai registracijos metu reikalinga interneto paslauga, todėl vietiniame diegime ji išjungta, o nepažįstamojo registracija laukia administratoriaus patvirtinimo (403 SIGNUP_REQUIRES_APPROVAL). Ekranas, blokuojantis registracijas iš prieglobos tinklų, taip pat išjungtas, nes jam reikia licencijuotų duomenų bazių, kurių Nexus neteikia. Šios patikros netenkate.

Diegimo būklė
Diegimo būklė
Enterprise versijoje būklės puslapis rodo klasterį po Nexus: kiek apkrauta kiekviena dalis ir kiek pajėgumų liko, o šalia kiekvieno įspėjimo nurodoma, ką dėl to daryti.