HyniRezervoni një prezantim

Kapitulli 2.14

Ofruesit dhe modelet e AI

Si zgjedh rrugëzuesi i ofruesve të inteligjencës artificiale (AI) një model nga grupi i çelësave të vetë organizatës dhe si skriptet dhe mjetet e AI arrijnë te Nexus nga jashtë.

Kjo faqe u përkthye nga AI prej origjinalit në anglisht. Nëse diçka është e paqartë, faqja në anglisht shërben si referencë. Lexoni këtë faqe në anglisht

16 minuta lexim

Harrow Port Authority operon dy instalime. Ai në rrjetin e tij të operacioneve me izolim ajror (air-gapped) (kapitulli 2.10, Instalimi me izolim ajror) nuk ka fare ofrues të hostuar. Në instalimin e lidhur të korporatës, të cilin e ndjek ky kapitull, shumicës së pyetjeve u përgjigjet një model që ekzekutohet në dy nyje të njësive të përpunimit grafik (GPU) në dhomën e serverëve të vetë portit. Një çelës Google Gemini, i paguar nga Harrow, merr ngarkesën e tepërt kur modeli lokal është i zënë, dhe Aoife Brennan e ka bllokuar trafikun e inteligjencës artificiale (AI) të organizatës brenda BE-së. Askush në Harrow nuk konfiguroi ndonjë model brenda një shërbimi apo shtojce. Ata i treguan një komponenti të vetëm se çfarë zotëron Harrow, dhe ai komponent vendos për çdo thirrje.

Ky kapitull trajton atë komponent, AI Provider Router, të cilin Pjesa 1 dhe konsola e quajnë centrali i AI, si dhe grupin e çelësave ku ai mbështetet. Ai përfundon me mënyrat se si skriptet dhe mjetet e AI arrijnë te Nexus nga jashtë: çelësat për skriptet, ndërfaqja e programimit të aplikacioneve (API) REST (transferimi i gjendjes përfaqësuese) dhe Model Context Protocol (MCP).

AI Provider Router

Ruteri ekzekutohet brenda portës (gateway), nexus-gateway. Ai është i vetmi shërbim që mban kredencialet e modelit të një organizate dhe merr vendimin përfundimtar se cili ofrues dhe cili model i përgjigjen çdo kërkese. Çdo pjesë tjetër e Nexus e pyet atë. Një hap i rrjedhës së punës thotë atë që dëshiron, dhe ruteri vendos.

Vetëm disa shërbime mund të pyesin, dhe çdo listë është e fiksuar nga grafiku (chart):

Çfarë kërkohet Kush mund të kërkojë
Një plotësim (/internal/ai/chat dhe rrjedha e tij) nexus-orchestrator, nexus-workflows, nexus-skills-engine
Thirrjet e mjeteve dhe rrugët e tjera të brendshme të AI nexus-orchestrator, nexus-workflows
Përfshirjet vektoriale (embeddings) dhe rirenditja nexus-graphrag, nexus-skills-engine, nexus-workflows

Çdo rrugë e brendshme kontrollon dy gjëra me radhë: çelësin e brendshëm të shërbimit të thirrësit dhe identitetin e thirrësit kundrejt listës së mësipërme. Një kërkesë pa çelës refuzohet me MISSING_SERVICE_KEY (401), një çelës i gabuar me INVALID_SERVICE_KEY (403), një kërkesë që nuk tregon se kush po thërret me MISSING_CALLER_IDENTITY (403), dhe një thirrës jashtë listës me UNAUTHORIZED_CALLER (403). Asnjë nga këto nuk riprovohet, sepse asnjëra prej tyre nuk është një defekt kalimtar.

Aplikacionet dhe shtojcat nuk shfaqen kurrë në atë listë. Një shtojcë deklaron dëshirat e saj në aftësitë që regjistron dhe i dërgon përmes UNO, motorit të rrjedhës së punës. Më pas, orkestruesi pyet ruterin në emër të shtojcës. Kjo është arsyeja pse një sekret i rrjedhur i shtojcës mund të veprojë si ajo shtojcë, por nuk mund të shpenzojë buxhetin e modelit të askujt.

Majtas: tre kuti të vendosura njëra mbi tjetrën, "Asistenti", "Hapi i rrjedhës së punës", "Aftësia", secila me një shigjetë drejt një kutie "Dërgimi UNO (nexus-orchestrator)". Një shigjetë e etiketuar "dëshirat: ofruesi i preferuar, modeli i preferuar, profili i aftësive" shkon djathtas në një kuti të madhe "AI Provider Router (nexus-gateway)". Brenda kutisë së ruterit, tre kuti të vogla në një rresht: "Roli", "Grupi i organizatës", "Politika e rrugëzimit". Nga ruteri, tre shigjeta shkojnë djathtas te "Modeli lokal (ai.localProvider.baseUrl)", "Çelësi A i ofruesit të hostuar", "Çelësi B i ofruesit të hostuar". Poshtë ruterit, një kuti e veçantë "nexus-auth: grupi i çelësave të organizatës (i enkriptuar)" me një shigjetë me viza të ndërprera lart drejt ruterit të etiketuar "çelësat, të zgjidhur për çdo thirrje".
Si arrin një kërkesë te një model.

Grupi i çelësave të organizatës

Çelësat e modeleve i përkasin organizatës. Çdo organizatë sjell llogarinë e vet të ofruesit dhe paguan faturën e vet, dhe çelësi qëndron në grupin e organizatës, i enkriptuar në nexus-auth. Nuk ka asnjë çelës të përbashkët platforme pas një organizate, kështu që asnjë organizatë nuk shpenzon kurrë buxhetin e një tjetre. Kostoja e këtij rregulli është e qartë: një organizatë pa çelës në grupin e saj nuk merr asnjë përgjigje nga AI. Asistenti shfaq MODEL_NOT_CONNECTED (503) dhe tregon se kush mund të lidhë një të tillë.

Një çelës mund t'i shtohet grupit për katër ofrues:

ID e ofruesit Shfaqet si
anthropic_api_key Anthropic
gemini Google Gemini
openrouter OpenRouter
scaleway Scaleway

Një server modeli i juaji

Një organizatë mund të përdorë gjithashtu çdo server që ajo vetë operon dhe që komunikon me API të përputhshme me OpenAI, siç është modeli në nyjet GPU të Harrow. Instaluesi e emërton atë në skedarin e vlerave:

# harrow-values.yaml (Helm values): the AI part
ai:
  localProvider:
    baseUrl: "https://models.harrow.example/v1"
  installationHosts:
    - models.harrow.example
    - 10.40.20.0/24
networkPolicy:
  externalEgressCIDRs:
    - 10.40.20.0/24

ai.localProvider.baseUrl e drejton përshtatësin e përputhshëm me OpenAI të portës drejt serverit tuaj. Në një instalim, hapësira scaleway e grupit arrin në atë server, kështu që çelësi që shtoni për scaleway është çelësi që pret serveri juaj.

ai.installationHosts rendit emrat e hosteve që janë brenda instalimit, përveç domenit të shërbimit të vetë lëshimit dhe tre hosteve publike. Çdo hyrje është një emër hosti, një .suffix, një adresë IP ose një interval IPv4 Classless Inter-Domain Routing (CIDR). Ruteri e përdor listën për të dalluar një thirrje që qëndron brenda lokacionit nga një që del jashtë tij, gjë që raporton kontrolli "Asgjë nuk del nga ky lokacion" në faqen Lidhni një model në harduerin tuaj.

Politika e rrjetit ka po aq rëndësi sa edhe ruteri. Hapësira e emrave (namespace) refuzon të gjithë trafikun dalës si parazgjedhje, kështu që porta mund të arrijë një server modeli jashtë hapësirës së emrave vetëm kur intervali i tij është në networkPolicy.externalEgressCIDRs. E njëjta gjë vlen edhe për një ofrues të hostuar: nëse Harrow dëshiron që çelësi i tij Gemini të përgjigjet, intervalet e adresave të ofruesit duhet të renditen gjithashtu atje, përndryshe thirrja nuk del kurrë nga klasteri. Kapitulli 2.16, Siguria dhe rrjetëzimi, e mbulon të plotë këtë politikë.

Lidhni një model në harduerin tuaj
Lidhni një model në harduerin tuaj
Lidhja e një modeli në harduerin tuaj. Faqja rendit modelet që raporton serveri, rolin që luan secili, dhe konfirmon që asgjë nuk del nga lokacioni.

Shtimi dhe tërheqja e çelësave

Pronarët dhe administratorët e një organizate mirëmbajnë grupin e saj. Askush tjetër nuk mund t'i shohë çelësat dhe nuk mund t'i ndryshojë ato, dhe një kërkesë prej tyre refuzohet me AUTHORITY_EXCEEDED.

Në konsolë

Në Enterprise, grupi mbahet në centralin e AI, poshtë motorëve. Në Community, të njëjtat çelësa mbahen te Cilësimet, Modelet e AI. Ajo faqe është ruteri bazë, ku ju shtoni çelësat dhe adresën e një modeli lokal dhe zgjidhni se cili model bën cilën punë. Të dyja shfaqin çdo çelës sipas personit që e ka vendosur dhe kur ("Vendosur nga Aoife, 3 Shtator") dhe me një tregues të maskuar të katër karaktereve të tij të fundit e shumta, siç është ••••7f2q. Vetë çelësi nuk shfaqet kurrë më pasi e shtoni.

Centrali i AI-së
Centrali i AI-së
Centrali i AI rendit çdo ofrues bashkë me personin që ka vendosur çelësin e tij dhe punët që ai kryen. Një çelës është në pushim pas dështimeve, një tjetër është fikur, dhe faqja tregon se ku mund të shkojnë të dhënat.
Modelet e AI
Modelet e AI
Ruteri bazë në Community: një çelës organizate, një model lokal në makinën e vetë organizatës, dhe cili model bën cilën punë.

Përmes API të BFF

Backend-i për frontend (BFF) i konsolës shërben tre rrugë për grupin. Thërritini ato me tokenin e aksesit të vetë personit: organizata merret nga tokeni, kurrë nga kërkesa.

GET  /api/v1/ai-providers
POST /api/v1/ai-providers/keys
POST /api/v1/ai-providers/keys/<key-id>/withdraw

GET kthen si përgjigje ofruesit në grup, nëse secili mund të përgjigjet, çdo çelës sipas treguesit të tij, dhe ofruesit për të cilët mund të shtohet një çelës. Shtimi i një çelësi kërkon një trup JSON me dy fusha të detyrueshme dhe një opsionale:

{ "provider": "gemini", "api_key": "<the provider's key>", "label": "Overflow, EU" }

Çelësi udhëton vetëm një herë. nexus-auth e enkripton atë dhe njofton ruterin, ndërsa përgjigjja përmban vetëm treguesin. Përgjigjja është 201 me ID-në e çelësit të ri dhe rreshtin e tij: "U shtua. Çelësi Google Gemini ••••7f2q është në grupin e AI të organizatës, dhe AI Provider Router mund të drejtojë trafikun drejt tij tani." Një etiketë ka të shumtën 100 karaktere, dhe një çelës është një varg i vetëm pa hapësira me të shumtën 4,096 karaktere. Çdo fushë tjetër në trup, ose një fushë që emërton një organizatë apo një person, refuzohet.

Tërheqja kërkon një trup bosh. Ruteri ndalon menjëherë drejtimin e trafikut te çelësi, dhe nexus-auth e ruan atë, të renditur si të tërhequr, në mënyrë që historiku i tij të mbetet. Asgjë në grup nuk fshihet kurrë.

Refuzimi HTTP Kur
VALIDATION_FAILED 400 Një trup që nuk është {provider, api_key, label?}, një ofrues i panjohur, ose abonimi personal i dikujt i ofruar si çelës organizate
AUTHORITY_EXCEEDED 403 Thirrësi nuk është pronar ose administrator i organizatës
RECORD_NOT_FOUND 404 Asnjë çelës me atë ID nuk ndodhet në grupin e organizatës
TRANSITION_NOT_PERMITTED 409 Çelësi është tërhequr tashmë
TENANT_NOT_A_PARAMETER 403 Trupi ose pyetësori (query) emërtoi një organizatë

Gjendjet e çelësave

Çdo çelës në grup është në njërën nga gjashtë gjendjet. Vetëm një çelës në përdorim i përgjigjet një bisede.

Gjendja Çfarë do të thotë
in_use Çelësi përgjigjet, deri në datën e tij të skadimit nëse ka një të tillë.
resting Ruteri e ka lënë në pushim pas dështimeve, deri në një kohë të caktuar. Ndërkohë, kërkesat shkojnë te çelësi tjetër.
exhausted Ai e ka ezauruar kufirin e tij te ofruesi.
invalid Ofruesi nuk e pranon më atë.
expired Ai ka skaduar në datën e tij të skadimit.
withdrawn Një administrator e ka tërhequr atë. Ai mbetet i renditur si historik.

Një çelës që dështon pushon për 60 sekonda. Pas 5 dështimeve radhazi, ruteri e fik atë, ia kalon pjesën e tij çelësave të tjerë dhe regjistron njoftimin PROVIDER_KEY_SWITCHED_OFF. Askush nuk refuzohet për sa kohë që një çelës tjetër mund të përgjigjet.

Kur një ofrues nuk ka asnjë çelës në përdorim, grupi tregon pse ("Asnjë çelës në përdorim: 1 i tërhequr, 1 i skaduar"). Kur asnjë ofrues në grup nuk ka një çelës në përdorim, një bisedë refuzohet me NO_PROVIDER_FOR_ROLE (422) dhe zgjidhjen: një pronar ose administrator shton një çelës organizate. Kjo është një gjendje konfigurimi dhe qëndron në ekran derisa dikush ta rregullojë.

Rolet, politikat dhe dëshirat

Ruteri mendon sipas roleve. Çdo kërkesë është për njërën nga pesë: default, fast, reasoning, code ose long_context. Çdo model është gjithashtu në një nivel, frontier, standard ose fast, dhe një nivel më i lartë preferohet kur roli e lejon atë. Organizata vendos se cili ofrues i shërben çdo roli (caktimet e roleve të saj) dhe renditjen e rezervimit kur një ofrues dështon (shkalla e saj e politikës së rrugëzimit). Administratorët i vendosin të dyja në centralin e AI. nexus-auth gjithashtu i shërben ato në /auth/org/<organisation-id>/settings/ai-provider/role-assignments dhe /auth/org/<organisation-id>/settings/ai-provider/routing-policy për një çelës administratori që mban ai_provider:manage.

Thirrësit mund të thonë se çfarë do të dëshironin. Një rresht aftësie mund të mbajë një ofrues të preferuar dhe një model të preferuar, plus një profil aftësish. Ruteri e trajton secilin ndryshe:

  • Një ofrues i preferuar respektohet vetëm kur organizata e ka të aktivizuar atë ofrues dhe ka një çelës për të. Përndryshe, ruteri e zëvendëson.
  • Një model i preferuar respektohet kur ai ndodhet në katalogun e atij ofruesi dhe i përshtatet profilit.
  • Një profil aftësish është një filtër që nuk përzgjedh kurrë. Ai mund të kërkojë një dritare minimale konteksti, përdorim mjetesh, shikim (vision), përfshirje vektoriale (embeddings), kontekst të gjatë ose një rezidencë të të dhënave. Çdo gjë që nuk e kalon atë nuk është e kualifikuar.

Ruteri zgjedh sipas një rendi të fiksuar. Ai e respekton dëshirën kur mundet, pastaj provon një model tjetër të të njëjtit ofrues, pastaj caktimin e rolit dhe çdo ofrues tjetër me një çelës katalogu i të cilit përshtatet. Nëse është dhënë një profil dhe asnjë katalog nuk i përshtatet atij, kërkesa refuzohet me MODEL_CAPABILITY_UNAVAILABLE (422). Nëse asgjë nuk është caktuar dhe asgjë nuk përputhet, kthehet NO_PROVIDER_FOR_ROLE (422). Nuk ka asnjë model të parazgjedhur të mundësisë së fundit. Një rol që nuk e keni konfiguruar dështon hapur, me fjalët e vetë ruterit që tregojnë se çfarë duhet të vendosni.

Rezidenca e të dhënave është e vetmja kufizim që nuk mund të anashkalohet me zëvendësim. Një profil me eu_only shërbehet nga një ofrues i BE-së ose refuzohet. Harrow e vendos këtë bllokim për të gjithë organizatën, dhe centrali e paraqet si të fikur ofruesin e dytë të hostuar, i cili ndodhet në një rajon të SHBA-së.

Një aftësi mund të fiksojë gjithashtu një model të saktë kur aftësia ka nevojë për atë model për të funksionuar. Edhe atëherë, ruteri përdor çelësin e vetë organizatës për të, dhe pa një të tillë asgjë nuk përgjigjet. Një thirrës nuk mund ta detyrojë kurrë Nexus të përdorë një ofrues që organizata nuk e ka konfiguruar.

Pasi zgjidhet një ofrues, kalimi në rezervë (failover) është një çështje më vete. Një gabim 429, 5xx ose një dështim rrjeti e zbret kërkesën poshtë shkallës te ofruesi tjetër. Një gabim 400, 401, 403 ose 404 ndalon menjëherë, sepse kredencialet dhe format e kërkesave nuk barten midis ofruesve dhe një riprovim do të digjte kuotën për të arritur në të njëjtin dështim.

Për të parë se çfarë do të zgjidhte ruteri para se dikush të bëjë një pyetje, lexoni GET /api/ai/routing-policy/effective në portë me tokenin e vetë personit. Ajo kthen si përgjigje modelin për organizatën e identifikuar, ose refuzimin me fjalë të ruterit kur nuk ka asnjë, dhe nuk dërgon asnjë kërkesë te ndonjë model.

Vëzhgimi i rrugëzuesit

Shiriti i të dhënave në fund të çdo faqeje tregon modelin në përdorim ("Modeli: lokal"). Në Enterprise, Centrali i AI, drejtpërdrejt vizaton trafikun e ruterit ndërsa ai ndodh: kërkesat nga asistenti, punët dhe aplikacionet që rrjedhin përmes roleve drejt ofruesve dhe çelësave, një çelës në pushimin e tij 60-sekondësh të vizatuar me ngjyrë gri, një çelës të fikur të vizatuar me të kuqe, dhe një kalim në rezervë te ofruesi i hostuar kur modeli lokal është i zënë. Krahas rrjedhës, ai paraqet në grafik ngarkesën për ofrues, kërkesat për sekondë dhe kohën e pritjes. Tomás e mban atë hapur gjatë javës së parë pas çdo ndryshimi në politikën e rrugëzimit, sepse një caktim i gabuar i rolit shfaqet atje brenda pak minutash si trafik që shkon diku ku askush nuk e kishte synuar.

Në Community, faqja Modelet e AI ka një buton Testo çdo model që kontrollon çdo model të konfiguruar dhe shënon nëse ai përgjigjet. Është mënyra më e shpejtë për të vërtetuar se një çelës i ri funksionon para se dikush të mbështetet tek ai.

Centrali i AI, drejtpërdrejt
Centrali i AI, drejtpërdrejt
Ruteri drejtpërdrejt. Trafiku rrjedh nga asistenti dhe punët përmes roleve drejt një modeli lokal dhe çelësave të hostuar; një çelës është në pushim, një është i fikur, dhe pikat e arta tregojnë një kalim në rezervë ndërsa modeli lokal është i zënë.

Embeddings

Kërkimi dhe grafiku i njohurive e kthejnë tekstin në vektorë. Si parazgjedhje, instalimi e bën këtë me një model të përfshirjes vektoriale (embedding) që ekzekutohet brenda klasterit në procesor, kështu që asnjë tekst nuk del nga lokacioni për t'u kthyer në vektorë dhe një organizatë nuk ka nevojë për çelës për të. Përdorimi i një ofruesi të hostuar për përfshirjet vektoriale është një zgjedhje që bën organizata; më pas ai kalon përmes të njëjtit grup dhe të njëjtave rregulla.

Vetëm tre shërbime mund t'i kërkojnë ruterit përfshirje vektoriale ose rirenditje: nexus-graphrag, nexus-skills-engine dhe nexus-workflows. GraphRAG kryen përfshirjen vektoriale si organizata së cilës i përket përmbajtja, me cilësimet e asaj organizate, dhe nuk mban asnjë çelës ofruesi të vetin. Kur një organizatë ndryshon modelin e saj të përfshirjes vektoriale, nexus-workflows ekzekuton punën e ripërfshirjes vektoriale për depot e asaj organizate.

Kredencialet për person mbeten personale

Disa kredenciale i përkasin një personi të vetëm. Një abonim Claude Max, i identifikuar përmes llogarisë personale të atij personi, është rasti i zakonshëm. Një kredencial i tillë nuk është kurrë çelës organizate: grupi e refuzon atë me VALIDATION_FAILED, nuk renditet kurrë në tabelën e çelësave të organizatës, dhe asnjë ekran i një personi tjetër nuk e shfaq atë.

Çelësat e modeleve gjithashtu nuk shkojnë kurrë askund tjetër. Faqja Çelësat e të dhënave të jashtme, e cila mban çelësat për burimet e jashtme të të dhënave, refuzon çdo gjë që duket si çelës modeli i AI me AI_PROVIDER_KEYS_BELONG_TO_ORG_POOL (422). Nëse lexuesi i skedarëve gjen çelësa modelesh brenda një dokumenti ose konfigurimi ku nuk u takon të jenë, ai regjistron CREDENTIALS_IN_WRONG_PLACE dhe një administrator i heq dhe i zëvendëson ato.

Skriptet, REST dhe MCP

Nexus ka tre hoste publike. Në Harrow ato janë console.harrow.example për konsolën, api.harrow.example për portën dhe auth.harrow.example për identifikimin. Skriptet dhe mjetet përdorin të dytin dhe të tretin.

Çelësat për skriptet

Një skript identifikohet me një çelës të krijuar te Cilësimet, Çelësat për skriptet. Çdo çelës ka një emër, një shtrirje veprimi (për shembull, "Vetëm nisja e numërimit të kantierit me dron"), personin që e ka krijuar dhe një datë përfundimi; një organizatë mund të bllokojë jetëgjatësinë maksimale që mund të ketë një çelës. Sekreti shfaqet një herë kur krijohet çelësi. Kopjojeni atë në depon e sekreteve të skriptit, sepse Nexus ruan vetëm katër karakteret e tij të fundit. Një çelës tërhiqet, nuk hiqet kurrë: ai ndalon menjëherë dhe mbetet i renditur me çdo thirrje që ka bërë. Rrotullimi i jep çelësit një sekret të ri dhe e shfaq atë një herë.

Çdo çelës ka faqen e vet me thirrjet në ditë, thirrjet sipas shërbimit dhe një regjistër aktiviteti me kohën, adresën, shërbimin dhe rezultatin. Një thirrje jashtë shtrirjes së veprimit të çelësit refuzohet dhe shfaqet në regjistër.

nexus-auth i shërben të njëjtat çelësa një personi të identifikuar në https://auth.harrow.example/api-keys: krijoni dhe renditni, pastaj lexoni, ndryshoni, revokoni ose rrotulloni një çelës sipas ID-së së tij.

Një çelës për skriptet
Një çelës për skriptet
Një çelës për skriptet. Faqja tregon shtrirjen e veprimit të çelësit, kush e ka krijuar, datën e tij të përfundimit, thirrjet sipas ditës dhe sipas shërbimit, dhe rezultatin e çdo thirrjeje; sekreti përfundon me …7QK2 dhe nuk shfaqet kurrë më.

REST përmes portës

Dërgoni thirrjet REST te https://api.harrow.example me Authorization: Bearer <token-or-key>. Çdo çelës duhet t'i përkasë një organizate. Një çelës pa organizatë refuzohet me TOKEN_ORG_MISSING (403) nga çdo shërbim që kontrollon çelësat përmes nexus-auth.

Një thirrësi që kërkon shumë shpesh i kthehet përgjigje 429 me RATE_LIMITED, një kokë (header) Retry-After, si dhe kufiri dhe dritarja kohore në trup. Prisni numrin e sekondave që ajo tregon. Në Enterprise, administratorët vendosin kufij për çelës, për aplikacion dhe për njësi te Cilësimet, Kufijtë e shpejtësisë (shihni kapitullin 2.16, Siguria dhe rrjetëzimi).

MCP për mjetet e AI

Mjetet e AI që komunikojnë me Model Context Protocol lidhen me https://api.harrow.example/mcp. Ato identifikohen përmes serverit OAuth 2.1 (OAuth është standardi i hapur për autorizimin e deleguar) në https://auth.harrow.example, i cili mbështet regjistrimin e klientit nga vetë mjeti, kështu që një mjet si Claude Code ose Cursor regjistrohet vetë dhe hap shfletuesin e personit për t'u identifikuar. Më pas, lidhja vepron për atë person të vetëm, me të drejtat e atij personi dhe asgjë më shumë. Një person i identifikuar mund të marrë një konfigurim të gatshëm për një mjet të rreshtit të komandës nga https://auth.harrow.example/api/v1/mcp/cli-config.

Thirrjet e mjeteve që kanë nevojë për një model kalojnë përmes ruterit si çdo gjë tjetër, nën organizatën e personit.