Logi sisseBroneerige tutvustus
Tehisaru kommutaator

Iga mudelipäring suunatakse sinna, kuhu lubate.

Nexus-põhised platvormid ei pöördu kunagi otse mudeli poole. Nad esitavad päringu kommutaatorile. See valib ülesandele sobiva mudeli, suunab päringu teie reeglitega lubatud asukohta ja arvestab kulu vastutavale eelarvele.

Teie enda mudelid või heakskiidetud majutatud mudelidTeie lubatud piirkondadesMõõdab kasutust, ei loe kunagi sisu
nexus · alustaristu · tehisaru kommutaatorNäidisandmed
Kommutaator töös. Päringud neljalt platvormilt, igaüks suunatud lubatud mudelile.Näidisandmed
Kuidas see suunab

Üks küsimus. Neli otsust millisekunditega.

Enne päringu väljumist lisab platvorm sellele sildi: milline üksus küsib, mis rollis ja kui tundlikud on andmed. Kommutaator suunab päringu selle sildi alusel ega ava kunagi päringu sisu. Kui esimene valik on hõivatud või maas, võtab töö üle järgmine lubatud mudel.

01

Ülesanne

Skannitud vormi lugemine, kirja koostamine ja otsuse kontrollimine vajavad erinevaid mudeleid. Iga rakendus määrab, mis tüüpi ülesandega on tegu.

02

Andmed

Isiku- või salajased andmed saab hoida teie enda riistvaral töötavates mudelites. Avalike andmete puhul võib lubada enamat.

03

Asukoht

Päringud liiguvad ainult üksuse lubatud piirkondadesse ja teenusepakkujatele. Lubamatust piirkonnast väljuv päring tõrjutakse ja keeldumine logitakse.

04

Varuvariant

Kui mudel on aeglane või maas, vastab järgmine lubatud mudel. Keegi ei pea ootama ja ühtegi reeglit ei rikuta.

nexus · backplane · the AI switchboard, liveNäidisandmed
AI kommutaator reaalajas, päringud platvormi ja mudeli kaupa
Reaalajas. Kõigi platvormide päringud, vastanud mudel ja kulunud aeg.Näidisandmed
Kuhu päringud võivad liikuda

Teie reeglid määravad, kuhu päring võib liikuda.

Määrake reeglid kogu organisatsioonile ja täpsustage neid seejärel üksuse või platvormi kaupa. Kaitseüksuse võib piirata oma riistvaral töötavate mudelitega, samal ajal kui turundustiim kasutab EL-is majutatud mudelit.

  • Esmajoones teie enda mudelid teie enda GPU-del
  • Teie heakskiidetud majutatud mudelid piirkondade kaupa
  • Üksuse, platvormi ja andmetüübi põhiselt
  • Iga tõrjutud päring kantakse logisse
nexus · seaded · lubatud väljuvad ühendusedNäidisandmed
Seaded selle kohta, kuhu AI-päringud võivad liikuda, piirkonna ja teenusepakkuja kaupa
Kuhu päringud võivad liikuda. Lubatud asukohad, määratud üksuse ja andmetüübi kaupa.Näidisandmed
Arvestatud

Iga päring arvestatakse kindla omanikuga eelarvest.

Kasutust mõõdetakse inimese, tiimi, rakenduse ja päeva lõikes. Igal eelarvel on kindel vastutaja ja limiit ning finantsosakond näeb ühte koondarvet. Me mõõdame kasutust. Me ei loe kunagi sisu.

  • Eelarved

    Üksuse ja rakenduse kaupa, koos limiidieelse hoiatuse ja limiidi tõstmise õigust omava isikuga.

  • Üks arve

    Kõik mudelid – nii majutatud kui ka teie enda omad – ühel finantsosakonnale arusaadaval väljavõttel.

  • Milline mudel mida teenindab

    Vaadake, milline mudel või oskus igale rakendusele vastab, ja muutke seda ühest kohast.

nexus · skills · which model serves each appNäidisandmed
Milline mudel või oskus teenindab iga rakendust, üksuste kaupa
Milline mudel rakendust teenindab. Muutke üks kord, kõik platvormid järgivad.Näidisandmed
Suures mahus

Ühest tiimist iga üksuseni.

Kasutuse kasvades jaotab kommutaator päringud teie mudelite koopiate vahel, puhverdab korduvad päringud ja tagab igale üksusele õiglase ressursiosa, et üks suure koormusega tiim ei aeglustaks teisi.

nexus · settings · AI at scaleNäidisandmed
Seaded AI käitamiseks suures mahus: koopiad, ressursijaotus ja vahemälu
AI suures mahus. Koopiad, ressursijaotus ja vahemälu üksuste kaupa.Näidisandmed
nexus · engines · the AI switchboardNäidisandmed
AI kommutaatori mootor koos suunamiste ja limiitidega
Kommutaatori mootor. Suunamised, limiidid ja töökindlus ühes vaates.Näidisandmed
Küsimused

Mida kommutaatori kohta küsitakse.

Kas saame kasutada oma mudeleid?

Jah. Ühendage mudelid, mis töötavad teie enda riistvaral või teie pilvekontol. Kommutaator koheldab neid nagu kõiki teisi mudeleid ning te saate muuta nende kasutamise teatud andmetüüpide puhul kohustuslikuks.

Kas Adverant näeb, mida meie inimesed küsivad?

Ei. Kommutaator loendab päringuid ning mõõdab aega ja kulu. See ei salvesta ega loe küsimuste ega vastuste sisu.

Mis juhtub, kui teenusepakkuja on maas?

Päringu võtab üle järgmine lubatud mudel. Kui ühtegi lubatud mudelit pole saadaval, jääb päring ootele või ebaõnnestub selge veateatega. Päringut ei suunata kunagi kohta, mille teie reeglid keelavad.

Kas saame igale üksusele määrata erinevad reeglid?

Jah. Reeglid algavad organisatsiooni tasemelt ning neid saab iga üksuse, platvormi ja andmetüübi jaoks kitsendada. Üksuse reeglid ei saa kunagi olla leebemad kui organisatsiooni omad.

Broneerige tutvustus

Hallake kõiki oma mudeleid ühe kommutaatori taga.

Öelge meile, milliseid mudeleid täna kasutate ja kus teie andmed peavad asuma. Näitame teile sobivaid suunamisreegleid.