Hvert modelkald, dirigeret derhen, hvor I tillader det.
Platforme på Nexus kalder aldrig en model direkte. De spørger omstillingen. Den vælger den model, der passer til opgaven, sender kaldet til et sted, jeres regler tillader, og tæller det mod et budget, nogen ejer.
Ét spørgsmål. Fire beslutninger, på millisekunder.
Før et kald sendes afsted, mærker platformen det: hvilken afdeling der spørger, i hvilken rolle, og hvor følsomme dataene er. Omstillingen dirigerer ud fra det mærke og åbner aldrig selve kaldet. Hvis førstevalget er optaget eller nede, tager det næste tilladte valg over.
Opgaven
At læse en scannet formular, skrive et udkast til et brev og kontrollere en afgørelse kræver forskellige modeller. Hver app angiver, hvilken type opgave der er tale om.
Dataene
Personfølsomme eller fortrolige data kan begrænses til jeres egne modeller på jeres egen hardware. Offentlige data kan bruge flere.
Stedet
Kald sendes kun til regioner og udbydere, som afdelingen tillader. Et kald, der ville forlade området, afvises, og afvisningen logges.
Reserven
Hvis en model er langsom eller nede, svarer den næste tilladte model. Ingen venter, og ingen regler brydes undervejs.
Jeres regler bestemmer, hvor et kald må sendes hen.
Indstil det én gang for organisationen, og indsnævr det derefter for en afdeling eller en platform. En forsvarsenhed kan begrænses til modeller på egen hardware, mens marketingteamet bruger en hostet model i EU.
- Jeres egne modeller på jeres egne GPU'er, først
- Hostede modeller I har godkendt, pr. region
- Pr. afdeling, pr. platform og pr. datatype
- Hvert afvist kald registreres i loggen
Hvert kald tæller mod et budget, nogen ejer.
Forbruget opgøres pr. person, team, app og dag. Hvert budget har en navngiven ejer og en grænse, og økonomiafdelingen ser én samlet regning. Vi måler forbrug. Vi læser aldrig indhold.
- Budgetter
Pr. afdeling og pr. app, med en advarsel før grænsen nås, og en person, der kan hæve den.
- Én regning
Hver model, hostet eller jeres egen, på én oversigt, som økonomiafdelingen kan følge.
- Hvilken model betjener hvad
Se, hvilken model eller færdighed der svarer hver app, og skift det ét sted.
Fra ét team til hver afdeling.
Når forbruget vokser, fordeler omstillingen kald på tværs af kopier af jeres modeller, cacher det, der kan caches, og sikrer en rimelig andel til hver afdeling, så ét travlt team ikke kan bremse alle andre.
Hvad folk spørger om vedrørende omstillingen.
Kan vi bruge vores egne modeller?
Ja. Tilslut modeller, der kører på jeres egen hardware eller i jeres egen cloud-konto. Omstillingen behandler dem som enhver anden model, og I kan kræve dem anvendt til bestemte typer data.
Kan Adverant se, hvad vores medarbejdere spørger om?
Nej. Omstillingen tæller kald og måler tid og omkostninger. Den hverken gemmer eller læser indholdet af et spørgsmål eller et svar.
Hvad sker der, når en udbyder er nede?
Den næste tilladte model overtager kaldet. Hvis ingen tilladt model er tilgængelig, venter kaldet eller fejler med en tydelig årsag. Det sendes aldrig et sted hen, som jeres regler forbyder.
Kan vi sætte forskellige regler for hver afdeling?
Ja. Reglerne starter på organisationsniveau og kan indsnævres for hver afdeling, platform og datatype. En afdeling kan aldrig have lempeligere regler end organisationen.
Gå i dybden
Se jeres modeller bag én samlet omstilling.
Fortæl os, hvilke modeller I bruger i dag, og hvor jeres data skal blive. Så viser vi de dirigeringsregler, der passer.