Každé volání modelu je směrováno tam, kam povolíte.
Platformy na systému Nexus nikdy nevolají modely napřímo. Dotazují se ústředny. Ta vybere model vhodný pro daný úkol, odešle požadavek do lokality, kterou vaše pravidla povolují, a započítá jej do rozpočtu s konkrétním vlastníkem.
Jeden dotaz. Čtyři rozhodnutí v milisekundách.
Než volání odejde, platforma jej označí štítkem: který útvar se ptá, v jaké roli a jak citlivá jsou data. Ústředna směruje požadavek podle tohoto štítku a samotné volání nikdy neotevírá. Pokud je první volba vytížená nebo nedostupná, přebírá úkol další povolený model v pořadí.
Úkol
Čtení naskenovaného formuláře, návrh dopisu a kontrola rozhodnutí vyžadují různé modely. Každá aplikace určí, o jaký typ úkolu jde.
Data
Osobní nebo utajovaná data lze omezit pouze na vaše vlastní modely na vašem hardwaru. Veřejná data mohou využívat širší škálu modelů.
Lokalita
Volání odchází pouze do regionů a k poskytovatelům, které daný útvar povoluje. Volání mimo povolený okruh je zamítnuto a toto zamítnutí je zaznamenáno.
Záloha
Pokud je model pomalý nebo nedostupný, odpoví další povolený model. Nikdo nečeká a kvůli výsledku se neporuší žádné pravidlo.
Vaše pravidla rozhodují, kam smí volání odejít.
Nastavte pravidla jednou pro celou organizaci a poté je zpřesněte pro konkrétní útvar nebo platformu. Obranný útvar tak může být omezen na modely na vlastním hardwaru, zatímco marketingový tým využívá hostovaný model v EU.
- Na prvním místě vaše vlastní modely na vašich GPU
- Vámi schválené hostované modely, podle regionu
- Podle útvaru, platformy a typu dat
- Každé zamítnuté volání zapsané v záznamu
Každé volání se započítává do rozpočtu, za který někdo zodpovídá.
Využití se počítá podle osoby, týmu, aplikace a dne. Každý rozpočet má jmenovitého vlastníka a svůj limit. Finanční oddělení pak vidí jedno souhrnné vyúčtování. Počítáme využití. Nikdy nečteme obsah.
- Rozpočty
Podle útvaru a aplikace, s upozorněním před vyčerpáním limitu a osobou oprávněnou limit navýšit.
- Jedno vyúčtování
Každý model, hostovaný i váš vlastní, na jednom přehledu pro finanční oddělení.
- Který model obsluhuje co
Podívejte se, který model nebo dovednost odpovídá jednotlivým aplikacím, a měňte nastavení na jednom místě.
Od jednoho týmu po každý útvar.
Jak využití roste, ústředna rozkládá volání mezi kopie vašich modelů, ukládá do mezipaměti to, co lze, a hlídá spravedlivý podíl kapacity pro každý útvar, aby jeden vytížený tým nezpomalil všechny ostatní.
Na co se lidé u ústředny ptají.
Můžeme používat vlastní modely?
Ano. Připojte modely běžící na vašem vlastním hardwaru nebo ve vašem cloudovém účtu. Ústředna s nimi pracuje jako s jakýmkoli jiným modelem a pro některé typy dat můžete jejich použití vyžadovat.
Vidí Adverant, na co se naši lidé ptají?
Ne. Ústředna počítá volání a měří čas a náklady. Neukládá ani nečte obsah dotazů ani odpovědí.
Co se stane při výpadku poskytovatele?
Volání převezme další povolený model. Pokud žádný povolený model není k dispozici, volání počká nebo skončí chybou s jasným odůvodněním. Nikdy ale neodejde tam, kam to vaše pravidla zakazují.
Můžeme nastavit různá pravidla pro každý útvar?
Ano. Pravidla vycházejí z úrovně celé organizace a lze je zúžit pro každý útvar, platformu a typ dat. Pravidla útvaru však nikdy nemohou být mírnější než pravidla organizace.
Více do hloubky
Podívejte se na své modely za jednou ústřednou.
Řekněte nám, které modely dnes používáte a kde musí vaše data zůstat. Ukážeme vám pravidla směrování, která tomu odpovídají.