PrijavaZakažite brifing
AI centrala

Svaki poziv ka modelu, usmeren tamo gde vi dozvolite.

Platforme na sistemu Nexus nikada ne pozivaju model direktno. One šalju zahtev centrali. Ona bira model koji odgovara zadatku, šalje poziv na lokaciju koju vaša pravila dozvoljavaju i knjiži ga na teret budžeta koji ima svog vlasnika.

Vaši modeli ili odobreni hostovani modeliU regionima koje vi dozvoliteMeri potrošnju, nikada ne čita sadržaj
nexus · magistrala · AI centralaPrimer podataka
Centrala na delu. Pozivi sa četiri platforme, svaki poslat dozvoljenom modelu.Primer podataka
Kako usmerava

Jedno pitanje. Četiri odluke, u milisekundama.

Pre nego što poziv krene, platforma mu dodeljuje oznaku: koja organizaciona jedinica pita, za koju ulogu i koliko su podaci osetljivi. Centrala usmerava poziv na osnovu te oznake i nikada ne otvara sam poziv. Ako je prvi izbor zauzet ili nedostupan, preuzima sledeći dozvoljeni izbor.

01

Zadatak

Čitanje skeniranog obrasca, sastavljanje dopisa i provera odluke zahtevaju različite modele. Svaka aplikacija navodi o kakvom je zadatku reč.

02

Podaci

Lični ili tajni podaci mogu se ograničiti na vaše sopstvene modele na vašem hardveru. Javni podaci mogu koristiti širi izbor.

03

Lokacija

Pozivi idu samo u regione i kod provajdera koje jedinica dozvoljava. Poziv koji bi izašao van tih okvira biva odbijen, a odbijanje se beleži.

04

Rezervna opcija

Ako je model spor ili nedostupan, odgovara sledeći dozvoljeni model. Niko ne čeka i nijedno pravilo se pri tome ne krši.

nexus · backplane · AI centrala, uživoPrimer podataka
AI centrala uživo, sa pozivima po platformi i modelu
Uživo. Pozivi sa svake platforme, koji model je odgovorio i koliko je trajalo.Primer podataka
Kuda pozivi mogu da idu

Vaša pravila odlučuju kuda poziv sme da ode.

Podesite pravila jednom za celu organizaciju, a zatim ih suzite za pojedinačnu jedinicu ili platformu. Jedinica za odbranu može biti ograničena na modele na sopstvenom hardveru, dok marketinški tim koristi hostovani model u EU.

  • Prvo vaši modeli na vašim GPU-ovima
  • Hostovani modeli koje ste odobrili, po regionu
  • Po jedinici, po platformi i po vrsti podataka
  • Svaki odbijeni poziv upisan u evidenciju
nexus · podešavanja · dozvoljena odredišta pozivaPrimer podataka
Podešavanja kuda AI pozivi smeju da idu, po regionu i provajderu
Kuda pozivi mogu da idu. Dozvoljene lokacije, podešene po jedinici i vrsti podataka.Primer podataka
Izbrojano

Svaki poziv se knjiži na teret budžeta koji ima vlasnika.

Potrošnja se meri po osobi, timu, aplikaciji i danu. Svaki budžet ima imenovanog vlasnika i limit, a finansije vide jedan račun. Mi merimo potrošnju. Nikada ne čitamo sadržaj.

  • Budžeti

    Po jedinici i po aplikaciji, uz upozorenje pre dostizanja limita i osobu ovlašćenu da ga poveća.

  • Jedan račun

    Svaki model, hostovani ili vaš sopstveni, na jednom izvodu koji finansije mogu lako da prate.

  • Koji model opslužuje šta

    Pogledajte koji model ili veština odgovara svakoj aplikaciji i promenite to na jednom mestu.

nexus · skills · koji model opslužuje svaku aplikacijuPrimer podataka
Koji model ili veština opslužuje svaku aplikaciju, po jedinici
Koji model opslužuje svaku aplikaciju. Promenite jednom, svaka platforma to prati.Primer podataka
U velikom obimu

Od jednog tima do svake jedinice.

Kako upotreba raste, centrala raspoređuje pozive na više kopija vaših modela, kešira ono što se može keširati i čuva pravičan udeo za svaku jedinicu, tako da jedan opterećen tim ne može da uspori sve ostale.

nexus · settings · AI u velikom obimuPrimer podataka
Podešavanja za rad AI-ja u velikom obimu: kopije, raspodela i keširanje
AI u velikom obimu. Kopije, pravična raspodela i keširanje po jedinici.Primer podataka
nexus · engines · AI centralaPrimer podataka
Pogon AI centrale sa njenim rutama i limitima
Pogon centrale. Rute, limiti i stanje sistema u jednom prikazu.Primer podataka
Pitanja

Šta nas pitaju o centrali.

Možemo li da koristimo sopstvene modele?

Da. Povežite modele koji rade na vašem hardveru ili u vašem cloud nalogu. Centrala ih tretira kao i svaki drugi model, a možete ih postaviti kao obavezne za određene vrste podataka.

Da li Adverant vidi šta naši ljudi pitaju?

Ne. Centrala broji pozive i meri vreme i trošak. Ne čuva niti čita sadržaj pitanja ili odgovora.

Šta se dešava kada je provajder nedostupan?

Poziv preuzima sledeći dozvoljeni model. Ako nijedan dozvoljeni model nije dostupan, poziv čeka ili se prekida uz jasan razlog. Nikada ne odlazi tamo gde vaša pravila zabranjuju.

Možemo li da postavimo različita pravila za svaku jedinicu?

Da. Pravila počinju na nivou organizacije i mogu se suziti za svaku jedinicu, platformu i vrstu podataka. Pravila jedinice nikada ne mogu biti blaža od pravila organizacije.

Zakažite brifing

Pogledajte svoje modele iza jedne centrale.

Recite nam koje modele danas koristite i gde vaši podaci moraju da ostanu. Pokazaćemo vam pravila usmeravanja koja tome odgovaraju.