Logg innBestill en gjennomgang
KI-sentralen

Hvert modellkall, rutet dit du tillater.

Plattformer på Nexus kaller aldri en modell direkte. De spør sentralbordet. Det velger modellen som passer til oppgaven, sender kallet til et sted reglene dine tillater, og fører det på et budsjett med en ansvarlig eier.

Dine egne modeller eller godkjente eksterneI de regionene du tillaterMåler bruk, leser aldri innhold
nexus · bakplan · KI-sentralenEksempeldata
Sentralbordet i arbeid. Kall fra fire plattformer, hvert av dem sendt til en tillatt modell.Eksempeldata
Slik rutes kall

Ett spørsmål. Fire beslutninger, på millisekunder.

Før et kall sendes ut, merkes det av plattformen: hvilken enhet som spør, for hvilken rolle og hvor sensitive dataene er. Sentralbordet ruter basert på denne merkingen og åpner aldri selve kallet. Hvis førstevalget er opptatt eller nede, tar det neste tillatte valget over.

01

Oppgaven

Å lese et skannet skjema, skrive et brev og kontrollere et vedtak krever ulike modeller. Hver app oppgir hva slags oppgave det gjelder.

02

Dataene

Personopplysninger eller hemmelige data kan begrenses til dine egne modeller på din egen maskinvare. Offentlige data kan bruke flere.

03

Stedet

Kall går kun til regioner og leverandører som enheten tillater. Et kall som ville gått utover dette, blir avvist, og avvisningen loggføres.

04

Reserveløsningen

Hvis en modell er treg eller nede, svarer den neste tillatte modellen. Ingen må vente, og ingen regler brytes underveis.

nexus · backplane · the AI switchboard, liveEksempeldata
AI-sentralbordet i sanntid, med kall per plattform og modell
Direkte. Hver plattforms kall, hvilken modell som svarte, og hvor lang tid det tok.Eksempeldata
Hvor kall kan gå

Dine regler avgjør hvor et kall kan sendes.

Sett reglene én gang for hele virksomheten, og stram dem deretter inn for en enhet eller en plattform. En forsvarsenhet kan begrenses til modeller på egen maskinvare, mens markedsføringsteamet bruker en ekstern modell i EU.

  • Dine egne modeller på dine egne GPU-er først
  • Eksterne modeller du har godkjent, etter region
  • Per enhet, per plattform og per datatype
  • Hvert avvist kall blir loggført
nexus · innstillinger · tillatte utgående kallEksempeldata
Innstillinger for hvor AI-kall kan sendes, etter region og leverandør
Hvor kall kan sendes. Tillatte steder, angitt per enhet og datatype.Eksempeldata
Telt

Hvert kall føres på et budsjett med en ansvarlig eier.

Bruk måles per person, team, app og dag. Hvert budsjett har en navngitt eier og en grense, og økonomiavdelingen får én samlet faktura. Vi måler bruk. Vi leser aldri innhold.

  • Budsjetter

    Per enhet og per app, med varsling før grensen nås og en ansvarlig som kan heve den.

  • Én faktura

    Hver modell, ekstern eller din egen, på én oversikt som økonomiavdelingen kan følge.

  • Hvilken modell som betjener hva

    Se hvilken modell eller ferdighet som svarer hver app, og endre det på ett sted.

nexus · skills · which model serves each appEksempeldata
Hvilken modell eller ferdighet som betjener hver app, etter enhet
Hvilken modell som betjener hver app. Endre det én gang, så følger alle plattformer etter.Eksempeldata
I stor skala

Fra ett team til hver enhet.

Når bruken øker, fordeler sentralbordet kall på tvers av kopier av modellene dine, mellomlagrer det som kan mellomlagres, og sikrer en rettferdig kvote for hver enhet, slik at ett travelt team ikke kan bremse alle andre.

nexus · settings · AI at scaleEksempeldata
Innstillinger for å kjøre AI i stor skala: kopier, deling og mellomlagring
AI i stor skala. Kopier, rettferdige kvoter og mellomlagring per enhet.Eksempeldata
nexus · engines · the AI switchboardEksempeldata
AI-sentralbordmotoren med ruter og grenser
Sentralbordmotoren. Ruter, grenser og helsestatus i én visning.Eksempeldata
Spørsmål

Hva folk spør om rundt sentralbordet.

Kan vi bruke våre egne modeller?

Ja. Koble til modeller som kjører på deres egen maskinvare eller i deres egen skykonto. Sentralbordet behandler dem som enhver annen modell, og dere kan kreve at de brukes for bestemte typer data.

Ser Adverant hva våre ansatte spør om?

Nei. Sentralbordet teller kall og måler tidsbruk og kostnader. Det verken lagrer eller leser innholdet i spørsmål eller svar.

Hva skjer når en leverandør er nede?

Den neste tillatte modellen tar over kallet. Hvis ingen tillatt modell er tilgjengelig, venter kallet eller avbrytes med en tydelig årsak. Det sendes aldri et sted reglene deres forbyr.

Kan vi sette ulike regler for hver enhet?

Ja. Reglene starter på virksomhetsnivå og kan strammes inn for hver enhet, plattform og datatype. En enhet kan aldri ha mindre strenge regler enn virksomheten.

Bestill en gjennomgang

Se modellene dine bak ett sentralbord.

Fortell oss hvilke modeller dere bruker i dag, og hvor dataene deres må bli værende. Vi viser dere rutingsreglene som passer.