Elke modelaanroep, gerouteerd naar waar u toestaat.
Platforms op Nexus roepen een model nooit rechtstreeks aan. Ze vragen het aan de schakelcentrale. Die kiest het model dat bij de taak past, stuurt de aanroep naar een locatie die uw regels toestaan en boekt dit af van een budget met een vaste eigenaar.
Eén vraag. Vier beslissingen, in milliseconden.
Voordat een aanroep vertrekt, voorziet het platform deze van een label: welke afdeling vraagt het aan, voor welke rol en hoe gevoelig is de data. De schakelcentrale routeert op basis van dat label en opent nooit de aanroep zelf. Als de eerste keuze bezet of onbereikbaar is, neemt de volgende toegestane keuze het over.
De taak
Een gescand formulier lezen, een brief opstellen en een besluit controleren vragen om verschillende modellen. Elke app geeft aan om wat voor taak het gaat.
De data
Persoonsgegevens of geheime data kunnen worden beperkt tot uw eigen modellen op uw eigen hardware. Openbare data mag meer gebruiken.
De locatie
Aanroepen gaan alleen naar regio's en providers die de afdeling toestaat. Een aanroep die buiten dat kader valt, wordt geweigerd en die weigering wordt vastgelegd.
De terugvaloptie
Als een model traag of onbereikbaar is, antwoordt het eerstvolgende toegestane model. Niemand wacht, en er wordt geen enkele regel overtreden om dat te bereiken.
Uw regels bepalen waar een aanroep naartoe mag.
Stel het één keer in voor de hele organisatie en verfijn het daarna per afdeling of platform. Een defensie-afdeling kan worden beperkt tot modellen op eigen hardware, terwijl het marketingteam een gehost model in de EU gebruikt.
- Eerst uw eigen modellen op uw eigen GPU's
- Goedgekeurde gehoste modellen, per regio
- Per afdeling, per platform en per type data
- Elke geweigerde aanroep vastgelegd in het register
Elke aanroep telt mee voor een budget met een eigenaar.
Het gebruik wordt geteld per persoon, team, app en dag. Elk budget heeft een aangewezen eigenaar en een limiet, en Finance ontvangt één factuur. Wij tellen het gebruik. Wij lezen nooit de inhoud.
- Budgetten
Per afdeling en per app, met een waarschuwing vóór de limiet wordt bereikt en een verantwoordelijke die deze kan verhogen.
- Één factuur
Elk model, gehost of in eigen beheer, op één overzicht dat Finance kan volgen.
- Welk model bedient wat
Zie welk model of welke vaardigheid elke app beantwoordt, en pas het op één plek aan.
Van één team naar elke afdeling.
Naarmate het gebruik groeit, verdeelt de schakelcentrale aanroepen over kopieën van uw modellen, plaatst in de cache wat mogelijk is en bewaakt een eerlijk aandeel voor elke afdeling, zodat één druk team de rest niet kan vertragen.
Wat mensen vragen over de schakelcentrale.
Kunnen we onze eigen modellen gebruiken?
Ja. Koppel modellen die draaien op uw eigen hardware of in uw eigen cloudaccount. De schakelcentrale behandelt ze zoals elk ander model, en u kunt ze verplicht stellen voor bepaalde soorten data.
Ziet Adverant wat onze mensen vragen?
Nee. De schakelcentrale telt aanroepen en meet doorlooptijd en kosten. De inhoud van een vraag of antwoord wordt niet opgeslagen of gelezen.
Wat gebeurt er als een provider een storing heeft?
Het eerstvolgende toegestane model neemt de aanroep over. Als er geen toegestaan model beschikbaar is, wacht de aanroep of stopt deze met een duidelijke foutmelding. Een aanroep gaat nooit naar een plek die uw regels verbieden.
Kunnen we voor elke afdeling andere regels instellen?
Ja. Regels beginnen op organisatieniveau en kunnen worden aangescherpt per afdeling, platform en type data. Een afdeling kan nooit soepelere regels hebben dan de organisatie.
Ga dieper
Zie uw modellen achter één schakelcentrale.
Vertel ons welke modellen u vandaag gebruikt en waar uw data moet blijven. Wij laten u de routeringsregels zien die daarbij passen.