BejelentkezésBemutató kérése
Az AI-kapcsolóközpont

Minden modellhívás oda irányítva, ahová Ön engedélyezi.

A Nexuson futó platformok soha nem hívnak meg közvetlenül egy modellt. A kapcsolóközponthoz fordulnak. Az kiválasztja a feladathoz illő modellt, a szabályai által engedélyezett helyre küldi a hívást, és elszámolja azt egy felelős által kezelt költségkeret terhére.

Saját vagy jóváhagyott hosztolt modellekAz Ön által engedélyezett régiókbanA használatot méri, a tartalmat soha nem olvassa
nexus · gerinchálózat · az AI-kapcsolóközpontMintaadatok
A kapcsolóközpont működés közben. Hívások négy platformról, mindegyik egy engedélyezett modellhez küldve.Mintaadatok
Az irányítás menete

Egy kérdés. Négy döntés, ezredmásodpercek alatt.

Mielőtt egy hívás kimegy, a platform felcímkézi: melyik egység kérdez, milyen szerepkörben, és mennyire érzékeny az adat. A kapcsolóközpont e címke alapján irányít, és magát a hívást soha nem nyitja meg. Ha az első választás foglalt vagy nem elérhető, a következő engedélyezett opció veszi át a helyét.

01

A feladat

Egy szkennelt űrlap beolvasása, egy levél megfogalmazása és egy döntés ellenőrzése különböző modelleket igényel. Minden alkalmazás megadja, milyen jellegű feladatról van szó.

02

Az adat

A személyes vagy titkos adatok korlátozhatók a saját hardverén futó saját modellekre. A nyilvános adatok több lehetőséget használhatnak.

03

A hely

A hívások csak az egység által engedélyezett régiókba és szolgáltatókhoz mehetnek. A rendszer megtagadja az olyan hívást, amely elhagyná ezt a kört, és az elutasítást naplózza.

04

A tartalék megoldás

Ha egy modell lassú vagy nem elérhető, a következő engedélyezett modell válaszol. Senki sem várakozik, és egyetlen szabály sem sérül közben.

nexus · backplane · az MI-kapcsolóközpont, élőbenMintaadatok
Az MI-kapcsolóközpont élőben, a hívásokkal platformonként és modellenként
Élőben. Minden platform hívásai, melyik modell válaszolt, és mennyi ideig tartott.Mintaadatok
Hová mehetnek a hívások

Az Ön szabályai döntik el, hová mehet ki egy hívás.

Állítsa be egyszer a szervezet számára, majd szűkítse le egy egységre vagy platformra. Egy védelmi egység korlátozható a saját hardverén futó modellekre, míg a marketingcsapat egy EU-ban hosztolt modellt használ.

  • Elsőként a saját modellek, a saját GPU-kon
  • Az Ön által jóváhagyott hosztolt modellek, régiónként
  • Egységenként, platformonként és adattípusonként
  • Minden elutasított hívás bekerül a nyilvántartásba
nexus · beállítások · kimenő hívások célhelyeiMintaadatok
Beállítások arra vonatkozóan, hogy hová mehetnek ki az MI-hívások, régiónként és szolgáltatónként
Hová mehetnek ki a hívások. Engedélyezett helyek, egységenként és adattípusonként beállítva.Mintaadatok
Elszámolva

Minden hívás egy felelős által kezelt költségkeretet terhel.

A használatot személyenként, csapatonként, alkalmazásonként és naponként mérjük. Minden költségkeretnek van megnevezett felelőse és limitje, a pénzügy pedig egyetlen számlát lát. Mi a használatot mérjük. A tartalmat soha nem olvassuk.

  • Költségkeretek

    Egységenként és alkalmazásonként, a limit elérése előtti figyelmeztetéssel, valamint egy személlyel, aki megemelheti azt.

  • Egyetlen számla

    Minden modell – akár hosztolt, akár saját – egyetlen kimutatáson, amelyet a pénzügy könnyen nyomon követhet.

  • Melyik modell mit szolgál ki

    Nézze meg, melyik modell vagy képesség válaszol az egyes alkalmazásoknak, és módosítsa egyetlen helyen.

nexus · skills · melyik modell szolgálja ki az egyes alkalmazásokatMintaadatok
Melyik modell vagy képesség szolgálja ki az egyes alkalmazásokat, egységenként
Melyik modell szolgálja ki az egyes alkalmazásokat. Módosítsa egyszer, és minden platform követi.Mintaadatok
Nagy léptékben

Egyetlen csapattól minden egységig.

A használat növekedésével a kapcsolóközpont elosztja a hívásokat a modelljei példányai között, gyorsítótárazza, amit lehet, és arányos részesedést biztosít minden egységnek, így egyetlen leterhelt csapat sem lassíthatja le a többieket.

nexus · settings · MI nagy léptékbenMintaadatok
Beállítások az MI nagy léptékű futtatásához: példányok, megosztás és gyorsítótárazás
MI nagy léptékben. Példányok, arányos részesedés és gyorsítótárazás egységenként.Mintaadatok
nexus · engines · az MI-kapcsolóközpontMintaadatok
Az MI-kapcsolóközpont motorja az útvonalaival és a limitekkel
A kapcsolóközpont motorja. Útvonalak, limitek és állapot egyetlen nézetben.Mintaadatok
Kérdések

Amit a kapcsolóközpontról kérdezni szoktak.

Használhatjuk a saját modelljeinket?

Igen. Csatlakoztassa a saját hardverén vagy a saját felhőfiókjában futó modelleket. A kapcsolóközpont úgy kezeli őket, mint bármely más modellt, és bizonyos adattípusokhoz kötelezővé is teheti a használatukat.

Látja az Adverant, hogy mit kérdeznek a munkatársaink?

Nem. A kapcsolóközpont számolja a hívásokat, valamint méri az időt és a költséget. Nem tárolja és nem olvassa el sem a kérdések, sem a válaszok tartalmát.

Mi történik, ha egy szolgáltató nem elérhető?

A következő engedélyezett modell veszi át a hívást. Ha nem érhető el engedélyezett modell, a hívás várakozik, vagy egyértelmű indoklással meghiúsul. Soha nem kerül olyan helyre, amelyet a szabályai tiltanak.

Beállíthatunk eltérő szabályokat az egyes egységeknek?

Igen. A szabályok szervezeti szinten indulnak, és szűkíthetők az egyes egységekre, platformokra és adattípusokra. Egy egység szabályozása soha nem lehet megengedőbb a szervezeténél.

Bemutató kérése

Lássa a modelljeit egyetlen kapcsolóközpont mögött.

Mondja el, milyen modelleket használ ma, és hol kell maradniuk az adatainak. Megmutatjuk az ehhez illeszkedő irányítási szabályokat.