Zaloguj sięUmów spotkanie
Centrala AI

Każde wywołanie modelu trafia tylko tam, gdzie pozwalasz.

Platformy w Nexus nigdy nie wywołują modeli bezpośrednio. Zwracają się do centrali. Centrala dobiera model odpowiedni do zadania, kieruje wywołanie w miejsce dozwolone przez Twoje reguły i rozlicza je w ramach przypisanego budżetu.

Twoje własne modele lub zatwierdzone modele hostowaneW dozwolonych przez Ciebie regionachZlicza użycie, nigdy nie czyta treści
nexus · fundament · centrala AIPrzykładowe dane
Centrala w akcji. Wywołania z czterech platform, każde skierowane do dozwolonego modelu.Przykładowe dane
Jak działa routing

Jedno pytanie. Cztery decyzje w milisekundach.

Zanim wywołanie opuści platformę, otrzymuje etykietę: która jednostka pyta, w jakiej roli i jak wrażliwe są dane. Centrala kieruje ruch na podstawie tej etykiety i nigdy nie otwiera samego wywołania. Jeśli model pierwszego wyboru jest zajęty lub niedostępny, zadanie przejmuje kolejny dozwolony model.

01

Zadanie

Odczyt zeskanowanego formularza, zredagowanie pisma i weryfikacja decyzji wymagają różnych modeli. Każda aplikacja określa rodzaj zadania.

02

Dane

Dane osobowe lub tajne mogą być przetwarzane wyłącznie przez własne modele na własnym sprzęcie. Dane publiczne mogą korzystać z szerszego zakresu.

03

Miejsce

Wywołania trafiają wyłącznie do regionów i dostawców dozwolonych przez jednostkę. Wywołanie wykraczające poza te ramy zostaje odrzucone, a odmowa jest rejestrowana w dzienniku.

04

Tryb awaryjny

Jeśli model działa wolno lub jest niedostępny, odpowiada kolejny dozwolony model. Nikt nie czeka i żadna reguła nie zostaje złamana.

nexus · backplane · centrala AI na żywoPrzykładowe dane
Centrala AI na żywo, z wywołaniami według platformy i modelu
Na żywo. Wywołania z każdej platformy, model, który odpowiedział, oraz czas realizacji.Przykładowe dane
Dokąd trafiają wywołania

Twoje reguły decydują, dokąd może trafić wywołanie.

Ustaw reguły raz dla całej organizacji, a następnie zawęź je dla poszczególnych jednostek lub platform. Jednostka obronna może być ograniczona do modeli na własnym sprzęcie, podczas gdy zespół marketingu korzysta z modelu hostowanego w UE.

  • Własne modele na własnych procesorach GPU w pierwszej kolejności
  • Zatwierdzone modele hostowane, według regionu
  • Według jednostki, platformy i rodzaju danych
  • Każde odrzucone wywołanie zapisane w rejestrze
nexus · ustawienia · dokąd mogą wychodzić wywołaniaPrzykładowe dane
Ustawienia miejsc docelowych dla wywołań AI, według regionu i dostawcy
Dokąd mogą trafiać wywołania. Dozwolone miejsca, określane dla każdej jednostki i rodzaju danych.Przykładowe dane
Policzone

Każde wywołanie jest rozliczane w ramach budżetu, który ma właściciela.

Użycie jest zliczane według osoby, zespołu, aplikacji i dnia. Każdy budżet ma przypisanego właściciela oraz limit, a dział finansowy otrzymuje jeden rachunek. Zliczamy użycie. Nigdy nie czytamy treści.

  • Budżety

    Dla jednostki i dla aplikacji, z ostrzeżeniem przed osiągnięciem limitu oraz osobą uprawnioną do jego podniesienia.

  • Jeden rachunek

    Każdy model, hostowany lub własny, na jednym zestawieniu przejrzystym dla działu finansowego.

  • Który model obsługuje dane zadanie

    Sprawdź, który model lub umiejętność odpowiada poszczególnej aplikacji, i zmieniaj to w jednym miejscu.

nexus · skills · który model obsługuje każdą aplikacjęPrzykładowe dane
Przypisanie modeli i umiejętności do poszczególnych aplikacji, według jednostki
Który model obsługuje każdą aplikację. Zmień raz, a każda platforma dostosuje się automatycznie.Przykładowe dane
Praca w skali

Od jednego zespołu po każdą jednostkę.

Wraz ze wzrostem użycia centrala rozkłada wywołania na kopie Twoich modeli, buforuje to, co można zapisać w pamięci podręcznej, i utrzymuje sprawiedliwy przydział dla każdej jednostki, aby jeden obciążony zespół nie spowalniał pozostałych.

nexus · settings · AI w skaliPrzykładowe dane
Ustawienia działania AI w skali: kopie, współdzielenie zasobów i pamięć podręczna
AI w skali. Kopie, przydziały zasobów i pamięć podręczna dla każdej jednostki.Przykładowe dane
nexus · engines · centrala AIPrzykładowe dane
Silnik centrali AI wraz z trasami i limitami
Silnik centrali. Trasy, limity i stan systemu w jednym widoku.Przykładowe dane
Pytania

O co pytają klienci w kontekście centrali.

Czy możemy korzystać z własnych modeli?

Tak. Podłącz modele działające na własnym sprzęcie lub na własnym koncie chmurowym. Centrala traktuje je jak każde inne modele, a Ty możesz wymagać ich użycia dla określonych rodzajów danych.

Czy Adverant widzi, o co pytają nasi pracownicy?

Nie. Centrala zlicza wywołania oraz mierzy czas i koszty. Nie przechowuje ani nie odczytuje treści pytań ani odpowiedzi.

Co się dzieje, gdy dostawca ma awarię?

Wywołanie przejmuje kolejny dozwolony model. Jeśli żaden dozwolony model nie jest dostępny, wywołanie oczekuje lub kończy się niepowodzeniem z podaniem jasnej przyczyny. Nigdy nie trafia tam, gdzie zabraniają tego Twoje reguły.

Czy możemy ustawić różne reguły dla każdej jednostki?

Tak. Reguły definiuje się na poziomie organizacji i można je zawężać dla każdej jednostki, platformy oraz rodzaju danych. Reguły jednostki nigdy nie mogą być mniej restrykcyjne niż reguły organizacji.

Umów spotkanie

Zobacz swoje modele za jedną centralą.

Powiedz nam, jakich modeli używasz dzisiaj i gdzie muszą pozostać Twoje dane. Pokażemy Ci odpowiednie reguły routingu.