Jeder Modellaufruf wird nur dorthin geleitet, wo Sie es zulassen.
Plattformen auf Nexus rufen ein Modell niemals direkt auf. Sie fragen die Schaltzentrale an. Diese wählt das passende Modell für die Aufgabe, sendet den Aufruf an einen Ort, den Ihre Regeln zulassen, und rechnet ihn auf ein Budget mit klarem Verantwortlichen an.
Eine Anfrage. Vier Entscheidungen in Millisekunden.
Bevor ein Aufruf das System verlässt, versieht die Plattform ihn mit einem Label: welcher Bereich anfragt, für welche Rolle und wie sensibel die Daten sind. Die Schaltzentrale leitet anhand dieses Labels weiter und öffnet niemals den Aufruf selbst. Ist die erste Wahl ausgelastet oder nicht erreichbar, übernimmt die nächste zugelassene Option.
Die Aufgabe
Ein gescanntes Formular lesen, ein Schreiben aufsetzen oder eine Entscheidung prüfen – dafür braucht es unterschiedliche Modelle. Jede App gibt an, um welche Art von Aufgabe es sich handelt.
Die Daten
Personenbezogene oder vertrauliche Daten lassen sich auf Ihre eigenen Modelle auf Ihrer eigenen Hardware beschränken. Für öffentliche Daten können weitere Optionen freigegeben werden.
Der Ort
Aufrufe gehen nur an Regionen und Anbieter, die der jeweilige Bereich zulässt. Ein Aufruf, der diesen Rahmen verlassen würde, wird abgewiesen und die Abweisung protokolliert.
Die Ausweichoption
Ist ein Modell langsam oder ausgefallen, antwortet das nächste zugelassene Modell. Niemand muss warten, und dafür wird keine Regel gebrochen.
Ihre Regeln entscheiden, wohin ein Aufruf gesendet werden darf.
Legen Sie den Rahmen einmal für das gesamte Unternehmen fest und schränken Sie ihn bei Bedarf für einzelne Bereiche oder Plattformen weiter ein. Ein Verteidigungsbereich kann auf Modelle auf eigener Hardware beschränkt werden, während das Marketing-Team ein gehostetes Modell in der EU nutzt.
- Vorrang für Ihre eigenen Modelle auf Ihren eigenen GPUs
- Von Ihnen freigegebene gehostete Modelle, nach Region
- Pro Bereich, pro Plattform und pro Datenart
- Jeder abgewiesene Aufruf wird protokolliert
Jeder Aufruf wird auf ein Budget mit klarem Verantwortlichen angerechnet.
Die Nutzung wird nach Person, Team, App und Tag erfasst. Jedes Budget hat eine verantwortliche Person sowie ein Limit, und die Finanzabteilung erhält eine einzige Abrechnung. Wir zählen die Nutzung. Wir lesen niemals Inhalte.
- Budgets
Pro Bereich und pro App, mit einer Warnung vor Erreichen des Limits und einer Person, die es erhöhen kann.
- Eine Abrechnung
Jedes Modell – ob gehostet oder Ihr eigenes – auf einer übersichtlichen Abrechnung für die Finanzabteilung.
- Welches Modell übernimmt was
Sehen Sie, welches Modell oder welcher Skill welcher App antwortet, und ändern Sie die Zuordnung an einer zentralen Stelle.
Von einem Team bis zu jedem Bereich.
Wächst die Nutzung, verteilt die Schaltzentrale Aufrufe auf mehrere Instanzen Ihrer Modelle, speichert zwischen, was sich zwischenspeichern lässt, und sichert jedem Bereich ein faires Kontingent – damit ein stark ausgelastetes Team nicht alle anderen ausbremst.
Häufige Fragen zur Schaltzentrale.
Können wir unsere eigenen Modelle nutzen?
Ja. Binden Sie Modelle an, die auf Ihrer eigenen Hardware oder in Ihrem eigenen Cloud-Konto laufen. Die Schaltzentrale behandelt sie wie jedes andere Modell, und Sie können deren Nutzung für bestimmte Datenarten zwingend vorschreiben.
Sieht Adverant, was unsere Mitarbeitenden anfragen?
Nein. Die Schaltzentrale zählt Aufrufe und misst Dauer sowie Kosten. Sie speichert oder liest weder den Inhalt einer Anfrage noch den einer Antwort.
Was passiert, wenn ein Anbieter ausfällt?
Das nächste zugelassene Modell übernimmt den Aufruf. Ist kein zugelassenes Modell verfügbar, wartet der Aufruf oder bricht mit einer klaren Begründung ab. Er wird niemals an ein Ziel gesendet, das Ihre Regeln verbieten.
Können wir für jeden Bereich eigene Regeln festlegen?
Ja. Regeln beginnen auf Unternehmensebene und lassen sich für jeden Bereich, jede Plattform und jede Datenart weiter einschränken. Ein Bereich kann dabei niemals weniger streng eingestellt sein als das Unternehmen selbst.
Tiefer eintauchen
Sehen Sie Ihre Modelle hinter einer einzigen Schaltzentrale.
Sagen Sie uns, welche Modelle Sie heute nutzen und wo Ihre Daten bleiben müssen. Wir zeigen Ihnen die passenden Routing-Regeln.