AnmeldenBriefing buchen
Teil 1: Für alle
Version 1.0.0-alpha.1aktuell

Kapitel 1.4

KI zu Ihren Bedingungen

Wie Nexus künstliche Intelligenz (KI) zu den eigenen Bedingungen der Organisation einsetzt. Die Organisation bringt ihre eigenen Modellschlüssel mit und behält die Kontrolle darüber, eine zentrale Vermittlungsstelle leitet jeden Modellaufruf an die von ihr gewählten Anbieter weiter, lokale Modelle laufen auf ihren eigenen Servern, und nichts wird hinter ihrem Rücken an Adverant gesendet.

Diese Seite wurde mithilfe von KI aus dem englischen Original übersetzt. Bei Unklarheiten gilt die englische Seite als Referenz. Diese Seite auf Englisch lesen

10 Minuten Lesezeit

Die Betriebsinstallation der Harrow Port Authority verfügt über keinerlei gehosteten KI-Anbieter. Sie hat keine Verbindung zum Internet, sodass jedes genutzte Modell auf Grafikkarten im eigenen Serverraum läuft: ein Qwen3-32B für die meisten Aufgaben sowie ein Llama 3.3 70B und ein Gemma 3 27B daneben. Wenn Aoife Brennan, die IT-Leiterin von Harrow, die Seite der KI-Schaltzentrale öffnet, sind dort genau diese Modelle aufgelistet, welche Aufgabe jedes einzelne übernimmt und wohin jeder Aufruf gehen darf. Dieser Ort ist das eigene Gebäude.

Die meisten Organisationen mischen gehostete und lokale Modelle. Das Prinzip ändert sich dadurch nicht: Die Organisation entscheidet, welche künstliche Intelligenz (KI) sie nutzt, wohin ihre Daten fließen dürfen und wie viel sie ausgibt – und Nexus setzt diese Entscheidungen bei jedem Aufruf durch.

Der Schlüssel gehört der Organisation

Wenn eine Organisation ein gehostetes Modell nutzt, bringt sie ihren eigenen Schlüssel mit. Nexus verwahrt die Schlüssel im KI-Pool der Organisation. Sie gehören der Organisation und keiner einzelnen Person. Eigentümer und Administratoren fügen sie hinzu und ziehen sie zurück. Der Pool nimmt Schlüssel für Anthropic, Google Gemini, OpenRouter und Scaleway auf und kann auf jeden von der Organisation betriebenen Server verweisen, der das gängige OpenAI-kompatible Protokoll spricht.

Ein Schlüssel wird einmalig eingegeben. Nexus verschlüsselt ihn beim Eingang und zeigt ihn danach nirgendwo wieder an. Von da an erscheint der Schlüssel nur noch als kurzer Hinweis mit einer Zeile wie „festgelegt von Aoife am 3. Sept.“. Wird ein Schlüssel zurückgezogen, leitet die Schaltzentrale sofort keine Aufrufe mehr dorthin weiter, und der Schlüssel bleibt als zurückgezogen aufgelistet, sodass der Verlauf darüber, wer was genutzt hat, lückenlos bleibt. Nichts wird gelöscht.

Jede Organisation hat ihr eigenes Anbieterkonto und ihre eigene Abrechnung. Es gibt keinen gemeinsam genutzten Schlüssel von Adverant hinter der KI eines Mandanten, sodass sich die Ausgaben einer Organisation niemals mit denen einer anderen vermischen. Eine Organisation, die den Anbieter wechselt, zieht einfach einen Schlüssel zurück und fügt einen anderen hinzu.

Schlüssel für externe Datenquellen werden getrennt von Modellschlüsseln aufbewahrt. Harrow verwahrt beispielsweise einen Schlüssel für den eingelesenen Schiffspositions-Feed auf einer separaten Seite für externe Datenschlüssel. Diese Seite lehnt einen Modellschlüssel strikt ab, da Modellschlüssel ausschließlich in den Pool gehören.

Die Vermittlungsstelle leitet jeden Aufruf weiter

Apps und Agenten in Nexus rufen niemals direkt ein Modell auf, und Workflows tun dies ebenso wenig. Sie fragen die KI-Schaltzentrale an. Diese verwaltet die Schlüssel und trifft die endgültige Wahl von Anbieter und Modell. Eine App kann angeben, was sie bevorzugen würde, etwa ein schnelles Modell für kurze Antworten, und die Schaltzentrale erfüllt diesen Wunsch, sofern die Organisation diesen Anbieter eingerichtet hat. Ist dies nicht der Fall, wählt die Schaltzentrale ein anderes Modell, das die Organisation zugelassen hat. Eine App kann niemals ein Modell erzwingen, das die Organisation nicht ausgewählt hat.

Auf der linken Seite senden drei kleine Kästchen mit den Beschriftungen „Assistent“, „Workflow-Schritt“ und „Agent“ jeweils einen Pfeil in ein großes zentrales Kästchen mit der Beschriftung „KI-Schaltzentrale“. Darin lauten vier übereinander angeordnete Schritte: „Die Aufgabe: welche Modellart passt“, „Die Daten: dürfen sie diesen Standort verlassen“, „Der Ort: zugelassene Regionen und Anbieter“ und „Der Ausweichmechanismus: nächstes zugelassenes Modell, falls das erste ausgelastet ist“. Von der Schaltzentrale führen Pfeile zu zwei Kästchen auf der rechten Seite: „Lokale Modelle auf Ihren eigenen Servern“ und „Gehostete Anbieter, für die Ihre Organisation Schlüssel hält“. Ein dritter Pfeil ist gestrichelt gezeichnet. Er endet in einem Kreuz neben einem Kästchen mit der Beschriftung „Alle anderen Orte“ und dem Vermerk „abgelehnt und protokolliert“.
Was mit einem einzelnen Modellaufruf auf seinem Weg durch die Schaltzentrale geschieht.

Bevor ein Aufruf ausgeht, versieht die App ihn mit einer Kennzeichnung für die anfragende Einheit und Rolle sowie für die Vertraulichkeit der Daten. Die Schaltzentrale leitet den Aufruf anhand dieser Kennzeichnung weiter und öffnet den Aufruf selbst niemals. Sie trifft vier Entscheidungen.

Die erste betrifft die Aufgabe. Das Auslesen eines gescannten Formulars erfordert ein anderes Modell als das Entwerfen eines Briefes; daher ordnet die Organisation jede Aufgabenart (Standard, Schnell, logisches Schließen, Code und langer Kontext) ihren bevorzugten Modellen zu. Die zweite betrifft die Daten. Personenbezogene oder geheime Daten können auf Modelle auf der eigenen Hardware der Organisation beschränkt werden, während für öffentliches Material weitere Modelle genutzt werden dürfen. Die dritte betrifft den Ort. Aufrufe gehen nur an die Regionen und Anbieter, die von der Einheit zugelassen sind. Ein Aufruf, der an einen anderen Ort gehen würde, wird abgelehnt und die Ablehnung wird protokolliert. Die vierte betrifft den Ausweichmechanismus (Fallback). Ist ein Modell langsam oder nicht erreichbar, übernimmt das nächste zugelassene Modell den Aufruf. Ein fehlgeschlagener Schlüssel pausiert für 60 Sekunden und wird übersprungen; nach fünf Fehlschlägen in Folge wird er abgeschaltet. Der Aufruf erreicht ein zugelassenes Modell oder wartet, und falls beides nicht funktioniert, bricht er mit einer klaren Begründung ab. Er geht niemals an einen Ort, den die Regeln verbieten.

Regeln beginnen auf Organisationsebene und können für jede Einheit und App sowie für jede Datenart weiter eingeschränkt werden. Eine Einheit kann auf lokale Modelle auf ihrer eigenen Hardware beschränkt sein, während eine andere ein gehostetes Modell in der Europäischen Union nutzt. Eine Einheit kann niemals weniger streng geregelt sein als die Organisation.

Die KI-Schaltzentrale
Die KI-Schaltzentrale
Die Seite der KI-Schaltzentrale. Beachten Sie, welches Modell welche Aufgabe übernimmt und wohin Daten fließen dürfen. Bei jedem Schlüssel wird lediglich angezeigt, wer ihn wann festgelegt hat.

Jeder Aufruf wird gezählt, niemals gelesen

Die Schaltzentrale zählt jeden Aufruf nach Person und Team sowie nach App und Tag. Sie misst zudem die Dauer und die Kosten jedes Aufrufs. Sie speichert oder liest niemals, was angefragt wurde oder was zurückkam. Jedes Budget hat einen benannten Verantwortlichen und eine Obergrenze. Budgets lassen sich auf vier Ebenen festlegen, von der gesamten Organisation bis hinunter zu einer einzelnen Person, mit Einheiten und Skills dazwischen. Wird ein Budget erreicht, greift die von seinem Verantwortlichen gewählte Regel. Die Arbeit kann fortgesetzt werden, auf ein günstigeres Modell wechseln oder anhalten, bis ein Administrator zustimmt. Die Finanzabteilung erhält eine einzige Abrechnung, die gehostete und lokale Modelle gleichermaßen abdeckt.

Modelle auf Ihren eigenen Servern

Jedes Modell, das die Organisation auf ihrer eigenen Hardware betreibt, kann in die Schaltzentrale eingebunden werden, solange es das OpenAI-kompatible Protokoll spricht. Ihr IT-Team gibt der Schaltzentrale die Serveradresse, sieht die gefundenen Modelle und wählt aus, welche Aufgabe jedes einzelne übernimmt. Die Verbindungsseite bestätigt nach Abschluss: „Nichts verlässt diesen Standort“. Ein kleines Modell, das Text in eine durchsuchbare Form umwandelt, läuft standardmäßig ebenfalls innerhalb der Installation auf gewöhnlichen Prozessoren, sodass die Suche selbst keinen externen Dienst benötigt. Dafür einen gehosteten Dienst zu nutzen, ist eine freie Entscheidung der Organisation.

An einem vollständig vom Netz getrennten (Air-Gapped) Standort wie Harrow sind lokale Modelle die einzigen Modelle. Das funktioniert gut für das meiste, was die Mitarbeitenden tun, bringt aber eine ehrliche Einschränkung mit sich: Für jede Funktion muss das entsprechende Modell vor Ort installiert sein. Das Notebook-Studio von Harrow kann aus den lokalen Modellen Präsentationsfolien und einseitige Zusammenfassungen erstellen, doch eine Audio-Zusammenfassung erfordert ein Sprachmodell. Solange keines installiert ist, weist das Studio klar darauf hin und nennt die Person, die es hinzufügen kann.

Studio an einem Air-Gapped-Standort
Studio an einem Air-Gapped-Standort
Das Notebook-Studio an einem Air-Gapped-Standort. Audio-Zusammenfassungen scheitern am fehlenden Sprachmodell, und der Hinweis gibt an, wer eines hinzufügen kann und was das Studio in der Zwischenzeit erstellen kann.

Lokale Modelle können sich auch gegenseitig überprüfen. Bei Harrow wird die von einer Modellfamilie geleistete Arbeit von einer anderen überprüft (z. B. Qwen3-32B durch Llama 3.3 70B), sodass ein blinder Fleck in einer Familie nicht von derselben Familie kontrolliert wird.

Für Organisationen, die noch weiter gehen möchten, trainiert und optimiert das Add-on „Modellfabrik“ Modelle auf den eigenen Grafikkarten der Organisation und verwendet dabei ausschließlich Daten, zu deren Nutzung die Organisation berechtigt ist.

Kein Schlüssel bedeutet keine KI, und Nexus sagt das auch

Eine Organisation ohne angebundenes Modell erhält keine KI-Antworten. Das ist eine bewusste Grenze der Architektur, kein Fehler. Nexus leiht sich nicht stillschweigend einen gemeinsamen Schlüssel, um die Lücke zu füllen, denn dann würden die Daten der Organisation an einen Ort gelangen, den sie nie gewählt hat.

Stattdessen sehen die Nutzer einen schlichten Hinweis. Der Assistent erklärt, dass er nicht antworten kann, weil kein Modell verbunden ist, gibt in kleiner Schrift den Code MODEL_NOT_CONNECTED an und bietet jedem Berechtigten die Option „Modell verbinden“. Aufträge, die auf ein Modell warten, werden ausgeführt, sobald wieder eines verfügbar ist.

Nichts geht hinter Ihrem Rücken an Adverant

Ein selbst gehostetes Nexus übermittelt keine Daten über Ihre Mitarbeitenden an Adverant. Wenn doch einmal etwas nach außen geht, lesen Sie es, bevor Sie es absenden.

Eine Installation auf Ihrer eigenen Infrastruktur erstellt eine jährliche Nutzungsübersicht, die ausschließlich Zählerstände enthält: wie viele Lizenzen (Seats) und Geräte genutzt werden und welche Funktionsgruppen. Ihr Administrator liest sie Zeile für Zeile durch, bevor er sie hochlädt oder auf einem Datenträger nach außen trägt. Ein Air-Gapped-Standort, der eine neue Funktion anfordert, sendet eine Anforderungsdatei, die die Installation und die Funktion sowie den Fingerabdruck der Installation nennt. Nichts über Personen oder deren Arbeit wird dabei mitgesendet. Wenn Sie Hilfe benötigen, zeigt ein Support-Paket vor dem Absenden an, welche Daten es sammelt, und bietet eine Vorschau der geschwärzten Stellen.

Mitarbeitende von Adverant können nicht von sich aus in eine Kundeninstallation hineinsehen. Wenn der Support dies tun muss, erfolgt die Anfrage über einen Support-Fall, und Ihr Administrator stimmt zu oder lehnt ab. Eine Zustimmung gilt für einen festgelegten Zeitraum von höchstens acht Stunden und einen benannten Bereich, wie etwa Engine-Protokolle. Sie umfasst niemals die Nachrichten oder Dateien von Personen oder deren E-Mails und Gedächtnis.

Das persönliche Abonnement einer Person gehört niemals der Organisation

Manche Personen bezahlen selbst für ein KI-Abonnement, wie etwa einen Claude-Max-Tarif. Nexus behandelt ein solches niemals als Eigentum der Organisation. Ein persönliches Abonnement kann nicht zum Pool der Organisation hinzugefügt werden (der Pool lehnt es namentlich ab), und keine Seite, die die KI-Einrichtung der Organisation zeigt, führt jemals eines auf.

Die Gründe dafür sind praktischer Natur. Ein persönlicher Tarif wird zu Verbraucherbedingungen für eine einzelne Person erworben; die Arbeit von Kollegen darüber laufen zu lassen, würde gegen diese Bedingungen verstoßen. Die Organisation kann die Nutzung nicht einsehen oder ein Budget dafür festlegen, und das Abonnement verschwindet, sobald diese Person das Unternehmen verlässt. Die KI der Organisation sollte auf Schlüsseln ruhen, die der Organisation gehören – und in Nexus ist das der Fall.