AnmeldenBriefing buchen
Teil 1: Für alle
Version 1.0.0-alpha.1aktuell

Kapitel 1.8

Wo Nexus läuft

Die Umgebungen, in denen Nexus ausgeführt werden kann – von der EU-Cloud von Adverant bis hin zu einem Standort ohne Internetverbindung und Geräten im Außeneinsatz –, was Souveränität in der Praxis bedeutet und wie Sie die richtige Wahl treffen.

Diese Seite wurde mithilfe von KI aus dem englischen Original übersetzt. Bei Unklarheiten gilt die englische Seite als Referenz. Diese Seite auf Englisch lesen

11 Minuten Lesezeit

Die Harrow Port Authority hat in dem Netzwerk, in dem Nexus läuft, keinen Internetzugang. Wenn ein neues Release erscheint, bringt es jemand auf einem Datenträger herein. Aoife Brennan, die IT-Leiterin, beobachtet auf der Importseite, wie die Signatur des Datenträgers gegen den Release-Schlüssel geprüft wird, den Harrow vor Monaten installiert hat – und erst dann wird überhaupt etwas kopiert. Die Mitarbeitenden arbeiten weiter mit der vorhandenen Version. Das Upgrade wartet, bis ihr Team sich entscheidet, es auszuführen, wofür zuerst ein Backup erstellt wird.

Ein paar Kilometer weiter betreibt ein Versicherer vielleicht dasselbe Produkt in der Cloud von Adverant und denkt überhaupt nie über Datenträger nach. Es ist an beiden Orten dieselbe Software. Was sich ändert, ist, wer die Hardware betreibt und wie sie angebunden ist. Dieses Kapitel geht die Optionen durch und zeigt, welchen Aufwand jede für Sie bedeutet; anschließend gibt es eine kurze Entscheidungshilfe.

Ein Produkt, mehrere Betriebsorte

Jede Bereitstellungsform erhält dieselbe Plattform, dieselben Domänenpakete und dieselbe Art versiegelter Datensätze. Ein Bildschirm in dieser Dokumentation sieht überall gleich aus, egal wo Nexus läuft. Die Unterschiede sind praktischer Natur: wer die Server patcht, wo die Daten liegen, welche Modelle erreichbar sind und wie Updates eintreffen.

Ein einzelnes Kästchen oben mit der Beschriftung „Ein signiertes Nexus-Release“ hat Pfeile, die nach unten auf sechs Kästchen in einer Reihe zeigen: „EU-Cloud von Adverant (betrieben von Adverant)“, „Ihr eigenes Kubernetes (von Ihnen betrieben, verbunden)“, „Vollständig offline (von Ihnen betrieben, keine Verbindung; signierte Medien)“, „Cloud-Stores: Amazon Web Services (AWS), Azure, Google Cloud (in Ihrem Cloud-Konto)“, „Hardware-Appliance (geliefert, Sie bauen sie ins Rack ein)“ und „Nexus Edge (auf dem Gerät, synchronisiert, sobald eine Verbindung es zulässt)“. Unter jedem Kästchen nennt eine Zeile, wie Updates eintreffen: „nach einem für Sie einsehbaren Zeitplan“, „wann Sie sich dafür entscheiden“, „auf einem signierten Datenträger“, „aus dem Store-Image“, „wann Sie sich dafür entscheiden“, „beim nächsten Kontakt“.
Dasselbe Nexus-Release erreicht sechs Orte, und nur der Hardware-Eigentümer und die Verbindung ändern sich.

Die EU-Cloud von Adverant

Adverant betreibt Nexus auf souveräner Rechenkapazität in der Europäischen Union: Grafikprozessoren (GPUs), offene Modelle und Kubernetes, nach europäischem Recht. Jede Organisation erhält ihren eigenen privaten Bereich mit eigenen Schlüsseln und Budgets. Daten werden in der EU gespeichert und verarbeitet, und ein Enterprise-Administrator kann auf der Seite „Wo Daten liegen“ festlegen, wo jede Art von Daten gespeichert wird.

Es ist der schnellste Weg für den Einstieg, weil auf Ihrer Seite niemand etwas installiert und Adverant Updates nach einem für Sie einsehbaren Zeitplan einspielt. Teams, die Daten in ihren eigenen Räumlichkeiten halten müssen, beginnen oft hier und ziehen später um, sobald sich die Arbeit bewährt hat.

Ihr eigenes Kubernetes

Wenn Sie ein Plattform-Team und einen Kubernetes-Cluster haben, wird Nexus dort mit einem Standard-Chart installiert. Ihr IT-Team führt zuerst eine Vorabprüfung (Preflight-Check) durch, die jedes Problem samt Lösung auflistet, bevor irgendetwas installiert wird. Die Installation selbst dauert auf einem Cluster, der die Prüfung besteht, etwa zwölf Minuten.

Sie binden Ihr eigenes Unternehmens-Login, Ihre eigenen Modelle auf Ihren eigenen GPUs und Ihren eigenen Schlüsselspeicher an. Sie entscheiden, wann ein Upgrade durchgeführt wird. Upgrades erfolgen schrittweise, erstellen zuerst ein Backup und halten einen datierten Rückweg bereit. Solange die Installation verbunden ist, kann eine verlängerte Lizenz von selbst eintreffen und darauf warten, dass ein Administrator sie annimmt. Kapitel 2.3, Planung einer Installation, ist der Einstiegspunkt für Ihr IT-Team.

Vollständig offline

Für eingestufte Standorte und abgeschottete Netzwerke läuft Nexus völlig ohne Verbindung. Updates und neue Pakete treffen auf signierten Medien ein. Die Installation prüft die Signatur jedes Datenträgers gegen den von Ihnen installierten Release-Schlüssel, niemals gegen einen Schlüssel auf dem Datenträger selbst, und alles, was die Prüfung nicht besteht, wird abgewiesen, bevor es geöffnet wird. Während eines Imports ändert sich nichts: Die Mitarbeitenden arbeiten weiter mit der Version, die sie haben.

Import von Medien (kein Internet)
Import von Medien (kein Internet)
Importieren eines Releases von einem Datenträger bei der Harrow Port Authority. Beachten Sie, dass die Signatur gegen den bei Harrow installierten Schlüssel geprüft wird und dass die laufende Version unberührt bleibt, bis jemand das Upgrade durchführt.

Lizenzen nehmen denselben Weg. Ihr Administrator exportiert eine kleine signierte Anforderungsdatei, eine Person trägt sie hinaus, und eine signierte Lizenzdatei kommt zurück. Die Anforderung nennt nur die Installation und die Funktion, versehen mit einem Fingerabdruck. Die Modelle sind diejenigen auf Ihrer eigenen Hardware, und die Schaltzentrale für künstliche Intelligenz (KI) nutzt nichts anderes. Zeitstempel auf versiegelten Datensätzen werden innerhalb des Standorts bezeugt und halten auch später einer Überprüfung stand.

Der Preis dafür ist der Aufwand. Jemand muss jedes Release abholen, hintragen und importieren, und nichts trifft von selbst ein. Sollte eine Lizenz jemals von einem Offline-Standort zurückgezogen werden müssen, wäre das eine Vertragsangelegenheit, da kein Signal ihn erreichen könnte.

In Ihrem Cloud-Konto, direkt aus dem Store

Wenn Ihre Organisation über Amazon Web Services (AWS), Microsoft Azure oder Google Cloud einkauft, können Sie Nexus im Store der jeweiligen Cloud erwerben und über Ihre Cloud-Rechnung bezahlen. Der Store leitet Sie auf eine Adverant-Seite weiter, auf der Sie sich mit einem Geschäftskonto anmelden, da das Abonnement immer einer Organisation gehört, niemals einer Einzelperson. Anschließend starten Sie Nexus als Machine Image in Ihrem eigenen Cloud-Konto.

Die erste Seite eines neuen Images stellt eine einzige Frage: Haben Sie es über den Store gekauft, oder haben Sie eine Lizenz von Adverant? Die Antwort entscheidet nur darüber, wie die Lizenz eintrifft. Die darauffolgende Beanspruchung läuft in beiden Fällen gleich ab, mit einem Code, der auf der seriellen Konsole der Maschine ausgegeben wird, sodass niemand ein Image übernehmen kann, das jemand anderes gestartet hat. Es wird nichts berechnet, bis die Lizenz existiert, und wenn eine Store-Frist verstreicht, gibt die Seite dies klar an und nichts geht verloren.

Erster Start des Cloud-Images
Erster Start des Cloud-Images
Beim ersten Start eines Cloud-Images wird nur gefragt, wie Nexus gekauft wurde. Alles Weitere wartet, bis ein Administrator existiert.

Eine Hardware-Appliance

Einige Kunden wünschen Server, die betriebsbereit geliefert werden, ausgestattet mit GPUs für ihre eigenen Modelle. Die Appliance kommt auf Anfrage von einem der Hardware-Partner von Adverant; Adverant verkauft das Gerät nicht selbst. Wenn das Gerät eintrifft, führt ein an den Konsolenport angeschlossener Laptop eine Herkunftsprüfung (Custody Check) durch, und die Festplatten starten erst, wenn diese bestanden ist. Drei Dinge müssen übereinstimmen: die Seriennummer auf dem Karton, dem Gehäuse und der Seite; ein unversehrtes Manipulationssiegel; und ein von Adverant signierter Herkunftsnachweis (Birth Record).

Die Appliance trifft ein
Die Appliance trifft ein
Die Appliance prüft ihre eigene Herkunftskette, bevor irgendetwas startet. Wenn eine der drei Prüfungen fehlschlägt, weist die Seite darauf hin, das Gerät nicht anzuschließen, und erklärt, wie Sie Adverant sicher erreichen.

Nexus Edge, im Außeneinsatz

Nexus Edge läuft auf den Computern an Bord eines Satelliten, einer Drohne, eines Schiffs oder eines Fahrzeugs. Diese Computer sind vom eigenen Flug- oder Steuerungscomputer des jeweiligen Trägerfahrzeugs getrennt. An Bord betreibt Nexus den Wissensgraphen, liest Dateien und führt die Agenten für eine Mission aus – und arbeitet auch dann weiter, wenn die Verbindung abbricht. Die Ergebnisse werden beim nächsten Kontakt mit einem Boden-Nexus übertragen.

Corrán Orbital betreibt beispielsweise einen Erdbeobachtungssatelliten, dessen Bilder im Orbit ausgewertet werden, sodass in jedem Kontaktfenster nur das heruntergeladen wird, worauf es ankommt. Drei Regeln halten ein Gerät unter Kontrolle:

  • Missionspakete werden vor dem Laden signiert. Ein Paket enthält alles, was eine Mission benötigt (Karten, Modelle, Regeln). Ein neues Paket wird in einen zweiten Speicherplatz geladen, sodass das vorherige bereitsteht, falls das neue seine Prüfungen nicht besteht. Wenn die Mission endet oder ein Manipulationsschalter auslöst, werden die Schlüssel an Bord gelöscht und eine signierte Quittung bestätigt dies.
  • Grenzen werden am Boden festgelegt. Eine Person entscheidet, was das Gerät allein tun darf, was auf Genehmigung wartet – egal wie lange die Verbindung unterbrochen ist – und was es niemals tun darf. Ohne Verbindung wartet alles, was über dieser Grenze liegt.
  • Das Gerät kann anfragen, niemals befehlen. Anfragen an den Flugcomputer gehen an dessen eigenen Arbiter, der jede einzelne annimmt, ablehnt oder zurückstellt.

Auch was zuerst heruntergeladen wird, ist festgelegt. Der Postausgang an Bord sortiert alles in vier Kategorien: zuerst Warnmeldungen, dann Änderungen am Wissensgraphen, dann fertige Produkte, dann Rohdaten. Rohdaten werden nur heruntergeladen, wenn ein Analyst am Boden sie anfordert und einen Grund angibt, und sie werden über die nächste schnelle Verbindung übertragen.

Wenn einer der Bordcomputer ausfällt, schaltet das Gerät auf eine niedrigere Stufe zurück, welche die Erkennung am Laufen hält, Berichte anhand einer Vorlage schreibt, Fragen zurückhält, bis die Verbindung wiederhergestellt ist, und den Arbiter des Flugcomputers bittet, die Platine neu zu starten. Die Seite jedes Geräts zeigt diese Stufen im Voraus an, sodass das Team weiß, was die Mission noch leisten wird, bevor irgendetwas ausfällt.

Jedes Gerät wird vor seinem Einsatz registriert, und ein verpasstes Kontaktfenster löst eine Warnmeldung für eine Person aus. Agenten auf einem Gerät laufen über eine zeitlich begrenzte Lizenz (Lease) mit Enddatum, sodass ein verloren gegangenes Gerät für niemanden einfach weiterarbeitet. Nexus Edge ist ein Add-on zu Enterprise.

Souveränität einfach erklärt

„Souverän“ wird oft leichtfertig verwendet. In Nexus läuft es auf vier Versprechen hinaus, und jedes davon gilt in jeder der oben genannten Bereitstellungsformen.

Ihre Daten bleiben dort, wo Sie es gewählt haben. Beim ersten Start legt der erste Administrator fest, wo die Daten aufbewahrt werden. Bei Enterprise können Sie für jede Datenart einen eigenen Ort festlegen, und das spätere Verschieben von Daten ist ein protokollierter Vorgang mit vorheriger Vorschau, den eine zweite Person genehmigen muss.

KI geht nur an die Modelle, die Sie konfiguriert haben. Jeder Modellaufruf läuft über die KI-Schaltzentrale, die ihn nur an ein Modell weiterleitet, das Ihre Organisation angebunden und zugelassen hat. Aufrufe an jede andere externe Adresse werden mit dem Code EGRESS_DENIED abgewiesen und gezählt. Eine Organisation ohne angebundenes Modell erhält überhaupt keine KI-Antworten; Nexus teilt dies mit und zeigt, wie man eines anbindet, anstatt stillschweigend das Modell eines Dritten zu nutzen.

Lizenzen werden offline geprüft. Adverant signiert jede Lizenz mit zwei unabhängigen Schlüsseln. Ihre Installation prüft die Signaturen selbst, ohne jemanden zu kontaktieren, und eine Lizenz, welche die Prüfung nicht besteht, wird behandelt, als wäre sie nicht vorhanden.

Nichts telefoniert nach Hause. Auf Ihren eigenen Installationen ist die Übermittlung von Zustandsberichten an Adverant ausgeschaltet, sofern Sie sie nicht einschalten. Einmal im Jahr sendet Ihr Administrator eine Nutzungsübersicht mit Zählerständen an Adverant, die vor dem Versand vollständig eingesehen werden kann; ein Offline-Standort trägt sie auf einem Speichermedium hinaus. Ein Support-Paket wird nur versendet, wenn Sie um Hilfe bitten, und zwar nach einer Vorschau des Inhalts, aus dem die vertraulichen Teile entfernt wurden.

Später umziehen

Viele Teams beginnen in der EU-Cloud von Adverant und ziehen in ihr eigenes Rechenzentrum um, sobald sich die Arbeit bewährt hat. Datensätze, Einstellungen und Pakete ziehen mit Ihnen um. Versiegelte Datensätze behalten ihre Siegel, sodass ein Prüfer sie vor und nach dem Umzug kontrollieren kann. Die Mitarbeitenden behalten ihren Zugang, sobald Sie Ihr Unternehmens-Login am neuen Standort anbinden.

Welche Lösung für uns die richtige ist

Es gibt keine falsche erste Wahl, weil Sie jederzeit umziehen können. Dennoch klären ein paar Fragen die meisten Fälle.

Wenn dies auf Sie zutrifft Beginnen Sie mit
Sie möchten, dass ein Team noch in diesem Monat damit arbeitet, und EU-Hosting erfüllt Ihre Vorgaben Die EU-Cloud von Adverant
Sie haben ein Plattform-Team und Ihre Vorgaben besagen, dass Daten in Ihren eigenen Räumlichkeiten bleiben müssen Ihr eigenes Kubernetes
Das Netzwerk hat kein Internet, sei es aufgrund von Richtlinien oder bauartbedingt Vollständig offline
Ihre Organisation hat Abnahmeverpflichtungen (Committed Spend) bei AWS, Azure oder Google Cloud Dem Cloud-Store
Sie möchten eigene GPUs, ohne einen Cluster aufzubauen Eine Hardware-Appliance
Die Arbeit findet auf Schiffen, Drohnen, Satelliten oder mobilen Feldsystemen statt Nexus Edge, mit einem Boden-Nexus in einer der anderen Formen

Wenn zwei Zeilen passen, wählen Sie diejenige, die Ihr Compliance-Beauftragter jetzt freigeben kann. Kapitel 1.9, Erste Schritte, behandelt das weitere Vorgehen, und Kapitel 2.3, Planung einer Installation, ist die Version dieser Entscheidung für das IT-Team.