サインインブリーフィングを予約

第 1.4 章

組織主導のAI活用

Nexusが組織自身の条件に基づいて人工知能(AI)をどのように使用するかについて説明します。組織が独自のモデルキーを持ち込んで所有し、単一のスイッチボードがすべてのモデル呼び出しを選択したプロバイダーにルーティングし、ローカルモデルが自社サーバー上で稼働し、組織の知らないところでAdverantに何かが送信されることはありません。

このページは英語の原文から AI によって翻訳されました。不明な点がある場合は、英語のページを正としてご参照ください。 このページを英語で読む

読了時間 10 分

Harrow Port Authorityの運用環境には、ホスト型のAIプロバイダーが一切ありません。インターネットへの経路がないため、使用するすべてのモデルは自前のマシンルームにあるグラフィックスカード上で動作しています。大部分の業務にはQwen3-32Bを使用し、その傍らでLlama 3.3 70BとGemma 3 27Bが稼働しています。HarrowのIT部門責任者であるAoife BrennanがAIスイッチボードのページを開くと、まさにそれらのモデル、各モデルが担当するジョブ、そしてすべての呼び出しに許可された送信先が一覧表示されます。その送信先とは、庁舎内です。

多くの組織では、ホスト型モデルとローカルモデルを併用することになります。しかし、原則は変わりません。どの人工知能(AI)を使用し、データの移動先をどこまで許可し、どれだけの費用をかけるかは組織が決定し、Nexusはすべての呼び出しにおいてその決定を強制します。

キーは組織に帰属する

組織がホスト型モデルを使用する場合、組織自身のキーを持ち込みます。Nexusはそれらのキーを組織のAIプールに保管します。キーは組織内の個人ではなく、組織自体に帰属します。オーナーと管理者がキーの追加や取り消しを行います。このプールはAnthropic、Google Gemini、OpenRouter、Scalewayのキーを受け入れるほか、一般的なOpenAI互換プロトコルを話す、組織が運用する任意のサーバーを指定することもできます。

キーの入力は一度だけです。Nexusは受け取り時にそれを暗号化し、その後はどこにも再表示しません。それ以降、キーは短いヒントと「9月3日にAoifeが設定」といった一行の記録としてのみ表示されます。キーが取り消されると、スイッチボードは直ちにそのキーへの呼び出しの送信を停止し、キーは取り消し済みとして一覧に残ります。これにより、誰が何を使用したかという履歴の一貫性が保たれます。何も削除されることはありません。

各組織は独自のプロバイダーアカウントと独自の請求書を持ちます。テナントのAIの背後に共有のAdverantキーが存在することはないため、ある組織の支出が別の組織の支出と混ざることは決してありません。プロバイダーを変更する組織は、単に1つのキーを取り消して別のキーを追加するだけです。

外部データソース用のキーは、モデルキーとは別に保管されます。たとえばHarrowでは、読み取る船舶位置フィード用のキーを、外部データキーの別ページで保持しています。モデルキーはプールにのみ属するべきものであるため、そのページはモデルキーを完全に拒否します。

スイッチボードがすべての呼び出しをルーティング

Nexus内のアプリやエージェントがモデルを直接呼び出すことは決してなく、ワークフローも同様です。これらはAIスイッチボードに要求を出します。スイッチボードがキーを所有し、プロバイダーとモデルの最終的な選択を行います。アプリは、たとえば短い返信用の高速なモデルなど、希望するものを伝えることができ、組織がそのプロバイダーを設定していれば、スイッチボードはその希望を尊重します。設定されていない場合、スイッチボードは組織が許可した別のモデルを選択します。組織が選択していないモデルをアプリが強制することは決してできません。

左側にある「アシスタント」「ワークフローステップ」「エージェント」とラベル付けされた3つの小さなボックスから、中央の「AIスイッチボード」とラベル付けされた大きなボックスへそれぞれ矢印が伸びています。その内部には、縦に並んだ4つのステップ「ジョブ:どの種類のモデルが適しているか」「データ:このサイトから外部へ出てもよいか」「場所:許可されたリージョンとプロバイダー」「フォールバック:最初のモデルがビジー状態の場合に次に許可されるモデル」が記されています。スイッチボードからは、右側の2つのボックス「自社サーバー上のローカルモデル」と「組織がキーを保持しているホスト型プロバイダー」へ矢印が伸びています。3つ目の矢印は破線で描かれています。これは「その他のあらゆる場所」とラベル付けされたボックスの横にあるバツ印で終わっており、「拒否およびログ記録」という注記が添えられています。
スイッチボードを通過する1つのモデル呼び出しで何が起きるか。

呼び出しが送信される前に、アプリは要求元の部門とロール、およびデータの機密性を示すラベルを付与します。スイッチボードはそのラベルに基づいてルーティングを行い、呼び出しの中身自体を開くことは決してありません。スイッチボードは4つの決定を下します。

1つ目はジョブです。スキャンされたフォームの読み取りと手紙の下書きとでは適したモデルが異なるため、組織は各ジョブの種類(デフォルト、高速、推論、コード、長文コンテキスト)を優先するモデルにマッピングします。2つ目はデータです。個人データや機密データは組織自身のハードウェア上のモデルに限定し、公開資料にはより多くのモデルを使用できるようにすることができます。3つ目は場所です。呼び出しは部門が許可したリージョンとプロバイダーにのみ送信され、それ以外の場所へ向かおうとする呼び出しは拒否され、その拒否は記録に残されます。4つ目はフォールバックです。モデルが低速またはダウンしている場合、次に許可されているモデルがその呼び出しを引き継ぎます。失敗したキーは60秒間休止してスキップされ、5回連続で失敗するとオフに切り替えられます。呼び出しは許可されたモデルに到達するか待機し、どちらも機能しない場合は明確な理由とともに失敗します。ルールで禁止されている場所へ送られることは決してありません。

ルールは組織レベルから始まり、部門やアプリごと、またデータの種類ごとに絞り込むことができます。ある部門を自前のハードウェア上のローカルモデルに限定しつつ、別の部門では欧州連合内のホスト型モデルを使用するといったことが可能です。部門のルールを組織のルールより緩くすることは決してできません。

AIスイッチボード
AIスイッチボード
AIスイッチボードのページ。どのモデルがどのジョブを担当し、データの送信先がどこまで許可されているかに注目してください。各キーは、誰がいつ設定したかとしてのみ表示されます。

すべての呼び出しはカウントされ、読み取られることはない

スイッチボードは、個人およびチームごと、さらにアプリおよび日ごとにすべての呼び出しをカウントします。各呼び出しの時間とコストも計測します。何が質問され、何が返ってきたかを保存したり読み取ったりすることは決してありません。各予算には指定されたオーナーと上限があります。予算は組織から個人まで、中間に部門とスキルを挟んだ4つのレベルで設定できます。予算に達すると、そのオーナーが選択したルールが適用されます。業務を継続するか、より安価なモデルに移行するか、あるいは管理者が同意するまで停止することができます。財務部門には、ホスト型モデルとローカルモデルの両方を網羅した1つの明細書が届きます。

自社サーバー上のモデル

組織が自前のハードウェアで実行している任意のモデルは、OpenAI互換プロトコルを話す限りスイッチボードに参加できます。ITチームがスイッチボードにサーバーのアドレスを指定し、検出されたモデルを確認して、それぞれが担当するジョブを選択します。設定が完了すると、接続ページには「このサイトから外部へ出るものはありません」と確認表示されます。テキストを検索可能な形式に変換する小規模なモデルも、デフォルトで環境内の通常のプロセッサ上で動作するため、検索自体に外部サービスは必要ありません。そのためにホスト型サービスを使用するかどうかは、組織が選択できます。

Harrowのようなエアギャップサイトでは、ローカルモデルが唯一のモデルです。これは人々の業務の大部分において十分に機能しますが、1つだけ明確な制約をもたらします。それは、機能を使うにはそのモデルがサイト内にインストールされている必要があるということです。Harrowのノートブックスタジオはローカルモデルからスライドや1ページの要約を作成できますが、音声要約には音声モデルが必要です。音声モデルがインストールされるまで、スタジオはその旨を率直に伝え、誰がそれを追加できるかを表示します。

エアギャップサイト上のスタジオ
エアギャップサイト上のスタジオ
エアギャップサイト上のノートブックスタジオ。音声モデルがないため音声要約は停止しており、プレートには誰がモデルを追加できるか、そしてそれまでの間にスタジオで何が作成できるかが示されています。

ローカルモデルは互いにチェックし合うこともできます。Harrowでは、あるモデルファミリーが行った作業を別のファミリーがレビューします(たとえば、Qwen3-32Bの作業をLlama 3.3 70Bがレビューする)。そのため、あるファミリーの盲点が同じファミリーによってチェックされることはありません。

さらなる活用を望む組織のために、Model factoryアドオンは、組織が使用を許可されているデータのみを用いて、組織自身のグラフィックスカード上でモデルのトレーニングとチューニングを行います。

キーがなければAIは動かず、Nexusもそう明示する

モデルが1つも接続されていない組織は、AIの回答を得られません。これは設計上の意図的な制限であり、不具合ではありません。Nexusがその穴を埋めるために共有キーを密かに借りることはありません。なぜなら、そうすると組織のデータが自ら選択していない場所へ送られてしまうからです。

代わりに表示されるのはシンプルなプレートです。アシスタントはモデルが接続されていないため回答できないことを説明し、小さな文字でコードMODEL_NOT_CONNECTEDを示し、権限を持つ人に「モデルを接続」を提示します。モデルを待っているジョブは、モデルが復帰し次第すぐに実行されます。

知らないところでAdverantに送信されるものはない

セルフホスト型のNexusが、組織の人員についてAdverantに報告することはありません。何かが外部へ送信される際は、送信前にあなた自身がその内容を確認します。

自前のインフラストラクチャ上の環境は、使用中のシート数やデバイス数、および機能グループといったカウンターのみを保持する年次利用明細書を作成します。管理者はそれをアップロードしたりディスクで持ち出したりする前に、1行ずつ内容を確認します。新機能を要求するエアギャップサイトは、環境のフィンガープリントとともに、環境名と機能名を記したリクエストファイルを送信します。そこに人々やその業務に関する情報が同伴することはありません。サポートが必要な場合、サポートバンドルは何が収集されるか、および何が墨消しされるかのプレビューを、何かが送信される前に表示します。

Adverantのスタッフが自らの判断で顧客の環境の内部を覗き見ることはできません。サポート上その必要がある場合、リクエストはサポートケースを通じて届き、管理者が承諾または拒否します。承諾は最長8時間の定められた時間と、エンジンログなどの指定された範囲に対してのみ有効です。誰かのメッセージやファイル、あるいはメールやメモリがその対象になることは決してありません。

個人のサブスクリプションが組織のものになることは決してない

Claude Maxプランなど、AIのサブスクリプションに個人で支払いをしている人もいます。Nexusがそれを組織のものとして扱うことは決してありません。個人のサブスクリプションを組織のプールに追加することはできず(プールが名前によってそれを拒否します)、組織のAI設定を表示するどのページにもそれが一覧表示されることはありません。

理由は実務的なものです。個人プランは1人の個人向けに消費者規約の下で購入されるため、同僚の業務をそこへルーティングするとその規約に違反することになります。組織はその利用状況を確認したり予算を設定したりすることができず、またその人物が退職すればプランも一緒に失われます。組織のAIは組織が所有するキーの上に成り立つべきであり、Nexusではそのようになっています。