Oturum açınToplantı planlayın

Bölüm 1.4

Sizin şartlarınızla YZ

Nexus'un yapay zekayı (YZ) kuruluşun kendi şartlarıyla nasıl kullandığı. Kuruluş kendi model anahtarlarını getirir ve bunlara sahip olur, tek bir santral her model çağrısını seçtiği sağlayıcılara yönlendirir, yerel modeller kendi sunucularında çalışır ve arkasından gizlice Adverant'a hiçbir şey gönderilmez.

Bu sayfa, İngilizce aslından YZ tarafından çevrilmiştir. Anlaşılmayan bir yer olursa İngilizce sayfa esas alınır. Bu sayfayı İngilizce okuyun

10 dakikalık okuma

Harrow Port Authority'nin operasyon kurulumunda barındırılan hiçbir YZ sağlayıcısı yoktur. İnternete giden bir yolu bulunmadığından, kullandığı her model kendi makine odasındaki ekran kartlarında çalışır: işlerin çoğu için bir Qwen3-32B, yanında ise bir Llama 3.3 70B ve bir Gemma 3 27B. Harrow'un BT başkanı Aoife Brennan YZ santrali sayfasını açtığında, sayfa tam olarak bu modelleri, her birinin hangi işi yaptığını ve her çağrının gitmesine izin verilen yeri listeler. O yer binanın kendisidir.

Çoğu kuruluş barındırılan ve yerel modelleri bir arada kullanacaktır. İlke değişmez: kuruluş hangi yapay zekayı (YZ) kullanacağına, verilerinin nereye gidebileceğine ve ne kadar harcayacağına karar verir; Nexus da bu kararları her çağrıda uygular.

Anahtar kuruluşa aittir

Bir kuruluş barındırılan bir model kullandığında kendi anahtarını getirir. Nexus anahtarları kuruluşun YZ havuzunda tutar. Bu anahtarlar kuruluştaki herhangi bir kişiye değil, kuruluşun kendisine aittir. Sahipler ve yöneticiler bunları ekler ve geri çeker. Havuz Anthropic, Google Gemini, OpenRouter ve Scaleway anahtarlarını kabul eder ve kuruluşun çalıştırdığı, yaygın OpenAI uyumlu protokolü konuşan herhangi bir sunucuyu işaret edebilir.

Bir anahtar yalnızca bir kez yazılır. Nexus onu ulaştığı anda şifreler ve bir daha hiçbir yerde göstermez. O andan itibaren anahtar yalnızca kısa bir ipucu ve "3 Eyl tarihinde Aoife tarafından ayarlandı" gibi bir satır olarak görünür. Bir anahtar geri çekildiğinde, santral ona çağrı göndermeyi derhal durdurur ve anahtar geri çekilmiş olarak listelenmeye devam eder; böylece kimin neyi kullandığına dair geçmiş bütünlüğünü korur. Hiçbir şey silinmez.

Her kuruluşun kendi sağlayıcı hesabı ve kendi faturası vardır. Bir kiracının YZ'sinin arkasında duran paylaşımlı bir Adverant anahtarı yoktur; bu nedenle bir kuruluşun harcaması asla diğerininkine karışmaz ve sağlayıcı değiştiren bir kuruluş yalnızca bir anahtarı geri çekip bir diğerini ekler.

Dış veri kaynaklarının anahtarları model anahtarlarından ayrı tutulur. Örneğin Harrow, okuduğu gemi konumları akışının anahtarını harici veri anahtarlarına ayrılmış ayrı bir sayfada tutar. O sayfa bir model anahtarını doğrudan reddeder; çünkü model anahtarları yalnızca havuza aittir, başka hiçbir yere değil.

Santral her çağrıyı yönlendirir

Nexus içindeki uygulamalar ve temsilciler hiçbir zaman doğrudan bir modeli çağırmaz; iş akışları da öyle. YZ santraline başvururlar. Anahtarların sahibi odur ve sağlayıcı ile model konusundaki son seçimi o yapar. Bir uygulama ne istediğini (örneğin kısa yanıtlar için hızlı bir model) belirtebilir ve kuruluş o sağlayıcıyı kurmuşsa santral bu isteği yerine getirir. Kurmamışsa santral, kuruluşun izin verdiği bir diğerini seçer. Bir uygulama, kuruluşun seçmediği bir modeli asla zorlayamaz.

Solda, "Asistan", "İş akışı adımı" ve "Temsilci" etiketli üç küçük kutunun her biri, ortadaki "YZ santrali" etiketli büyük bir kutuya ok gönderir. Bunun içinde üst üste dizilmiş dört adımda şunlar yazar: "İş: hangi model türü uygun", "Veri: bu tesisten çıkabilir mi", "Yer: izin verilen bölgeler ve sağlayıcılar" ve "Yedekleme: ilki meşgulse izin verilen bir sonraki model". Oklar santralden çıkarak sağdaki iki kutuya gider: "Kendi sunucularınızdaki yerel modeller" ve "Kuruluşunuzun anahtarlarına sahip olduğu barındırılan sağlayıcılar". Üçüncü bir ok kesikli çizilmiştir. "Başka herhangi bir yer" etiketli ve "reddedildi ve günlüğe kaydedildi" notunu taşıyan bir kutunun yanındaki çarpı işaretinde sona erer.
Santralden geçen bir model çağrısına ne olur?

Bir çağrı çıkmadan önce uygulama onu talepte bulunan birim ve rolle ve verinin ne kadar hassas olduğuyla etiketler. Santral yönlendirmeyi bu etikete göre yapar ve çağrının kendisini asla açmaz. Dört karar verir.

Birincisi iştir. Taranmış bir formu okumak, bir mektup taslağı hazırlamaktan farklı bir modele uygundur; bu nedenle kuruluş her iş türünü (varsayılan, hızlı, akıl yürütme, kod ve uzun bağlam) tercih ettiği modellerle eşleştirir. İkincisi veridir. Kişisel veya gizli veriler kuruluşun kendi donanımındaki modellerle sınırlandırılabilirken, herkese açık materyaller daha fazlasını kullanabilir. Üçüncüsü yerdir. Çağrılar yalnızca birimin izin verdiği bölgelere ve sağlayıcılara gider; başka bir yere gidecek olan çağrı reddedilir ve bu ret kayda geçirilir. Dördüncüsü yedeklemedir. Bir model yavaşsa veya çalışmıyorsa, izin verilen bir sonraki model çağrıyı alır. Başarısız olan bir anahtar 60 saniye dinlenir ve atlanır; arka arkaya beş başarısızlıktan sonra kapatılır. Çağrı izin verilen bir modele ulaşır ya da bekler; ikisi de işe yaramazsa açık bir gerekçeyle başarısız olur. Kuralların yasakladığı bir yere asla gitmez.

Kurallar kuruluş düzeyinde başlar ve her birim, uygulama ve veri türü için daraltılabilir. Bir birim kendi donanımındaki yerel modellerle sınırlandırılırken, bir diğeri Avrupa Birliği'nde barındırılan bir modeli kullanabilir. Bir birim asla kuruluştan daha esnek olamaz.

YZ santrali
YZ santrali
YZ santrali sayfası. Hangi modelin hangi işi yaptığına ve verilerin nereye gidebileceğine dikkat edin. Her anahtar yalnızca onu kimin ve ne zaman ayarladığı bilgisiyle görünür.

Her çağrı sayılır, asla okunmaz

Santral her çağrıyı kişiye, ekibe, uygulamaya ve güne göre sayar. Her çağrının süresini ve maliyetini de ölçer. Ne sorulduğunu veya ne yanıt geldiğini asla saklamaz ya da okumaz. Her bütçenin adı belirtilmiş bir sahibi ve bir sınırı vardır. Bütçeler, kuruluştan tek bir kişiye kadar, aralarında birimler ve beceriler olmak üzere dört düzeyde belirlenebilir. Bir bütçeye ulaşıldığında, sahibinin seçtiği kural uygulanır. İş devam edebilir, daha ucuz bir modele geçebilir ya da bir yönetici onaylayana kadar durabilir. Finans, hem barındırılan hem de yerel modelleri kapsayan tek bir hesap özeti alır.

Kendi sunucularınızdaki modeller

Kuruluşun kendi donanımında çalıştırdığı herhangi bir model, OpenAI uyumlu protokolü konuştuğu sürece santrale katılabilir. BT ekibiniz santrale sunucunun adresini verir, bulduğu modelleri görür ve her birinin hangi işi yapacağını seçer. Bağlantı sayfası, işlem tamamlandığında "Bu tesisten dışarı hiçbir şey çıkmaz" onayını verir. Metni aranabilir biçime dönüştüren küçük bir model de varsayılan olarak kurulumun içinde, sıradan işlemciler üzerinde çalışır; böylece aramanın kendisi dışarıdan bir hizmete ihtiyaç duymaz. Bunun için barındırılan bir hizmet kullanmak kuruluşun yapabileceği bir tercihtir.

Harrow gibi hava boşluklu (air-gapped) bir tesiste yerel modeller tek modellerdir. Bu durum insanların yaptığı çoğu iş için iyi çalışır ve beraberinde dürüst bir sınır getirir: bir yetenek, modelinin tesiste kurulu olmasını gerektirir. Harrow'un not defteri stüdyosu yerel modellerden slaytlar ve tek sayfalık özetler oluşturabilir; ancak sesli özet için bir ses modeli gerekir ve böyle bir model kurulana kadar stüdyo bunu açıkça belirtir ve kimin ekleyebileceğini yazar.

Hava boşluklu bir tesiste stüdyo
Hava boşluklu bir tesiste stüdyo
Hava boşluklu bir tesiste not defteri stüdyosu. Sesli özetler eksik ses modelinde durur ve levha kimin bir model ekleyebileceğini ve bu arada stüdyonun neler üretebileceğini belirtir.

Yerel modeller birbirini de denetleyebilir. Harrow'da bir model ailesinin yaptığı iş bir diğeri tarafından incelenir (örneğin Qwen3-32B, Llama 3.3 70B tarafından); böylece bir ailedeki kör nokta aynı aile tarafından denetlenmemiş olur.

Daha ileri gitmek isteyen kuruluşlar için Model fabrikası eklentisi, yalnızca kuruluşun kullanmasına izin verilen verileri kullanarak kuruluşun kendi ekran kartlarında modelleri eğitir ve ince ayar yapar.

Anahtar yoksa YZ de yoktur ve Nexus bunu açıkça belirtir

Bağlı hiçbir modeli olmayan bir kuruluş YZ yanıtı alamaz. Bu bir hata değil, tasarımın bilinçli bir sınırıdır. Nexus boşluğu doldurmak için sessizce paylaşımlı bir anahtarı ödünç almaz; çünkü o zaman kuruluşun verileri hiç seçmediği bir yere gitmiş olur.

İnsanların bunun yerine gördüğü şey sade bir levhadır. Asistan, bağlı bir model olmadığı için yanıt veremediğini açıklar, küçük puntolarla MODEL_NOT_CONNECTED kodunu verir ve yetkisi olan kişilere "Bir model bağla" seçeneğini sunar. Model bekleyen işler, bir model geri gelir gelmez çalışır.

Arkanızdan gizlice Adverant'a hiçbir şey gitmez

Kendi barındırdığınız bir Nexus, çalışanlarınız hakkında Adverant'a rapor vermez. Dışarıya bir şey çıkacağında, göndermeden önce onu siz okursunuz.

Kendi altyapınızdaki bir kurulum, yalnızca sayaçları içeren yıllık bir kullanım bildirimi hazırlar: kaç koltuk ve cihazın kullanımda olduğu ve hangi özellik gruplarının kullanıldığı. Yöneticiniz bunu yüklemeden veya bir diskle dışarı çıkarmadan önce satır satır okur. Yeni bir özellik isteyen hava boşluklu bir tesis, kurulumun parmak iziyle birlikte kurulumu ve özelliği belirten bir talep dosyası gönderir. Bununla birlikte kişiler veya işleri hakkında hiçbir şey gitmez. Yardıma ihtiyacınız olduğunda bir destek paketi, herhangi bir şey gönderilmeden önce neleri toplayacağını ve sansürlenen kısımların bir önizlemesini gösterir.

Adverant personeli kendi inisiyatifiyle bir müşteri kurulumunun içine bakamaz. Destek ekibinin bakması gerekirse talep bir destek kaydı üzerinden gelir ve yöneticiniz evet ya da hayır der. Evet yanıtı en fazla sekiz saatlik belirli bir süre ve motor günlükleri gibi adı belirtilmiş bir kapsam içindir. Hiçbir zaman kimsenin mesajlarını, dosyalarını ya da postalarını ve belleğini kapsamaz.

Bir kişinin kendi aboneliği asla kuruluşun aboneliği değildir

Bazı kişiler Claude Max planı gibi bir YZ aboneliği için kendileri ödeme yapar. Nexus bunu asla kuruluşun aboneliği olarak görmez. Kişisel bir abonelik kuruluşun havuzuna eklenemez (havuz bunu ismen reddeder) ve kuruluşun YZ kurulumunu gösteren hiçbir sayfa böyle bir aboneliği asla listelemez.

Nedenleri pratiktir. Kişisel bir plan, tek bir kişi için tüketici koşulları kapsamında satın alınır; dolayısıyla iş arkadaşlarının işlerini onun üzerinden yönlendirmek bu koşulları ihlal eder. Kuruluş bunun kullanımını göremez veya üzerine bir bütçe koyamaz ve o kişi ayrıldığında abonelik de kapıdan çıkıp gider. Kuruluşun YZ'si kuruluşun sahip olduğu anahtarlara dayanmalıdır ve Nexus'ta da öyledir.