Версия 1.0.0-alpha.1последно
Глава 1.4
ИИ при Вашите условия
Как Nexus използва изкуствен интелект (ИИ) при собствените условия на организацията. Организацията предоставя и притежава своите ключове за модели, един комутатор насочва всяко извикване на модел към избрани от нея доставчици, локалните модели работят на нейни собствени сървъри и нищо не се изпраща към Adverant зад гърба ѝ.
Тази страница е преведена от ИИ от английския оригинал. Ако нещо е неясно, английската страница е референтна. Прочетете тази страница на английски

Оперативната инсталация на Harrow Port Authority изобщо няма хостван доставчик на ИИ. Тя няма връзка с интернет, затова всеки модел, който използва, работи на графични карти в собственото ѝ машинно помещение: Qwen3-32B за по-голямата част от работата, с Llama 3.3 70B и Gemma 3 27B до него. Когато Aoife Brennan, ръководител на ИТ отдела в Harrow, отвори страницата на ИИ комутатора, тя показва точно тези модели, коя задача изпълнява всеки от тях и мястото, до което е разрешено да отива всяко повикване. Това място е сградата.
Повечето организации ще комбинират хоствани и локални модели. Принципът не се променя: организацията решава кой изкуствен интелект (ИИ) използва, къде могат да пътуват данните ѝ и колко харчи, а Nexus прилага тези решения при всяко повикване.
Ключът принадлежи на организацията
Когато една организация използва хостван модел, тя предоставя свой собствен ключ. Nexus съхранява ключовете в ИИ пула на организацията. Те принадлежат на организацията, а не на отделно лице в нея. Собствениците и администраторите ги добавят и оттеглят. Пулът приема ключове за Anthropic, Google Gemini, OpenRouter и Scaleway и може да сочи към всеки сървър, управляван от организацията, който поддържа общия OpenAI-съвместим протокол.
Ключът се въвежда веднъж. Nexus го криптира при получаване и никога повече не го показва никъде. От този момент нататък ключът се появява само като кратка подсказка и ред като „зададен от Aoife на 3 септ.“. Когато даден ключ бъде оттеглен, комутаторът веднага спира да изпраща повиквания към него, а ключът остава в списъка като оттеглен, така че историята за това кой какво е използвал се запазва цялостна. Нищо не се изтрива.
Всяка организация има свой собствен акаунт при доставчик и собствена сметка. Зад ИИ на даден клиент не стои споделен ключ на Adverant, така че разходите на една организация никога не се смесват с тези на друга, а организация, която сменя доставчика си, просто оттегля един ключ и добавя друг.
Ключовете за външни източници на данни се държат отделно от ключовете за модели. Harrow например съхранява ключ за емисията с позициите на корабите, която чете, на отделна страница за ключове за външни данни. Тази страница директно отказва ключ за модел, тъй като ключовете за модели принадлежат в пула и никъде другаде.
Комутаторът насочва всяко извикване
Приложенията и агентите в Nexus никога не извикват модел директно, нито пък работните потоци. Те се обръщат към ИИ комутатора. Той притежава ключовете и прави крайния избор на доставчик и модел. Дадено приложение може да посочи какво предпочита, например бърз модел за кратки отговори, и комутаторът изпълнява това желание, когато организацията е настроила този доставчик. Когато не е, комутаторът избира друг, който организацията е разрешила. Приложението никога не може да наложи модел, който организацията не е избрала.
Преди дадено повикване да бъде изпратено, приложението го етикетира с отдела и ролята, които го заявяват, както и със степента на чувствителност на данните. Комутаторът маршрутизира въз основа на този етикет и никога не отваря самото повикване. Той взема четири решения.
Първото е задачата. Разчитането на сканиран формуляр изисква различен модел от изготвянето на писмо, затова организацията съпоставя всеки вид задача (стандартна, бърза, логическо мислене, програмен код и дълъг контекст) с моделите, които предпочита. Второто са данните. Личните или секретни данни могат да бъдат ограничени до модели на собствения хардуер на организацията, докато публичните материали могат да използват повече. Третото е мястото. Повикванията отиват само към регионите и доставчиците, разрешени от отдела, а повикване, което би отишло другаде, се отказва, като отказът се записва в регистъра. Четвъртото е резервният вариант. Ако даден модел е бавен или недостъпен, следващият разрешен модел поема повикването. Ключ, който се провали, почива за 60 секунди и се пропуска; след пет поредни неуспеха той се изключва. Повикването достига до разрешен модел или изчаква, а ако нито едното не сработи, то се проваля с ясна причина. То никога не отива на място, което правилата забраняват.
Правилата започват на ниво организация и могат да бъдат стеснявани за всеки отдел и приложение, както и за всеки вид данни. Един отдел може да бъде ограничен до локални модели на собствен хардуер, докато друг използва хостван модел в Европейския съюз. Един отдел никога не може да има по-свободни правила от организацията.
Всяко извикване се преброява, но никога не се чете
Комутаторът отчита всяко повикване по лице и екип, както и по приложение и ден. Той измерва също времето и разходите за всяко повикване. Никога не съхранява и не чете какво е било попитано или какъв отговор е върнат. Всеки бюджет има посочен собственик и лимит. Бюджетите могат да се задават на четири нива – от организацията надолу до отделно лице, с отдели и умения помежду им. Когато даден бюджет бъде достигнат, се прилага правилото, избрано от неговия собственик. Работата може да продължи или да премине към по-евтин модел, или да спре, докато администратор не даде съгласие. Финансовият отдел получава едно извлечение, което обхваща както хостваните, така и локалните модели.
Модели на Вашите собствени сървъри
Всеки модел, който организацията управлява на собствен хардуер, може да се присъедини към комутатора, стига да поддържа OpenAI-съвместимия протокол. Вашият ИТ екип подава на комутатора адреса на сървъра, вижда откритите модели и избира коя задача да изпълнява всеки от тях. Страницата за връзка потвърждава „Нищо не напуска този обект“, след като настройката приключи. Малък модел, който превръща текста във форма, годна за търсене, също работи вътре в инсталацията по подразбиране, на обикновени процесори, така че самото търсене не се нуждае от външна услуга. Използването на хоствана услуга за това е избор, който организацията може да направи.
В изолиран от интернет обект като Harrow локалните модели са единствените модели. Това работи добре за по-голямата част от дейностите на хората и води до едно естествено ограничение: за дадена функционалност е необходимо съответният модел да е инсталиран на място. Студиото за бележници на Harrow може да създава презентации и резюмета от една страница чрез локалните модели, но за аудио резюме е необходим гласов модел и докато такъв не бъде инсталиран, студиото ясно заявява това и посочва кой може да го добави.
Локалните модели могат също да се проверяват взаимно. В Harrow работата, извършена от едно семейство модели, се преглежда от друго (например Qwen3-32B от Llama 3.3 70B), така че пропуск в едно семейство да не се проверява от същото семейство.
За организации, които искат да стигнат по-далеч, добавката Фабрика за модели обучава и настройва модели на собствените графични карти на организацията, използвайки само данни, които организацията има право да използва.
Липсата на ключ означава липса на ИИ и Nexus го казва ясно
Организация без свързан модел не получава отговори от ИИ. Това е целенасочено ограничение в дизайна, а не грешка. Nexus не заема тихомълком споделен ключ, за да запълни празнината, защото тогава данните на организацията биха отишли на място, което тя никога не е избирала.
Това, което хората виждат вместо това, е изчистено информационно табло. Асистентът обяснява, че не може да отговори, тъй като няма свързан модел, показва кода MODEL_NOT_CONNECTED с дребен шрифт и предлага „Свържете модел“ на тези, които имат нужните права. Задачите, изчакващи модел, се изпълняват веднага щом такъв отново е наличен.
Нищо не отива към Adverant зад гърба Ви
Самостоятелно хостваният Nexus не докладва за Вашите служители на Adverant. Когато нещо все пак напуска системата, Вие го прочитате, преди да го изпратите.
Инсталация върху Ваша собствена инфраструктура изготвя годишно извлечение за потреблението, съдържащо само броячи: колко потребителски места и устройства се използват и кои групи от функции. Вашият администратор го прочита ред по ред, преди да го качи или да го изнесе на носител. Изолиран от интернет обект, който заявява нова функция, изпраща файл със заявка, посочващ инсталацията и функцията, заедно с цифровия отпечатък на инсталацията. С него не се изпраща нищо за хората или тяхната работа. Когато имате нужда от помощ, пакетът за поддръжка показва какво ще събере и предлага предварителен преглед на заличените данни, преди каквото и да било да бъде изпратено.
Служителите на Adverant не могат да поглеждат в клиентска инсталация по собствена инициатива. Ако екипът по поддръжката има нужда от това, заявката идва чрез тикет за поддръжка и Вашият администратор казва „да“ или „не“. Съгласието важи за определен период от най-много осем часа и за конкретно посочен обхват, като например системни журнали на ядрото. То никога не обхваща нечии съобщения или файлове, нито пощата и паметта им.
Личният абонамент на даден човек никога не е абонамент на организацията
Някои хора плащат за абонамент за ИИ сами, като например план Claude Max. Nexus никога не го третира като собственост на организацията. Личният абонамент не може да бъде добавен към общия пул на организацията (пулът го отхвърля по име) и никоя страница, показваща настройките за ИИ на организацията, не включва такъв.
Причините са практически. Личният план се закупува при потребителски условия за един човек, така че пренасочването на работата на колеги през него би нарушило тези условия. Организацията не може да вижда неговото потребление или да му зададе бюджет, а освен това той си тръгва заедно с човека, когато той напусне. ИИ на организацията трябва да се основава на ключове, които тя притежава, и в Nexus това е така.

