УвійтиЗамовити брифінг

Розділ 1.4

ШІ на ваших умовах

Як Nexus використовує штучний інтелект (ШІ) на власних умовах організації. Організація використовує власні ключі моделей і володіє ними, єдиний комутатор спрямовує кожен виклик моделі до обраних нею постачальників, локальні моделі працюють на її власних серверах, і нічого не надсилається до Adverant потай від неї.

Цю сторінку перекладено за допомогою ШІ з англійського оригіналу. Якщо щось незрозуміло, орієнтуйтеся на англійську версію сторінки. Читати цю сторінку англійською

10 хв читання

Операційна інсталяція Harrow Port Authority взагалі не використовує хмарних провайдерів ШІ. Вона не має виходу в інтернет, тому кожна модель, яку вона використовує, працює на відеокартах у власному машинному залі: Qwen3-32B для більшості завдань, а поруч із нею — Llama 3.3 70B та Gemma 3 27B. Коли Aoife Brennan, керівниця ІТ-відділу Harrow, відкриває сторінку комутатора ШІ, там перелічено саме ці моделі, роботу, яку виконує кожна з них, і місце, куди дозволено надсилати кожен виклик. Це місце — сама будівля.

Більшість організацій поєднуватимуть хмарні та локальні моделі. Принцип не змінюється: організація сама вирішує, який штучний інтелект (ШІ) вона використовує, куди можуть передаватися її дані та скільки вона витрачає, а Nexus забезпечує виконання цих рішень під час кожного виклику.

Ключ належить організації

Коли організація використовує хмарну модель, вона надає власний ключ. Nexus зберігає ключі в пулі ШІ організації. Вони належать самій організації, а не окремій особі в ній. Власники та адміністратори додають і відкликають їх. Пул приймає ключі для Anthropic, Google Gemini, OpenRouter та Scaleway, а також може спрямовувати запити на будь-який сервер, який підтримує організація і який працює за поширеним протоколом, сумісним з OpenAI.

Ключ вводиться один раз. Nexus шифрує його під час отримання і більше ніколи й ніде не показує. Відтоді ключ відображається лише як коротка підказка та рядок на кшталт «встановлено Aoife 3 вер.». Коли ключ відкликають, комутатор миттєво припиняє надсилати на нього виклики, а сам ключ залишається у списку як відкликаний, щоб зберегти цілісність історії того, хто і що використовував. Нічого не видаляється.

Кожна організація має власний обліковий запис у провайдера та власний рахунок. За ШІ клієнта не стоїть жоден спільний ключ Adverant, тому витрати однієї організації ніколи не змішуються з витратами іншої, а організація, яка змінює провайдера, просто відкликає один ключ і додає інший.

Ключі для зовнішніх джерел даних зберігаються окремо від ключів моделей. Наприклад, Harrow зберігає ключ для стрічки даних про розташування суден, яку вона зчитує, на окремій сторінці ключів зовнішніх даних. Ця сторінка категорично відхиляє ключі моделей, оскільки ключі моделей мають бути в пулі й ніде більше.

Комутатор спрямовує кожен виклик

Застосунки та агенти в Nexus ніколи не викликають модель напряму, як і робочі процеси. Вони звертаються до комутатора ШІ. Він володіє ключами та робить остаточний вибір провайдера й моделі. Застосунок може вказати свої побажання — можливо, швидку модель для коротких відповідей, — і комутатор виконає це побажання, якщо в організації налаштовано цього провайдера. Якщо ні, комутатор обере іншу модель, дозволену організацією. Застосунок ніколи не може примусово викликати модель, яку організація не обрала.

Ліворуч три невеликі блоки з написами «Асистент», «Крок робочого процесу» та «Агент» спрямовують по стрілці у великий центральний блок із написом «Комутатор ШІ». Усередині нього розташовано чотири послідовні кроки: «Завдання: який тип моделі підходить», «Дані: чи можуть вони залишати межі цього об'єкта», «Місце: дозволені регіони та провайдери» та «Резерв: наступна дозволена модель, якщо перша зайнята». З комутатора виходять стрілки до двох блоків праворуч: «Локальні моделі на ваших власних серверах» та «Хмарні провайдери, ключі до яких має ваша організація». Третя стрілка намальована пунктиром. Вона закінчується хрестиком біля блоку з написом «Будь-яке інше місце» та приміткою «відхилено та записано в журнал».
Що відбувається з одним викликом моделі на його шляху через комутатор.

Перед тим як виклик вирушає, застосунок позначає його міткою із зазначенням підрозділу та ролі, що роблять запит, а також рівня конфіденційності даних. Комутатор визначає маршрут на основі цієї мітки і ніколи не відкриває сам виклик. Він ухвалює чотири рішення.

Перше — це завдання. Для зчитування відсканованої форми підходить інша модель, ніж для складання листа, тому організація зіставляє кожен вид завдання (стандартне, швидке, міркування, код і довгий контекст) із моделями, яким вона надає перевагу. Друге — це дані. Персональні або таємні дані можуть обмежуватися моделями на власному обладнанні організації, тоді як для публічних матеріалів можна використовувати ширший спектр. Третє — це місце. Виклики прямують лише до тих регіонів і провайдерів, які дозволені підрозділом, а виклик, що мав би піти кудись інде, відхиляється із записом про відмову в журналі. Четверте — це резервний варіант. Якщо модель працює повільно або недоступна, виклик приймає наступна дозволена модель. Ключ, який дав збій, переходить у режим очікування на 60 секунд і пропускається; після п'яти збоїв поспіль він вимикається. Виклик або потрапляє до дозволеної моделі, або очікує, а якщо жоден варіант не спрацьовує, він завершується помилкою з чіткою причиною. Він ніколи не прямує туди, куди заборонено правилами.

Правила починаються на рівні організації і можуть звужуватися для кожного підрозділу й застосунку, а також для кожного виду даних. Один підрозділ може бути обмежений локальними моделями на власному обладнанні, тоді як інший використовує хмарну модель у Європейському Союзі. Правила підрозділу ніколи не можуть бути менш суворими, ніж правила організації.

Комутатор ШІ
Комутатор ШІ
Сторінка комутатора ШІ. Зверніть увагу, яка модель яке завдання виконує та куди можуть передаватися дані. Кожен ключ відображається лише з інформацією про те, хто і коли його встановив.

Кожен виклик підраховується, але ніколи не читається

Комутатор підраховує кожен виклик за особою та командою, а також за застосунком і днем. Він також вимірює час і вартість кожного виклику. Він ніколи не зберігає і не читає те, що запитували або що надійшло у відповідь. Кожен бюджет має призначеного власника та ліміт. Бюджети можна встановлювати на чотирьох рівнях: від організації до однієї особи, з підрозділами та навичками між ними. Коли бюджет вичерпується, застосовується правило, обране його власником. Робота може тривати далі, перейти на дешевшу модель або зупинитися, доки адміністратор не дасть згоду. Фінансовий відділ отримує єдину виписку, яка охоплює як хмарні, так і локальні моделі.

Моделі на ваших власних серверах

Будь-яка модель, яку організація запускає на власному обладнанні, може бути підключена до комутатора, якщо вона підтримує протокол, сумісний з OpenAI. Ваша ІТ-команда надає комутатору адресу сервера, бачить знайдені ним моделі та обирає, яке завдання виконує кожна з них. Після завершення сторінка підключення підтверджує: «Нічого не залишає межі цього об'єкта». Невелика модель, яка перетворює текст у придатну для пошуку форму, також за замовчуванням працює всередині інсталяції на звичайних процесорах, тому сам пошук не потребує зовнішніх сервісів. Використання хмарного сервісу для цього — це вибір, який організація може зробити сама.

На ізольованому від зовнішніх мереж об'єкті, як-от Harrow, локальні моделі є єдиними доступними. Це добре працює для більшості завдань, які виконують люди, але накладає одне об'єктивне обмеження: для певної можливості потрібна відповідна модель, встановлена локально. Студія блокнотів Harrow може створювати слайди та односторінкові зведення за допомогою локальних моделей, але для аудіозведення потрібна голосова модель, і доки її не встановлять, студія прямо повідомляє про це та вказує, хто може її додати.

Студія на ізольованому об'єкті
Студія на ізольованому об'єкті
Студія блокнотів на ізольованому від зовнішніх мереж об'єкті. Створення аудіозведень зупиняється через відсутність голосової моделі, а на плашці вказано, хто може її додати і що студія може робити тим часом.

Локальні моделі також можуть перевіряти одна одну. У Harrow робота, виконана одним сімейством моделей, перевіряється іншим (наприклад, Qwen3-32B перевіряється моделлю Llama 3.3 70B), щоб сліпа зона одного сімейства не перевірялася тим самим сімейством.

Для організацій, які хочуть піти далі, додатковий модуль «Фабрика моделей» навчає та налаштовує моделі на власних відеокартах організації, використовуючи лише ті дані, які організації дозволено використовувати.

Немає ключа — немає ШІ, і Nexus прямо про це повідомляє

Організація без жодної підключеної моделі не отримує відповідей від ШІ. Це свідоме конструктивне обмеження, а не помилка. Nexus не позичає непомітно спільний ключ, щоб заповнити цю прогалину, оскільки тоді дані організації пішли б туди, куди вона ніколи не обирала.

Натомість люди бачать просту інформаційну плашку. Асистент пояснює, що не може відповісти, оскільки не підключено жодної моделі, наводить код MODEL_NOT_CONNECTED дрібним шрифтом і пропонує кнопку «Підключити модель» тим, хто має на це права. Завдання, що очікують на модель, запускаються щойно вона знову з'являється.

Нічого не передається до Adverant потай від вас

Nexus, розгорнутий на власних серверах, не звітує про ваших співробітників компанії Adverant. Коли якісь дані все ж передаються назовні, ви самі переглядаєте їх перед надсиланням.

Інсталяція на вашій власній інфраструктурі готує щорічний звіт про використання, що містить лише лічильники: скільки робочих місць і пристроїв використовується та які групи функцій задіяні. Ваш адміністратор прочитує його рядок за рядком, перш ніж завантажити або винести на диску. Ізольований об'єкт, що запитує нову функцію, надсилає файл запиту, у якому вказано назву інсталяції та функції, а також цифровий відбиток інсталяції. Жодної інформації про людей чи їхню роботу в ньому немає. Коли вам потрібна допомога, пакет підтримки показує, що саме він збере, та надає попередній перегляд прихованих даних, перш ніж будь-що буде надіслано.

Співробітники Adverant не можуть зазирнути всередину клієнтської інсталяції за власною ініціативою. Якщо службі підтримки це необхідно, запит надходить через заявку в підтримку, і ваш адміністратор каже «так» або «ні». Згода надається на визначений час — щонайбільше на вісім годин — і на конкретну область доступу, наприклад журнали рушія. Вона ніколи не охоплює чиїсь повідомлення чи файли, пошту або пам'ять.

Особиста підписка співробітника ніколи не стає підпискою організації

Деякі люди самі оплачують підписку на ШІ, наприклад тарифний план Claude Max. Nexus ніколи не розглядає її як власність організації. Особисту підписку не можна додати до пулу організації (пул відхиляє її за назвою), і жодна сторінка, що показує налаштування ШІ організації, ніколи її не відображає.

Причини суто практичні. Особистий план купується на споживчих умовах для однієї особи, тому спрямування через нього роботи колег порушило б ці умови. Організація не може бачити його використання чи встановити для нього бюджет, і він зникає разом із людиною, коли вона звільняється. ШІ організації має спиратися на ключі, якими володіє сама організація, і в Nexus це реалізовано саме так.