PieteiktiesPieteikt konsultāciju
1. daļa: Ikvienam
Versija 1.0.0-alpha.1jaunākā

1.4. nodaļa

MI ar jūsu noteikumiem

Kā Nexus izmanto mākslīgo intelektu (MI) atbilstoši pašas organizācijas noteikumiem. Organizācija izmanto un pārvalda savas modeļu atslēgas, viens komutators novirza katru modeļa izsaukumu tās izvēlētajiem pakalpojumu sniedzējiem, lokālie modeļi darbojas uz tās pašas serveriem, un nekas netiek nosūtīts uz Adverant bez tās ziņas.

Šo lapu no oriģināla angļu valodā ir tulkojis MI. Neskaidrību gadījumā par pamatu jāņem lapa angļu valodā. Lasīt šo lapu angļu valodā

10 minūšu lasīšana

Harrow Port Authority operāciju instalācijai vispār nav neviena mitināta MI nodrošinātāja. Tai nav savienojuma ar internetu, tāpēc katrs izmantotais modelis darbojas uz grafiskajām kartēm tās pašas serveru telpā: Qwen3-32B lielākajai daļai darbu un līdzās tam Llama 3.3 70B un Gemma 3 27B. Kad Aoife Brennan, Harrow IT vadītāja, atver MI komutatora lapu, tajā ir uzskaitīti tieši šie modeļi, katra modeļa veicamais uzdevums un vieta, uz kurieni katram izsaukumam ir atļauts doties. Šī vieta ir pati ēka.

Lielākā daļa organizāciju kombinēs mitinātos un lokālos modeļus. Princips nemainās: organizācija izlemj, kuru mākslīgo intelektu (MI) tā izmanto, kur drīkst ceļot tās dati un cik daudz tā tērē, un Nexus nodrošina šo lēmumu izpildi katrā izsaukumā.

Atslēga pieder organizācijai

Kad organizācija izmanto mitinātu modeli, tā pievieno pati savu atslēgu. Nexus glabā atslēgas organizācijas MI pūlā. Tās pieder organizācijai, nevis kādai atsevišķai personai tajā. Īpašnieki un administratori tās pievieno un atsauc. Pūls pieņem Anthropic, Google Gemini, OpenRouter un Scaleway atslēgas, un to var novirzīt uz jebkuru organizācijas darbinātu serveri, kas izmanto izplatīto ar OpenAI saderīgo protokolu.

Atslēgu ievada vienu reizi. Nexus to saņemšanas brīdī šifrē un vairs nekad un nekur nerāda. Turpmāk atslēga ir redzama tikai kā īsa norāde un rindiņa, piemēram, "iestatīja Aoife 3. septembrī". Kad atslēgu atsauc, komutators nekavējoties pārtrauc sūtīt tai izsaukumus, un atslēga paliek sarakstā kā atsaukta, lai saglabātu vienotu vēsturi par to, kurš ko ir izmantojis. Nekas netiek dzēsts.

Katrai organizācijai ir savs pakalpojumu sniedzēja konts un savs rēķins. Aiz nomnieka MI neslēpjas nekāda koplietota Adverant atslēga, tāpēc vienas organizācijas tēriņi nekad nesajaucas ar citas organizācijas tēriņiem, un organizācija, kas maina pakalpojumu sniedzēju, vienkārši atsauc vienu atslēgu un pievieno citu.

Ārējo datu avotu atslēgas tiek glabātas atsevišķi no modeļu atslēgām. Piemēram, Harrow glabā atslēgu kuģu atrašanās vietu datu plūsmai, ko tā lasa, atsevišķā ārējo datu atslēgu lapā. Šī lapa pilnībā noraida modeļu atslēgas, jo modeļu atslēgām ir jāatrodas pūlā un nekur citur.

Komutators novirza katru izsaukumu

Lietotnes un aģenti sistēmā Nexus nekad neizsauc modeli tieši, un to nedara arī darbplūsmas. Tie vēršas pie MI komutatora. Tam pieder atslēgas, un tas pieņem galīgo lēmumu par pakalpojumu sniedzēju un modeli. Lietotne var norādīt, ko tā vēlētos, piemēram, ātru modeli īsām atbildēm, un komutators šo vēlmi ņem vērā, ja organizācija ir iestatījusi šādu pakalpojumu sniedzēju. Ja nav, komutators izvēlas citu, ko organizācija ir atļāvusi. Lietotne nekad nevar uzspiest modeli, kuru organizācija nav izvēlējusies.

Kreisajā pusē no trim maziem lodziņiem ar uzrakstiem "Asistents", "Darbplūsmas solis" un "Aģents" bultiņas ved uz lielu centrālo lodziņu ar uzrakstu "MI komutators". Tā iekšpusē četros vienā virs otra izvietotos soļos ir rakstīts: "Uzdevums: kāda veida modelis ir piemērots", "Dati: vai tie drīkst atstāt šo objektu", "Vieta: atļautie reģioni un pakalpojumu sniedzēji" un "Rezerves variants: nākamais atļautais modelis, ja pirmais ir aizņemts". No komutatora bultiņas ved uz diviem lodziņiem labajā pusē: "Lokālie modeļi jūsu pašu serveros" un "Mitinātie pakalpojumu sniedzēji, kuru atslēgas pieder jūsu organizācijai". Trešā bultiņa ir iezīmēta ar raustītu līniju. Tā beidzas ar krustiņu blakus lodziņam ar uzrakstu "Jebkur citur" un piezīmi "noraidīts un reģistrēts žurnālā".
Kas notiek ar vienu modeļa izsaukumu tā ceļā caur komutatoru.

Pirms izsaukuma nosūtīšanas lietotne to marķē, norādot pieprasītāju struktūrvienību un lomu, kā arī datu sensitivitātes līmeni. Komutators veic maršrutēšanu, pamatojoties uz šo marķējumu, un pats nekad neatver pašu izsaukumu. Tas pieņem četrus lēmumus.

Pirmais ir uzdevums. Skenētas veidlapas lasīšanai ir piemērots cits modelis nekā vēstules melnraksta sagatavošanai, tāpēc organizācija piesaista katru uzdevuma veidu (noklusējuma, ātro, spriešanas, koda un gara konteksta) modeļiem, kuriem tā dod priekšroku. Otrais ir dati. Personas vai slepenus datus var ierobežot, ļaujot tos apstrādāt tikai modeļiem uz organizācijas pašas aparatūras, savukārt publiskiem materiāliem var izmantot plašākas iespējas. Trešais ir vieta. Izsaukumi dodas tikai uz tiem reģioniem un pakalpojumu sniedzējiem, kurus struktūrvienība atļauj, un izsaukums, kas dotos uz jebkuru citu vietu, tiek noraidīts, noraidījumu reģistrējot žurnālā. Ceturtais ir rezerves variants. Ja modelis darbojas lēni vai ir nepieejams, izsaukumu pārņem nākamais atļautais modelis. Atslēga, kurai rodas kļūme, tiek atlikta uz 60 sekundēm un izlaista; pēc piecām kļūmēm pēc kārtas tā tiek izslēgta. Izsaukums sasniedz atļautu modeli vai gaida, un, ja neviens no variantiem nedarbojas, tas tiek pārtraukts ar skaidru iemeslu. Tas nekad nedodas turp, kur noteikumi to aizliedz.

Noteikumi sākas organizācijas līmenī, un tos var sašaurināt katrai struktūrvienībai un lietotnei, kā arī katram datu veidam. Vienu struktūrvienību var ierobežot, ļaujot izmantot tikai lokālos modeļus uz tās pašas aparatūras, kamēr cita izmanto mitinātu modeli Eiropas Savienībā. Struktūrvienības noteikumi nekad nevar būt vaļīgāki par organizācijas noteikumiem.

MI komutators
MI komutators
MI komutatora lapa. Pievērsiet uzmanību tam, kurš modelis veic kuru uzdevumu un kur drīkst nonākt dati. Katrai atslēgai ir redzams tikai tas, kurš un kad to ir iestatījis.

Katrs izsaukums tiek uzskaitīts, bet nekad netiek lasīts

Komutators uzskaita katru izsaukumu pēc personas un komandas, kā arī pēc lietotnes un dienas. Tas mēra arī katra izsaukuma laiku un izmaksas. Tas nekad neglabā un nelasa to, kas tika jautāts vai saņemts atbildē. Katram budžetam ir norādīts īpašnieks un limits. Budžetus var iestatīt četros līmeņos, sākot no organizācijas līdz pat vienai personai, starp tiem iekļaujot struktūrvienības un prasmes. Kad budžets ir sasniegts, stājas spēkā tā īpašnieka izvēlētais noteikums. Darbs var turpināties vai pāriet uz lētāku modeli, vai arī tas var apstāties, līdz administrators dod piekrišanu. Finanšu nodaļa saņem vienu pārskatu, kas aptver gan mitinātos, gan lokālos modeļus.

Modeļi uz jūsu pašu serveriem

Komutatoram var pievienot jebkuru modeli, ko organizācija darbina uz savas aparatūras, ja vien tas atbalsta ar OpenAI saderīgo protokolu. Jūsu IT komanda norāda komutatoram servera adresi, redz atrastos modeļus un izvēlas, kādu uzdevumu katrs no tiem veic. Kad tas ir izdarīts, savienojuma lapā tiek parādīts apstiprinājums "Nekas neatstāj šo objektu". Neliels modelis, kas pārveido tekstu meklējamā formā, pēc noklusējuma arī darbojas pašā instalācijā uz parastiem procesoriem, tāpēc pašai meklēšanai nav nepieciešams ārējs pakalpojums. Mitināta pakalpojuma izmantošana šim nolūkam ir izvēle, ko organizācija var izdarīt.

Tādā izolētā (air-gapped) objektā kā Harrow lokālie modeļi ir vienīgie modeļi. Tas labi darbojas lielākajai daļai darbu, ko cilvēki veic, un tas rada vienu godīgu ierobežojumu: lai izmantotu kādu funkciju, tās modelim ir jābūt instalētam uz vietas. Harrow piezīmju grāmatiņas studija var veidot slaidus un vienas lappuses kopsavilkumus, izmantojot lokālos modeļus, taču audio kopsavilkumam ir nepieciešams balss modelis, un, kamēr tāds nav instalēts, studija to skaidri norāda un nosauc, kurš to var pievienot.

Studija izolētā objektā
Studija izolētā objektā
Piezīmju grāmatiņas studija izolētā objektā. Audio kopsavilkumu izveide apstājas trūkstošā balss modeļa dēļ, un paziņojumā ir norādīts, kurš to var pievienot un ko studija tikmēr var izveidot.

Lokālie modeļi var arī pārbaudīt cits citu. Uzņēmumā Harrow vienas modeļu saimes veikto darbu pārskata cita saime (piemēram, Qwen3-32B darbu pārbauda Llama 3.3 70B), lai vienas saimes aklā zona netiktu pārbaudīta ar to pašu saimi.

Organizācijām, kas vēlas iet tālāk, papildinājums Model factory apmāca un pielāgo modeļus uz organizācijas pašas grafiskajām kartēm, izmantojot tikai tos datus, kurus organizācijai ir atļauts izmantot.

Nav atslēgas — nav MI, un Nexus to skaidri pasaka

Organizācija, kurai nav pievienots neviens modelis, nesaņem nekādas MI atbildes. Tas ir apzināts arhitektūras ierobežojums, nevis kļūda. Nexus klusībā neaizņemas koplietotu atslēgu, lai aizpildītu šo robu, jo tad organizācijas dati nonāktu vietā, ko tā nekad nav izvēlējusies.

Tā vietā lietotāji redz vienkāršu paziņojumu. Asistents paskaidro, ka nevar atbildēt, jo nav pievienots neviens modelis, sīkā drukā norāda kodu MODEL_NOT_CONNECTED un piedāvā opciju "Pievienot modeli" tam, kam ir šādas tiesības. Darbi, kas gaida modeli, tiek izpildīti, tiklīdz kāds modelis atkal ir pieejams.

Nekas nenonāk pie Adverant bez jūsu ziņas

Pašmitināts Nexus nesūta uzņēmumam Adverant atskaites par jūsu darbiniekiem. Ja kaut kas tomēr tiek sūtīts ārpus sistēmas, jūs to izlasāt pirms nosūtīšanas.

Instalācija jūsu pašu infrastruktūrā sagatavo ikgadēju lietojuma pārskatu, kurā ir tikai skaitītāji: cik vietu un ierīču tiek izmantots un kuras funkciju grupas tiek lietotas. Jūsu administrators to izlasa rindiņu pa rindiņai pirms augšupielādes vai iznešanas datu nesējā. Izolēts objekts, kas pieprasa jaunu funkciju, nosūta pieprasījuma failu, kurā norādīta instalācija un funkcija, kā arī instalācijas ciparvirkne. Kopā ar to netiek sūtīta nekāda informācija par cilvēkiem vai viņu darbu. Kad jums ir nepieciešama palīdzība, atbalsta pakotne parāda, ko tā apkopos, un sniedz priekšskatījumu ar anonimizēto informāciju, pirms jebkas tiek nosūtīts.

Adverant personāls nevar ielūkoties klienta instalācijā pēc savas iniciatīvas. Ja atbalsta dienestam tas ir nepieciešams, pieprasījums tiek iesniegts caur atbalsta pieteikumu, un jūsu administrators saka jā vai nē. Apstiprinājums tiek dots uz noteiktu laiku, kas nepārsniedz astoņas stundas, un konkrētam tvērumam, piemēram, dzinēja žurnāliem. Tas nekad neaptver neviena lietotāja ziņojumus vai failus, nedz arī viņu e-pastu un atmiņu.

Personas privātais abonements nekad nekļūst par organizācijas abonementu

Daži cilvēki paši maksā par MI abonementu, piemēram, Claude Max plānu. Nexus to nekad neuzskata par organizācijas resursu. Personīgo abonementu nevar pievienot organizācijas pūlam (pūls to noraida pēc nosaukuma), un nevienā lapā, kurā redzami organizācijas MI iestatījumi, tas nekad netiek uzrādīts.

Iemesli ir praktiski. Personīgais plāns tiek iegādāts saskaņā ar patērētāju noteikumiem vienai personai, tāpēc kolēģu darba novirzīšana caur to pārkāptu šos noteikumus. Organizācija nevar redzēt tā lietojumu vai iestatīt tam budžetu, un tas pazūd līdz ar darbinieku, kad šī persona aiziet no darba. Organizācijas MI ir jābalstās uz atslēgām, kas pieder pašai organizācijai, un sistēmā Nexus tas tā arī ir.