Versioon 1.0.0-alpha.1uusim
Peatükk 1.4
AI teie tingimustel
Kuidas Nexus kasutab tehisintellekti (AI) organisatsiooni enda tingimustel. Organisatsioon toob kaasa ja omab oma mudelivõtmeid, üks kommutaator suunab iga mudelipäringu organisatsiooni valitud teenusepakkujatele, kohalikud mudelid töötavad organisatsiooni enda serverites ning midagi ei saadeta Adverantile organisatsiooni selja taga.
Selle lehe tõlkis AI ingliskeelsest originaalist. Kui miski jääb ebaselgeks, võtke aluseks ingliskeelne leht. Lugege seda lehte inglise keeles

Harrow Port Authority operatsioonide paigaldusel puudub pilvepõhine AI-teenusepakkuja täielikult. Sellel ei ole internetiühendust, mistõttu töötab iga kasutatav mudel nende endi masinaruumi graafikakaartidel: enamiku tööde jaoks Qwen3-32B ning selle kõrval Llama 3.3 70B ja Gemma 3 27B. Kui Harrow' IT-juht Aoife Brennan avab AI kommutaatori lehe, on seal loetletud täpselt need mudelid, iga mudeli ülesanne ja asukoht, kuhu iga päring võib liikuda. See asukoht on seesama hoone.
Enamik organisatsioone kombineerib pilvepõhiseid ja kohalikke mudeleid. Põhimõte sellest ei muutu: organisatsioon otsustab, millist tehisintellekti (AI) ta kasutab, kuhu tema andmed võivad liikuda ja kui palju ta kulutab, ning Nexus jõustab need otsused iga päringu puhul.
Võti kuulub organisatsioonile
Kui organisatsioon kasutab pilvepõhist mudelit, võtab ta kasutusele oma võtme. Nexus hoiab võtmeid organisatsiooni AI-varamus. Need kuuluvad organisatsioonile, mitte ühelegi konkreetsele töötajale. Omanikud ja administraatorid saavad neid lisada ja tühistada. Varamu toetab teenuste Anthropic, Google Gemini, OpenRouter ja Scaleway võtmeid ning selle saab suunata mis tahes organisatsiooni hallatavale serverile, mis kasutab levinud OpenAI-ga ühilduvat protokolli.
Võti sisestatakse vaid ühe korra. Nexus krüpteerib selle kohe pärast sisestamist ega näita seda enam mitte kunagi ega mitte kusagil. Sellest hetkest alates kuvatakse võtit vaid lühikese vihjena ja tekstireana, näiteks „määraja: Aoife, 3. sept”. Kui võti tühistatakse, lõpetab kommutaator kohe päringute saatmise sellele võtmele ning võti jääb nimekirja tühistatud olekus, et säiliks terviklik ajalugu selle kohta, kes mida kasutas. Midagi ei kustutata.
Igal organisatsioonil on oma teenusepakkuja konto ja oma arve. Kliendi AI taga ei ole ühtegi jagatud Adveranti võtit, mistõttu ei segune ühe organisatsiooni kulud kunagi teise omadega, ning teenusepakkujat vahetav organisatsioon lihtsalt tühistab ühe võtme ja lisab teise.
Väliste andmeallikate võtmeid hoitakse mudelivõtmetest eraldi. Näiteks hoiab Harrow loetava laevade asukohtade infovoo võtit eraldi lehel, mis on mõeldud väliste andmete võtmetele. See leht keeldub mudelivõtit vastu võtmast, sest mudelivõtmed kuuluvad varamusse ja mitte kuhugi mujale.
Kommutaator suunab iga päringu
Nexuse rakendused ja agendid ei pöördu kunagi otse mudeli poole ning sama kehtib ka töövoogude kohta. Need esitavad päringu AI kommutaatorile. Kommutaator haldab võtmeid ning teeb lõpliku teenusepakkuja ja mudeli valiku. Rakendus võib avaldada soovi – näiteks kasutada lühikeste vastuste jaoks kiiret mudelit – ning kommutaator täidab selle soovi, kui organisatsioon on vastava teenusepakkuja seadistanud. Kui ei ole, valib kommutaator mõne teise mudeli, mille organisatsioon on lubanud. Rakendus ei saa kunagi peale suruda mudelit, mida organisatsioon ei ole valinud.
Enne päringu väljumist lisab rakendus sellele sildi päringu esitanud üksuse ja rolli ning andmete tundlikkuse kohta. Kommutaator suunab päringu selle sildi alusel ega ava kunagi päringut ennast. See langetab neli otsust.
Esimene on töö iseloom. Skannitud vormi lugemiseks sobib teistsugune mudel kui kirja koostamiseks, mistõttu seob organisatsioon iga tööliigi (vaikimisi, kiire, arutlev, kood ja pikk kontekst) eelistatud mudelitega. Teine on andmed. Isiklikud või salajased andmed saab hoida organisatsiooni enda riistvaral töötavates mudelites, samas kui avaliku materjali puhul võib kasutada muid võimalusi. Kolmas on asukoht. Päringud liiguvad ainult nendesse piirkondadesse ja nendele teenusepakkujatele, mida üksus lubab, ning päringust, mis suunduks kuhugi mujale, keeldutakse ja keeldumine logitakse. Neljas on varuvariant. Kui mudel on aeglane või maas, võtab päringu üle järgmine lubatud mudel. Tõrkunud võti puhkab 60 sekundit ja jäetakse vahele; pärast viit järjestikust tõrget lülitatakse see välja. Päring jõuab lubatud mudelini või jääb ootele, ning kui kumbki ei õnnestu, lõpeb see selge põhjendusega veaga. See ei liigu kunagi sinna, kuhu reeglid ei luba.
Reeglid saavad alguse organisatsiooni tasandilt ning neid saab iga üksuse, rakenduse ja andmeliigi jaoks kitsendada. Ühe üksuse võib piirata kohalike mudelitega tema enda riistvaral, samal ajal kui teine kasutab Euroopa Liidus asuvat pilvepõhist mudelit. Üksuse reeglid ei saa kunagi olla leebemad kui organisatsiooni omad.
Iga päring loendatakse, kuid seda ei loeta kunagi
Kommutaator loendab iga päringut inimese ja meeskonna ning rakenduse ja päeva lõikes. Samuti mõõdab see iga päringu aega ja maksumust. See ei salvesta ega loe kunagi seda, mida küsiti või mida vastati. Igal eelarvel on nimeline omanik ja piirmäär. Eelarveid saab määrata neljal tasemel: alates kogu organisatsioonist kuni ühe inimeseni, mille vahele jäävad üksused ja oskused. Kui eelarve täitub, rakendub omaniku valitud reegel. Töö võib jätkuda, liikuda odavamale mudelile või peatuda kuni administraatori nõusolekuni. Finantsosakond saab ühe koondväljavõtte, mis hõlmab nii pilvepõhiseid kui ka kohalikke mudeleid.
Mudelid teie enda serverites
Iga mudeli, mida organisatsioon oma riistvaral käitab, saab ühendada kommutaatoriga, eeldusel et see kasutab OpenAI-ga ühilduvat protokolli. Teie IT-meeskond annab kommutaatorile serveri aadressi, näeb leitud mudeleid ja valib, millist tööd igaüks neist teeb. Kui see on tehtud, kuvab ühenduse leht kinnituse „Miski ei välju sellest asukohast”. Väike mudel, mis muudab teksti otsitavaks, töötab samuti vaikimisi paigalduse sees tavalistel protsessoritel, nii et otsing ise ei vaja välist teenust. Selleks pilvepõhise teenuse kasutamine on valik, mille organisatsioon võib soovi korral teha.
Võrgust isoleeritud (air-gapped) paigalduses nagu Harrow on kohalikud mudelid ainsad mudelid. See sobib hästi enamiku tegevuste jaoks, kuid seab ühe selge piiri: iga võimekuse jaoks peab vastav mudel olema kohapeal paigaldatud. Harrow' märkmikustuudio suudab kohalike mudelite abil luua slaide ja üheleheküljelisi kokkuvõtteid, kuid helikokkuvõtte jaoks on vaja kõnemudelit ning kuni seda pole paigaldatud, annab stuudio sellest selgelt teada ja nimetab isiku, kes saab selle lisada.
Kohalikud mudelid saavad ka üksteist kontrollida. Harrow's vaatab ühe mudeliperekonna tehtud töö üle teine (näiteks kontrollib mudelit Qwen3-32B mudel Llama 3.3 70B), et ühe perekonna pimeala ei jääks sama perekonna kontrollida.
Organisatsioonidele, kes soovivad minna veelgi kaugemale, võimaldab mudelitehase (Model factory) lisamoodul treenida ja häälestada mudeleid organisatsiooni enda graafikakaartidel, kasutades ainult neid andmeid, mida organisatsioonil on lubatud kasutada.
Ilma võtmeta pole AI-d ja Nexus ütleb seda
Organisatsioon, millel pole ühendatud ühtegi mudelit, ei saa AI-vastuseid. See on teadlik arhitektuuriline piirang, mitte viga. Nexus ei laena lünga täitmiseks vaikselt jagatud võtit, sest sel juhul liiguksid organisatsiooni andmed kohta, mida organisatsioon pole kunagi valinud.
Selle asemel näevad kasutajad lihtsat infopaneeli. Assistent selgitab, et ei saa vastata, kuna ühtegi mudelit pole ühendatud, kuvab väikeses kirjas koodi MODEL_NOT_CONNECTED ja pakub vastava õigusega kasutajale nuppu „Ühenda mudel”. Mudelit ootavad tööd käivituvad kohe, kui mudel on taas saadaval.
Midagi ei lähe Adverantile teie selja taga
Teie enda serveris majutatud Nexus ei saada Adverantile aruandeid teie inimeste kohta. Kui miski süsteemist väljub, saate selle enne saatmist ise üle lugeda.
Teie enda taristul asuv paigaldus koostab kord aastas kasutusaruande, mis sisaldab ainult loendureid: kui palju töökohti ja seadmeid on kasutusel ning milliseid funktsioonirühmi kasutatakse. Teie administraator loeb selle rida-realt läbi, enne kui laadib selle üles või viib andmekandjal välja. Võrgust isoleeritud asukoht, mis soovib uut funktsiooni, saadab päringufaili, milles on märgitud paigalduse ja funktsiooni nimi koos paigalduse sõrmejäljega. Sellega ei kaasne mingeid andmeid inimeste ega nende töö kohta. Kui vajate abi, näitab tugipakett enne saatmist, milliseid andmeid see kogub, ning kuvab eelvaate sellest, mis on peidetud.
Adveranti töötajad ei saa omal algatusel kliendi paigalduse sisse vaadata. Kui tugimeeskonnal on vaja seda teha, esitatakse taotlus tugijuhtumi kaudu ja teie administraator annab selleks nõusoleku või keeldub. Nõusolek kehtib kindla aja, maksimaalselt kaheksa tundi, ja kindlaks määratud ulatuses, näiteks mootori logide vaatamiseks. See ei hõlma kunagi kellegi sõnumeid, faile, e-kirju ega mälu.
Inimese isiklik tellimus ei ole kunagi organisatsiooni oma
Mõned inimesed maksavad AI-tellimuse eest ise, kasutades näiteks Claude Max paketti. Nexus ei käsitle seda kunagi organisatsiooni omana. Isiklikku tellimust ei saa lisada organisatsiooni varamusse (varamu keeldub sellest nime alusel) ning ükski leht, mis näitab organisatsiooni AI-seadistust, ei kuva seda kunagi.
Põhjused on praktilised. Isiklik pakett on ostetud tarbijatingimustel ühele inimesele, mistõttu kolleegide töö suunamine läbi selle rikuks neid tingimusi. Organisatsioon ei näe selle kasutust ega saa sellele eelarvet määrata, ning see lahkub majast koos vastava töötajaga. Organisatsiooni AI peab toetuma võtmetele, mida omab organisatsioon, ja Nexuses see nii ongi.

