Kirjaudu sisäänVaraa esittely
Osa 1: Kaikille
Versio 1.0.0-alpha.1uusin

Luku 1.4

Tekoäly omilla ehdoillanne

Miten Nexus käyttää tekoälyä (AI) organisaation omilla ehdoilla. Organisaatio tuo ja omistaa malliavaimensa, yksi välityskeskus reitittää jokaisen mallikutsun organisaation valitsemille palveluntarjoajille, paikalliset mallit pyörivät sen omilla palvelimilla eikä mitään lähetetä Adverantille salaa.

Tämä sivu on käännetty tekoälyllä englanninkielisestä alkuperäistekstistä. Jos jokin kohta on epäselvä, englanninkielinen sivu on ensisijainen lähde. Lue tämä sivu englanniksi

10 minuutin lukuaika

Harrow Port Authorityn operatiivisessa asennuksessa ei ole lainkaan ulkoista tekoälypalveluntarjoajaa. Sillä ei ole reittiä internetiin, joten jokainen sen käyttämä malli pyörii näytönohjaimilla sen omassa konesalissa: Qwen3-32B valtaosaan töistä ja sen rinnalla Llama 3.3 70B sekä Gemma 3 27B. Kun Aoife Brennan, Harrow'n tietohallintojohtaja, avaa tekoälyn kytkentäkeskuksen sivun, siinä luetellaan täsmälleen nämä mallit, kunkin mallin tehtävä sekä paikka, johon jokainen kutsu saa mennä. Se paikka on tämä rakennus.

Useimmat organisaatiot yhdistelevät ulkoisia ja paikallisia malleja. Periaate ei muutu: organisaatio päättää, mitä tekoälyä (AI) se käyttää, minne sen tiedot saavat kulkea ja kuinka paljon se käyttää rahaa, ja Nexus toimeenpanee nämä päätökset jokaisella kutsulla.

Avain kuuluu organisaatiolle

Kun organisaatio käyttää ulkoista mallia, se tuo oman avaimensa. Nexus säilyttää avaimia organisaation tekoälyvarannossa. Ne kuuluvat organisaatiolle eivätkä kenellekään yksittäiselle henkilölle sen sisällä. Omistajat ja pääkäyttäjät lisäävät ja poistavat niitä. Varanto ottaa vastaan avaimia palveluihin Anthropic, Google Gemini, OpenRouter ja Scaleway, ja se voidaan ohjata mihin tahansa organisaation ylläpitämään palvelimeen, joka käyttää yleistä OpenAI-yhteensopivaa protokollaa.

Avain syötetään kerran. Nexus salaa sen vastaanotettaessa eikä näytä sitä enää koskaan missään. Siitä eteenpäin avain näkyy vain lyhyenä vihjeenä ja rivinä, kuten "asettanut Aoife 3. syyskuuta". Kun avain poistetaan käytöstä, kytkentäkeskus lopettaa kutsujen lähettämisen sille välittömästi, ja avain jää luetteloon poistettuna, jotta historia siitä, kuka käytti mitäkin, säilyy ehjänä. Mitään ei poisteta.

Jokaisella organisaatiolla on oma palveluntarjoajatilinsä ja oma laskunsa. Asiakasympäristön tekoälyn taustalla ei ole jaettua Adverant-avainta, joten yhden organisaation kulut eivät koskaan sekoitu toisen kuluihin, ja palveluntarjoajaa vaihtava organisaatio yksinkertaisesti poistaa yhden avaimen käytöstä ja lisää toisen.

Ulkopuolisten tietolähteiden avaimet pidetään erillään malliavaimista. Esimerkiksi Harrow säilyttää lukemansa alusten sijaintisyötteen avainta erillisellä ulkoisten tietoavainten sivulla. Kyseinen sivu hylkää malliavaimen suoraan, sillä malliavaimet kuuluvat varantoon eivätkä minnekään muualle.

Välityskeskus reitittää jokaisen kutsun

Nexuksen sovellukset ja agentit eivät koskaan kutsu mallia suoraan, eivätkä niin tee työnkulutkaan. Ne pyytävät sitä tekoälyn kytkentäkeskukselta. Se omistaa avaimet ja tekee lopullisen valinnan palveluntarjoajasta ja mallista. Sovellus voi kertoa toiveensa, kenties nopean mallin lyhyitä vastauksia varten, ja kytkentäkeskus toteuttaa toiveen, jos organisaatio on ottanut kyseisen palveluntarjoajan käyttöön. Jos näin ei ole, kytkentäkeskus valitsee toisen mallin, jonka organisaatio on sallinut. Sovellus ei voi koskaan pakottaa käyttämään mallia, jota organisaatio ei ole valinnut.

Vasemmalla kolme pientä laatikkoa, joiden nimet ovat "Avustaja", "Työnkulun vaihe" ja "Agentti", lähettävät kukin nuolen suureen keskellä olevaan laatikkoon, jonka nimi on "Tekoälyn kytkentäkeskus". Sen sisällä on neljä päällekkäistä vaihetta, joissa lukee "Tehtävä: minkälainen malli sopii", "Tieto: saako se poistua tästä toimipisteestä", "Paikka: sallitut alueet ja palveluntarjoajat" ja "Varajärjestely: seuraava sallittu malli, jos ensimmäinen on varattu". Kytkentäkeskuksesta lähtee nuolet kahteen oikealla olevaan laatikkoon: "Paikalliset mallit omilla palvelimillanne" ja "Ulkoiset palveluntarjoajat, joihin organisaatiollanne on avaimet". Kolmas nuoli on piirretty katkoviivalla. Se päättyy rastiin laatikon vieressä, jonka nimi on "Mikä tahansa muu paikka" ja jossa on merkintä "hylätty ja kirjattu lokiin".
Mitä yhdelle mallikutsulle tapahtuu sen kulkiessa kytkentäkeskuksen läpi.

Ennen kuin kutsu lähtee, sovellus merkitsee siihen pyytävän yksikön ja roolin sekä sen, kuinka arkaluonteista tieto on. Kytkentäkeskus reitittää kutsun tämän merkinnän perusteella eikä koskaan avaa itse kutsua. Se tekee neljä päätöstä.

Ensimmäinen on tehtävä. Skannatun lomakkeen lukemiseen sopii eri malli kuin kirjeen luonnosteluun, joten organisaatio yhdistää kunkin tehtävätyypin (oletus, nopea, päättely, koodi ja laaja konteksti) suosimiinsa malleihin. Toinen on tieto. Henkilökohtaiset tai salaiset tiedot voidaan rajata organisaation omalla laitteistolla pyöriviin malleihin, kun taas julkinen aineisto voi käyttää laajempaa valikoimaa. Kolmas on paikka. Kutsut menevät vain yksikön sallimiin alueisiin ja palveluntarjoajiin, ja minne tahansa muualle suuntautuva kutsu hylätään, ja hylkäys kirjataan lokiin. Neljäs on varajärjestely. Jos malli on hidas tai poissa käytöstä, seuraava sallittu malli ottaa kutsun vastaan. Epäonnistunut avain lepää 60 sekuntia ja se ohitetaan; viiden peräkkäisen epäonnistumisen jälkeen se kytketään pois päältä. Kutsu saavuttaa sallitun mallin tai odottaa, ja jos kumpikaan ei onnistu, se epäonnistuu selkeän syyn kera. Se ei koskaan mene paikkaan, jonka säännöt kieltävät.

Säännöt alkavat organisaatiotasolta, ja niitä voidaan tiukentaa kullekin yksikölle ja sovellukselle sekä kullekin tietotyypille. Yksikkö voidaan rajata paikallisiin malleihin omalla laitteistollaan, kun taas toinen yksikkö käyttää ulkoista mallia Euroopan unionin alueella. Yksikön säännöt eivät voi koskaan olla väljempiä kuin organisaation.

Tekoälyn kytkentäkeskus
Tekoälyn kytkentäkeskus
Tekoälyn kytkentäkeskuksen sivu. Huomaa, mikä malli tekee minkäkin tehtävän ja minne tiedot saavat mennä. Jokaisesta avaimesta näkyy vain, kuka sen asetti ja milloin.

Jokainen kutsu lasketaan, mutta niitä ei koskaan lueta

Kytkentäkeskus laskee jokaisen kutsun henkilöittäin ja tiimeittäin sekä sovelluksittain ja päivittäin. Se mittaa myös jokaisen kutsun keston ja kustannuksen. Se ei koskaan tallenna tai lue, mitä kysyttiin tai mitä vastattiin. Jokaisella budjetilla on nimetty omistaja ja raja. Budjetteja voidaan asettaa neljällä tasolla organisaatiosta yksittäiseen henkilöön, joiden välissä ovat yksiköt ja taidot. Kun budjetti täyttyy, sovelletaan sen omistajan valitsemaa sääntöä. Työ voi jatkua tai siirtyä edullisempaan malliin, tai se voi pysähtyä, kunnes pääkäyttäjä antaa hyväksynnän. Taloushallinto saa yhden laskelman, joka kattaa niin ulkoiset kuin paikallisetkin mallit.

Mallit omilla palvelimillanne

Mikä tahansa malli, jota organisaatio ajaa omalla laitteistollaan, voidaan liittää kytkentäkeskukseen, kunhan se käyttää OpenAI-yhteensopivaa protokollaa. IT-tiiminne antaa kytkentäkeskukselle palvelimen osoitteen, näkee sen löytämät mallit ja valitsee, mitä tehtävää kukin niistä hoitaa. Yhteyssivu vahvistaa "Mitään ei poistu tästä toimipisteestä", kun määritys on valmis. Pieni malli, joka muuttaa tekstin haettavaan muotoon, pyörii myös oletusarvoisesti asennuksen sisällä tavallisilla suorittimilla, joten itse haku ei tarvitse ulkopuolista palvelua. Ulkoisen palvelun käyttäminen tähän on valinta, jonka organisaatio voi tehdä.

Ilmaeristetyssä toimipisteessä, kuten Harrow'ssa, paikalliset mallit ovat ainoita malleja. Se toimii hyvin valtaosaan siitä, mitä ihmiset tekevät, ja tuo mukanaan yhden rehellisen rajoituksen: toiminto vaatii, että sen malli on asennettuna paikan päällä. Harrow'n muistikirjastudio pystyy tekemään dioja ja yhden sivun tiivistelmiä paikallisilla malleilla, mutta äänitiivistelmä vaatii äänimallin, ja kunnes sellainen asennetaan, studio ilmoittaa asiasta selkeästi ja kertoo, kuka voi lisätä sen.

Studio ilmaeristetyssä toimipisteessä
Studio ilmaeristetyssä toimipisteessä
Muistikirjastudio ilmaeristetyssä toimipisteessä. Äänitiivistelmät pysähtyvät puuttuvaan äänimalliin, ja kyltti kertoo, kuka voi lisätä sellaisen ja mitä studio pystyy tuottamaan sillä välin.

Paikalliset mallit voivat myös tarkistaa toistensa työn. Harrow'ssa yhden malliperheen tekemän työn tarkistaa toinen (esimerkiksi Llama 3.3 70B tarkistaa Qwen3-32B:n työn), jolloin sama malliperhe ei tarkista omaa sokeaa pistettään.

Organisaatioille, jotka haluavat mennä pidemmälle, Mallitehdas-lisäosa kouluttaa ja hienosäätää malleja organisaation omilla näytönohjaimilla käyttäen vain tietoja, joita organisaatiolla on lupa käyttää.

Ei avainta tarkoittaa ei tekoälyä, ja Nexus kertoo sen

Organisaatio, jolla ei ole yhtään yhdistettyä mallia, ei saa tekoälyvastauksia. Se on suunnittelun tarkoituksellinen rajoitus, ei vika. Nexus ei lainaa hiljaisesti jaettua avainta aukon täyttämiseksi, koska silloin organisaation tiedot menisivät paikkaan, jota se ei koskaan valinnut.

Sen sijaan käyttäjät näkevät selkeän ilmoituskyltin. Avustaja selittää, ettei se voi vastata, koska yhtään mallia ei ole yhdistetty, näyttää koodin MODEL_NOT_CONNECTED pienellä tekstillä ja tarjoaa "Yhdistä malli" -vaihtoehtoa sille, jolla on siihen oikeudet. Mallia odottavat työt suoritetaan heti, kun malli on taas käytettävissä.

Mitään ei mene Adverantille selkänne takana

Omalla palvelimella ylläpidetty Nexus ei raportoi henkilöstöstänne Adverantille. Kun jotakin lähtee ulos, luette sen itse ennen lähettämistä.

Omassa infrastruktuurissanne oleva asennus laatii vuosittaisen käyttölaskelman, joka sisältää vain laskureita: kuinka monta käyttöoikeutta ja laitetta on käytössä ja mitkä ominaisuusryhmät. Pääkäyttäjänne lukee sen rivi riviltä ennen kuin lataa sen palveluun tai vie sen ulos levyllä. Uutta ominaisuutta pyytävä ilmaeristetty toimipiste lähettää pyyntötiedoston, jossa nimetään asennus ja ominaisuus sekä asennuksen sormenjälki. Mukana ei lähde mitään tietoja ihmisistä tai heidän työstään. Kun tarvitsette apua, tukipaketti näyttää, mitä tietoja se kerää, sekä esikatselun siitä, mitä on poistettu näkyvistä, ennen kuin mitään lähetetään.

Adverantin henkilöstö ei voi katsoa asiakkaan asennuksen sisälle omasta aloitteestaan. Jos tuki tarvitsee pääsyn, pyyntö tulee tukitapauksen kautta, ja pääkäyttäjänne vastaa kyllä tai ei. Myöntävä vastaus on voimassa enintään kahdeksan tunnin ajan ja koskee nimettyä kohdetta, kuten moottorin lokeja. Se ei koskaan kata kenenkään viestejä tai tiedostoja eikä heidän sähköpostiaan tai muistiaan.

Henkilön oma tilaus ei ole koskaan organisaation tilaus

Jotkut maksavat tekoälytilauksesta itse, kuten Claude Max -tilauksesta. Nexus ei koskaan käsittele sitä organisaation omana. Henkilökohtaista tilausta ei voi lisätä organisaation varantoon (varanto hylkää sen nimen perusteella), eikä yksikään organisaation tekoälymäärityksiä näyttävä sivu koskaan listaa sellaista.

Syyt ovat käytännöllisiä. Henkilökohtainen tilaus ostetaan kuluttajaehdoilla yhdelle henkilölle, joten kollegoiden töiden reitittäminen sen kautta rikkoisi näitä ehtoja. Organisaatio ei voi nähdä sen käyttöä tai asettaa sille budjettia, ja se kävelee ovesta ulos, kun kyseinen henkilö lähtee. Organisaation tekoälyn tulisi nojata avaimiin, jotka organisaatio omistaa, ja Nexuksessa näin on.