IdħolIbbukkja laqgħa informattiva

Kapitlu 1.4

L-IA skont il-kundizzjonijiet tiegħek

Kif Nexus juża l-intelliġenza artifiċjali (IA) skont il-kundizzjonijiet tal-organizzazzjoni stess. L-organizzazzjoni ġġib u żżomm il-muftieħ tal-mudelli tagħha, switchboard wieħed jibgħat kull sejħa tal-mudell lill-fornituri li għażlet hi, il-mudelli lokali jaħdmu fuq is-servers tagħha stess, u xejn ma jintbagħat lil Adverant minn wara daharha.

Din il-paġna ġiet tradotta bl-IA mill-oriġinal bl-Ingliż. Jekk xi ħaġa mhijiex ċara, il-paġna bl-Ingliż hija r-referenza. Aqra din il-paġna bl-Ingliż

10 minuti qari

L-installazzjoni tal-operat ta' Harrow Port Authority m'għandha l-ebda fornitur tal-IA ospitat. M'għandha l-ebda rotta lejn l-internet, għalhekk kull mudell li tuża jaħdem fuq graphics cards fil-kamra tal-magni tagħha stess: Qwen3-32B għall-biċċa l-kbira tax-xogħol, b'Llama 3.3 70B u Gemma 3 27B maġenbu. Meta Aoife Brennan, il-kap tal-IT ta' Harrow, tiftaħ il-paġna tas-switchboard tal-IA, din telenka eżattament dawk il-mudelli, liema xogħol jagħmel kull wieħed, u l-post fejn kull sejħa hija permessa li tmur. Dak il-post huwa l-bini.

Il-biċċa l-kbira tal-organizzazzjonijiet se jħalltu mudelli ospitati u lokali. Il-prinċipju ma jinbidilx: l-organizzazzjoni tiddeċiedi liema intelliġenza artifiċjali (IA) tuża, fejn id-data tagħha tista' tivvjaġġa u kemm tonfoq, u Nexus jinforza dawk id-deċiżjonijiet fuq kull sejħa.

Il-muftieħ jappartjeni lill-organizzazzjoni

Meta organizzazzjoni tuża mudell ospitat, iġġib iċ-ċavetta tagħha stess. Nexus iżomm iċ-ċwievet fil-pool tal-IA tal-organizzazzjoni. Dawn jappartjenu lill-organizzazzjoni aktar milli lil xi persuna fiha. Is-sidien u l-amministraturi jżiduhom u jirtirawhom. Il-pool jieħu ċwievet għal Anthropic, Google Gemini, OpenRouter u Scaleway, u jista' jipponta lejn kwalunkwe server li l-organizzazzjoni tħaddem u li jitkellem il-protokoll komuni kompatibbli ma' OpenAI.

Ċavetta tiġi ttajpjata darba. Nexus jikkriptaha mal-wasla u qatt ma jerġa' juriha, imkien. Minn dakinhar 'il quddiem iċ-ċavetta tidher biss bħala ħjiel qasir u linja bħal "issettjata minn Aoife fit-3 ta' Settembru". Meta ċavetta tiġi rtirata, is-switchboard jieqaf jibgħat sejħiet lilha minnufih, u ċ-ċavetta tibqa' elenkata bħala rtirata, sabiex l-istorja ta' min uża xiex tibqa' sħiħa. Xejn ma jitħassar.

Kull organizzazzjoni għandha l-kont tal-fornitur tagħha stess u l-kont tagħha stess. M'hemm l-ebda ċavetta kondiviża ta' Adverant wara l-IA ta' kerrej, għalhekk l-infiq ta' organizzazzjoni waħda qatt ma jitħallat ma' ta' oħra, u organizzazzjoni li tibdel il-fornitur sempliċement tirtira ċavetta waħda u żżid oħra.

Iċ-ċwievet għal sorsi ta' data esterni jinżammu separati miċ-ċwievet tal-mudelli. Harrow iżżomm ċavetta għall-feed tal-pożizzjonijiet tal-vapuri li taqra, pereżempju, fuq paġna separata ta' ċwievet ta' data esterna. Dik il-paġna tirrifjuta ċavetta ta' mudell għalkollox, minħabba li ċ-ċwievet tal-mudelli jappartjenu fil-pool u mkien ieħor.

Is-switchboard jidderieġi kull sejħa

L-applikazzjonijiet u l-aġenti f'Nexus qatt ma jsejħu mudell direttament, u lanqas il-flussi tax-xogħol. Huma jistaqsu lis-switchboard tal-IA. Dan għandu ċ-ċwievet u jagħmel l-għażla finali tal-fornitur u l-mudell. Applikazzjoni tista' tgħid x'tixtieq, forsi mudell veloċi għal tweġibiet qosra, u s-switchboard jonora dik ix-xewqa meta l-organizzazzjoni jkollha dak il-fornitur issettjat. Meta ma jkollhiex, is-switchboard jagħżel ieħor li l-organizzazzjoni ppermettiet. Applikazzjoni qatt ma tista' ġġiegħel l-użu ta' mudell li l-organizzazzjoni ma għażlitx.

Fuq ix-xellug, tliet kaxxi żgħar bit-tikketta "Assistent", "Pass tal-workflow" u "Aġent" kull waħda tibgħat vleġġa f'kaxxa ċentrali kbira bit-tikketta "Switchboard tal-IA". Ġo fiha, erba' passi fuq xulxin jaqraw "Ix-xogħol: liema tip ta' mudell jgħodd", "Id-data: tista' toħroġ minn dan is-sit", "Il-post: reġjuni u fornituri permessi" u "Il-fallback: il-mudell permess li jmiss jekk l-ewwel wieħed ikun okkupat". Vleġeġ joħorġu mis-switchboard lejn żewġ kaxxi fuq il-lemin: "Mudelli lokali fuq is-servers tiegħek stess" u "Fornituri ospitati li l-organizzazzjoni tiegħek għandha keys għalihom". It-tielet vleġġa hija mpinġija b'linji maqtugħa. Din tispiċċa f'salib ħdejn kaxxa bit-tikketta "Kullimkien ieħor" bin-nota "irrifjutat u rreġistrat".
X'jiġri minn sejħa waħda ta' mudell fi triqitha mis-switchboard.

Qabel ma sejħa titlaq, l-applikazzjoni tittikkettaha bl-unità u r-rwol li qed jistaqsu, u b'kemm hi sensittiva d-data. Is-switchboard jibgħat is-sejħa abbażi ta' dik it-tikketta u qatt ma jiftaħ is-sejħa nnifisha. Huwa jieħu erba' deċiżjonijiet.

L-ewwel waħda hija x-xogħol. Il-qari ta' formola skennjata jgħodd għal mudell differenti mit-tfassil ta' ittra, għalhekk l-organizzazzjoni tqabbel kull tip ta' xogħol (default, veloċi, raġunament, kodiċi u kuntest twil) mal-mudelli li tippreferi. It-tieni waħda hija d-data. Data personali jew sigrieta tista' tinżamm għal mudelli fuq il-ħardwer tal-organizzazzjoni stess, filwaqt li materjal pubbliku jista' juża aktar. It-tielet waħda hija l-post. Is-sejħiet imorru biss fir-reġjuni u l-fornituri li l-unità tippermetti, u sejħa li tkun se titlaq lejn kullimkien ieħor tiġi rrifjutata, bir-rifjut miktub fir-rekord. Ir-raba' waħda hija l-alternattiva ta' riżerva (fallback). Jekk mudell ikun bil-mod jew wieqaf, il-mudell permess li jmiss jieħu s-sejħa. Ċavetta li tfalli tistrieħ għal 60 sekonda u tinqabeż; wara ħames fallimenti wara xulxin tintefa. Is-sejħa tilħaq mudell permess jew tistenna, u jekk l-ebda waħda ma taħdem, tfalli b'raġuni ċara. Qatt ma tmur x'imkien li r-regoli jipprojbixxu.

Ir-regoli jibdew mill-organizzazzjoni u jistgħu jiġu ristretti għal kull unità u applikazzjoni, u għal kull tip ta' data. Unità tista' tinżamm għal mudelli lokali fuq il-ħardwer tagħha stess filwaqt li oħra tuża mudell ospitat fl-Unjoni Ewropea. Unità qatt ma tista' tkun aktar laxka mill-organizzazzjoni.

Is-switchboard tal-IA
Is-switchboard tal-IA
Il-paġna tas-switchboard tal-IA. Innota liema mudell jagħmel liema xogħol u fejn tista' tmur id-data. Kull ċavetta tidher biss bħala min issettjaha u meta.

Kull sejħa tiġi magħduda, qatt moqrija

Is-switchboard jgħodd kull sejħa skont il-persuna u t-tim, u skont l-applikazzjoni u l-ġurnata. Ikejjel ukoll il-ħin u l-ispiża ta' kull sejħa. Qatt ma jaħżen jew jaqra dak li ġie mistoqsi jew dak li ġie lura. Kull baġit għandu sid imsemmi u limitu. Il-baġits jistgħu jiġu ssettjati f'erba' livelli, mill-organizzazzjoni 'l isfel sa persuna waħda, b'unitajiet u ħiliet bejniethom. Meta jintlaħaq baġit, tapplika r-regola li għażel is-sid tiegħu. Ix-xogħol jista' jkompli jew jgħaddi għal mudell irħas, jew jista' jieqaf sakemm jaqbel amministratur. Id-dipartiment tal-finanzi jirċievi dikjarazzjoni waħda li tkopri kemm il-mudelli ospitati kif ukoll dawk lokali bl-istess mod.

Mudelli fuq is-servers tiegħek stess

Kwalunkwe mudell li l-organizzazzjoni tħaddem fuq il-ħardwer tagħha stess jista' jingħaqad mas-switchboard, sakemm jitkellem il-protokoll kompatibbli ma' OpenAI. It-tim tal-IT tiegħek jagħti lis-switchboard l-indirizz tas-server, jara l-mudelli li sab, u jagħżel liema xogħol jagħmel kull wieħed. Il-paġna tal-konnessjoni tikkonferma "Xejn ma joħroġ minn dan is-sit" ladarba jkun lest. Mudell żgħir li jibdel it-test f'forma li tista' titfittex jaħdem ukoll ġewwa l-installazzjoni b'mod awtomatiku, fuq proċessuri ordinarji, sabiex it-tfittxija nnifisha ma jkollha bżonn l-ebda servizz estern. L-użu ta' servizz ospitat għal dan huwa għażla li l-organizzazzjoni tista' tagħmel.

Fuq sit air-gapped bħal Harrow, il-mudelli lokali huma l-uniċi mudelli. Dan jaħdem tajjeb għall-biċċa l-kbira ta' dak li jagħmlu n-nies, u jġib miegħu limitu onest wieħed: kapaċità teħtieġ li l-mudell tagħha jkun installat fuq is-sit. In-notebook studio ta' Harrow jista' jagħmel slajds u sommarji ta' paġna waħda mill-mudelli lokali, iżda sommarju awdjo jeħtieġ mudell tal-vuċi, u sakemm jiġi installat wieħed l-istudio jgħid hekk b'mod ċar u jsemmi min jista' jżidu.

Studio fuq sit air-gapped
Studio fuq sit air-gapped
In-notebook studio fuq sit air-gapped. Is-sommarji awdjo jieqfu fil-mudell tal-vuċi nieqes, u l-pjanċa tgħid min jista' jżid wieħed u x'jista' jagħmel l-istudio sadanittant.

Il-mudelli lokali jistgħu wkoll jiċċekkjaw lil xulxin. F'Harrow, ix-xogħol magħmul minn familja waħda ta' mudelli jiġi rivedut minn oħra (Qwen3-32B minn Llama 3.3 70B, pereżempju), sabiex punt dgħajjef f'familja waħda ma jiġix iċċekkjat mill-istess familja.

Għal organizzazzjonijiet li jridu jmorru lil hinn, l-add-on tal-Model factory iħarreġ u jirfina mudelli fuq il-graphics cards tal-organizzazzjoni stess, bl-użu biss ta' data li l-organizzazzjoni hija permessa li tuża.

Mingħajr muftieħ ma jkunx hemm IA, u Nexus jgħidlek dan

Organizzazzjoni bl-ebda mudell konness ma tirċievi l-ebda tweġiba tal-IA. Dak huwa limitu intenzjonat tad-disinn, mhux difett. Nexus ma jissellifx bil-kwiet ċavetta kondiviża biex jimla l-vojt, minħabba li mbagħad id-data tal-organizzazzjoni tmur x'imkien li qatt ma għażlet.

Dak li jaraw in-nies minflok huwa pjanċa sempliċi. L-assistent jispjega li ma jistax iwieġeb minħabba li l-ebda mudell mhu konness, jagħti l-kodiċi MODEL_NOT_CONNECTED b'tipa żgħira, u joffri "Qabbad mudell" lil kull min jista'. Ix-xogħlijiet li qed jistennew mudell jaħdmu hekk kif wieħed jerġa' jkun disponibbli.

Xejn ma jmur għand Adverant minn wara dahrek

Nexus ospitat minnek stess ma jirrapportax dwar in-nies tiegħek lil Adverant. Meta xi ħaġa toħroġ, inti taqraha qabel ma tibgħatha.

Installazzjoni fuq l-infrastruttura tiegħek stess tipprepara dikjarazzjoni tal-użu annwali li żżomm biss kontaturi: kemm-il post u apparat qed jintużaw, u liema gruppi ta' karatteristiċi. L-amministratur tiegħek jaqraha linja b'linja qabel ma jtellagħha jew joħroġha fuq diska. Sit air-gapped li jitlob karatteristika ġdida jibgħat fajl ta' talba li jsemmi l-installazzjoni u l-karatteristika, flimkien mal-marka tas-swaba' (fingerprint) tal-installazzjoni. Xejn dwar in-nies jew ix-xogħol tagħhom ma jmur magħha. Meta jkollok bżonn l-għajnuna, pakkett ta' appoġġ juri x'se jiġbor u dehra minn qabel ta' dak li hu moħbi qabel ma jintbagħat xi ħaġa.

Il-persunal ta' Adverant ma jistax iħares ġewwa installazzjoni tal-klijent fuq inizjattiva tiegħu stess. Jekk l-appoġġ ikollu bżonn, it-talba tiġi permezz ta' każ ta' appoġġ, u l-amministratur tiegħek jgħid iva jew le. Iva tkun għal ħin stabbilit ta' tmien sigħat l-aktar u ambitu msemmi, bħal reġistri tal-magna (engine logs). Qatt ma tkopri l-messaġġi jew il-fajls ta' xi ħadd, jew il-posta u l-memorja tagħhom.

L-abbonament personali ta' individwu qatt ma jsir tal-organizzazzjoni

Xi nies iħallsu għal abbonament tal-IA huma stess, bħal pjan Claude Max. Nexus qatt ma jittratta dan bħala tal-organizzazzjoni. Abbonament personali ma jistax jiżdied mal-pool tal-organizzazzjoni (il-pool jirrifjutah b'ismu), u l-ebda paġna li turi s-set-up tal-IA tal-organizzazzjoni qatt ma telenka wieħed.

Ir-raġunijiet huma prattiċi. Pjan personali jinxtara taħt termini tal-konsumatur għal persuna waħda, għalhekk li tgħaddi x-xogħol tal-kollegi minnu jikser dawk it-termini. L-organizzazzjoni ma tistax tara l-użu tiegħu jew tissettja baġit fuqu, u joħroġ mill-bieb 'il barra meta dik il-persuna titlaq. L-IA tal-organizzazzjoni għandha tistrieħ fuq keys li huma proprjetà tal-organizzazzjoni, u f'Nexus hekk jiġri.