Έκδοση 1.0.0-alpha.1τελευταία
Κεφάλαιο 1.4
Το AI με τους δικούς σας όρους
Πώς το Nexus χρησιμοποιεί την τεχνητή νοημοσύνη (AI) με τους όρους του ίδιου του οργανισμού. Ο οργανισμός φέρνει και κατέχει τα κλειδιά των μοντέλων του, ένα κέντρο δρομολόγησης κατευθύνει κάθε κλήση μοντέλου στους παρόχους που επέλεξε, τα τοπικά μοντέλα εκτελούνται στους δικούς του διακομιστές και τίποτα δεν στέλνεται στην Adverant εν αγνοία του.
Αυτή η σελίδα μεταφράστηκε με AI από το αγγλικό πρωτότυπο. Εάν οτιδήποτε είναι ασαφές, η αγγλική σελίδα αποτελεί το σημείο αναφοράς. Διαβάστε αυτή τη σελίδα στα αγγλικά

Η εγκατάσταση λειτουργιών του Harrow Port Authority δεν διαθέτει καθόλου φιλοξενούμενο πάροχο AI. Δεν έχει σύνδεση με το διαδίκτυο, επομένως κάθε μοντέλο που χρησιμοποιεί εκτελείται σε κάρτες γραφικών στο δικό του μηχανοστάσιο: ένα Qwen3-32B για το μεγαλύτερο μέρος της εργασίας, με ένα Llama 3.3 70B και ένα Gemma 3 27B δίπλα του. Όταν η Aoife Brennan, επικεφαλής IT του Harrow, ανοίγει τη σελίδα του πίνακα δρομολόγησης AI, εμφανίζονται ακριβώς αυτά τα μοντέλα, ποια εργασία εκτελεί το καθένα και το μέρος όπου επιτρέπεται να καταλήξει κάθε κλήση. Αυτό το μέρος είναι το κτίριο.
Οι περισσότεροι οργανισμοί συνδυάζουν φιλοξενούμενα και τοπικά μοντέλα. Η αρχή δεν αλλάζει: ο οργανισμός αποφασίζει ποια τεχνητή νοημοσύνη (AI) χρησιμοποιεί, πού μπορούν να μεταφερθούν τα δεδομένα του και πόσα δαπανά, και το Nexus επιβάλλει αυτές τις αποφάσεις σε κάθε κλήση.
Το κλειδί ανήκει στον οργανισμό
Όταν ένας οργανισμός χρησιμοποιεί ένα φιλοξενούμενο μοντέλο, φέρνει το δικό του κλειδί. Το Nexus διατηρεί τα κλειδιά στη δεξαμενή AI του οργανισμού. Ανήκουν στον οργανισμό και όχι σε κάποιο άτομο εντός αυτού. Οι ιδιοκτήτες και οι διαχειριστές τα προσθέτουν και τα αποσύρουν. Η δεξαμενή δέχεται κλειδιά για Anthropic, Google Gemini, OpenRouter και Scaleway, και μπορεί να κατευθύνει σε οποιονδήποτε διακομιστή λειτουργεί ο οργανισμός, εφόσον υποστηρίζει το κοινό πρωτόκολλο συμβατό με OpenAI.
Ένα κλειδί πληκτρολογείται μία φορά. Το Nexus το κρυπτογραφεί κατά την παραλαβή και δεν το εμφανίζει ξανά πουθενά. Από εκεί και πέρα, το κλειδί εμφανίζεται μόνο ως μια σύντομη ένδειξη και μια γραμμή όπως «ορίστηκε από την Aoife στις 3 Σεπτ.». Όταν ένα κλειδί αποσύρεται, ο πίνακας δρομολόγησης σταματά αμέσως να στέλνει κλήσεις σε αυτό, και το κλειδί παραμένει καταχωρισμένο ως αποσυρμένο, ώστε το ιστορικό του ποιος χρησιμοποίησε τι να παραμένει ακέραιο. Τίποτα δεν διαγράφεται.
Κάθε οργανισμός έχει τον δικό του λογαριασμό παρόχου και τον δικό του λογαριασμό χρέωσης. Δεν υπάρχει κοινόχρηστο κλειδί της Adverant πίσω από το AI ενός μισθωτή, επομένως οι δαπάνες ενός οργανισμού δεν αναμειγνύονται ποτέ με εκείνες ενός άλλου, και ένας οργανισμός που αλλάζει πάροχο απλώς αποσύρει ένα κλειδί και προσθέτει ένα άλλο.
Τα κλειδιά για εξωτερικές πηγές δεδομένων διατηρούνται χωριστά από τα κλειδιά μοντέλων. Το Harrow, για παράδειγμα, διατηρεί ένα κλειδί για τη ροή θέσεων πλοίων που διαβάζει σε μια ξεχωριστή σελίδα εξωτερικών κλειδιών δεδομένων. Αυτή η σελίδα απορρίπτει κατηγορηματικά ένα κλειδί μοντέλου, επειδή τα κλειδιά μοντέλων ανήκουν στη δεξαμενή και πουθενά αλλού.
Το κέντρο δρομολόγησης κατευθύνει κάθε κλήση
Οι εφαρμογές και οι πράκτορες στο Nexus δεν καλούν ποτέ απευθείας ένα μοντέλο, ούτε και οι ροές εργασίας. Απευθύνονται στον πίνακα δρομολόγησης AI. Αυτός κατέχει τα κλειδιά και κάνει την τελική επιλογή παρόχου και μοντέλου. Μια εφαρμογή μπορεί να δηλώσει τι θα προτιμούσε, ίσως ένα γρήγορο μοντέλο για σύντομες απαντήσεις, και ο πίνακας δρομολόγησης ικανοποιεί αυτή την επιθυμία όταν ο οργανισμός έχει ρυθμίσει τον συγκεκριμένο πάροχο. Όταν δεν το έχει κάνει, ο πίνακας δρομολόγησης επιλέγει έναν άλλον που έχει επιτρέψει ο οργανισμός. Μια εφαρμογή δεν μπορεί ποτέ να επιβάλει ένα μοντέλο που δεν έχει επιλέξει ο οργανισμός.
Πριν φύγει μια κλήση, η εφαρμογή της προσθέτει ετικέτα με τη μονάδα και τον ρόλο που υποβάλλουν το αίτημα, καθώς και με το πόσο ευαίσθητα είναι τα δεδομένα. Ο πίνακας δρομολόγησης δρομολογεί βάσει αυτής της ετικέτας και δεν ανοίγει ποτέ την ίδια την κλήση. Λαμβάνει τέσσερις αποφάσεις.
Η πρώτη είναι η εργασία. Η ανάγνωση μιας σαρωμένης φόρμας ταιριάζει σε διαφορετικό μοντέλο από τη σύνταξη μιας επιστολής, επομένως ο οργανισμός αντιστοιχίζει κάθε είδος εργασίας (προεπιλογή, γρήγορη, συλλογιστική, κώδικας και εκτενές πλαίσιο) στα μοντέλα που προτιμά. Η δεύτερη είναι τα δεδομένα. Τα προσωπικά ή απόρρητα δεδομένα μπορούν να περιοριστούν σε μοντέλα στον ίδιο τον εξοπλισμό του οργανισμού, ενώ το δημόσιο υλικό μπορεί να χρησιμοποιήσει περισσότερα. Η τρίτη είναι η τοποθεσία. Οι κλήσεις πηγαίνουν μόνο στις περιοχές και στους παρόχους που επιτρέπει η μονάδα, και μια κλήση που θα κατευθυνόταν οπουδήποτε αλλού απορρίπτεται, με την απόρριψη να καταγράφεται στο αρχείο. Η τέταρτη είναι η εφεδρική επιλογή. Εάν ένα μοντέλο είναι αργό ή εκτός λειτουργίας, την κλήση αναλαμβάνει το επόμενο επιτρεπόμενο μοντέλο. Ένα κλειδί που αποτυγχάνει παραμένει ανενεργό για 60 δευτερόλεπτα και παραλείπεται· μετά από πέντε συνεχόμενες αποτυχίες απενεργοποιείται. Η κλήση φτάνει σε ένα επιτρεπόμενο μοντέλο ή αναμένει, και αν τίποτα από τα δύο δεν λειτουργήσει, αποτυγχάνει με σαφή αιτιολογία. Δεν πηγαίνει ποτέ κάπου που απαγορεύουν οι κανόνες.
Οι κανόνες ξεκινούν σε επίπεδο οργανισμού και μπορούν να γίνουν πιο αυστηροί για κάθε μονάδα και εφαρμογή, καθώς και για κάθε είδος δεδομένων. Μια μονάδα μπορεί να περιοριστεί σε τοπικά μοντέλα στον δικό της εξοπλισμό, ενώ μια άλλη χρησιμοποιεί ένα φιλοξενούμενο μοντέλο στην Ευρωπαϊκή Ένωση. Μια μονάδα δεν μπορεί ποτέ να έχει πιο χαλαρούς κανόνες από τον οργανισμό.
Κάθε κλήση καταμετράται, ποτέ δεν διαβάζεται
Ο πίνακας δρομολόγησης καταμετρά κάθε κλήση ανά άτομο και ομάδα, καθώς και ανά εφαρμογή και ημέρα. Μετρά επίσης τον χρόνο και το κόστος κάθε κλήσης. Δεν αποθηκεύει ούτε διαβάζει ποτέ τι ζητήθηκε ή τι απαντήθηκε. Κάθε προϋπολογισμός έχει έναν ορισμένο υπεύθυνο και ένα όριο. Οι προϋπολογισμοί μπορούν να οριστούν σε τέσσερα επίπεδα, από τον οργανισμό έως ένα μεμονωμένο άτομο, με τις μονάδες και τις δεξιότητες ενδιάμεσα. Όταν συμπληρωθεί ένας προϋπολογισμός, εφαρμόζεται ο κανόνας που επέλεξε ο υπεύθυνός του. Η εργασία μπορεί να συνεχιστεί ή να μεταφερθεί σε ένα οικονομικότερο μοντέλο, ή μπορεί να σταματήσει μέχρι να εγκρίνει ένας διαχειριστής. Το οικονομικό τμήμα λαμβάνει μία ενιαία κατάσταση που καλύπτει εξίσου τα φιλοξενούμενα και τα τοπικά μοντέλα.
Μοντέλα στους δικούς σας διακομιστές
Οποιοδήποτε μοντέλο εκτελεί ο οργανισμός στον δικό του εξοπλισμό μπορεί να συνδεθεί στον πίνακα δρομολόγησης, εφόσον υποστηρίζει το πρωτόκολλο συμβατό με OpenAI. Η ομάδα IT σας δίνει στον πίνακα δρομολόγησης τη διεύθυνση του διακομιστή, βλέπει τα μοντέλα που εντόπισε και επιλέγει ποια εργασία εκτελεί το καθένα. Η σελίδα σύνδεσης επιβεβαιώνει ότι «Τίποτα δεν φεύγει από αυτήν την εγκατάσταση» μόλις ολοκληρωθεί η διαδικασία. Ένα μικρό μοντέλο που μετατρέπει το κείμενο σε αναζητήσιμη μορφή εκτελείται επίσης εντός της εγκατάστασης από προεπιλογή, σε απλούς επεξεργαστές, ώστε η ίδια η αναζήτηση να μην χρειάζεται εξωτερική υπηρεσία. Η χρήση μιας φιλοξενούμενης υπηρεσίας για αυτό είναι μια επιλογή που μπορεί να κάνει ο οργανισμός.
Σε μια απομονωμένη από το δίκτυο (air-gapped) εγκατάσταση όπως το Harrow, τα τοπικά μοντέλα είναι τα μόνα μοντέλα. Αυτό λειτουργεί καλά για το μεγαλύτερο μέρος όσων κάνουν οι άνθρωποι και συνεπάγεται έναν ξεκάθαρο περιορισμό: μια δυνατότητα απαιτεί το αντίστοιχο μοντέλο της να είναι εγκατεστημένο τοπικά. Το στούντιο σημειωματάριου του Harrow μπορεί να δημιουργήσει διαφάνειες και μονοσέλιδες περιλήψεις από τα τοπικά μοντέλα, αλλά μια ηχητική περίληψη χρειάζεται ένα μοντέλο φωνής, και μέχρι να εγκατασταθεί ένα τέτοιο, το στούντιο το αναφέρει ξεκάθαρα και υποδεικνύει ποιος μπορεί να το προσθέσει.
Τα τοπικά μοντέλα μπορούν επίσης να ελέγχουν το ένα το άλλο. Στο Harrow, η εργασία που γίνεται από μια οικογένεια μοντέλων ελέγχεται από μια άλλη (το Qwen3-32B από το Llama 3.3 70B, για παράδειγμα), ώστε ένα τυφλό σημείο σε μια οικογένεια να μην ελέγχεται από την ίδια οικογένεια.
Για οργανισμούς που θέλουν να προχωρήσουν περισσότερο, το πρόσθετο Model factory εκπαιδεύει και προσαρμόζει μοντέλα στις κάρτες γραφικών του ίδιου του οργανισμού, χρησιμοποιώντας μόνο δεδομένα που επιτρέπεται να χρησιμοποιεί ο οργανισμός.
Χωρίς κλειδί δεν υπάρχει AI, και το Nexus το δηλώνει ξεκάθαρα
Ένας οργανισμός χωρίς συνδεδεμένο μοντέλο δεν λαμβάνει απαντήσεις AI. Αυτό είναι ένα σκόπιμο όριο του σχεδιασμού, όχι σφάλμα. Το Nexus δεν δανείζεται σιωπηλά ένα κοινόχρηστο κλειδί για να καλύψει το κενό, επειδή τότε τα δεδομένα του οργανισμού θα κατευθύνονταν κάπου που ο ίδιος δεν επέλεξε ποτέ.
Αυτό που βλέπουν οι χρήστες αντ' αυτού είναι μια απλή καρτέλα. Ο βοηθός εξηγεί ότι δεν μπορεί να απαντήσει επειδή δεν υπάρχει συνδεδεμένο μοντέλο, εμφανίζει τον κωδικό MODEL_NOT_CONNECTED με μικρά γράμματα και προσφέρει την επιλογή «Σύνδεση μοντέλου» σε όποιον έχει το δικαίωμα. Οι εργασίες που αναμένουν μοντέλο εκτελούνται μόλις συνδεθεί ξανά κάποιο.
Τίποτα δεν πηγαίνει στην Adverant εν αγνοία σας
Ένα αυτοφιλοξενούμενο Nexus δεν στέλνει αναφορές για τους ανθρώπους σας στην Adverant. Όταν κάτι όντως φεύγει, το διαβάζετε πριν το στείλετε.
Μια εγκατάσταση στη δική σας υποδομή ετοιμάζει μια ετήσια κατάσταση χρήσης που περιέχει μόνο μετρητές: πόσες θέσεις εργασίας και συσκευές χρησιμοποιούνται, και ποιες ομάδες δυνατοτήτων. Ο διαχειριστής σας τη διαβάζει γραμμή προς γραμμή πριν τη μεταφορτώσει ή τη μεταφέρει σε δίσκο. Μια απομονωμένη από το δίκτυο εγκατάσταση που ζητά μια νέα δυνατότητα στέλνει ένα αρχείο αιτήματος που αναφέρει την εγκατάσταση και τη δυνατότητα, μαζί με το ψηφιακό αποτύπωμα της εγκατάστασης. Τίποτα σχετικά με τους ανθρώπους ή την εργασία τους δεν το συνοδεύει. Όταν χρειάζεστε βοήθεια, ένα πακέτο υποστήριξης δείχνει τι θα συλλέξει και μια προεπισκόπηση όσων έχουν απαλειφθεί πριν αποσταλεί οτιδήποτε.
Το προσωπικό της Adverant δεν μπορεί να δει στο εσωτερικό μιας εγκατάστασης πελάτη με δική του πρωτοβουλία. Εάν η υποστήριξη χρειαστεί να το κάνει, το αίτημα υποβάλλεται μέσω ενός αιτήματος υποστήριξης και ο διαχειριστής σας απαντά ναι ή όχι. Ένα «ναι» ισχύει για καθορισμένο χρόνο έως οκτώ ωρών το πολύ και για συγκεκριμένο εύρος πρόσβασης, όπως τα αρχεία καταγραφής της μηχανής. Δεν καλύπτει ποτέ τα μηνύματα ή τα αρχεία κανενός, ούτε την αλληλογραφία και τη μνήμη τους.
Η προσωπική συνδρομή ενός ατόμου δεν αποτελεί ποτέ συνδρομή του οργανισμού
Ορισμένοι πληρώνουν μόνοι τους για μια συνδρομή AI, όπως ένα πρόγραμμα Claude Max. Το Nexus δεν την αντιμετωπίζει ποτέ ως συνδρομή του οργανισμού. Μια προσωπική συνδρομή δεν μπορεί να προστεθεί στη δεξαμενή πόρων του οργανισμού (η δεξαμενή την απορρίπτει ονομαστικά) και καμία σελίδα που εμφανίζει τη ρύθμιση AI του οργανισμού δεν περιλαμβάνει ποτέ μια τέτοια συνδρομή.
Οι λόγοι είναι πρακτικοί. Ένα προσωπικό πρόγραμμα αγοράζεται με όρους καταναλωτή για ένα άτομο, επομένως η δρομολόγηση της εργασίας συναδέλφων μέσω αυτού θα παραβίαζε αυτούς τους όρους. Ο οργανισμός δεν μπορεί να δει τη χρήση του ή να ορίσει προϋπολογισμό γι' αυτό, και η συνδρομή φεύγει μαζί με το άτομο όταν αυτό αποχωρήσει. Το AI του οργανισμού θα πρέπει να βασίζεται σε κλειδιά που ανήκουν στον οργανισμό, και στο Nexus αυτό ακριβώς συμβαίνει.

