Iniciar sessãoAgendar apresentação
Parte 1: Para todos
Versão 1.0.0-alpha.1mais recente

Capítulo 1.4

IA nos seus termos

Como o Nexus utiliza a inteligência artificial (IA) nos próprios termos da organização. A organização traz e detém as suas chaves de modelo, uma central encaminha cada chamada de modelo para os fornecedores que escolheu, os modelos locais são executados nos seus próprios servidores e nada é enviado para a Adverant nas suas costas.

Esta página foi traduzida por IA a partir do original em inglês. Em caso de dúvida, a página em inglês serve de referência. Ler esta página em inglês

10 minutos de leitura

A instalação de operações da Harrow Port Authority não tem nenhum fornecedor de IA alojado. Não tem ligação à internet, pelo que cada modelo que utiliza é executado em placas gráficas na sua própria sala de máquinas: um Qwen3-32B para a maior parte do trabalho, com um Llama 3.3 70B e um Gemma 3 27B ao seu lado. Quando Aoife Brennan, diretora de TI da Harrow, abre a página da central de comutação de IA, esta lista exatamente esses modelos, a tarefa que cada um executa e o local para onde cada chamada tem permissão para ir. Esse local é o edifício.

A maioria das organizações irá combinar modelos alojados e locais. O princípio não muda: a organização decide que inteligência artificial (IA) utiliza, para onde os seus dados podem viajar e quanto gasta, e o Nexus aplica essas decisões em cada chamada.

A chave pertence à organização

Quando uma organização utiliza um modelo alojado, traz a sua própria chave. O Nexus guarda as chaves no conjunto de IA da organização. Estas pertencem à organização e não a qualquer pessoa nela. Os proprietários e administradores adicionam-nas e retiram-nas. O conjunto aceita chaves para Anthropic, Google Gemini, OpenRouter e Scaleway, e pode apontar para qualquer servidor que a organização execute e que comunique através do protocolo comum compatível com OpenAI.

Uma chave é introduzida uma única vez. O Nexus encripta-a à chegada e nunca mais a mostra, em parte alguma. A partir daí, a chave aparece apenas como uma breve referência e uma linha como «definida por Aoife a 3 de set.». Quando uma chave é retirada, a central de comutação deixa imediatamente de lhe enviar chamadas e a chave permanece listada como retirada, para que o histórico de quem utilizou o quê se mantenha coerente. Nada é eliminado.

Cada organização tem a sua própria conta de fornecedor e a sua própria fatura. Não existe nenhuma chave partilhada da Adverant por detrás da IA de um inquilino, pelo que os gastos de uma organização nunca se misturam com os de outra, e uma organização que mude de fornecedor simplesmente retira uma chave e adiciona outra.

As chaves para fontes de dados externas são mantidas separadas das chaves de modelos. A Harrow detém uma chave para o feed de posições de navios que lê, por exemplo, numa página separada de chaves de dados externos. Essa página recusa liminarmente uma chave de modelo, porque as chaves de modelos pertencem ao conjunto e a mais nenhum local.

A central encaminha cada chamada

As aplicações e os agentes no Nexus nunca chamam um modelo diretamente, nem tão-pouco os fluxos de trabalho. Pedem-no à central de comutação de IA. Esta detém as chaves e faz a escolha final do fornecedor e do modelo. Uma aplicação pode indicar o que gostaria, talvez um modelo rápido para respostas curtas, e a central de comutação respeita esse desejo quando a organização tem esse fornecedor configurado. Quando não o tem, a central de comutação escolhe outro que a organização tenha permitido. Uma aplicação nunca pode forçar a utilização de um modelo que a organização não tenha escolhido.

À esquerda, três pequenas caixas identificadas como "Assistente", "Passo de fluxo de trabalho" e "Agente" enviam, cada uma, uma seta para uma grande caixa central identificada como "Central de IA". No seu interior, quatro passos empilhados indicam "A tarefa: que tipo de modelo se adequa", "Os dados: podem sair desta instalação", "O local: regiões e fornecedores permitidos" e "A alternativa: próximo modelo permitido se o primeiro estiver ocupado". Setas saem da central para duas caixas à direita: "Modelos locais nos seus próprios servidores" e "Fornecedores alojados para os quais a sua organização detém chaves". Uma terceira seta é desenhada a tracejado. Termina numa cruz ao lado de uma caixa identificada como "Qualquer outro local" com a nota "recusado e registado".
O que acontece a uma chamada de modelo no seu percurso pela central de comutação.

Antes de uma chamada sair, a aplicação etiqueta-a com a unidade e a função que faz o pedido, bem como com o grau de sensibilidade dos dados. A central de comutação encaminha com base nessa etiqueta e nunca abre a chamada em si. Toma quatro decisões.

A primeira é a tarefa. Ler um formulário digitalizado adequa-se a um modelo diferente do que redigir uma carta, pelo que a organização mapeia cada tipo de tarefa (predefinida, rápida, raciocínio, código e contexto longo) para os modelos que prefere. A segunda são os dados. Os dados pessoais ou secretos podem ser restritos a modelos no próprio hardware da organização, enquanto o material público pode utilizar mais opções. A terceira é o local. As chamadas vão apenas para as regiões e fornecedores que a unidade permite, e uma chamada que sairia para qualquer outro local é recusada, ficando a recusa registada. A quarta é a alternativa de recurso. Se um modelo estiver lento ou inoperacional, o modelo permitido seguinte assume a chamada. Uma chave que falhe fica em pausa durante 60 segundos e é ignorada; após cinco falhas consecutivas, é desligada. A chamada chega a um modelo permitido ou aguarda e, se nenhuma das opções funcionar, falha apresentando um motivo claro. Nunca vai para um local proibido pelas regras.

As regras começam ao nível da organização e podem ser restringidas para cada unidade e aplicação, e para cada tipo de dados. Uma unidade pode ser limitada a modelos locais no seu próprio hardware, enquanto outra utiliza um modelo alojado na União Europeia. Uma unidade nunca pode ter regras mais permissivas do que a organização.

A central de comutação de IA
A central de IA
A página da central de comutação de IA. Repare em qual modelo executa cada tarefa e para onde os dados podem ir. Cada chave apresenta apenas quem a definiu e quando.

Cada chamada é contabilizada, nunca lida

A central de comutação contabiliza cada chamada por pessoa e equipa, bem como por aplicação e dia. Também mede o tempo e o custo de cada chamada. Nunca armazena nem lê o que foi perguntado ou o que foi respondido. Cada orçamento tem um responsável nomeado e um limite. Os orçamentos podem ser definidos a quatro níveis, desde a organização até uma única pessoa, com unidades e competências pelo meio. Quando um orçamento é atingido, aplica-se a regra escolhida pelo seu responsável. O trabalho pode continuar ou passar para um modelo mais económico, ou pode parar até que um administrador dê o seu acordo. O departamento financeiro recebe um único extrato que abrange tanto os modelos alojados como os locais.

Modelos nos seus próprios servidores

Qualquer modelo que a organização execute no seu próprio hardware pode juntar-se à central de comutação, desde que comunique através do protocolo compatível com OpenAI. A sua equipa de TI fornece à central de comutação o endereço do servidor, vê os modelos que esta encontrou e escolhe a tarefa que cada um executa. A página de ligação confirma «Nada sai desta instalação» assim que o processo está concluído. Um pequeno modelo que converte texto num formato pesquisável também é executado dentro da instalação por predefinição, em processadores comuns, pelo que a pesquisa em si não necessita de qualquer serviço externo. Utilizar um serviço alojado para esse fim é uma escolha que a organização pode fazer.

Numa instalação isolada da rede (air-gapped) como a da Harrow, os modelos locais são os únicos modelos. Isto funciona bem para a maior parte do que as pessoas fazem e traz um limite claro: uma funcionalidade necessita de ter o respetivo modelo instalado localmente. O estúdio de blocos de notas da Harrow pode criar diapositivos e resumos de uma página a partir dos modelos locais, mas um resumo de áudio necessita de um modelo de voz e, até que um seja instalado, o estúdio indica-o claramente e refere quem o pode adicionar.

Estúdio numa instalação isolada da rede
Studio numa instalação isolada da rede (air-gapped)
O estúdio de blocos de notas numa instalação isolada da rede. Os resumos de áudio param devido à falta do modelo de voz, e o aviso indica quem pode adicionar um e o que o estúdio pode produzir entretanto.

Os modelos locais também se podem verificar mutuamente. Na Harrow, o trabalho realizado por uma família de modelos é revisto por outra (Qwen3-32B por Llama 3.3 70B, por exemplo), para que um ponto cego numa família não seja verificado pela mesma família.

Para as organizações que pretendem ir mais longe, o suplemento Model factory treina e afina modelos nas próprias placas gráficas da organização, utilizando apenas os dados que a organização está autorizada a utilizar.

Sem chave não há IA, e o Nexus avisa

Uma organização sem nenhum modelo ligado não obtém respostas de IA. Trata-se de um limite deliberado da arquitetura, não de uma falha. O Nexus não pede discretamente emprestada uma chave partilhada para preencher a lacuna, porque nesse caso os dados da organização iriam para um local que esta nunca escolheu.

O que as pessoas veem, em vez disso, é um aviso simples. O assistente explica que não pode responder porque não existe nenhum modelo ligado, apresenta o código MODEL_NOT_CONNECTED em letra pequena e disponibiliza a opção «Ligar um modelo» a quem tiver permissões para tal. As tarefas que aguardam por um modelo são executadas assim que um volte a estar disponível.

Nada vai para a Adverant nas suas costas

Um Nexus autoalojado não envia relatórios sobre o seu pessoal à Adverant. Quando algo efetivamente sai, lê-o antes de o enviar.

Uma instalação na sua própria infraestrutura prepara uma declaração de utilização anual que contém apenas contadores: quantos lugares e dispositivos estão em utilização, e quais os grupos de funcionalidades. O seu administrador lê-a linha a linha antes de a carregar ou de a transportar num disco. Uma instalação isolada da rede que peça uma nova funcionalidade envia um ficheiro de pedido que indica o nome da instalação e da funcionalidade, juntamente com a impressão digital da instalação. Nada sobre as pessoas ou o seu trabalho segue com ele. Quando necessita de ajuda, um pacote de suporte mostra o que irá recolher e uma pré-visualização do que é ocultado antes de qualquer informação ser enviada.

A equipa da Adverant não pode inspecionar o interior da instalação de um cliente por sua própria iniciativa. Se a equipa de suporte necessitar de o fazer, o pedido é feito através de um processo de suporte e o seu administrador aprova ou recusa. Uma aprovação é válida por um período definido de, no máximo, oito horas e com um âmbito específico, como os registos do motor. Nunca abrange as mensagens ou ficheiros de ninguém, nem o seu correio eletrónico e memória.

A subscrição pessoal de alguém nunca é a da organização

Algumas pessoas pagam elas próprias uma subscrição de IA, como um plano Claude Max. O Nexus nunca a trata como sendo da organização. Uma subscrição pessoal não pode ser adicionada ao conjunto de recursos da organização (o conjunto recusa-a pelo nome), e nenhuma página que mostre a configuração de IA da organização lista alguma vez uma.

As razões são práticas. Um plano pessoal é adquirido sob condições de consumidor para uma pessoa, pelo que encaminhar o trabalho de colegas através dele violaria essas condições. A organização não consegue ver a sua utilização nem definir um orçamento para ele, e este desaparece quando essa pessoa sai. A IA da organização deve assentar em chaves que a organização possui, e no Nexus é assim que funciona.