← Voltar para a série

Peça 3

Onde a IA roda

Por que essa frase descreve quatro arranjos diferentes, com custos diferentes, e não uma única forma de instalar software.

Publicado em 07 de setembro de 20267 min de leitura

ArquiteturaImplantaçãoSoberania

Quase todo fornecedor de software de IA para empresa oferece hoje a mesma garantia na primeira reunião: roda na sua infraestrutura. Costuma ser verdade. O problema não é a frase, é que ela cobre pelo menos quatro arranjos diferentes, com custos operacionais diferentes, tratados na conversa comercial como se fossem um só.

Resolvido onde o dado fica e se o modelo local dá conta da tarefa, sobra a pergunta de onde o software é instalado. A resposta da primeira peça, a de que a Aptabit não vê os seus dados, muda de peso conforme o arranjo em operação no seu ambiente, porque é o arranjo que decide onde fica a fronteira de saída.

Quatro arranjos que cabem na mesma frase

A frase diz onde o software é instalado, não onde fica a fronteira. Em cada arranjo, a fronteira se apoia em uma coisa diferente. Numa parede física, num contrato de nuvem, na ausência de rota de saída ou em uma decisão de configuração de acesso.

Servidor no datacenter da organização. A organização decide tudo, e herda tudo o que um servidor exige, capacidade, energia, refrigeração, plantão e troca de hardware. Para quem já tem datacenter e equipe, o custo marginal é pequeno. Para quem não tem, é um projeto de infraestrutura com nome de projeto de IA. Se o acervo não tiver restrição de saída, essa arquitetura pode ser mais custo do que a organização precisa pagar, e um serviço de terceiro resolve.

Conta própria na nuvem. Nuvem privada ou conta do cliente na nuvem pública devolvem elasticidade sem transferir a titularidade do ambiente. Parede física é uma coisa. Configuração de conta é outra. A separação continua existindo, mas passa a depender de quem tem credencial e de como o acesso está desenhado.

Ambiente isolado. Sem conexão de saída, a garantia para de depender de configuração. Nada sai porque não existe rota de saída. É o arranjo mais forte em confidencialidade e o mais caro em operação. Tudo o que entrava pela sua rede passa a entrar por procedimento.

Híbrido decidido por fluxo. A maior parte roda dentro, e fluxos específicos saem para um modelo hospedado. É o arranjo que mais atrai por conveniência e o mais fácil de fazer errado. Ele só se sustenta enquanto a saída for decisão explícita, tomada fluxo a fluxo, e enquanto alguém conseguir dizer quais fluxos saem hoje.

Onde o arranjo mais fechado cobra a conta

Uma peça que só listasse vantagens não ajudaria ninguém a decidir. O nosso site afirma que a plataforma opera offline, e é por isso que o preço desse arranjo precisa ser dito em voz alta. Três custos aparecem quando a conexão de saída deixa de existir, dois seus e um nosso.

O primeiro é o diagnóstico. Sem rota de saída não existe suporte remoto olhando o ambiente, e o diagnóstico passa a depender do que o seu time consegue coletar e descrever. É um caminho mais longo do que uma demonstração deixa parecer. A pergunta a fazer é como o fornecedor conduz uma investigação nesse modo, não se ele conduz.

O segundo é a atualização. A peça de abertura desta série já observou que software sem canal com o fabricante não recebe correção de segurança por conta própria. O que muda no ambiente isolado é o que entra no lugar desse canal. A correção passa a atravessar a fronteira carregada por uma pessoa, o que transforma cada aplicação em procedimento com data marcada, responsável definido e verificação de origem antes de começar. Três perguntas decidem se esse arranjo é sustentável na sua casa: quanto tempo separa a publicação de uma correção da entrada dela no seu ambiente, quem no seu time executa esse transporte, e o que acontece com o sistema em produção se a aplicação falhar no meio do caminho. A última é a que menos se pergunta, porque exige um caminho de volta planejado antes de a atualização começar. Trocar de modelo percorre a mesma rota.

O terceiro é nosso. Ir até o dado obriga o produto a caber em ambientes que não escolhemos e não administramos, e parte do comportamento dele em produção depende de infraestrutura que não podemos garantir nem reproduzir. Quem hospeda o próprio software conhece a máquina em que ele roda. Nós não conhecemos a sua.

Nada disso é argumento contra o isolamento. É a descrição do que ele transfere. A pergunta a fazer antes de escolher esse arranjo é quem, no seu time, executa essas rotinas, e se essa pessoa já existe hoje.

O que perguntar antes de escolher o arranjo

Estas perguntas servem para qualquer fornecedor que se ofereça para instalar software no seu ambiente, e revelam qual arranjo ele de fato sustenta:

  1. Em quais arranjos de implantação este produto é suportado, e o que muda em cada um?
  2. Quem detém a conta de nuvem em que isso roda, eu ou o fornecedor?
  3. O que quebra se eu cortar a internet por uma semana?
  4. Como o produto é atualizado e corrigido, e o que isso exige de mim em cada arranjo?
  5. Quem no meu time opera isso depois da implantação, e o que acontece se essa pessoa sair?

A quinta é a que menos favorece quem vende software para instalar, e encosta na pergunta de o que continua rodando quando o contrato acaba, assunto de uma peça mais adiante nesta série.

Por que topologia decide antes de funcionalidade

O site afirma três coisas sobre onde a plataforma roda, e as três são de topologia. Ela é self-hosted, com Docker ou Kubernetes. O banco, os arquivos e os vetores ficam na infraestrutura do cliente. Os modelos podem ser locais ou de um provedor externo. Lidas como funcionalidades, essas três afirmações dizem pouco. Lidas como topologia, elas descrevem onde a fronteira pode ser colocada, e o que cada posição custa para manter.

Ir até o dado, em vez de pedir que o dado venha até nós, decide onde a fronteira fica antes de decidir qualquer outra coisa. Escolher o arranjo é escolher quanto dessa fronteira a sua organização passa a operar sozinha.

Ficou uma pergunta que a série não responde?

Mande a pergunta para o nosso time. As que mais se repetem viram peças desta série.

Falar com a Aptabit