Todo fornecedor de IA que atende organização regulada diz a mesma frase na conversa sobre proteção de dados: com a nossa arquitetura, você fica em conformidade. A parte técnica costuma ser verdadeira. O problema é que conformidade não é uma propriedade do software, é uma decisão sobre o tratamento.
Esta peça ocupa esta posição na série porque rodar no ambiente do cliente transforma parte da pergunta jurídica em pergunta de engenharia, e porque vale separar o que essa transformação alcança do que continua com a organização.
A diferença entre reduzir a superfície e ser conforme
Processar dentro da própria infraestrutura tira de cena uma classe de problema, não todas. A exceção vem antes da vantagem. A peça de abertura desta série já registrou o que acontece com o fluxo apontado para um provedor externo. O que cabe acrescentar aqui é que essa saída não muda apenas a rota da rede, muda o enquadramento jurídico daquele tratamento. Aquele trecho passa a envolver um terceiro, com contrato próprio, com finalidade que precisa estar coberta e, se o processamento acontecer em outro país, com regra de transferência internacional. Em muitos casos a saída é a decisão certa, com conteúdo que não é sigiloso, em tarefa que a qualidade do modelo decide, com provedor que o jurídico já aprovou. O que ela não faz é tirar aquele tratamento da sua prestação de contas.
Feita a ressalva, duas perguntas mudam de natureza. A transferência internacional passa a depender de onde a infraestrutura do cliente está, e não da rota que o fornecedor escolheu. A lista de quem toca o dado passa a ser levantada por dentro, em vez de depender do que o fornecedor declara. As duas são perguntas que a organização responde sozinha.
Nada disso torna o tratamento legítimo. Uma organização pode processar dentro de casa exatamente o dado que não teria autorização para processar em lugar nenhum. A LGPD não começa perguntando onde o servidor está. Começa pela finalidade do tratamento, e arquitetura não responde por finalidade. Se a resposta do fornecedor afirma que a decisão já está tomada, é venda.
O que continua sendo trabalho da organização
Uma peça que parasse na seção anterior seria material publicitário. Há pelo menos três frentes que a instalação no ambiente do cliente não resolve, e uma delas existe justamente porque a instalação acontece lá.
Autorização. Finalidade, autorização e minimização são anteriores ao software. Rodar dentro de casa não autoriza processar o que não se poderia processar em lugar nenhum. A pergunta é quem autorizou cada contexto, não quem conseguiu indexá-lo.
Ciclo de vida. Retenção, eliminação e atendimento a pedidos de titulares continuam sendo obrigação da organização, e ficam mais difíceis com IA no meio. A pergunta é o que acontece com o que foi derivado do documento, o trecho que entrou num índice, o vetor que representa aquele texto, o histórico da conversa que citou o conteúdo. Nenhum fornecedor responde isso por instalação.
Operação da infraestrutura. O dever de adotar medidas de segurança e de responder por elas continua com a organização quando a infraestrutura é dela. Parte do que um fornecedor de nuvem demonstrava por relatório e certificação passa a ser demonstrada por você, com evidência produzida no seu próprio ambiente. Uma organização sem time de infraestrutura pode ficar com proteção pior do que teria num ambiente de terceiro bem operado, e continua sendo a responsável por ela. O que essa operação custa em rotina é assunto da terceira peça desta série. Aqui o ponto é mais estreito: instalar dentro de casa move a responsabilidade, não a elimina.
Quando a cobrança vem de fora da organização
Essas frentes são cobradas por alguém, e nem sempre por quem contratou. No setor público a pergunta sobre como uma decisão foi tomada chega antes da pergunta sobre a qualidade da resposta, e chega de fora da equipe do projeto, do órgão de controle, da auditoria interna, do cidadão que teve um pedido negado. Isso acrescenta exigências às de qualidade, não as substitui. Além de saber se a resposta é boa, o órgão precisa saber se cada consulta deixa registro e qual acervo sustentou uma saída específica.
Nenhuma das duas se resolve depois. Elas aparecem com o projeto já em produção, quando responder exige reconstituir o que ninguém registrou. Por isso pertencem à fase de desenho, e a fase de desenho termina antes de a prova de conceito começar.
O que perguntar antes da prova de conceito
Estas perguntas valem para qualquer fornecedor, inclusive para nós:
- Quais dados saem do meu ambiente em operação normal, quais saem por escolha minha e como vejo essa diferença antes de aprovar?
- Se eu precisar eliminar o dado de uma pessoa, o que acontece com os índices, os vetores e os históricos derivados?
- Consigo demonstrar depois qual acervo sustentou uma resposta específica e quem tinha acesso a ele?
- Em que ponto uma pessoa precisa aprovar antes de o sistema produzir efeito sobre alguém?
- O que dessa lista vem instalado e o que continua sendo desenho meu?
A quinta é a que mais desmonta apresentação comercial, porque a resposta honesta costuma ser longa.
O que a arquitetura muda na pergunta
Rodar no ambiente do cliente desloca a pergunta jurídica, não a responde. Onde antes se perguntava o que o fornecedor faz com o dado, passa a se perguntar o que a organização decidiu tratar, com que finalidade e com que registro. É uma pergunta melhor, porque quem tem a obrigação de respondê-la também tem os meios de fazê-lo. Não é uma pergunta mais fácil, e a arquitetura não a decide por ninguém.
Junto com esse controle vem o trabalho que estava embutido no contrato de um fornecedor de nuvem. Você assume papéis que eram de outra pessoa, e assume o custo de mantê-los. A quinta peça desta série trata desse custo e do modelo de cobrança que ele impõe. A sexta trata do que continua funcionando quando o contrato acaba.