Quanta memória um banco vetorial como o Qdrant precisa?

Para que serve um banco vetorial num projeto de IA?

Um banco vetorial guarda textos convertidos em embeddings: listas de números que representam o significado do trecho. Quando o cliente pergunta algo, o sistema converte a pergunta em embedding e busca os trechos mais parecidos. É a técnica RAG (retrieval-augmented generation, geração aumentada por recuperação): o modelo de linguagem responde com base nos seus documentos, e não só no que aprendeu no treino. Qdrant, pgvector (extensão do PostgreSQL), Milvus e Weaviate são as opções mais comuns.

Como calcular a memória necessária?

A fórmula publicada na documentação do Qdrant, para vetores mantidos em memória:

memória ≈ número de vetores × dimensão × 4 bytes × 1,5

O fator 1,5 cobre o índice de busca e metadados. Exemplos com embeddings de 1.536 dimensões (tamanho comum em modelos de embedding comerciais):

Embeddings menores (384 ou 768 dimensões) dividem a conta por 4 ou por 2.

Quantos trechos tem uma base de conhecimento típica?

Bem menos do que parece. Um manual de 400 páginas, cortado em trechos de 500 a 800 palavras, vira algumas centenas de trechos. Somando site, manuais, perguntas frequentes e respostas de suporte, uma empresa média fica entre 5 mil e 50 mil trechos. Bases de milhões aparecem em buscadores de documentos jurídicos, catálogos grandes e históricos de atendimento inteiros.

Quando guardar os vetores em disco em vez de memória?

O Qdrant permite manter vetores em disco (on_disk: true) e quantizá-los (reduzir a precisão dos números). Isso corta a memória várias vezes, ao custo de alguma velocidade. Com disco NVMe, a perda costuma ser pequena para bases que recebem poucas consultas por segundo. É o caminho quando a base cresce mais rápido que o orçamento.

Qdrant separado ou pgvector no PostgreSQL que já existe?

• pgvector: uma peça a menos para operar; bom até algumas centenas de milhares de vetores e quando você já tem PostgreSQL.
• Qdrant: feito para isso, com filtros rápidos, quantização e snapshots; melhor quando a base é grande ou as consultas são muitas.

Como manter o banco vetorial seguro e com backup?

• Não exponha a porta 6333 na internet: por padrão, o Qdrant aceita conexões sem chave. Use a rede interna do Docker ou configure api_key.
• Faça snapshots periódicos pela API do Qdrant e copie-os para fora da VPS.
• Guarde também os documentos de origem: com eles, a base pode ser recriada, mas reindexar leva tempo e gasta chamadas de embedding.

O plano completo de backup está em backup de projeto de IA, e a arquitetura do agente que usa essa base em que servidor um agente de IA precisa.

Como cortar os documentos em trechos?

A qualidade da busca depende mais do corte (o chunking) do que do banco. Algumas regras que funcionam:

• Corte por assunto, não por número fixo de caracteres: um trecho por pergunta do FAQ, por seção do manual, por procedimento.
• Trechos de 200 a 800 palavras: curtos demais perdem contexto; longos demais misturam assuntos e enchem o modelo de texto que não responde a pergunta.
• Sobreposição pequena entre trechos vizinhos, para uma frase cortada ao meio não sumir da busca.
• Metadados em cada trecho: produto, data, origem. Com eles, o banco filtra antes de buscar e a resposta não mistura o manual velho com o novo.

Teste com perguntas reais de clientes: se a resposta certa não aparece entre os 5 primeiros trechos, o problema quase sempre está no corte, não no modelo.

Como medir se a busca está boa?

Monte uma lista de 30 a 50 perguntas reais com o trecho que deveria responder cada uma. Rode a busca e conte em quantas o trecho certo aparece entre os 5 primeiros: esse é o seu índice de acerto. Repita a medição sempre que mudar o corte, o modelo de embedding ou os filtros. Sem essa lista, qualquer ajuste é palpite, e uma melhora num tipo de pergunta pode piorar outro sem ninguém notar.