VPS com GPU para IA no Brasil: o que contratar e como pedir a cotação?

Existe VPS com GPU ou o certo é um servidor dedicado?

O nome "VPS com GPU" virou sinônimo de qualquer servidor na nuvem com placa de vídeo, mas há duas formas de entregar isso. Na primeira, a placa é dividida entre clientes. Na segunda, a GPU (unidade de processamento gráfico) inteira fica com você. Treino e inferência de LLM (modelo de linguagem de grande porte) dependem da memória de vídeo disponível, então dividir a placa limita o tamanho do modelo e torna o desempenho imprevisível.

Por isso, na NuvoCloud a GPU é de uso exclusivo. Você não disputa memória de vídeo com outro cliente, e a conta de capacidade que fez no projeto vale em produção.

Quando a inteligência artificial precisa mesmo de GPU?

Nem todo projeto de IA precisa. Antes de pedir cotação, descubra em qual linha o seu está:

Se o seu caso está nas três primeiras linhas, não pague por placa de vídeo. Um plano Cloud resolve, e o artigo sobre que servidor um agente de IA precisa mostra o dimensionamento. O outro lado da conta está em quando vale a pena um servidor com GPU e em rodar LLM próprio ou pagar API.

O que informar para receber a cotação de um servidor com GPU?

O valor depende da configuração, por isso não existe tabela fixa. Quanto melhor a descrição, mais rápida e certa sai a proposta. Prepare estas respostas:

1. Qual modelo vai rodar? Nome e número de parâmetros, ou o tipo de geração de imagem e vídeo.
2. Qual a quantização? Um modelo em 4 bits ocupa bem menos memória de vídeo que o mesmo modelo em 16 bits.
3. É treino, ajuste fino, inferência ou renderização? Cada uso pede uma combinação diferente de placa, CPU, memória e disco.
4. Quantos usuários ao mesmo tempo? Cada conversa simultânea consome memória de vídeo além do modelo.
5. Qual o tamanho dos dados? Conjuntos grandes pedem mais disco NVMe e talvez um storage separado.
6. Por quanto tempo? Uso contínuo em produção e uma janela de treino se contratam de formas diferentes.

Com isso, o consultor indica a placa, a memória de vídeo, a CPU, a memória e o disco, e passa o valor. O modelo da placa é definido na cotação, conforme o trabalho, e não em uma lista pública.

Como estimar a memória de vídeo de um modelo?

Uma conta de bolso ajuda a chegar à conversa com um número. Em 16 bits, cada bilhão de parâmetros ocupa cerca de 2 GB. Em 8 bits, cerca de 1 GB. Em 4 bits, cerca de 0,5 GB. Some uma folga para o contexto das conversas e para o próprio programa. Assim, um modelo de 7 bilhões de parâmetros em 4 bits fica perto de 4 GB só de pesos, e o mesmo modelo em 16 bits perto de 14 GB. É uma estimativa: confirme no cartão do modelo e num teste com o seu contexto real.

Treinar pede bem mais memória que apenas usar o modelo, porque guarda gradientes e estado do otimizador. Se for treinar, diga isso na cotação.

Por que rodar GPU no Brasil e não em nuvem de fora?

Há dois argumentos práticos. O primeiro é a LGPD (Lei Geral de Proteção de Dados): se o modelo recebe conversa de cliente, manter o processamento no Brasil simplifica explicar onde o dado está. O artigo sobre IA e LGPD trata disso. O segundo é a previsibilidade: contrato em reais, com nota fiscal, e sem variação de câmbio na fatura.

A latência pesa menos em IA do que em banco de dados, porque gerar a resposta costuma levar mais tempo que a viagem do pacote. Se o seu produto responde em tempo real, teste antes de decidir.

O que acompanha o servidor com GPU?

O servidor fica em infraestrutura em São Paulo, com disco NVMe e rede com proteção Anti-DDoS. O ambiente pode ser usado para treinamento, inferência, renderização e processamento de dados. Backup, retenção e o restante da arquitetura entram na proposta. Quem precisa de banco vetorial ou aplicação ao lado da GPU costuma combinar o servidor com uma VPS comum, deixando a placa só para o modelo. Veja também quanta memória um banco vetorial precisa.