O que hospedar um agente de IA por conta própria realmente envolve: as quatro partes, runtimes open source, uma palavra cuidadosa sobre hardware e um checklist de segurança interativo.
Um agente de IA self-hosted roda em hardware que você controla, e não na nuvem de um fornecedor. Você mesmo opera quatro partes: um runtime de modelo que serve um modelo de pesos abertos, um orquestrador que executa o loop do agente, as ferramentas que ele pode chamar e um armazenamento de memória. O ganho é o controle dos dados; o preço é que a segurança vira trabalho seu.
As quatro partes de um agente self-hosted
Hospedar por conta própria atrai empresas que não podem enviar registros de clientes a terceiros ou que preferem custos fixos a faturas por requisição. Mas é trabalho de engenharia de verdade: você aplica patches nos servidores, dimensiona o hardware e decide no que o agente pode mexer. Esta página explica cada parte em palavras simples e termina com um checklist para você marcar antes de qualquer coisa ir para o ar.
Pode ser, porque os prompts e os dados ficam em máquinas que você controla. Isso só vale se o runtime, os logs e os backups também forem mantidos privados, e se nenhuma ferramenta enviar dados discretamente para um serviço externo.
Depende muito do tamanho do modelo e de quantas pessoas o usam ao mesmo tempo, então não vamos citar um número. Como referência, o guia de instalação do vLLM pede Linux e uma GPU com compute capability 7.5 ou superior, enquanto o LocalAI diz que não é preciso GPU. Teste primeiro em hardware alugado.
Algumas ferramentas de workflow podem ser self-hosted. O n8n, por exemplo, oferece self-hosting sob a sua própria Sustainable Use License, uma licença fair-code com limites diferentes dos de MIT ou Apache, então leia antes de usar comercialmente.
Prompt injection: um texto que o agente lê, como um e-mail ou uma página web, e que o engana para agir contra você. A OWASP o coloca em primeiro lugar nos riscos para apps de modelos de linguagem. Limitar as ferramentas e exigir aprovação humana para ações de alto impacto são as principais defesas.
Um esboço da ideia de rede, não um deploy completo. Só o orquestrador é publicado no host; o runtime não tem porta publicada.
O runtime fica só em uma rede interna sem rota para fora; o agente entra nela e na rede padrão. Troque os nomes das imagens pelo runtime e pelo agente que você escolheu.
Marque o que já é verdade. As suas marcações ficam só nesta aba do navegador.
{n} de {v} concluídos
Todos os itens estão marcados. Rode com dados de teste antes de clientes reais usarem.
Limpar tudo
Runtime do modelo
Orquestrador
Memória e dados
Operação
A API do runtime só é acessível pelo orquestrador, não pela internet.
A licença do modelo permite o seu uso comercial.
Você testou o modelo no hardware de destino com uma carga realista.
O loop do agente tem um número máximo de etapas e um timeout.
Reembolsos, exclusões, pagamentos e e-mails enviados esperam um sim de uma pessoa.
O agente tem só as ferramentas de que esta tarefa precisa.
Cada ferramenta usa a sua própria conta ou chave com as permissões mais restritas.
Todo servidor MCP ou plugin vem de uma fonte em que você confia e que revisou.
As conversas e documentos armazenados são criptografados e têm backup.
Você decidiu por quanto tempo guardar as conversas, e as antigas são apagadas.
Cada chamada de ferramenta é registrada com as entradas e o resultado.
Alguém é responsável pelas atualizações do runtime, do framework e do sistema operacional.
Há uma pessoa definida para acionar quando o agente se comportar mal.
Comece grátis · Sem cartão de crédito