Wat het zelf hosten van een AI-agent echt inhoudt: de vier onderdelen, open-source runtimes, een voorzichtig woord over hardware en een interactieve beveiligingschecklist.
Een self-hosted AI-agent draait op hardware die u zelf beheert in plaats van in de cloud van een leverancier. U beheert zelf vier onderdelen: een model-runtime die een open-weight model serveert, een orchestrator die de agentlus uitvoert, de tools die hij mag aanroepen en een geheugenopslag. De winst is controle over uw data; de prijs is dat beveiliging uw taak wordt.
De vier onderdelen van een self-hosted agent
Zelf hosten spreekt bedrijven aan die klantgegevens niet naar een derde partij mogen sturen, of die vaste kosten willen in plaats van rekeningen per verzoek. Het is wel echt technisch werk: u patcht de servers, bepaalt de hardware en beslist waar de agent aan mag komen. Deze pagina loopt elk onderdeel in gewone taal door en eindigt met een checklist die u kunt afvinken voordat er iets live gaat.
Dat kan, omdat prompts en data op machines blijven die u beheert. Dat geldt alleen als de runtime, logs en back-ups ook privé blijven, en als geen enkele tool stilletjes data naar een externe dienst stuurt.
Dat hangt sterk af van de grootte van het model en hoeveel mensen het tegelijk gebruiken, dus we noemen geen getal. Ter indicatie: de installatiegids van vLLM noemt Linux en een GPU met compute capability 7.5 of hoger, terwijl LocalAI zegt dat er geen GPU nodig is. Test eerst op gehuurde hardware.
Sommige workflowtools kunnen zelf gehost worden. n8n biedt bijvoorbeeld zelf hosten aan onder zijn eigen Sustainable Use License, een fair-code-licentie met beperkingen die anders zijn dan bij MIT of Apache, dus lees die voor commercieel gebruik.
Prompt injection: tekst die de agent leest, zoals een e-mail of webpagina, die hem verleidt om tegen u in te handelen. OWASP zet het bovenaan zijn lijst met risico's voor apps met taalmodellen. Tools beperken en menselijke goedkeuring eisen voor acties met grote impact zijn de belangrijkste verdediging.
Een schets van het netwerkidee, geen volledige deployment. Alleen de orchestrator wordt naar de host gepubliceerd; de runtime heeft geen gepubliceerde poort.
De runtime zit alleen op een intern netwerk zonder route naar buiten; de agent zit op dat netwerk en op het standaardnetwerk. Vervang de image-namen door de runtime en agent die u hebt gekozen.
Vink aan wat al klopt. Uw vinkjes blijven alleen in dit browsertabblad.
{n} van {v} klaar
Alles is aangevinkt. Draai het op testdata voordat echte klanten het gebruiken.
Alles wissen
Model-runtime
Orchestrator
Geheugen en data
Beheer
De API van de runtime is alleen bereikbaar vanuit de orchestrator, niet vanaf het internet.
De licentie van het model staat uw commerciële gebruik toe.
U hebt het model getest op de beoogde hardware met een realistische belasting.
De agentlus heeft een maximumaantal stappen en een time-out.
Terugbetalingen, verwijderingen, betalingen en uitgaande e-mails wachten op een ja van een mens.
De agent heeft alleen de tools die deze taak nodig heeft.
Elke tool gebruikt een eigen account of sleutel met de smalste rechten.
Elke MCP-server of plugin komt uit een bron die u vertrouwt en hebt gecontroleerd.
Opgeslagen gesprekken en documenten zijn versleuteld en worden geback-upt.
U hebt besloten hoe lang gesprekken bewaard blijven, en oude worden verwijderd.
Elke toolaanroep wordt gelogd met de invoer en het resultaat.
Iemand is verantwoordelijk voor updates van de runtime, het framework en het besturingssysteem.
Er is een vaste persoon die u belt als de agent zich misdraagt.
Gratis beginnen · Geen creditcard nodig