Einen dauerhaft laufenden KI-Agenten absichern
Wie ein KI-Agent selbstständig arbeiten kann, ohne alle Schlüssel zu bekommen: die fünf Schutzmaßnahmen von OpenAI erklärt, und wie ich sie anwende.
Geprüft von adrian
am
Ein Chat-Agent wartet auf meine Frage. Ein dauerhaft laufender Agent nicht: Er läuft ständig, fängt von selbst mit Arbeit an und darf jeden Code schreiben, den er für sein Ziel braucht. KI-Agenten wie Hermes Agent können so arbeiten. Kevin S Lin hat im Entwickler-Blog von OpenAI beschrieben, wie OpenAI Hunderte solcher Agenten sicher betreibt (der Beitrag). Dieser Artikel erzählt das in einfachen Worten nach, gibt eine Checkliste und wendet sie auf meinen eigenen Hermes Agent an.
Warum OpenAI das macht
Nach dem internen Pilotbetrieb von OpenClaw sah OpenAI Produktivität und Nutzung stark steigen, in technischen wie in nicht-technischen Teams. Inzwischen arbeiten dort mehr als 500 Agenten im Hintergrund, zum Beispiel öffnen sie Pull Requests aus Produkt-Feedback oder lassen ständig Datenexperimente zu neuen Funktionen laufen. Zugleich gibt es noch keine etablierten Best Practices, deshalb zögern viele Unternehmen, solche Agenten einzusetzen. Der Beitrag teilt, was OpenAI gelernt hat, um diese Lücke zu schließen.1
Die Grundidee: vertrauenswürdig und nicht vertrauenswürdig
Das größte Risiko eines solchen Agenten ist nicht nur ein Angreifer von außen. Es ist der Agent selbst, der etwas tut, das niemand wollte, weil er die Aufgabe falsch verstanden hat oder weil ihn etwas, das er gelesen hat, gelenkt hat. Deshalb wird alles in zwei Teile getrennt:1
- Vertrauenswürdig: die Teile, die genau das tun, was eingestellt ist, ohne eigenes Urteil: das Netzwerk, die Identitäten, die Sandbox und die Komponente, die den Agenten konfiguriert.
- Nicht vertrauenswürdig: der Agent, die Umgebung, in der er arbeitet, und jeder Code, den er schreibt.
Alles Weitere folgt aus einer Regel: Der nicht vertrauenswürdige Teil darf den vertrauenswürdigen nie verändern können.
1. Die Steuerung vom Agenten trennen
OpenAI trennt das Gateway, das den Agenten einrichtet und konfiguriert, vom Harness, in dem der Agent arbeitet und Code ausführt. Beide laufen in getrennten Containern, bei OpenAI sogar in getrennten Clustern.1 Bricht der Agent aus seiner Sandbox aus, findet er dort nichts, das ihn steuert.
Die Frage für mein eigenes Setup: Kann der Agent seine eigene Konfiguration oder seine eigenen Rechte ändern? Wenn ja, sind diese beiden Teile noch nicht getrennt.
2. Harte Grenzen um den Agenten
Die Sandbox zieht vier Grenzen:1
- Netzwerk: Der Agent erreicht nur eine Allowlist von Hosts, die seine Aufgabe braucht. Eine Sperrliste nennt zusätzlich, was nie erreichbar sein darf: Paste-Seiten und Webhook-Fänger, mit denen sich Daten leicht hinausschaffen lassen, und die Metadaten-Adresse der Cloud
169.254.169.254, über die ein Cloud-Server seine Zugangsdaten ausgibt. Ein Proxy setzt das durch, und die Konfiguration des Agenten kann die Liste nicht erweitern. - Dateien: Der Agent schreibt nur in seinen Arbeitsordner. Nachschlagematerial ist nur lesbar, die SSH-Schlüssel (
~/.ssh) sind tabu. - Prozesse: Befehle laufen in einer Sandbox des Betriebssystems. Erlaubt sind nur die Modi „nur lesen“ und „im Arbeitsordner schreiben“; Vollzugriff hat der Administrator abgeschaltet.
- Geheimnisse: Der Agent sieht sie nie. Ein Credential Broker setzt sie dort ein, wo sie gebraucht werden, und Tokens wie
GH_TOKENwerden aus der Umgebung jedes Befehls entfernt, den der Agent ausführt. Das hilft nicht bei einem Schlüssel, der in einer lesbaren Datei liegt.
Die Konfiguration hat zwei Ebenen: Eine Datei des Administrators setzt die Grenzen, und die Konfiguration des Agenten kann sich nur darin bewegen, sie nie erweitern. Die Websuche nutzt einen zwischengespeicherten Index statt des Live-Webs, und Verbindungen zu anderen Apps, auch zerstörerische Aktionen, sind aus, bis jemand sie einschaltet.
3. Ein zweites Modell prüft die Aktionen
Beim Auto-Review beobachtet ein zweiter Agent den ersten und genehmigt dessen Aktionen. OpenAI schreibt das für jede Aktion seiner OpenClaw-Agenten vor.1 Der Gewinn: Niemand muss hundertmal am Tag auf „Erlauben“ klicken und irgendwann nicht mehr lesen, was er erlaubt. Menschen sehen nur noch die Entscheidungen, auf die es wirklich ankommt. Welche Aktionen trotzdem noch zu einem Menschen gehen, sagt der Beitrag nicht.
4. Der Agent bekommt eine eigene Identität
Der Agent nutzt nicht mein Login. Er hat eine eigene Identität mit eigenem Schlüssel für das Modell, bei OpenAI ein Service-Account.1 Das bringt drei Dinge:
- Die Logs zeigen, ob ich oder der Agent etwas getan hat.
- Ich kann den Agenten abschalten, ohne mich selbst auszusperren.
- Er bekommt genau den Zugriff, den er braucht, über Service-Accounts, die an seine Identität gebunden sind.
Zwei IETF-Entwürfe sollen das standardisieren: WAG für Zugriff im eigenen Namen des Agenten, XAA für Handeln im Auftrag einer Person über OAuth-Delegation. Beides sind Entwürfe, keine fertigen Standards.
5. Alles protokollieren, aber die Logs schützen
Jede Änderung der Konfiguration und jeder Schritt des Agenten wird protokolliert. Lesen darf diese Logs nur eine kleine Sicherheitsgruppe, weil die Schritte des Agenten sensible Daten enthalten können.1
Was der Beitrag offen lässt
Gedächtnis, Prompt Injection, die Prüfung von Skills und Plugins, Updates und das Vorgehen nach einem Vorfall behandelt er nicht. Für ein fertiges Setup verweist OpenAI auf OpenClaw Enterprise, eine quelloffene Steuerebene, deren Standard-Voreinstellung viele dieser Schutzmaßnahmen enthält; sie ist im Pilotbetrieb, Version 1.0 ist zum Jahresende geplant.1
Meine Checkliste
Das sind meine Schlüsse für Agenten, die ich selbst betreibe, keine Aussagen des Beitrags. Eine Frage fasst sie zusammen: Wenn der Agent verwirrt oder manipuliert wäre, was könnte er erreichen?
- Ein eigener Schlüssel: Jeder Agent bekommt einen eigenen API-Schlüssel, den ich widerrufen kann, ohne etwas anderes anzufassen.
- Keine Geheimnisse in Reichweite: keine
.env-Dateien, SSH-Schlüssel oder Tokens in den Ordnern, die der Agent lesen kann. Variablen zu verstecken reicht nicht, wenn der Schlüssel in einer Datei liegt. - Schreiben nur im eigenen Ordner: Alles andere ist für ihn nur lesbar oder unsichtbar.
- Begrenztes Netzwerk: mindestens kein Weg in mein eigenes Netz und zur Metadaten-Adresse; besser eine Allowlist der Hosts, die die Aufgabe braucht.
- Kein Zugriff auf die eigenen Regeln: Konfiguration und Rechte sind Dateien, die der Agent nicht ändern kann.
- Freigabe für alles, was sich nicht rückgängig machen lässt: Löschen, Pushen, Nachrichten senden oder Bezahlen braucht ein Ja von mir oder von einem zweiten Modell.
- Logs: festhalten, was der Agent getan hat, und das als sensibel behandeln.
Meine Wissensdatenbank folgt Punkt 6 schon: Agenten schreiben nur Entwürfe, und erst meine Prüfung veröffentlicht sie.
Angewendet auf meinen Hermes Agent
Mein Hermes Agent läuft in Docker auf meinem Server. Am 15.11.2026 habe ich ihn mit der Checkliste geprüft, nur lesend und aus dem Container heraus, als der Benutzer, der die Befehle des Agenten ausführt.
Umgesetzt:
- Der Container ist nicht privilegiert, hat keinen Docker-Socket und sieht nur seinen Datenordner. Darin läuft Hermes als eigener Benutzer
hermes, nicht als root. - Das Dashboard ist nur durch den WireGuard-Tunnel erreichbar, und eine Firewall-Regel hält den Container von meinen Geräten im Tunnel fern.
- Hermes fragt standardmäßig vor Befehlen, die er für gefährlich hält, und Änderungen an seinen Anweisungsdateien wie
SOUL.mdbrauchen immer meine Freigabe (Punkt 6, zum Teil). Sein Web-Werkzeug ruft keine privaten Adressen und keine Metadaten-Adressen der Cloud ab.
Nicht erfüllt:
- Punkte 2 und 5, Geheimnisse und eigene Regeln: Hermes führt Befehle mit dem Terminal-Backend
localaus, im selben Container und als derselbe Benutzer wie das Gateway. Dieser Benutzer kann.envmit dem OpenRouter-Schlüssel,auth.jsonundconfig.yamllesen und ändern, und das Dashboard-Passwort steht in der Umgebung des Gateways. Gateway und Agent sind nicht getrennt. - Punkt 4, Netzwerk: Das ganze Internet ist offen, auch Paste-Seiten und Webhook-Fänger. Der Metadaten-Dienst meines Anbieters unter
169.254.169.254antwortet aus dem Container; nur das Web-Werkzeug lässt ihn aus, ein Befehl im Terminal nicht. Außerdem erreicht der Container die SSH-Ports des Servers. - Punkt 1, ein eigener Schlüssel: Ob nur Hermes den OpenRouter-Schlüssel nutzt, ist auf dem Server nicht zu sehen.
Was ich ändern will, von wenig zu mehr Aufwand (ein Plan, noch nicht umgesetzt):
- Die Metadaten-Adresse für den Container in derselben
DOCKER-USER-Kette sperren wie den Tunnel, und die SSH-Ports des Servers selbst in seinerINPUT-Kette, denn Verkehr zum Host selbst läuft nicht durchDOCKER-USER. - Hermes einen eigenen OpenRouter-Schlüssel mit niedrigem Ausgabenlimit geben, damit ein gestohlener Schlüssel wenig kostet und sich allein widerrufen lässt.
config.yaml,.envundauth.jsoninsecurity.protected_instruction_extra_patternsaufnehmen, damit Schreiben dort wie beiSOUL.mdmeine Freigabe braucht. Lesen bleibt möglich; das endet erst mit einer Sandbox für die Befehle außerhalb des Gateway-Containers.- Später: ein Proxy für ausgehenden Verkehr mit Allowlist (OpenRouter, Exa) und ein Terminal-Backend, das Befehle getrennt vom Gateway ausführt.
- Sitzungen und Logs liegen im Datenordner neben den Schlüsseln; wer das eine lesen kann, kann auch das andere, also sind sie genauso sensibel (Punkt 7).
Der Plan für einen gehosteten MCP-Server folgt schon mehreren dieser Punkte: aus der Ferne nur Lesen und Entwürfe, ein eigener Container und kurzlebige Tokens statt eines festen Schlüssels.
Offener Punkt: Hermes darf nicht an seine eigenen Schlüssel und Regeln kommen
Status: Vorschlag, offen. Genauer anschauen, bevor ich etwas ändere.
Die wichtigste Lehre des Beitrags für mein Setup ist seine erste Regel: Der nicht vertrauenswürdige Teil darf den vertrauenswürdigen nie verändern können. Bei meinem Hermes Agent ist genau das nicht erfüllt. Seine Befehle laufen als derselbe Benutzer wie das Gateway und können den OpenRouter-Schlüssel, die Login-Daten und die Konfiguration lesen und ändern. Nach meiner Einschätzung würde eine einzige Seite mit versteckten Anweisungen, die der Agent liest, reichen, um den Schlüssel hinauszuschaffen oder die Freigaben in seiner eigenen Konfiguration zu lockern.
Der Vorschlag, in zwei Schritten:
- Bald, wenig Aufwand: Schreiben in
config.yaml,.envundauth.jsonbraucht meine Freigabe (security.protected_instruction_extra_patterns), und Hermes bekommt einen eigenen OpenRouter-Schlüssel mit niedrigem Ausgabenlimit. Das verhindert das Lesen nicht, begrenzt aber den Schaden und macht den Schlüssel leicht widerrufbar. - Zu prüfen: die Befehle des Agenten getrennt vom Gateway ausführen, sodass sie seine Dateien gar nicht sehen. Hermes kennt außer
localweitere Terminal-Backends (seine Konfiguration hat Einstellungen für Docker und Modal). Welches passt, ohne dem Container den Docker-Socket zu geben, und was es an Aufwand und Geld kostet, ist die offene Frage.
Beruht auf
-
Explaining OpenAI's post on securing persistent agents
(
raw/2026/2026-11-15/explaining-openai-s-post-on-securing-persistent-agents.md) [chat] - Securing persistent agents like OpenClaw at OpenAI von Kevin S Lin [openai]
Mehr dazu
Thema
- KI-Agenten KI-Apps, deren Sprachmodell Werkzeuge aufruft, um Arbeit zu erledigen, etwa Claude Code und Claude Desktop, und wie du sie sicher betreibst.
Quellen
- Securing Persistent Agents Like OpenClaw at OpenAI Blogbeitrag von OpenAI, wie Hunderte dauerhaft laufende OpenClaw-Agenten sicher betrieben werden: Steuerebene, Sandbox, Auto-Review, Identität, Logs.
Im Text erwähnt
- Hermes Agent Open-Source-KI-Agent von Nous Research mit Web-Dashboard, Desktop-App, Werkzeugen, Skills und Gedächtnis. Läuft auf dem eigenen Server, etwa in Docker.
- Kevin S Lin Arbeitet bei OpenAI und baut Werkzeuge für Menschen und Agenten. Gründer des Open-Source-Notizwerkzeugs Dendron.
Siehe auch
- Gehosteten MCP-Server absichern Plan für einen gehosteten MCP-Server der Wissensdatenbank, den claude.ai im Web und am Handy nutzen kann, aber sonst niemand.
- Hermes Agent auf einem VPS hinter WireGuard Anleitung: Hermes Agent in Docker auf dem VPS yaksha, Dashboard hinter Caddy und nur per WireGuard erreichbar, Container vom Tunnel-Netz abgeschottet.