Vertiefende Analyse · Etwa 3 Min. Lesezeit
Trust in Depth trennt Agentenentscheidungen von nicht abschaltbaren Kontrollen
AWS verbindet Umfang, Identität, externe Grenzen und Nachweise; formale Beweise bleiben an Annahmen gebunden.
- Datum der Quelle
- Hier veröffentlicht
- Quelle geprüft
AWS schlägt im Beitrag vom 15. Oktober durchsetzbare Grenzen außerhalb der Modelllogik vor. Scope, Know, Bound und Observe bilden vier Ebenen. Ein Offboarding-Beispiel erläutert folgenreiche Arbeit, ohne jedes Verhalten als beweisbar richtig darzustellen oder menschliche Verantwortung zu entfernen.
Nachrichten anhören
Diesen Artikel vorlesen oder mit den Nachrichten fortfahren.
Vorlesen wird vorbereitet…
Gerätestimme
Browser oder Gerät verarbeiten die Sprache. AISubHub sendet den Text nicht an eine Audio-API. Stimmen und Wiedergabe bei gesperrtem Bildschirm hängen vom Gerät ab.
Beim Fortsetzen kann sich ein kurzer Satzteil wiederholen.
Auf einen Blick
- Formales Schließen beweist präzise Regeln nur innerhalb modellierter Pfade und Annahmen; Kontextentscheidungen bleiben menschlich.
- Ein freigegebener Katalog zeigt, was existiert; die Laufzeitidentität macht nachvollziehbar, welcher Agent unter wessen Befugnis handelt. Sie allein erteilt keine Werkzeugerlaubnis.
- Das Beispiel erlaubt sechs Werkzeuge, keine Kontolöschung, und verlangt Voraussetzungen für Postfach- und Lizenzänderungen.
Ein Beweis ist enger als ein Vertrauensversprechen
AWS unterscheidet verpflichtende Vorgesetztenfreigabe von freundlichem Ton. Formales Schließen beweist eine Regel unter Beschreibung und Annahmen oder findet ein Gegenbeispiel; eine lückenhafte Richtlinie wird dadurch nicht vollständig. Mehrdeutigkeit bleibt bei Menschen, ergänzt um Begrenzung, Bewertung und Wiederherstellung. Wir empfehlen, bewiesene Eigenschaft, modelliertes Verhalten und Ausschlüsse festzuhalten. Tests erfassen erwartete Fälle, Verifikation kann in ihrem Bereich weiter gehen. Beides begründet keine universelle Sicherheit für jede reale Situation.
Umfang und Identität legen Befugnisse fest
Zuerst stehen Aufgabe, notwendige Werkzeuge und Daten, Verbote und menschliche Entscheidungen. Gebündelte Rollen können unbeabsichtigt zu viele Rechte gewähren. Spezifikationen, Eigenschaftstests und Richtlinienanalyse suchen vor Ausführung Lücken und Widersprüche. Know trennt den verwalteten Katalog genehmigter Agenten, Werkzeuge und Skills von der jeweiligen Laufzeitidentität. Der Katalog regelt Auffindbarkeit und Wiederverwendung, die Identität macht Anfragen zuordenbar. Auffindbarkeit bedeutet nach unserer Einschätzung keine Erlaubnis; auch ein vertrautes Werkzeug braucht pro Aufruf die richtige Befugnis.
Externe Grenzen müssen die Reihenfolge beachten
Bound setzt deterministische Prüfungen außerhalb des Agenten. AWS beschreibt Richtlinien für über AgentCore Gateway geleitete Aufrufe, sitzungsabhängige zeitliche Regeln und Sandbox-Grenzen für Dateien, Dienste und Zugangsdaten. Ein- und Ausgabefilter entscheiden etwas anderes als Werkzeugautorisierung. Die Gateway-Route ist eine Bedingung, keine nachgewiesene Abdeckung aller Umwege. Einzelne erlaubte Schritte können gemeinsam unerwünschte Folgen haben. Wir würden direkte und indirekte Wege, Verbote und Voraussetzungen testen, aber auch Grenzen, die legitime Arbeit zu stark einschränken.
Das Postfachbeispiel erhält Voraussetzungen
Vor Umwandlung und Freigabe des Postfachs muss der ausscheidende Mitarbeiter gesperrt werden. Vor Lizenzänderung wird eine rechtliche Aufbewahrung geprüft und sichergestellt. Sechs Werkzeuge sperren Anmeldung, prüfen und setzen Aufbewahrung, wandeln Postfach um, geben Nachfolgerzugriff und ändern Lizenz. Kontolöschung fehlt, weil das geteilte Postfach das Konto braucht. Vorzeitige Umwandlung und ungeprüfte Lizenzänderung werden blockiert; der Agent erfüllt erst die Bedingungen. Das ist ein erklärtes Szenario, keine gemessene Erfolgsquote, universelle E-Mail-Systemprüfung oder hier ausgeführte Kontoänderung.
Beobachtung macht Autonomie nachprüfbar
Observe bewahrt Kontext, Werkzeugaufrufe, Richtlinienentscheidungen und Resultate zur Rekonstruktion und für künftige Tests. Ein grünes Infrastrukturdiagramm beweist keinen Aufgabenerfolg. Unser Schluss: Autonomie schrittweise erweitern, einen Ablauf und prüfbare Grenzen wählen, erlaubte wie verweigerte Wege testen und Eingriffsbelege aufheben. Das ergänzt kontinuierliche Ergebnisbewertung. Keine Ebene allein deckt Befugnis, Richtigkeit und Wiederherstellung vollständig; Verantwortungsumfang muss wieder sinken, wenn Nachweise nicht mehr ausreichen.
Warum es wichtig ist
Der Agent wählt den Weg, die Umgebung entscheidet über die Erlaubnis. Identität, Richtlinienabdeckung, Reihenfolge und Nachweise verdienen getrennte Prüfung statt nur eines starken Prompts oder einer guten Vorführung.
Grenzen und Verfügbarkeit
Vollständige Quellenlektüre, keine bereitgestellten Kontrollen, formalen Prüfungen oder Kontoänderungen. Szenario und Produkte stammen aus AWS’ Darstellung. Beweise hängen von Annahmen ab; allgemeine Sicherheit, neue Modelle, Verbraucherrechte oder Preise werden nicht belegt.
Quellen und Belege
Datum der Quelle: 15.10.2026 · Quelle geprüft: 20.10.2026
KI-gestützte redaktionelle Beiträge, anhand der genannten Primärquellen geprüft. Anbieterangaben werden zugeordnet; eine Aufnahme ist keine Empfehlung.