Vertiefende Analyse · Etwa 3 Min. Lesezeit
Octaves Bedrock-Fallstudie stellt Mandantentrennung und Suche vor die AI-Funktion
Der Kunde beschreibt eine gemeinsame Grundlage für Beschwerdetriage; Korpus, Durchsatz und Produktivität haben unterschiedliche Bezugsgrößen.
- Hier veröffentlicht
- Datum der Quelle
- Quelle geprüft
Die AWS–Octave–Cohere-Studie vom 20. Oktober zeigt mandantenbezogene Dokumentaufbereitung, isolierte Ausführung und Inhaltsprüfung in Reliance. Beschwerdetriage ist der erste vertikale Einsatz. Der Assistent sammelt Kontext und frühere Korrekturmaßnahmen, ein Qualitätsverantwortlicher entscheidet. Es ist ein Kundenbericht, keine allgemeine Bewertung regulierter AI.
Nachrichten anhören
Diesen Artikel vorlesen oder mit den Nachrichten fortfahren.
Vorlesen wird vorbereitet…
Gerätestimme
Browser oder Gerät verarbeiten die Sprache. AISubHub sendet den Text nicht an eine Audio-API. Stimmen und Wiedergabe bei gesperrtem Bildschirm hängen vom Gerät ab.
Beim Fortsetzen kann sich ein kurzer Satzteil wiederholen.
Auf einen Blick
- Der Bestand umfasst über 2 Milliarden Dokumente; gemeldet sind 1,4 Millionen pro 24 Stunden je Mandantenlast, nicht 2 Milliarden an einem Tag.
- Laut Octave erfüllen 512 Dimensionen das eigene Ziel mit rund 66% weniger Vektorspeicher als 1.536; das betrifft nicht die ganze AI-Rechnung.
Dokumentdarstellung erfordert einen lokalen Kompromiss
Reliance bedient über 650 Unternehmenskunden und 40 Anwendungen; Octaves breitere Zahl über 14.000 hat einen anderen Umfang. Gewählt wird Cohere Embed v4 auf Bedrock für Text und Bild im gemeinsamen mehrsprachigen Vektorraum. Bewertet wird der eigene Qualitätskorpus statt nur öffentlicher Ranglisten. Bei repräsentativen Anfragen erfüllen 512 Dimensionen das Ziel mit ungefähr 66% weniger Speicher als 1.536. Das betrifft diesen Korpus und Vektorspeicher, nicht allgemeine Genauigkeit oder Gesamtkosten. Virginia, Irland und Tokio werden für benötigte In-Region-Inferenz genannt, mit dem Hinweis auf veränderliche Modell- und Funktionsabdeckung.
Isolation und Filterung wirken an verschiedenen Grenzen
Die Suche ist mandantenbezogen, jede Nutzersitzung läuft in einer eigenen AgentCore-microVM. Identität wird über nutzerspezifische Tokens und Gateway-Regeln für Werkzeug, Operation und Parameter weitergegeben. Nicht jede Funktion muss dieselben Kontrollen neu bauen. Inhaltsprüfung erfolgt vor Embedding extrahierter Anhänge, vor Dokumenten und Werkzeugergebnissen im Kontext sowie vor Ausgabe der Zusammenfassung. Tags behandeln Anhänge als Daten; die Sandbox wird ohne Netzausgang und sitzungsübergreifende Persistenz beschrieben. Das sind Entwurfsschichten, kein Nachweis nullfacher Datenlecks oder universellen Injektionsschutzes. Formale Prüfung definierter Regeln beweist nicht, dass sie alle Geschäftsabsichten abbilden.
Ein großer Korpus ist keine fertige Tageslast
Ereignisse gehen über SNS und SQS an Step Functions, das parallele Lambda-Verarbeitung für Parsing, Aufteilung und Embedding koordiniert. Stücke tragen Mandant, Typ, Quellanwendung, Sprache und Hash. Etwa 4K-Token-Stücke werden im 128K-Kontext gebündelt, um Aufrufe zu reduzieren. Intern gemeldet sind 28 Millionen Tokens pro Minute und nach Batch-Tuning 1,4 Millionen Dokumente pro 24 Stunden je Mandantenlast. Einheiten und Umfang unterscheiden sich. Das sind weder allgemeine Bedrock-Quoten noch ein Nachweis, alle 2 Milliarden seien an einem Tag verarbeitet. Formate, OCR, Stückzahl, Parallelität und Kontokapazität verändern das Tempo.
Der Ablauf unterstützt menschliches Urteil
Der Assistent extrahiert Anhänge, fasst mit Claude zusammen, sucht ähnliche Beschwerden und Korrekturmaßnahmen im mandanteneigenen OpenSearch, bewertet Kandidaten mit einem weiteren Modellaufruf und erstellt Bericht und Prioritätsvorschlag. Ähnliche Wörter allein reichen nicht. DynamoDB vermeidet einen Teil wiederholter Modellarbeit, ohne alle Folgeanfragen kostenlos zu machen. OpenTelemetry und Logs unterstützen Untersuchungen; Offline-Tests prüfen Treue, Präzision bei K und Vollständigkeit gegen Expertenmarkierungen nach Änderungen. Octave ordnet dem Ablauf 4–6 Stunden Vorarbeit pro Untersuchung und 50% kürzere Bereitstellung je Anwendungsfall zu. Das sind lokale Kundenbeobachtungen, keine klinischen Ergebnisse oder unabhängige kontrollierte Produktivitätsbelege. Auditvorbereitung, Ereignisberichte und Risikoprognosen folgen erst; Menschen entscheiden weiterhin.
Warum es wichtig ist
AISubHub-Analyse: Wiederverwendbare Suche, Identität und Laufzeit helfen weiteren Funktionen, brauchen aber Grenztests, Suchqualität und menschliche Entscheidungsregeln. Infrastruktur beweist keine regulatorische Konformität.
Grenzen und Verfügbarkeit
Durchsatzwerte stammen aus den beschriebenen internen Tests und Pipeline-Anpassungen; Produktivitätsbeobachtungen aus den berichteten drei Produktionsmonaten. Alles sind Kundenangaben. Wir prüften oder reproduzierten Durchsatz, Einsparungen, Isolation und Injektionsschutz nicht. Folgeanwendungen bleiben Pläne.
Quellen und Belege
Datum der Quelle: · Quelle geprüft:
KI-gestützte redaktionelle Beiträge, anhand der genannten Primärquellen geprüft. Anbieterangaben werden zugeordnet; eine Aufnahme ist keine Empfehlung.