Analyse approfondie · Environ 4 min de lecture
Le cas Bedrock d’Octave place isolation et recherche avant la fonction AI
Le client décrit une base commune de tri des réclamations ; corpus, débit et productivité n’ont pas le même dénominateur.
- Publié ici
- Date de la source
- Source vérifiée
Le cas AWS–Octave–Cohere du 20 octobre présente préparation par locataire, exécution isolée et filtrage dans Reliance. Le tri des réclamations est le premier usage vertical. L’assistant réunit contexte et actions correctives passées ; un responsable qualité décide. C’est un retour client, pas une évaluation générale de l’AI réglementée.
Écouter les actualités
Écoutez cet article ou poursuivez la lecture des actualités.
Préparation de la lecture…
Voix de l’appareil
La voix est traitée par votre navigateur ou appareil. AISubHub n’envoie pas le texte à une API audio. Les voix et la lecture écran verrouillé dépendent de l’appareil.
La reprise peut répéter une courte phrase.
En bref
- Le fonds dépasse 2 milliards de documents ; le débit annoncé est de 1,4 million par 24 heures par charge de locataire, pas 2 milliards traités en un jour.
- Octave rapporte que 512 dimensions atteignent son objectif avec environ 66% de stockage vectoriel en moins que 1 536 ; pas 66% sur toute la facture AI.
La représentation impose un compromis local
Reliance compte plus de 650 entreprises et 40 applications ; les plus de 14 000 clients d’Octave concernent un périmètre plus large. L’équipe choisit Cohere Embed v4 sur Bedrock pour texte et image dans un espace multilingue. Elle teste son corpus qualité plutôt que de remplacer l’évaluation par un classement. Sur des requêtes représentatives, 512 dimensions atteignent la cible avec environ 66% de stockage en moins que 1 536. Le résultat concerne ce corpus et le stockage, pas précision universelle ou coût total. Virginie, Irlande et Tokyo sont cités pour l’inférence régionale requise, avec couverture variable selon modèle et fonction.
Isolation et filtrage protègent des frontières différentes
La recherche est limitée au locataire et chaque session tourne en microVM AgentCore dédiée. L’identité se propage par jetons utilisateur et politiques Gateway sur outil, opération et paramètres. Cela évite à chaque fonction de reconstruire les contrôles. Le filtrage intervient avant les embeddings d’extraits joints, avant documents et résultats dans le contexte, puis avant livraison du résumé. Les tags traitent les pièces comme données ; le sandbox est décrit sans sortie réseau ni persistance au-delà de la session. Ce sont des couches de conception, pas des preuves de zéro fuite ou de prévention universelle des injections. Vérifier formellement des règles définies ne prouve pas qu’elles couvrent toute intention métier.
Un vaste corpus n’est pas une journée de travail achevée
Les événements passent par SNS et SQS vers Step Functions, qui coordonne des Lambda parallèles d’analyse, découpage et embedding. Les fragments portent locataire, type, application source, langue et hash. Grouper des fragments d’environ 4K tokens dans 128K réduit les appels. Le client rapporte 28 millions de tokens par minute en interne et 1,4 million de documents par 24 heures par charge de locataire après réglage des lots. Unités et périmètres diffèrent. Ce ne sont ni quotas Bedrock ni preuve des 2 milliards achevés en un jour. Format, OCR, fragments, concurrence et capacité du compte modifient le débit réel.
Le flux éclaire le jugement humain
L’assistant extrait les pièces, résume avec Claude, cherche réclamations et actions correctives du locataire dans OpenSearch, note les candidats par un autre appel et rédige synthèse et priorité suggérée. Le vocabulaire commun ne suffit pas. DynamoDB évite une partie des appels répétés sans rendre toute demande gratuite. Traces OpenTelemetry et journaux aident l’enquête ; les évaluations offline contrôlent fidélité, précision à K et complétude sur annotations expertes après changement. Octave attribue au flux 4–6 heures préparatoires par enquête et 50% de réduction du déploiement par usage. Ce sont des observations locales, pas des résultats cliniques ou une productivité indépendante contrôlée. Préparation d’audit, récits d’incidents et risque prédictif sont à venir ; le responsable humain garde la décision.
Pourquoi cela compte
Analyse AISubHub : recherche, identité et exécution réutilisables aident les fonctions suivantes, mais exigent tests inter-locataires, qualité et décision humaine. L’infrastructure ne prouve pas la conformité réglementaire.
Limites et disponibilité
Les débits proviennent des tests internes et du réglage de pipeline décrits ; la productivité, des trois mois de production rapportés. Tout vient du client. Nous n’avons ni inspecté ni reproduit débit, économies, isolation ou résistance aux injections. Les usages suivants restent des projets.
Sources et preuves
Date de la source: · Source vérifiée:
Articles assistés par IA, vérifiés avec les sources primaires citées. Les affirmations des fournisseurs sont attribuées ; la présence ne vaut pas recommandation.