Подробный разбор · Около 3 мин чтения
Кейс Octave на Bedrock ставит изоляцию и поиск раньше AI-функции
Клиент описывает общую основу разбора жалоб; объём корпуса, пропускная способность и продуктивность имеют разные знаменатели.
- Опубликовано здесь
- Дата источника
- Источник проверен
Кейс AWS–Octave–Cohere от 20 октября описывает подготовку по арендаторам, изолированное выполнение и проверку содержания в Reliance. Разбор жалоб — первый вертикальный сценарий. Ассистент собирает контекст и прошлые корректирующие действия, а специалист качества решает. Это клиентский отчёт, не общая оценка регулируемой AI.
Слушать новости
Прослушайте эту статью или включите новости подряд.
Подготовка чтения…
Голос устройства
Речь обрабатывает браузер или устройство. AISubHub не отправляет текст в аудио-API. Доступные голоса и работа при заблокированном экране зависят от устройства.
При продолжении короткая фраза может повториться.
Кратко
- Корпус превышает 2 млрд документов; заявлено 1,4 млн за 24 часа на нагрузку арендатора, не 2 млрд за день.
- По Octave, 512 измерений достигают её цели при примерно 66% меньшем векторном хранилище против 1536, не всей стоимости AI.
Представление документов требует местного компромисса
Reliance обслуживает более 650 предприятий и 40 приложений; более широкие 14000 клиентов Octave имеют иной охват. Cohere Embed v4 в Bedrock помещает текст и изображение в общее многоязычное пространство. Команда проверяет свой корпус качества вместо подмены проверки публичным рейтингом. На типичных запросах 512 измерений достигают цели с примерно 66% меньшим хранилищем против 1536. Это результат данного корпуса и векторного хранения, не универсальное сохранение точности или вся стоимость. Для нужного локального выполнения названы Виргиния, Ирландия и Токио с оговоркой об изменении доступности моделей и функций.
Изоляция и проверка работают на разных границах
Поиск ограничен арендатором, каждая сессия работает в отдельной AgentCore microVM. Личность передаётся через пользовательские токены и Gateway-политики инструментов, операций и параметров. Каждой функции не приходится заново строить все проверки. Фильтрация идёт до embedding извлечённых вложений, перед документами и результатами инструментов в контексте и перед итоговой справкой. Метки трактуют вложения как данные; sandbox описан без сетевого выхода и сохранения после сессии. Это слои проекта, не доказательство нулевых утечек или защиты от всех инъекций. Формальная проверка заданных правил не доказывает охват всех деловых намерений.
Большой корпус не равен завершённой дневной работе
События проходят SNS и SQS в Step Functions, координирующий параллельные Lambda для разбора, деления и embedding. Части несут арендатора, тип, источник, язык и hash. Около 4K токенов группируются в 128K-контекст для сокращения вызовов. Клиент сообщает 28 млн токенов в минуту во внутренних тестах и 1,4 млн документов за 24 часа на нагрузку арендатора после настройки пакетов. Единицы и охват различны. Это не общие квоты Bedrock и не доказательство обработки всех 2 млрд за день. Формат, OCR, число частей, параллелизм и ёмкость аккаунта меняют скорость.
Процесс помогает человеческому решению
Ассистент извлекает вложения, резюмирует Claude, ищет прошлые жалобы и корректирующие меры в OpenSearch арендатора, отдельно оценивает кандидатов и составляет справку с приоритетом. Одних похожих слов недостаточно. DynamoDB экономит часть повторной модельной работы, не делая все запросы бесплатными. OpenTelemetry и логи помогают расследованию; offline-проверки после изменений оценивают верность, точность при K и полноту против экспертных меток. Octave связывает с процессом 4–6 часов подготовки на расследование и сокращение времени развёртывания сценария на 50%. Это местные наблюдения, не клинические результаты или независимая контролируемая продуктивность. Готовность к аудиту, описания событий и прогноз риска — планы; окончательное решение остаётся человеку.
Почему это важно
Анализ AISubHub: повторные поиск, идентичность и выполнение помогают новым функциям, но нужны граничные тесты, качество и человеческие правила. Инфраструктура не доказывает регуляторное соответствие.
Ограничения и доступность
Скорость получена в описанных внутренних тестах и настройке конвейера, а продуктивность — в заявленных трёх месяцах эксплуатации. Всё сообщено клиентом. Мы не проверяли и не воспроизводили скорость, экономию, изоляцию или защиту от инъекций. Следующие сценарии остаются планами.
Источники и подтверждения
Дата источника: · Источник проверен:
Материалы подготовлены с помощью ИИ и сверены с указанными первоисточниками. Заявления поставщиков атрибутированы; публикация не означает рекомендацию.