AISubHub/Новости ИИ
Разработка

Подробный разбор · Около 3 мин чтения

Orca сокращает контекст схем для улучшения запросов Discovery AI

Кейс от 13 октября сочетает правила, найденные примеры и проверку; более 900 моделей — типы облачных ресурсов, а не языковые модели.

Дата источника
Опубликовано здесь
Источник проверен

Orca Security и AWS описывают Discovery AI, превращающий вопросы по безопасности на естественном языке в фильтры Sonar. По кейсу от 13 октября система работает в production с марта 2026 года. Основной урок — выбирать и проверять контекст, а не отправлять полную схему каждый раз.

Слушать новости

Прослушайте эту статью или включите новости подряд.

Orca сокращает контекст схем для улучшения запросов Discovery AI

Подготовка чтения…

Голос устройства

Речь обрабатывает браузер или устройство. AISubHub не отправляет текст в аудио-API. Доступные голоса и работа при заблокированном экране зависят от устройства.

При продолжении короткая фраза может повториться.

Кратко

  • Sonar охватывает более 900 типов ресурсов и приложений и 18 операторов; это не 900 фундаментальных моделей.
  • Относительно первого прототипа Orca сообщает о сокращении входных токенов на 93%, общей стоимости на 90% и полной задержки на 75% для сопоставимых нагрузок.

Специализированный контракт запроса

Sonar требует JSON с точными названиями, связями и 18 операторами. Прототип загружал более 900 определений и примеров в большую модель, расходуя примерно два миллиона входных токенов и 60 секунд на нагрузку; сложные связи всё ещё требовали исправлений. Эти модели обозначают инстансы или бакеты хранения. Если принять их за языковые модели, получится неверное описание и задачи, и возможностей продукта.

Правила и примеры до генерации

Девятиэтапный процесс добавляет контекст организации и подключённых облаков. Детерминированное сопоставление обрабатывает известные идентификаторы без инференса, а ограничения отбрасывают неподдерживаемый ввод. Titan находит 20 примеров, Cohere Rerank 3.5 выбирает пять. Надёжный готовый фильтр можно повторить; иначе выбирают только нужные схемы. Claude Haiku 4.5 отвечает за выбор и генерацию, Nova 2 Lite — за ограничения и валидацию. Это не требование отдельных потребительских подписок.

Проверки и исправления экспертов остаются

Генератор с инструментами использует выбранные схемы и примеры, после чего проходят статические проверки и Sonar API. Конкретные ошибки полей, операторов и связей возвращаются для исправления. Попытки ограничены и могут закончиться ответом о невалидном фильтре. Подготовленные вопросы и эталонные запросы оценивают изменения по уровням сложности. Эксперты исправляют вывод и слабые примеры во внутреннем инструменте. Это постоянная работа над качеством, не автоматическое исчезновение ошибок после добавления поиска.

Сохранять исходную базу сравнения

Orca сообщает о переходе примерно с двух миллионов к 140000 входных токенов на сопоставимую нагрузку, то есть снижении на 93%. Общие расходы падают на 90%, а полное время — примерно с 60 до 15 секунд, на 75%. Это разные показатели. Система выполняет тысячи запросов ежедневно с проверкой качества через оценки и отзывы. Урок — совместно тестировать релевантность, объём схем и распределение моделей, не обещать другой организации такие же сбережения.

Почему это важно

Узкоспециализированный помощник может соединять несколько подходящих примеров с проверенными схемами. Исходная система запросов остаётся контрактом выполнения; правдоподобного текста недостаточно.

Ограничения и доступность

AISubHub не воспроизводил результаты компаний. Сравнивается новый процесс с прежним прототипом, а не все модели Bedrock или задачи безопасности. Общая гарантия точности и права личной подписки не предоставляются.

Источники и подтверждения

AWS Machine Learning Blog

Дата источника: 13 окт. 2026 г. · Источник проверен: 20 окт. 2026 г.

Материалы подготовлены с помощью ИИ и сверены с указанными первоисточниками. Заявления поставщиков атрибутированы; публикация не означает рекомендацию.