Análisis en profundidad · Unos 6 min de lectura
AWS explica la caché de prompts para agentes de Bedrock: prefijos estables y costes diferenciados
La guía combina un prefijo compartido explícito con historial implícito y distingue cambios de herramientas, auxiliares, costes modelados y monitorización.
- Publicado aquí
- Fecha de la fuente
- Fuente revisada
La guía técnica de Claudio Mazzoni, publicada por AWS el 26 de octubre, explica cómo reutilizar cálculo con modelos de OpenAI en Amazon Bedrock. Es un tutorial de arquitectura, no el lanzamiento de un modelo. Nuestro análisis se basa en el artículo completo y sus gráficos; AISubHub no ejecutó el código ni midió de forma independiente coste, latencia o disponibilidad.
Escucha las noticias
Escucha este artículo o continúa con las noticias.
Preparando la lectura…
Voz del dispositivo
El navegador o dispositivo procesa la voz. AISubHub no envía el texto a una API de audio. Las voces y la reproducción con pantalla bloqueada dependen del dispositivo.
Al continuar puede repetirse una frase breve.
Resumen
- El prefijo necesita al menos 1 024 tokens; AWS describe una duración mínima de 30 minutos renovada por reutilización satisfactoria y escrituras a 1,25 veces la tarifa normal de entrada.
- En la figura 4, una configuración implícita cuesta 0,38 y los puntos móviles 0,39 frente a 1,00 sin caché: resultados de una carga concreta.
- Otro ejemplo modelado usa 8 000 tokens iniciales y seis turnos que añaden 2 000 cada uno: 0,87 USD sin caché, 0,50 con caché estática y 0,32 con puntos móviles.
1. Reutilizar cálculo no equivale a memoria permanente
El agente suele reenviar herramientas, instrucciones e intercambios anteriores. Durante prefill se construye el estado de claves y valores; la caché reutiliza un prefijo coincidente y procesa el sufijo nuevo. Deben coincidir los tokens de entrada: serialización y orden de herramientas estables, con fechas, nombres e identificadores variables después del prefijo reutilizable.
Los marcadores explícitos sitúan un extremo compartido tras herramientas e instrucciones; el modo implícito sigue finales de conversación elegibles. Pueden combinarse y requieren un prefijo de 1 024 tokens. En los ejemplos, store=False deja el historial en la aplicación y no desactiva la caché. Esta optimización no crea memoria persistente ni permite omitir el historial necesario.
2. Conservar límites anteriores al ampliar el historial
El bucle añade salidas del modelo y resultados de herramientas correspondientes, incluido razonamiento cifrado, sin modificar mensajes previos. En modo exclusivamente explícito se marca el último lote y se conservan marcadores anteriores. Un límite estático vuelve a procesar el historial posterior; mover un único límite al turno más reciente también puede perder reutilización. Guardar implícitamente un extremo tras una tarea no garantiza otro más corto para tareas diferentes.
La figura 4 muestra seis turnos de herramientas con GPT-6 Astra y unas 2 000 tokens de salida de herramientas por turno. El coste relativo de entrada es 0,38 para el modo implícito mostrado, 0,39 para límites móviles, 0,61 para estático y 0,72 si se marca solo el turno más reciente, frente a 1,00 sin caché. Las reducciones aproximadas del 62% y 61% corresponden a estas configuraciones, no al 64% modelado de la figura 9.
3. Cambiar herramientas invocables sin reescribir el catálogo
Para herramientas conocidas, la guía conserva el mismo TOOLS ordenado y cambia allowed_tools mediante tool_choice. auto deja decidir si se invoca una herramienta permitida; required exige al menos una llamada permitida. La selección cambia sin reconstruir el catálogo almacenado. AISubHub interpreta esto como organización del prompt, no como prueba de autorización segura o ejecución protegida en la aplicación.
Para herramientas nuevas durante la sesión, AWS indica que Runtime y Mantle aceptan additional_tools con GPT-6 Astra, GPT-6.1 Sol y GPT-5.6 Luna. Se añade el esquema al historial, se mantiene el catálogo inicial y se conserva ese elemento posteriormente. additional_tools no puede contener un límite: el ejemplo exclusivamente explícito lo coloca en un bloque input_text posterior y retiene los anteriores. Cada rol puede comenzar con su catálogo estable; no se afirma disponibilidad en todos los modelos o regiones.
4. Precalentar antes de repartir auxiliares
Una petición ordinaria de precalentamiento debe terminar antes del trabajo paralelo. Ella y los auxiliares marcan el prefijo compartido incluso en modo implícito y mantienen herramientas, modelo y clave. Los contadores comprueban actividad de caché antes de distribuir tareas. Un resumidor copia el historial completo del padre y añade su instrucción sin alterar el original; añadirla no genera automáticamente un extremo nuevo.
La reutilización exige el mismo modelo, cuenta AWS, Region, clave y prefijo coincidente, además de una entrada todavía disponible. Una clave por sesión separa sesiones iguales; una clave estable permite compartir entre el grupo previsto. AWS indica al menos 30 minutos tras la última escritura o reutilización satisfactoria, posiblemente más. Renovar también cuesta: las claves y el plazo no prometen permanencia ni convierten una separación contable en garantía de seguridad.
5. Separar ahorro modelado de factura real
La figura 9 modela un agente de soporte GPT-6 Astra con 8 000 tokens iniciales y seis turnos que añaden 2 000 cada uno. Con los supuestos de tarifas bajo demanda de la guía, la entrada acumulada cuesta 0,87 USD sin caché, 0,50 con límite estático y 0,32 con límites móviles. Su 64% pertenece a ese ejemplo modelado: no a la figura 4 ni a una implantación probada por AISubHub.
Las escrituras cuestan 1,25 veces la entrada normal y las lecturas dependen del modelo. Tareas cortas o prefijos cambiantes podrían no amortizar escrituras y precalentamiento. El autor pide comparar ambos gastos y ahorros. Al calcular proporciones del coste de entrada se excluyen tokens de salida; la factura completa los incluye por separado. Estas cifras ilustrativas no son una cotización actual ni una reducción garantizada del gasto total.
6. Observar cada extremo y conservar la gobernanza
usage expone cached_tokens y cache_write_tokens. Runtime también ofrece CacheReadInputTokenCount y CacheWriteInputTokenCount en CloudWatch; el registro de invocaciones permite examinar peticiones. Según la guía, Mantle carece actualmente de contadores de caché separados en ese espacio de CloudWatch: la aplicación debe registrar usage. Cost Explorer permite separar lecturas, escrituras y entrada no almacenada por Usage type.
El autor advierte sobre filtración o abuso de herramientas y prompts de sistema, e incluye la caché en la gobernanza. Nuestra interpretación exige revisar por separado alcance compartido, permisos y monitorización; el artículo no demuestra una filtración concreta ni una defensa completa. No revisamos independientemente documentación enlazada ni ejecutamos ejemplos. Modelo, extremo, región, coste y latencia todavía requieren verificación propia.
Por qué importa
La distinción útil es entre prefijo compartido estable, conversación que solo añade contenido y ámbito deliberado de auxiliares. El ahorro depende de respetar esos límites y observar lecturas y escrituras reales, no solo de activar una opción.
Límites y disponibilidad
Base: guía oficial completa y gráficos necesarios. Los resultados de carga y los costes modelados son evidencias distintas atribuidas a AWS. No hubo prueba independiente del código, documentación suplementaria, precios actuales ni despliegue.
Fuentes y pruebas
Fecha de la fuente: · Fuente revisada:
Contenido editorial asistido por IA y contrastado con fuentes primarias. Las afirmaciones del proveedor se atribuyen; la inclusión no implica recomendación.