Rendimiento y coste de contexto

No hay una cifra general: depende de tus tools y de cómo tu host las traduce al formato del modelo, así que hay que medirlo en tu propio caso. El nombre, la descripción y los esquemas de cada tool viajan con cada petición al modelo, y su peso en el cable no es necesariamente el mismo que el que acaba llegando al modelo. En la lección se calcula el tamaño de las definiciones y de las respuestas de las tools de Nortia en ambos puntos, con un método que se repite igual antes y después de cada cambio.

Es una técnica de Cloudflare para que el modelo trabaje con muchas operaciones a través de muy pocas tools, ejecutando código en lugar de cargar una definición por operación; según Cloudflare, con dos tools da acceso a todos los endpoints de su API, que pasan de 2.500. Si conviene en tu plataforma no se deduce de esa cifra, sino de medir tu caso, y además Cloudflare todavía la presenta como experimental. En la lección se compara con las otras opciones, como ajustar definiciones, filtrar por rol o cargar tools bajo demanda, y se decide con datos de Nortia.

Atacando cada fuente de espera por separado, después de medir dónde se va el tiempo de una tarea real. La especificación ya aporta una palanca: los listados llevan ttlMs y cacheScope, que indican cuánto tiempo puede reutilizarse un resultado y quién puede guardarlo, y a eso se suman la gestión de conexiones a la base de datos, las llamadas simultáneas y el arranque en frío del servidor. En la lección se aplican esas técnicas a un ticket de soporte de Nortia cuya primera respuesta aprovechable llega demasiado tarde.