
Utilizar el modelo de inteligencia artificial más potente para todas las tareas no siempre es la opción más eficiente. Algunas solicitudes pueden resolverse con alternativas más económicas, mientras que otras requieren modelos de mayor capacidad. El enrutamiento inteligente de modelos (model routing) permite automatizar esta decisión y ajustar el uso de la IA a las necesidades de cada operación. TIMIA, compañía especializada en inteligencia artificial, datos y analítica avanzada, ha desarrollado RouterKit, un framework que permite a las organizaciones diseñar y entrenar su propio enrutador de modelos. El sistema utiliza las características de cada tarea para estimar qué modelos tienen más probabilidades de resolverla y seleccionar una opción en función del equilibrio entre rendimiento y coste que establezca la organización.
En la evaluación realizada por la compañía, una configuración del enrutador con hasta tres intentos alcanzó una tasa de resolución del 68%, frente al 66,6% del mejor modelo individual evaluado. El coste estimado por cada cien tareas pasó de 3,33 a 1,46 dólares, una reducción aproximada del 56%. Los resultados corresponden a una evaluación de tareas de programación, mediante simulaciones basadas en respuestas previamente generadas y verificadas, y dependen de los modelos, precios y condiciones utilizados.
Elegir el modelo adecuado para cada tarea
El enrutador funciona como una capa intermedia entre una aplicación y los modelos de IA disponibles. Cuando recibe una solicitud, analiza sus características y estima qué alternativas tienen más probabilidades de resolverla. A partir de esa información, selecciona una opción teniendo en cuenta el equilibrio entre capacidad y coste definido para la operación.
El sistema puede comenzar por un modelo más económico y recurrir a otro de mayor capacidad si la primera respuesta no supera la evaluación establecida. Este proceso de escalado puede repetirse hasta alcanzar el límite de intentos configurado. De este modo, las solicitudes que se resuelven en las primeras etapas no necesitan pasar por modelos más costosos.
Para TIMIA, este enfoque resulta especialmente relevante en procesos con un volumen elevado de solicitudes repetidas. En esos entornos, ajustar la elección del modelo a cada tarea puede tener un efecto acumulado importante sobre el gasto y facilitar un uso más eficiente de los recursos.
El equilibrio debe responder a las prioridades del negocio. Una organización puede dar más peso al ahorro en determinados procesos o priorizar la capacidad de resolución en otros. RouterKit permite ajustar ese criterio y evaluar sus consecuencias antes de adoptar una configuración.
Medir el rendimiento antes de decidir
Para desarrollar y evaluar RouterKit, el equipo de TIMIA utilizó 1.135 tareas de programación en Python procedentes de BigCodeBench, un banco público de pruebas. Tras descartar cinco tareas que dependían de servicios externos, reservó el 70% del conjunto para el entrenamiento y el 30% restante —341 tareas— para la evaluación.
La compañía comparó siete modelos, accesibles mediante API o alojados en infraestructura propia, y registró sus resultados en varias ejecuciones para medir su tasa de resolución y la variabilidad de las respuestas. A partir de estos datos, entrenó un modelo predictivo capaz de estimar qué alternativas tenían más probabilidades de resolver cada tarea.
Por último, comparó distintas configuraciones del enrutador mediante simulaciones basadas en las respuestas previamente generadas y verificadas. Este método permitió estimar el equilibrio entre coste y rendimiento sin tener que repetir las llamadas a los modelos para cada escenario.
Un enrutador adaptado a cada organización
RouterKit permite adaptar el enrutador al catálogo de modelos disponible en cada organización y a sus prioridades de negocio. Las empresas pueden dar más peso al ahorro, al rendimiento o a otros criterios de selección, y evaluar distintas configuraciones antes de aplicarlas.
El enfoque también busca facilitar la transparencia y la auditabilidad de las decisiones. Además, el sistema puede reentrenarse cuando cambian los modelos disponibles, los precios o las necesidades de la operación, para comprobar si la configuración sigue respondiendo a los objetivos definidos.
Del experimento a nuevos casos de uso
La evaluación se ha centrado en programación, un ámbito en el que las pruebas automáticas permiten verificar objetivamente si una solución es correcta. Entre las posibles líneas de evolución de RouterKit figuran su aplicación a consultas de bases de datos, extracción de información de documentos y procesos con agentes de IA.
Estos nuevos casos de uso requerirán definir mecanismos de evaluación adecuados a cada tipo de tarea. TIMIA también contempla incorporar el tiempo de respuesta como criterio explícito de optimización y simplificar el proceso de incorporación de nuevos modelos.
La compañía prevé publicar el código de RouterKit bajo licencia Apache 2.0, con el objetivo de facilitar que otras organizaciones puedan utilizar el framework y desarrollar sus propios sistemas de enrutamiento.