GitHub ha presentado Project HydraFusion, un proyecto preliminar de investigación que incorpora la orquestación inteligente de modelos en tiempo de ejecución a GitHub Copilot. HydraFusion ajusta dinámicamente el rendimiento, la latencia y el coste de cada tarea, creando planes de ejecución que pueden utilizar varios modelos para redactar, revisar y perfeccionar un trabajo, o recurrir a modelos más potentes cuando sea necesario. Las primeras evaluaciones muestran que HydraFusion puede mejorar la calidad de los resultados un 4,9% y reducir los costes estimados un 67%.

La investigación se basa en el éxito de la selección automática de modelos de GitHub. Solo en junio, GitHub dirigió más de 9.000 millones de solicitudes a través del modo automático, y más de la mitad de los usuarios de pago de Copilot optaron por dejar que GitHub seleccionara el modelo más adecuado para cada tarea.

La señal es clara: los desarrolladores quieren tener opciones, pero no necesariamente quieren gestionar por sí mismos la creciente complejidad del ecosistema de modelos. HydraFusion es el siguiente paso de GitHub para reducir esa complejidad, combinando las fortalezas de distintos modelos entre bastidores para ofrecer el mejor equilibrio entre calidad, velocidad y coste.

Puedes encontrar más información en la publicación del blog aquí.