LLMRouter: унифицированная инфраструктура для разработки, оценки и развёртывания LLM-роутеров
University of Illinois Urbana-Champaign
Унифицированная модульная инфраструктура, формулирующая LLM-роутинг как пятикомпонентный последовательный процесс принятия решений (контекстные энкодеры, энкодеры моделей, скоринговые функции, правила решений, сигналы обучения), и поставляющая xRouteBench — автоматизированный бенчмарк, покрывающий generic, memory-augmented, vision, time-series и персонализированный роутинг. Среди 16+ репрезентативных роутеров обученные роутеры обходят сильнейший фиксированный бейзлайн на 14,6% относительно, а лёгкие роутеры побеждают в условиях жёстких ограничений по стоимости.
Почему это важно
Наибольший суммарный отклик на HF Daily за сегодня (2,35 тыс.) и первый открытый фреймворк роутинга, объединяющий контекст, энкодеры моделей, скоринг и правила решений на едином компонуемом интерфейсе.
Важность: 2/5
базовый уровень 2 (без заметных повышений)