LLMRouter: единая инфраструктура для разработки, оценки и развёртывания LLM-роутеров

University of Illinois at Urbana-Champaign

исследования офиц. + СМИ 2 ист. ~1 мин

Открытый модульный фреймворк, унифицирующий маршрутизацию LLM как процесс последовательного принятия решений из пяти компонентов (контекстные кодировщики, кодировщики моделей, функции скоринга, правила решений, сигналы обучения) и поставляющий 16+ роутеров вместе с бенчмарком xRouteBench. Обучаемые роутеры превосходят сильнейший базлайн с фиксированной моделью на 14,6% относительно, а маршрутизация с учётом пользователя стабильно улучшает персонализацию.

Почему это важно

HF: 103 голоса

Важность: 4/5

HF Daily 103 голоса, открытые веса / маркер GA

Источники

официальный arXiv:2608.06867