efficiency — AI Digest

31 июл TurboVLA: модель «зрение-язык-действие» в реальном времени на 32 Гц на RTX 4090 с менее чем 1 ГБ VRAM research
12 мая Qwen-Image-2.0: унифицированная генерация и редактирование изображений в разрешении 2K, первое место на AI Arena Alibaba research
13 мая Baidu выпускает ERNIE 5.1 при 6% отраслевых затрат на предобучение и входит в мировой топ-10 поиска Baidu models-llm
26 июн JetSpec: преодоление потолка масштабирования спекулятивного декодирования с помощью параллельного построения деревьев черновиков Hao AI Lab, UC San Diego research
2 июл Dockerless: верификатор программ без окружения для агентов кодирования ByteDance research
2 июл DOPD: двойная on-policy дистилляция с advantage-aware маршрутизацией токенов research
4 июл Систематический анализ гибридного линейного внимания: исследование 72 моделей ByteDance Seed research
6 июл Program-as-Weights: компиляция спецификаций задач в LoRA-адаптеры для инференса на устройстве University of Waterloo / Harvard research
6 июл MrFlow: ускорение flow-matching моделей text-to-image в 10–25 раз без дообучения Beihang University research
31 июл Mage-VL: эффективная кодек-нативная потоковая мультимодальная базовая модель Microsoft research
15 сен Tencent Hunyuan открывает SAS — маршрутизаторы разреженного внимания, обученные end-to-end на Qwen3 Tencent Hunyuan research
11 июн Kwai Keye-VL-2.0: открытая мультимодальная MoE-модель 30B с контекстом 256K для длинного видео Kwai research
14 июн MiniMax Sparse Attention: сокращение вычислений в 28 раз при контексте 1M токенов без потери качества MiniMax research
21 июн Moebius: лёгкая модель инпейнтинга на 0,2 млрд параметров сравнялась с FLUX на 11,9 млрд Huazhong University of Science and Technology research
12 авг BDH-CQ: рекуррентная модель латентного рассуждения преодолевает границу эффективности затрат на ARC-AGI-1 Pathway research
9 сен Uno: lossless-ускорение LLM через диффузионно-аугментированную авторегрессию MBZUAI research
12 сен WMRL: масштабирование автоматических research-агентов через world-модели University of Illinois / NVIDIA research
12 сен NCP-ArchPreview: латентные языковые модели на 8,9B параметров через Next Concept Prediction Shanghai AI Lab research
16 сен Vidu S2: realtime-интерактивная, редактируемая и пространственная видеогенерация ShengShu Intelligence research
16 сен ZGCM-1: полностью открытая и крайне эффективная 7B-модель для математики и агентного поиска ZGCAGI research
16 сен Dream-RSI: рекурсивное самоулучшение через эволюционирующие миры Google research
16 мая Orthrus: 7,8-кратное ускорение инференса для Qwen3 за счёт совместного использования KV-кеша AR и диффузии research
16 мая SANA-WM: мировое моделирование 720p длительностью в минуту на одном GPU NVIDIA research
4 июн ThoughtFold: интроспективное обучение предпочтениям сокращает токены рассуждения на 56% без потери точности research
16 июн FastContext: специализированный субагент-исследователь сокращает использование токенов агентами по коду на 60% Microsoft / Shanghai Jiao Tong University research
25 июн Квантизированные модели рассуждения думают, что им нужно думать дольше, — но это не так Meta research
2 июл vLLM v0.24.0: Model Runner V2 по умолчанию, Rust-фронтенд, ускорение SM90 FP8 vLLM tools
3 июл Program-as-Weights: парадигма «компилируй один раз» достигает качества 32B-моделей при 1/50 объёма памяти research
10 июл Super Weights в LLM: почему высокосалиентные параметры не работают как цели дообучения Amazon research
1 сен Команда Qwen раскрыла архитектуру Qwen3.8-Next: гибридное внимание, n-gram эмбеддинги, Muon Qwen (Alibaba) research
2 сен Google DeepMind добавила агентное понимание видео в Gemini Google DeepMind tools
7 сен LatentPress: сжатие контекста в непрерывные memory-токены, которые замороженная LLM читает напрямую research
18 сен DeepSeek-V4.1-Flash: пределы сжатия KV-кэша DeepSeek research
25 июн Готовы ли мы к агент-нативным системам памяти? SJTU сравнивает 12 архитектур research
2 июл BlockPilot: адаптивный размер блока для диффузионного спекулятивного декодирования research
13 июл Jet-Long: эффективное расширение контекстного окна с динамическим Bifocal RoPE MIT / NVIDIA research
13 июл Масштабируемое визуальное предобучение для языкового интеллекта research
2 сен SMELT: зацикленные MoE-трансформеры догоняют базовое масштабирование при равных вычислениях ByteDance Seed research
15 сен COBRA-Skills: эволюция агентных скиллов под управлением контекстных бандитов Chinese University of Hong Kong, Shenzhen research
9 июн О геометрии on-policy дистилляции: парадигма обучения, отличная от SFT и RLVR Hong Kong University of Science and Technology research
24 июн SHERLOC: структурированная диагностическая локализация сокращает потребление токенов при ремонте кода на 36,7% research
26 июн OPRD: дистилляция представлений на политике для пост-обучения LLM research
3 июл ELDR: маршрутизация с учётом локальности экспертов снижает задержку при обслуживании MoE-моделей на 14% Microsoft Research research
3 июл FlashMorph: управляемое данными размещение слоёв гибридного внимания через обучаемые гейты ByteDance Seed research
23 июл Mage-Flow: эффективная базовая модель нативного разрешения для генерации и редактирования изображений Microsoft research
14 авг LycheeMemory V2: Efficient Long-Term Memory for LLM Agents via Semantic Segment-Level Consolidation research
1 сен Действительно ли on-policy дистилляция дистиллирует? Безучительская OPSA обгоняет её на AIME24 Purdue University research
8 сен Language Models Can Control Their Own Attention research
8 сен Don't Drop Dropout: оптимизация разреженности слоёв для эффективного обучения и инференса LLM Cerebras research
21 сен SoL-Pi: рекурсивное масштабирование авто-research-циклов для эффективного agent harness research
23 окт vLLM 0.32.0 расширяет низкоточный KV-кэш и отказывается от Python 3.10 vLLM tools