local-inference — AI Digest

11 июн Google выпускает DiffusionGemma: открытая модель на 26B с генерацией текста в 4× быстрее Google DeepMind models-llm
18 сен PrismML выпускает Bonsai 2 27B: тернарные веса с потерями, близкими к нулевым, относительно учителя PrismML models-llm
23 окт Recursive выпускает Flint — кодинговую MoE на 40B под Apache-2.0, работающую локально Recursive models-llm
26 сен Предрелиз Ollama запускает модели на MLX по умолчанию на Apple Silicon Ollama tools
14 сен Стек CUDA-for-AMD-on-Windows запускает CUDA-приложения на Radeon через ZLUDA tools
22 июн llama.cpp b9754: прогресс загрузки модели в реальном времени через SSE и PEG-парсер грамматик tools
19 авг llama.cpp выпускает pre-release v0.1.2 плюс ежедневные b10483–b10488 с исправлением производительности SYCL, обновлением OpenVINO и тюнингом CUDA для DGX Spark llama.cpp (GGML) tools
28 авг llama.cpp b10660 добавляет архитектуру Qwen3.8-Flash-Next (qwen4exp): hyper-connections, gated delta net, MoE, PLE n-gram embedding llama.cpp tools
6 сен Ollama v0.34.0-rc1: локальные модели можно использовать прямо в ChatGPT Desktop tools
26 сен Cline 4.1.21 исправил обработку лимита вывода локальных моделей и пересобрал набор моделей по умолчанию Cline tools