gpu — AI Digest

23 июл AMD и Anthropic объявили о сделке на 2 гигаватта Instinct MI450 с инвестицией AMD до $5 млрд Anthropic industry
6 мая SGLang v0.5.11: Speculative Decoding V2 по умолчанию и поддержка восьми новых архитектур tools
18 мая vLLM v0.21.0: MLA-бэкенд для Blackwell, KV-выгрузка через HMA, speculative decoding для reasoning-моделей vLLM Project tools
2 июн vLLM v0.22.0: производственное укрепление DeepSeek V4, Rust-фронтенд, снижение задержки на 28,9% tools
14 сен Стек CUDA-for-AMD-on-Windows запускает CUDA-приложения на Radeon через ZLUDA tools
6 мая vLLM v0.20.1: стабилизация DeepSeek V4 на CUDA 13 и PyTorch 2.11 tools
12 июл llama.cpp b9967–b9969: ускорение на GPU Adreno и null-сэмплинг, совместимый с OpenAI tools
23 окт vLLM 0.32.0 расширяет низкоточный KV-кэш и отказывается от Python 3.10 vLLM tools
24 окт vLLM обслуживает контексты GLM-5.3 на 1M токенов на 16 H200 с PCP, DCP и Hybrid HiSparse vLLM tools