#mech-interp
- Глобальное рабочее пространство в языковых моделях Anthropic research
- Насколько прозрачна DiffusionGemma? Исследование интерпретируемости сокращает разрыв с авторегрессионными моделями Google DeepMind research
- Маска — не модель: аудит prefix-инвариантности в attention, state-space и гибридных sequence-моделях research
- Ваш Transformer может держать две мысли одновременно: свидетельства линейной суперпозиции в LLM research
- Judge Circuits: механистическое объяснение непоследовательности LLM-as-judge по форматам research
- SMELT: зацикленные MoE-трансформеры догоняют базовое масштабирование при равных вычислениях ByteDance Seed research
- Анатомия пост-обучения: использование интерпретируемости для аудита и исправления данных предпочтений research
- GradCuit: градиентный поток с распределением ответственности обеспечивает устойчивое и интерпретируемое рассуждение в латентном пространстве во время инференса research
- Beneath the Surface of Chains-of-Thought: механистическая интерпретация операций рассуждения в LLM NAVER AI Lab research
- Вербализация различий активаций с помощью автоэнкодеров на естественном языке research