interpretability — AI Digest

7 июл Глобальное рабочее пространство в языковых моделях Anthropic research
21 июн Насколько прозрачна DiffusionGemma? Исследование интерпретируемости сокращает разрыв с авторегрессионными моделями Google DeepMind research
26 авг Маска — не модель: аудит prefix-инвариантности в attention, state-space и гибридных sequence-моделях research
26 сен Ваш Transformer может держать две мысли одновременно: свидетельства линейной суперпозиции в LLM research
8 мая Natural Language Autoencoders: превращение внутренних состояний Claude в текст Anthropic research
10 мая Anthropic представляет Natural Language Autoencoders для масштабируемой интерпретируемости LLM Anthropic research
18 мая Judge Circuits: механистическое объяснение непоследовательности LLM-as-judge по форматам research
19 мая CiteVQA: бенчмарк атрибуции доказательств для надёжной document intelligence (178 апвоутов на HF) Peking University / Shanghai Artificial Intelligence Laboratory research
18 июн Вмешательства SAE ненадёжны: подавленное поведение восстанавливается после интервенции Hong Kong Polytechnic University research
17 июл BadWAM: когда модели «мир-действие» правильно мечтают, но неправильно действуют research
5 сен Читаемость — не интерпретируемость: оценённая против реальной важности шагов в chain-of-thought research
12 июл «Супервеса» в LLM и провал избирательного обучения Amazon Web Services research
1 сен Сбер и Сколтех представили TOHA — дешёвый метод на топологии внимания для детекции RAG-галлюцинаций (ACL 2026) Sber/Skoltech (LARSS joint lab) research
3 июн Quantifying Faithful Confidence Expression in Large Reasoning Models Yale NLP research
11 июн Анатомия пост-обучения: использование интерпретируемости для аудита и исправления данных предпочтений research
30 июн Формализация латентных мыслей: аксиоматический фреймворк для оценки репрезентаций рассуждений LLM University of British Columbia research
6 авг GradCuit: градиентный поток с распределением ответственности обеспечивает устойчивое и интерпретируемое рассуждение в латентном пространстве во время инференса research
9 авг Anthropic ослабила классификаторы биобезопасности Claude Fable 5, сократив ложные блокировки на 85% Anthropic research
13 авг Кража трасс рассуждений из проприетарных LLM API research
8 сен Beneath the Surface of Chains-of-Thought: механистическая интерпретация операций рассуждения в LLM NAVER AI Lab research
24 окт Вербализация различий активаций с помощью автоэнкодеров на естественном языке research
28 апр LLM Safety From Within (SIREN) University of Toronto CSSLab / McGill / LMU Munich research