Intern-S2-Preview: научная агентская базовая модель на 397B от Shanghai AI Lab
Shanghai AI Lab
Научная агентская базовая модель на 397B, обученная на отрендеренных научных документах, чередующихся image-text данных и научных корпусах, затем дообученная с помощью SFT, масштабируемого multitask RL, агентского RL в black- и white-box режимах и on-policy дистилляции — стабилизированная частичным роллаутом с off-policy коррекцией, адаптивной регуляризацией длины, онлайн speculative decoding и trace-aware сборкой опыта. Сочетает замороженный 397B backbone с 4B Memory Decoder для быстрой научной специализации и добавляет выделенный модуль временных рядов для прогнозирования SciTS.
Почему это важно
47 upvotes на HF Daily Papers; серьёзная научная агентская базовая модель уровня открытых весов от крупной китайской лаборатории, с явным обучением агентскому RL и изолированным по параметрам путём расширения, который избегает переобучения backbone.
Важность: 3/5
Научная агентская базовая модель на 397B от Shanghai AI Lab / команды InternLM.