Anthropic выделяет $5 млн на исследования влияния AI на благополучие
Anthropic
25 августа Anthropic объявила о грантовой программе на $5 млн для независимых исследователей, создающих open-source оценки того, как AI влияет на благополучие пользователей. Грантополучатели получают финансирование, доступ к моделям и техническую поддержку; Anthropic требует, чтобы оценки ясно определяли, что именно измеряют, привлекали клинических/профильных экспертов, тестировали как предосторожности, так и вред, отражали реальное использование (включая многоходовые диалоги) и валидировали грейдеров на реальных экспертах. Заявки — до 21 сентября; полные предложения — до 5 октября.
Почему это важно
Реальный бюджет Anthropic на сторонние оценки благополучия — заметная инвестиция в trust-and-safety; задаёт шаблон, который могут скопировать другие frontier-лаборатории для измерения аффективного вреда, а не возможностей.
Важность: 3/5
Программа Anthropic на $5 млн на сторонние оценки благополучия