Финансирование независимых исследований влияния ИИ на благополучие

Компания Anthropic запускает программу грантов на сумму 5 миллионов долларов, направленную на финансирование независимых исследований по оценке воздействия искусственного интеллекта на благополучие пользователей. Программа предусматривает предоставление финансирования, доступа к моделям и технической поддержки для участников, разрабатывающих открытые оценки, которые помогут индустрии измерять влияние ИИ на тех, кто его использует.

Участники смогут работать полностью независимо и публиковать свои результаты как open-source проекты, доступные для разработчиков. В условиях, когда ИИ становится центральной частью работы, обучения и решения проблем, а также выступает в роли собеседника и источника эмоциональной поддержки, важно развивать стандарты поведения моделей в таких взаимодействиях.

Особое внимание уделяется оценке благополучия, которое является сложной задачей из-за необходимости учитывать контекст и нюансы. Например, реакции модели на запросы о диете или психическом здоровье требуют осторожности и соответствия этическим стандартам.

Для этого компания публикует рекомендации по созданию надежных оценок благополучия и приглашает экспертов — клиницистов, психологов и методологов — участвовать в разработке таких оценок. Заявки на участие принимаются до 21 сентября, а выбранные участники будут уведомлены до 5 октября.