Обновленная политика ответственного масштабирования AI

Компания Anthropic объявила о выпуске обновленной версии своей политики ответственного масштабирования (RSP), которая служит рамочной основой для управления потенциальными катастрофическими рисками, связанными с frontier AI системами. В новой редакции политики введены более гибкие и нюансированные подходы к оценке и управлению рисками, а также усилены меры внутреннего контроля и внешнего взаимодействия.

Обновленная политика включает новые пороговые уровни возможностей моделей, при которых необходимо повышать уровень защиты. В частности, все модели компании на данный момент работают в рамках стандартов ASL-2, а при достижении определенных порогов возможностей активируются более строгие меры безопасности и контроля, такие как расширенные меры защиты, контроль доступа и мониторинг.

Компания также подчеркнула важность обучения и адаптации своих процедур, основываясь на практическом опыте реализации предыдущей версии RSP. В рамках этого были выявлены и устранены небольшие несоответствия, что повысило эффективность оценки рисков.

Кроме того, Anthropic расширяет команду, назначая нового ответственного за ответственное масштабирование, а также ищет специалиста на эту позицию. Компания продолжает делиться своим опытом с индустрией, надеясь, что их подходы станут примером для других.

Обновленная политика подчеркивает приверженность Anthropic не запускать модели без соответствующих мер безопасности и подчеркивает необходимость постоянного развития программ безопасности в условиях быстрого технологического прогресса. Это важный шаг в направлении повышения доверия и безопасности AI технологий.