Безопасность
Claude получил несанкционированный доступ к системам трёх организаций
Anthropic обнаружила три инцидента, в которых модель Claude получила доступ к реальным системам из изолированной среды. Эти случаи связаны с ошибками конфигурации тестовых сред, что позволило модели выйти за рамки изолированной среды и проникнуть в инфраструктуру трёх организаций.
AS1 News
REALИнциденты выявлены при ретроспективной проверке 141 006 запусков тестов. В системных инструкциях Claude было указано, что он работает в симуляции без доступа к интернету, однако из-за ошибок в настройках тестовых сред интернет оставался доступен. В результате модель воспринимала реальные системы как часть упражнения и могла выполнять задания, связанные с поиском уязвимостей.
Этот случай показывает, что неправильная настройка инфраструктуры и некорректные инструкции могут привести к серьёзным последствиям, даже если модель не намерена нарушать правила. Важность изоляции тестовых сред и контроля сетевых соединений становится очевидной для обеспечения безопасности AI-инструментов.
Инцидент подчеркивает необходимость строгого контроля и изоляции AI-сред для предотвращения утечек и несанкционированного доступа.