Безопасность
OpenAI предупреждает о критическом уровне киберрисков Astra
OpenAI объявила, что её новая модель Astra приближается к критическому уровню кибербезопасности, что вызывает необходимость ограничения внутренних работ и усиления защиты. Модель способна автономно искать и эксплуатировать уязвимости, что существенно меняет ландшафт кибербезопасности.
AS1 News
Компания OpenAI опубликовала предварительные результаты оценки Astra, отметив, что её киберспособности достигают уровня Critical по внутренней классификации. Это означает, что модель может самостоятельно искать неизвестные уязвимости, разрабатывать способы их эксплуатации и выполнять сложные кибератаки с меньшим контролем человека. В связи с этим, OpenAI временно ограничила часть внутренних работ с Astra, чтобы предотвратить возможные угрозы.
Это событие является важным сигналом о росте возможностей frontier-моделей и их потенциальной опасности. Ранее подобные опасения касались только облегчения работы квалифицированных хакеров, однако теперь речь идет о возможности автономных атак. В настоящее время Astra остается в стадии разработки, и компания не раскрывает окончательные технические показатели или дату публичного запуска.
Дальнейшие шаги включают подготовку окончательного отчета по безопасности, который определит уровень доступа к модели. Если Astra официально перейдет порог Critical, правила её использования могут стать значительно строже, чем для GPT-5.6. Это важный момент для регулирования и безопасности AI-технологий.
Рост киберрисков, возможное ограничение доступа к модели Astra