Обеспечение безопасности AI-агентов с помощью временных политик в Amazon Bedrock AgentCore

В эпоху развития AI-агентов традиционные механизмы контроля доступа, основанные на статических правилах, оказываются недостаточными. Агентам свойственна динамическая и контекстуальная деятельность, которая требует более сложных методов регулирования. В Amazon Bedrock AgentCore введена концепция временных политик, позволяющих учитывать историю действий агента в рамках сессии для принятия решений о разрешении или запрете конкретных запросов.

Временные политики работают на уровне шлюза, вне кода самого агента, что исключает возможность их обхода. Они используют понятие траекторий — последовательностей действий, связанных с идентификатором сессии, и позволяют реализовать такие сценарии, как последовательное выполнение операций, проверка целостности данных, ограничение общего финансового риска, а также требование одобрения человека для высокоценностных операций.

Пример использования — управление портфельным агентом в сфере частного банковского обслуживания. В этом случае политики обеспечивают соблюдение порядка выполнения операций, проверку соответствия идентификаторов портфелей, актуальности рыночных данных, а также контроль за суммарной стоимостью сделок и требование одобрения для крупных сделок.

Работа временных политик основана на оценке текущего запроса в контексте истории действий, сохраненной в рамках сессии. Для этого каждый запрос содержит идентификатор сессии, что позволяет системе анализировать последовательность событий и принимать решения. В случае изменений политик активные сессии автоматически пересматриваются, что обеспечивает актуальность контроля.

Детально описаны примеры политик для последовательности действий, целостности данных, свежести информации, ограничения по бюджету, одобрения человеком, исключения противоречивых операций и постепенного снижения доверия. Также приведены рекомендации по настройке и очистке ресурсов после использования.

В целом, внедрение временных политик в Amazon Bedrock AgentCore позволяет создавать надежные, прозрачные и легко управляемые системы AI, способные безопасно взаимодействовать с чувствительными инструментами и данными, обеспечивая соответствие операционным и нормативным требованиям.