Контроль поведения агентов и затрат за пределами одного действия: новые возможности в Amazon Bedrock AgentCore

В условиях роста автономности AI-агентов вопросы доверия и безопасности становятся все более актуальными. Согласно исследованиям McKinsey, около 80% организаций уже сталкивались с рисковым поведением AI-агентов, что тормозит их масштабирование. Amazon Bedrock AgentCore отвечает этим вызовам, предоставляя инфраструктурные средства для построения, подключения и оптимизации агентов без необходимости самостоятельной разработки инфраструктуры.

Ключевым элементом является шлюз — полностью управляемый серверлесс-центр для AI-трафика, через который проходят все вызовы. Это позволяет внедрять ограничения, которые работают независимо от поведения агента. Новые возможности включают временные политики, основанные на Dogwood — открытом языке политики, специально разработанном для AI-агентов, и ограничение скорости запросов.

Временные политики позволяют контролировать последовательность действий агента, проверяя не только отдельные вызовы, но и их последовательность. Это обеспечивает более строгий контроль и безопасность, поскольку политика применяется вне кода агента, а все решения логируются. Dogwood, встроенный в AgentCore, расширяет возможности Cedar, добавляя временные конструкции для оценки последовательности действий, лимиты по времени, шагам-пререквизитам и триггерам эскалации.

Также реализовано ограничение скорости — лимиты по количеству запросов, токенов и времени соединений, что помогает контролировать расходы и предотвращать злоупотребления. Эти лимиты можно настраивать для разных пользователей и команд, без необходимости изменения кода агентов.

В будущем ожидается дальнейшее развитие системы, повышение уровня доверия и безопасности, а также расширение возможностей по управлению поведением агентов. Внедрение новых функций не требует переработки уже работающих агентов и позволяет масштабировать их использование с уверенностью.