Couchbase использует Amazon Bedrock для построения мульти-модельной AI-архитектуры Capella iQ

В статье описывается, как Couchbase интегрировала Amazon Bedrock для powering своего продукта Capella iQ с использованием моделей Claude от Anthropic. Архитектура построена внутри AWS Control Plane, охватывающего два региона для высокой доступности и отказоустойчивости. Основные компоненты включают EKS-кластер, который управляет микросервисами, отвечающими за обработку запросов и маршрутизацию моделей. Важной особенностью является использование Cross-Region Inference, позволяющего автоматически перенаправлять запросы между регионами без вмешательства пользователя, что повышает надежность и масштабируемость системы. Перед запуском в производство команда провела обширное тестирование и оценку моделей, выбрав Claude Sonnet 4.5 за его высокую точность и стабильность. Amazon Bedrock обеспечивает полностью управляемую среду, избавляя от необходимости самостоятельного управления инфраструктурой моделей и позволяя быстро внедрять новые модели без изменения архитектуры. Такой подход позволяет Couchbase оставаться гибкой и быстро адаптироваться к новым возможностям AI, а также обеспечивает безопасность и соответствие стандартам, что важно для корпоративных клиентов. В будущем компания планирует использовать более легкие модели для снижения стоимости и повышения эффективности, сохраняя при этом качество работы. В целом, внедрение Amazon Bedrock позволяет Couchbase создавать устойчивую, мульти-модельную AI-архитектуру, которая легко масштабируется и адаптируется под требования клиентов и технологические новшества.