OneAdvanced развернула более 50 AI-агентов на британском суверенном AWS

Компания OneAdvanced, поставщик корпоративного программного обеспечения из Великобритании, реализовала решение для AI, полностью соответствующее требованиям суверенитета данных в Великобритании. В отличие от использования управляемых сервисов, компания самостоятельно разместила модели Llama 4 Maverick и Llama Guard 4 на инфраструктуре AWS, контролируемой полностью ими. Это позволило обеспечить, что все данные остаются внутри страны, а также соблюсти строгие стандарты безопасности и конфиденциальности.

Архитектура решения включает развертывание моделей на Amazon SageMaker AI с использованием vLLM на p5.48xlarge инстансах в регионе Лондон. Более 50 агентов, созданных с помощью Strands Agents SDK, работают на Amazon ECS, каждый с индивидуальной конфигурацией и системными подсказками. Для поиска и обработки документов используется RAG-пайплайн, основанный на pgvector и Amazon S3, что обеспечивает быстрый и прозрачный доступ к релевантной информации.

Особенностью решения является использование модели Llama Guard 4 для фильтрации вредоносного контента перед обработкой запросов основными моделями. Пользователи взаимодействуют с системой через интерфейс, где их запросы проходят проверку, а затем вызываются соответствующие агенты, которые используют инструменты и документы для генерации ответов.

Для развертывания моделей компания использовала Amazon SageMaker AI, что позволило добиться высокой производительности и масштабируемости. В рамках проекта было создано более 50 агентов, охватывающих области здравоохранения, юриспруденции, HR, маркетинга и логистики. Эти агенты легко настраиваются через визуальный интерфейс, что делает их доступными для специалистов без навыков программирования.

Безопасность и соответствие стандартам — ключевые приоритеты проекта. Все данные хранятся внутри региона, а доступ к ним строго контролируется. Инфраструктура защищена с помощью Amazon GuardDuty и других средств, что обеспечивает высокий уровень защиты информации. Компания также получила сертификат ISO 42001 по управлению системами AI.

Результатом реализации стало успешное внедрение системы, которая работает в продакшене с июля 2025 года, полностью соответствуя требованиям по суверенитету данных и безопасности. Клиенты отмечают высокое качество и надежность системы, а компания продолжает развивать и совершенствовать свою платформу, внедряя новые функции и улучшая процессы контроля качества.