Поддержка моделей GPT-5.6 на Amazon Bedrock в Индии с межрегиональной инференцией

Amazon Bedrock расширяет свои возможности, добавляя поддержку моделей GPT-5.6 Terra и Luna от OpenAI в Индии с функцией межрегиональной инференции внутри страны. Эта функция позволяет обрабатывать запросы и данные в рамках Индии, сохраняя их внутри страны, что особенно важно для секторов, таких как финансы, здравоохранение и государственный сектор.

Модели GPT-5.6 предлагают окно контекста на 1 миллион токенов, принимают текст и изображения, а также генерируют текстовые ответы. Пользователи могут обрабатывать длинные документы, большие кодовые базы и смешанные нагрузки в одном запросе. Важной особенностью является автоматическая маршрутизация запросов между регионами Индии — Мумбаи (ap-south-1) и Хайдарабад (ap-south-2), что обеспечивает масштабируемость и стабильность работы.

Механизм межрегиональной инференции работает через профили инференции, которые позволяют маршрутизировать запросы внутри Индии, сохраняя данные в пределах страны. Для этого используются профили in.openai.gpt-5.6-terra и in.openai.gpt-5.6-luna, обеспечивающие маршрутизацию запросов только между двумя регионами. Такой подход позволяет соблюдать требования по локализации данных и одновременно масштабировать вычислительные ресурсы.

Пользователи могут запускать модели через консоль Amazon Bedrock, а также интегрировать их в свои приложения с помощью API Responses, Chat Completions и Converse. Для новых приложений рекомендуется использовать endpoint bedrock-runtime, который поддерживает все функции, включая управление безопасностью и маршрутизацию.

Обеспечивается безопасность данных: запросы шифруются в транзите, а Amazon Bedrock использует модель нулевого хранения данных, что означает, что входные и выходные данные по умолчанию не сохраняются. В случае моделей GPT-5.6 возможна временная сохранность контента, отмеченного автоматическими системами обнаружения злоупотреблений.

Для организации и мониторинга работы реализованы интеграции с Amazon CloudWatch и CloudTrail, что позволяет отслеживать использование моделей, их производительность и соответствие требованиям. Также поддерживается глобальная инференция, маршрутизация запросов за пределы Индии при необходимости, что расширяет возможности масштабирования.

Поддержка моделей GPT-5.6 в рамках Amazon Bedrock открывает новые возможности для компаний, работающих в Индии, позволяя масштабировать AI-решения при соблюдении локальных требований по обработке данных.