Часть 2: Распределение затрат Amazon Bedrock с помощью Amazon Athena и CUDOS

В первой части статьи рассмотрена детальная атрибуция затрат для Amazon Bedrock, которая автоматически связывает каждый запрос inference с IAM principal, сделавшим вызов. Новая колонка line_item_iam_principal позволяет видеть расходы по пользователям и приложениям, а с помощью тегов можно группировать расходы по командам, проектам или арендаторам через AWS Cost Explorer. В этой части подробно описывается, как визуализировать и анализировать эти данные с помощью Amazon Athena и панелей CUDOS.

Для начала необходимо настроить отчет о расходах и использовании (CUR) версии 2.0 с данными о principal IAM, что включает включение соответствующих опций при создании экспорта данных. После этого данные можно подключить к Amazon Athena для выполнения SQL-запросов, позволяющих получать подробные отчеты о расходах по principal, типам использования и тегам.

Приводятся примеры SQL-запросов для анализа затрат по principal и типам использования, а также для динамического обнаружения новых тегов и их влияния на расходы. Также описывается, как сравнивать расходы между различными командами или проектами, что помогает оптимизировать использование AI-ресурсов.

Кроме того, статья знакомит с возможностями панели CUDOS, которая предоставляет визуальные отчеты и интерактивные фильтры для быстрого анализа затрат, а также отслеживания тенденций стоимости токенов и использования моделей. Включены инструкции по развертыванию и очистке инфраструктуры.

В целом, статья демонстрирует, как использовать расширенные инструменты AWS для контроля и оптимизации затрат на AI-инфраструктуру, что важно для эффективного управления ресурсами и бюджетами организаций, использующих Amazon Bedrock.