NVIDIA Nemotron 3.5 Lightning доступен в Amazon SageMaker JumpStart

NVIDIA Nemotron 3.5 Lightning разработана для быстрого и специализированного выполнения моделей, необходимых для высокообъемных агентных нагрузок. В рамках Amazon SageMaker JumpStart пользователи могут развернуть эту модель без необходимости самостоятельной настройки инфраструктуры обслуживания. Модель использует гибридную архитектуру Mixture-of-Experts (MoE), активируя 3 миллиарда параметров из 30 миллиардов на один проход, что позволяет поддерживать высокую пропускную способность при длительных сессиях.

Nemotron 3.5 Lightning отличается высокой скоростью обработки и точностью, что подтверждается результатами оценки на различных бенчмарках. Модель подходит для использования в задачах, связанных с автоматическими помощниками, финансовыми сервисами, кибербезопасностью, телекоммуникациями и розничной торговлей.

Для развертывания модели доступны несколько способов, включая интерфейс SageMaker Studio, Hugging Face и SDK для Python. Модель можно настроить под конкретные задачи и интегрировать в существующие системы. NVIDIA предоставляет инструкции по использованию модели, а также рекомендации по её дообучению для специфических областей.

Области применения включают автоматизацию работы помощников, обработку документов, мониторинг рисков, работу с логами и автоматизацию сетевых операций. Модель доступна для развертывания сегодня, что позволяет ускорить внедрение высокопроизводительных решений в бизнес-процессы.