Amazon Nova использует самодистилляцию для улучшения обучения моделей без объяснительных цепочек

В рамках последнего исследования Amazon Nova представила подход Self-Distilled Reasoning (SDR), который позволяет моделям обучаться на данных без объяснительных цепочек, используя собственные генерации рассуждений в качестве обучающих целей. Этот метод помогает сохранять ключевые навыки модели, такие как математические и логические способности, даже при отсутствии ручной разметки объяснений. В ходе экспериментов было показано, что SDR значительно снижает риск катастрофического забывания — явления, при котором модель теряет ранее приобретённые навыки после дообучения на новых данных. В отличие от традиционных методов, таких как слияние моделей, SDR не требует дополнительных ресурсов или сложных процедур, что делает его привлекательным для практического применения. Исследование также показало, что использование собственных рассуждений модели способствует более устойчивому и эффективному обучению, что важно для развития автономных систем ИИ, способных к сложным аналитическим задачам. Влияние этого подхода на развитие моделей Amazon Nova и их применение в реальных сценариях может значительно повысить эффективность автоматизированных решений, особенно в областях, где сбор объяснительных цепочек затруднителен или дорог. В целом, метод SDR открывает новые возможности для обучения мощных и устойчивых моделей ИИ без необходимости дорогостоящей разметки и сложных процедур.