Использование дистилляции между слоями нейронной сети для улучшения качества сегментации дорожной разметки

Abstract

Обучение нейронных сетей для распознавания дорожной разметки трудоёмкий процесс из-за разряженой структуры целевого класса. Без использования дополнительных приёмов при обучении модели, полученные модели зачастую сильно ошибаются в трудных условиях: слабом или слишком насыщенном освещение, при наличии изгибов дорог, объектов на дороге и т.д. Чтобы улучшить качество сегментации, предлагается в ходе обучения модели, после изначального предобучения, дополнить функцию потерь дополнительным слагаемым - метрикой схожести карт активации между последовательными слоями нейронной сети.