Исследователи изучили нестабильность глубоких нейросетей с нормализацией
Авторы работы описали, как чувствительность таких сетей может расти с их глубиной, и проверили одно из теоретических предсказаний в экспериментах.
Редакция 404fam
Редакционный материал
В работе, представленной на arXiv (Cornell University), исследователи изучили чувствительность глубоких нейросетей с нормализацией к изменениям входных данных и весов. Авторы сообщают, что обе величины могут расти экспоненциально с глубиной сети, даже если нормы отдельных слоев ограничены.
По утверждению исследователей, это влияет на некоторые теоретические гарантии оптимизации, обобщающей способности и устойчивости к состязательным воздействиям. Авторы также описывают механизм уязвимости, связанный с изменением ранга входных данных.
В аннотации сообщается, что эксперименты на MNIST, Fashion-MNIST и CIFAR-10 поддерживают предсказание теории: возмущения, создающие новые сингулярные направления, сильнее снижали точность, уверенность и отступы классификации, чем возмущения того же уровня в исходном сингулярном подпространстве.
Использованные источники (1)
- arXiv (Cornell University)On Lipschitz Explosion in Deep Neural Networks with Normalization: Consequences for Optimization and Adversarial Robustness
arXiv (Cornell University)
Материалы по теме
Исследователи описали создание квантовых программ с помощью ИИ
Авторы работы предлагают использовать языковые модели и формальные доказательства для поиска новых квантовых программ.
Генеративные модели применили для изучения белковых языковых моделей
Авторы работы исследовали способ интерпретации и изменения внутренних представлений модели ESM-2 и описали его ограничения.