При состязательном обучении обучающие данные дополняются «состязательными» образцами, сгенерированными с использованием алгоритма атаки Если злоумышленник использует аналогичный алгоритм атаки для создания состязательных примеров, обученные состязательные действия сеть может быть достаточно устойчива к атакам.
Как работает состязательное обучение?
Состязательное машинное обучение - это метод машинного обучения, который пытается обмануть модели, вводя вводные данные, вводящие в заблуждение. … Большинство методов машинного обучения были разработаны для работы над конкретными наборами задач, в которых обучающие и тестовые данные генерируются из одного и того же статистического распределения (IID).
Как работают состязательные примеры?
Состязательные примеры - это входные данные для моделей машинного обучения, которые злоумышленник намеренно разработал, чтобы заставить модель совершать ошибки; они как оптические иллюзии для машин.… Состязательный ввод, наложенный на типичное изображение, может привести к тому, что классификатор ошибочно примет панду за гиббона.
Что такое состязательное обучение в глубоком обучении?
Атака со стороны злоумышленников может повлечь за собой представление модели машинного обучения с неточными или неверными данными во время ее обучения или введение злонамеренно разработанных данных, чтобы обмануть уже обученную модель и заставить ее совершать ошибки.
Что такое самопротиворечивая тренировка?
Для дальнейшего укрепления способности к защите предлагается состязательная тренировка с самоконтролем, которая максимизирует взаимную информацию между представлениями исходных примеров и соответствующими состязательными примерами..
