Ученые создали алгоритм, позволяющий обмануть системы распознавания лиц

Исследователи из Университета Торонто Авишек Бозе (Avishek Bose) и Пархам Аараби (Parham Aarabi) создали систему, корректирующую пиксели на портретном фото таким образом, чтобы алгоритмы распознавания лиц давали сбой. По словам Бозе, с помощью алгоритмов машинного обучения Amazon, Google, Facebook и другие корпорации узнают, как выглядят пользователи, куда они ездят, с кем проводят время, что любят покупать. Созданная канадцами система позволяет сохранять конфиденциальность и бороться с раскрытием персональных данных. Для обучения исследователи использовали две нейросети. Первая распознавала лица на нескольких сотнях портретов, а вторая точечно ретушировала снимки. Скорректированные изображения повторно отправляли распознающей нейросети. Изменения, которые давали большее число ложных срабатываний, формировали ядро фильтра. Ученые отметили, что система сумела обмануть алгоритм Faster R-CNN, созданный Facebook. В будущем с ее помощью можно будет полностью исключить распознавание без согласия пользователя.