В Університеті Меріленда в США розробили светр-невидимку для систем розпізнавання зображень та осіб. Розроблений принт для одягу дозволяє обманювати нейромережі та системи машинного навчання. Спочатку його створили для пошуку вразливостей у таких системах. В основі цього лежить принцип, який називається змагальною атакою (adversarial attack). Суть його в тому, щоб обдурити нейромережу та змусити її видати некоректний результат.
Зображення було сформовано за допомогою великого набору даних, після чого його нанесли на светр. При виявленні людини ці дані переглядали, щоб оцінити, наскільки знижує шаблон розпізнавання. У результаті вдалося створити візерунок, який перешкоджає розпізнаванню людей. Поки що це працює із системою YOLOv2.
Зображення схоже на роботи художників-імпресіоністів і виглядає розмитим. Однак, зважаючи на все, це працює. Сам шаблон для светра-невидимки створювали за допомогою набору даних Common Objects in Context (COCO). У списку для формування шаблону є понад 330 000 зображень, які містять більше 1,5 мільйона об’єктів.
Добавить комментарий