ИИ и детекторы дипфейков

Александр Гурьянов
(«ХиЖ», 2021, №2)

В одной из интернет-лекций докладчик просит публику выбрать из нескольких выступлений Обамы документальный, а не созданный компьютером ролик. Зрителям все они кажутся хроникой, но на самом деле ролики поддельные. Нынче, особенно в связи с американскими выборами, в сети появились сотни подложных видео, обозначаемых термином «дипфейк», то есть глубокий фейк.

В позапрошлом номере мы писали о том, что примерно в четырех случаях из пяти даже осведомленный зритель не в состоянии заподозрить видеообман («Химия и жизнь» 2020, 11). Однако, для его выявления уже созданы специальные программы-детекторы, например, XceptionNet. Обычно они отслеживают лица персонажей и анализируют их с помощью обученных нейронных сетей на предмет несоответствий. Например, известно, что дипфейки неестественно воспроизводят моргание.

Однако и детектор можно обмануть. Как это сделать рассказал Шахзин Хусейн из Калифорнийского университета в Сан-Диего на Международной конференции по компьютерному зрению (WACV 2021), прошедшей онлайн 5—9 января 2021 года. Для создания нераспознаваемого дипфейка он со своими коллегами использовал специальные вставки в каждый видеокадр. Они представляют сбой оригинальные части кадров, слегка измененные особым алгоритмом. Обычно стандартные операции сжатия устраняют небольшие изменения кадра, но авторам удалось обойти это ограничение. Результаты попыток обмануть детектор тестировали при разных данных о модели его машинного обучения. При наличии полной информации о ее алгоритмах, измеренная экспериментаторами вероятность обмана составила 99% даже для лучших детекторов, при неполном — уменьшилась до 86%. Сжатие видео снижало ее на 10—15%.

Как считает руководитель работы, им удалось доказать, что принципиально возможно обмануть любой детектор дипфейка. Исследователи предлагают противоядие, которое, как и следовало ожидать, состоит в тренировке детектора на разных обманных вставках. В докладе изложены основные принципы и результаты тестов, однако не обнародован сам компьютерный код, чтобы им не воспользовались злоумышленники.

(Агентство «NewsWise», 8 февраля 2021 года) 



123

Разные разности

23.09.2021 20:00:00

Высокая озабоченность людей глобальным потеплением скорее связана с высоким уровнем их достатка, чем с масштабом грядущих климатических неприятностей на территории их проживания.

>>
08.09.2021 17:00:00

…иммунная система борется с инфекциями с разной интенсивностью в зависимости от времени суток…

…чрезмерное пристрастие к кофе приводит к уменьшению объёма мозга и увеличивает риск развития деменции и инсульта…

…обнаружена значительная корреляция между моментом инерции барицентрического движения Солнца и изменениями среднегодовой температуры Мирового океана в местах основных океанических течений…


>>
24.08.2021 17:00:00

Время от времени китайцы пускаются в путешествия: кто в поиске лучшей доли, кто для удовольствия. Кто они, те китайцы, что едут в РФ в последние 30 лет? Подробное исследование провел социолог из Южно-Уральского университета А.А. Авдашкин.

>>
11.08.2021 18:00:00

Научная группа из Международного института прикладного системного анализа во главе с Дмитрием Щепащенко сумела точно подсчитать объем лесной биомассы РФ.

>>
04.08.2021 17:00:00

…считается, что на микробиом кишечника в первую очередь влияет образ жизни, однако результаты 14-летнего наблюдения за популяцией бабуинов в Кении говорят, что решающую роль играют наследственные факторы…

…тело человека претерпевало и до сих пор претерпевает весьма существенные изменения под воздействием факторов окружающей среды, главным образом — температуры…

…новая маска со специальными сенсорами позволяет выяснить, болен ли человек ковидом; сенсоры могут быть настроены на работу и с другими вирусами…

>>