ИИ и детекторы дипфейков

Александр Гурьянов
(«ХиЖ», 2021, №2)

В одной из интернет-лекций докладчик просит публику выбрать из нескольких выступлений Обамы документальный, а не созданный компьютером ролик. Зрителям все они кажутся хроникой, но на самом деле ролики поддельные. Нынче, особенно в связи с американскими выборами, в сети появились сотни подложных видео, обозначаемых термином «дипфейк», то есть глубокий фейк.

В позапрошлом номере мы писали о том, что примерно в четырех случаях из пяти даже осведомленный зритель не в состоянии заподозрить видеообман («Химия и жизнь» 2020, 11). Однако, для его выявления уже созданы специальные программы-детекторы, например, XceptionNet. Обычно они отслеживают лица персонажей и анализируют их с помощью обученных нейронных сетей на предмет несоответствий. Например, известно, что дипфейки неестественно воспроизводят моргание.

Однако и детектор можно обмануть. Как это сделать рассказал Шахзин Хусейн из Калифорнийского университета в Сан-Диего на Международной конференции по компьютерному зрению (WACV 2021), прошедшей онлайн 5—9 января 2021 года. Для создания нераспознаваемого дипфейка он со своими коллегами использовал специальные вставки в каждый видеокадр. Они представляют сбой оригинальные части кадров, слегка измененные особым алгоритмом. Обычно стандартные операции сжатия устраняют небольшие изменения кадра, но авторам удалось обойти это ограничение. Результаты попыток обмануть детектор тестировали при разных данных о модели его машинного обучения. При наличии полной информации о ее алгоритмах, измеренная экспериментаторами вероятность обмана составила 99% даже для лучших детекторов, при неполном — уменьшилась до 86%. Сжатие видео снижало ее на 10—15%.

Как считает руководитель работы, им удалось доказать, что принципиально возможно обмануть любой детектор дипфейка. Исследователи предлагают противоядие, которое, как и следовало ожидать, состоит в тренировке детектора на разных обманных вставках. В докладе изложены основные принципы и результаты тестов, однако не обнародован сам компьютерный код, чтобы им не воспользовались злоумышленники.

(Агентство «NewsWise», 8 февраля 2021 года) 



123

Разные разности

20.07.2021

Кристофер Хансон, старший лектор Университета Мальмё, давно изучает различные «стыдливые» фобии шведов. С недавних пор среди них оказалось и поедание кипрского сыра халуми.

>>
06.07.2021 17:00:00

…исследователи выяснили, как будет меняться скорость астероида Апофис после 2029 года, что позволит использовать гравитационный маневр и избежать столкновения астероида с Землей в 2051 году…

…специально натренированные собаки учуивают коронавирус в образцах мочи с вероятностью 95%…

…неинвазивный метод стимуляции мозга с помощью сфокусированного ультразвука позволяет включать и выключать определенные типы нейронов и может быть использован при лечении нейродегенеративных заболеваний…

>>
29.06.2021 17:00:00

Болезни желудка и кишечника превратились в этакий бич для человечества. На помощь могут прийти братья наши мельчайшие – бактерии. Нет, речь не идет о правильном питании с использованием пробиотиков.

>>
23.06.2021 17:00:00

Оказывается, консолидацию разрозненных экстремистов в организованную группу можно отследить по динамике нарастания определенного содержания в Сети: ее удалось описать единым уравнением, используемым в физике при изучении морских волн.

>>
16.06.2021 16:00:00

…летучие мыши живут в пространстве, где расстояния измеряются временем, например – насекомое находится в девяти миллисекундах, а не в полутора метрах…

…совместные усилия программного обеспечения и нейронного интерфейса позволяют преобразовать мысленный процесс написания текста парализованными пациентами в текст на экране компьютера

… раны у мышей заживают почти на треть быстрее при внесении бета-изоформы очищенного рекомбинантного белка теплового шока

>>