Жизнь в мире иллюзий

Художник Г.Басыров

Развитие ИИ привело к очень интересному явлению — так называемым глубоким выдумкам, или по-английски deepfake. Это слово происходит от сочетания «глубокого обучения», метода, используемого при формировании искусственного интеллекта, и собственно «выдумки». А выглядит такая выдумка как видеосюжет, где реальный персонаж совершает поступок, который не совершал, или говорит слова, которые не произносил. Потом эти выдумки начинают гулять по Сети, становятся вирусными мемами и входят в состав иллюзорной реальности, подменяющей реальность настоящую.

О современном положении дел и об отношении общества к этому явлению рассказано в недавней статье Ахмеда Саифуддина из Наньянского технологического университета в Сингапуре (Telematics and Informatics, 1 октября 2020 года). Оказывается, число таких выдумок растет взрывообразно: только за первые шесть месяцев 2020 года оно удвоилось и достигло 50 тысяч сюжетов. Часть из них посвящена извращенным формам порнографии, а часть используют для политических целей — возбуждают ненависть и недоверие к институтам власти. Немало глубоких выдумок было распространено в рамках кампании дискредитации Дональда Трампа. Интересно, что качество работы ИИ столь велико, что невооруженным глазом уже непросто распознать подделку. А ведь уровень ИИ растет.

Опрос среди сингапурских и американских пользователей Сети показал, что более половины из них осведомлены о явлении, но это не прибавляет бдительности: более трети участвовало в распространении вирусных сюжетов и лишь потом узнавало, что помогали выдумщикам. Вообще, люди сильно переоценивают свою способность различать выдумку и правду. Например, 80% сингапурцев уверены, что легко справляются с таким нехитрым делом, однако в 90% случаев они не смогли распознать по крайней мере одну из пяти выдумок, предъявленных к опознанию.

Социальные сети, где в основном и циркулируют выдумки в качестве новостей, полученных из верных источников, стали помечать спорный контент. Однако в условиях вероятностной правды и двоемыслия нет никакой проблемы подменить настоящую реальность иллюзорной: помечать знаком «выдумка» реальные сюжеты и наоборот. В результате может сформироваться странное будущее с двумя, а то и многими непересекающимися реальностями, скажем, где в одной президентом США будет Дональд Трамп, в другой — бессмертный Джо Байден, а в настоящей — Камилла Харрис. Перед человеком же встанет выбор — в какой из них ему жить?