Знания от алгоритма

Иллюстрация: Ли по Яиантанг

Алгоритм вошел в нашу жизнь при ковиде. То ли так случайно совпало, то ли сетевые компании воспользовались самоизоляцией людей, но с тех пор встроенный в поисковые машины алгоритм следит за запросами клиентов, за переходами по ссылкам и так формирует виртуальный портрет пользователя. А далее выдает ему информацию, подходящую под этот портрет. Профит таков: чем больше вероятность, что выданная ссылка заинтересует клиента, тем скорее он по ней перейдет и увидит больше рекламы, причем также подобранной под его портрет. В результате виртуальная реальность становится искаженным отражением действительности.

Вот, например, клиент хочет узнать фильмографию США. В выдаче результатов в списке пусть первым будет вестерн. Клиент по первой ссылке и переходит. «Ага, — думает алгоритм, — ему нравятся вестерны». И увеличивает долю вестернов в следующей выдаче. Клиент, скорее всего, опять переходит на вестерн. «Я угадал, он любит вестерны», — радуется алгоритм. И далее для клиента выходит, что в США снимают одни вестерны.

Это не было бы печально, если бы алгоритм не влез в систему образования. А, как показала работа психологов Огайского университета Гивона Бахга и Бренера Тёрнера (Journal of Experimental Psychology: Genera, 2025), он там присутствует. Выдавая клиенту ответы на запросы о каком-то явлении, алгоритм сразу начинает создавать для него индивидуальный виртуальный мир. Результат такой: ведомые алгоритмом люди делают обобщения, которые могут сильно отличаться от действительности. При этом уверенность в своей правоте оказывается даже выше, чем если человек пришел к верному выводу на основании собственноручно добытой информации. И возникает вопрос: если человек познаёт мир с помощью алгоритма, задача которого — увеличение просмотра контента, то что он познает?