Разные интеллекты похожи

Александр Гурьянов
(«ХиЖ», 2022, №10)

Алгоритмы, позволяющие обучать нейронные сети, хорошо известны ученым. Однако тренировка ИИ в идеальных условиях не дает надежно работающие программы. К примеру, автомобиль с автопилотом страдает даже от слегка замазанного дорожного знака, а это минимальное искажение входных данных.

Поэтому один из стандартных подходов к обучению — искажать данные во время обучения и тренировать нейросети не замечать эти искажения. Это так называемое состязательное обучение.

Ныне ИИ применяют в самых различных отраслях. Это и виртуальные помощники разного рода, и распознавание лиц, и беспилотные автомобили... Однако процессы группировки данных, происходящие во время обучения сетей, во многом остаются загадкой для математиков. Для многих процессов, протекающих в сетях при обучении, отсутствует даже качественное понимание, поэтому исследователи частенько устанавливают свойственные ИИ закономерности эмпирически, буквально на ощупь, даже походя.

Так случилось и с группой передовых исследований киберсистем из Лос-Аламосской национальной лаборатории Министерства энергетики США. Команда под руководством доктора Хайдена Джонса (Haydn Jones) развивала новый математический метод сравнения эффективности работы различных состязательных нейронных сетей. Новая математическая метрика показала, что сети, тренированные на компьютерное распознавание образов, стремятся к похожим представлениям данных, независимо от начальных различий в своих архитектурах. Это значит, что сети приобретают похожие свойства, а их архитектуры становятся подобными.

Интерпретация найденных результатов не до конца ясна даже самим авторам работы. Они подозревают, что открыли универсальные закономерности визуального восприятия образов мозгом человека и животных. Однако для однозначного решения этого вопроса нужны дальнейшие исследования.


discover.lanl.gov

Разные разности
Карьерный форум «Большая химия большой страны»
В понедельник, 19 мая, в 10:00 в Тушинском комплексе РХТУ им. Д.И. Менделеева состоится церемония открытия Карьерного форума «Большая химия большой страны».
Почему заржавел Марс?
Что придает Марсу ржаво-красный цвет? За это должна отвечать какая-то форма оксида железа. Но вопрос — какая именно? Действительно, железо в изобилии присутствует в марсианских породах, и оно могло окислиться, заржаветь. Однако оксидов железа мн...
Противоестественная эволюция
Если сравнить фотографии носорогов, сделанные за последние полтора столетия, то бросается в глаза, что рога носорогов стали заметно меньше. Почему такой поворот эволюции? А потому, что в нее вмешался человек.
Люблю грозу в начале марта
Помните у Тютчева: «Люблю грозу в начале мая,/ Когда весенний, первый гром…»? Фёдор Иванович написал эти строки 197 лет назад. Но за два прошедших столетия многое изменилось. Сегодня строки Тютчева нуждаются в редактуре по существу и должны звуч...