Разные интеллекты похожи

Александр Гурьянов
(«ХиЖ», 2022, №10)

Алгоритмы, позволяющие обучать нейронные сети, хорошо известны ученым. Однако тренировка ИИ в идеальных условиях не дает надежно работающие программы. К примеру, автомобиль с автопилотом страдает даже от слегка замазанного дорожного знака, а это минимальное искажение входных данных.

Поэтому один из стандартных подходов к обучению — искажать данные во время обучения и тренировать нейросети не замечать эти искажения. Это так называемое состязательное обучение.

Ныне ИИ применяют в самых различных отраслях. Это и виртуальные помощники разного рода, и распознавание лиц, и беспилотные автомобили... Однако процессы группировки данных, происходящие во время обучения сетей, во многом остаются загадкой для математиков. Для многих процессов, протекающих в сетях при обучении, отсутствует даже качественное понимание, поэтому исследователи частенько устанавливают свойственные ИИ закономерности эмпирически, буквально на ощупь, даже походя.

Так случилось и с группой передовых исследований киберсистем из Лос-Аламосской национальной лаборатории Министерства энергетики США. Команда под руководством доктора Хайдена Джонса (Haydn Jones) развивала новый математический метод сравнения эффективности работы различных состязательных нейронных сетей. Новая математическая метрика показала, что сети, тренированные на компьютерное распознавание образов, стремятся к похожим представлениям данных, независимо от начальных различий в своих архитектурах. Это значит, что сети приобретают похожие свойства, а их архитектуры становятся подобными.

Интерпретация найденных результатов не до конца ясна даже самим авторам работы. Они подозревают, что открыли универсальные закономерности визуального восприятия образов мозгом человека и животных. Однако для однозначного решения этого вопроса нужны дальнейшие исследования.


discover.lanl.gov

Разные разности
Песни китов похожи на человеческую речь
Какой язык более эффективен? Тот, в котором слова короче. Во-первых, на их произношение человек тратит меньше энергии и меньше времени. А во-вторых, короткие слова легче воспринимать. Как выяснилось, и горбатым китам не чужда эта премудрость.
Ивановские нанотехнологии работают!
Химики всегда занимались нанотехнологиями, потому что постоянно манипулировали молекулами и атомами, молекулярными кластерами и комплексами (а это все нанообъекты). Всегда занимались нанотехнологиями и в Ивановском химико-технологическом университете...
Умные российские стекла
Под американские санкции неожиданно попала никому не известная в России маленькая наукоемкая компания «Октогласс». Ее основали в 2017 году молодые специалисты и предприниматели, выпускники МИФИ, СамГТУ и МИРЭА. Чем же наши молодые разр...
Ледники тают все быстрее и быстрее
Исследовательская группа из Цюрихского университета подготовила обширный обзор потерь массы ледников в мире. Ученые собрали данные региональных изменений массы ледников с 2000 по 2023 год. За период наблюдений масса ледников во всем ми...