Александр Гурьянов

Искусственный интеллект обеспечивает работу разнообразных городских сервисов, автопилотирование транспорта, анализирует загруженность дорог, управляет картами проезда и пр. Им буквально напичканы смартфоны. Но многие из нас об этом даже не задумываются, и уж тем более о том, как организованы и работают алгоритмы ИИ.

Из тех, кто понимает, большинство уверено, что ИИ при решении какой-либо проблемы лучше человека находит объективно правильный ответ, а математические правила, лежащие в основе его программ, объективны, строги и однозначны.

А вот и нет. Свойством объективности ИИ и системы машинного обучения не обладают. На примере погоды это недавно показали ученые Оклахомского университета под руководством доктора Эми Макговерн (Amy McGovern). В университете она руководит метеорологическим направлением ИИ, который предсказывает погоду и как воздействует на нее потепление климата. Прогнозы очень важны, поскольку они помогают избежать погодных и климатических катастроф. Поэтому предсказания погоды на основе данных метеостанций о планетных температурах, давлениях, влажности и пр. должны быть очень надежными.

Макговерн и ее группа обнаружили, что предсказания ИИ, напротив, ненадежны и необъективны. В статье авторы на специфических примерах демонстрируют эти проблемы для погодных и климатических исследований с помощью ИИ. Исследователи рассмотрели многие ошибки по аналогии с другими областями применения. Там ИИ приводил к неожиданным социальным последствиям, например к сильному расовому сдвигу системы уголовного наказания или возрастающему экономическому неравенству финансовой системы.

Эми считает, что наука об окружающей среде не защищена от ненамеренных искажений. К примеру, если в каком-то регионе живет больше людей, чем в другом, то шанс, что кто-либо заметит и сообщит о торнадо или граде, возрастает. Это приведет к более частым предсказаниям в городских районах и недооценке вероятности в сельских.

Доктор Эми Макговерн считает, что ИИ может быть скомпрометирован, а люди, которые его создают, могут принести больше вреда, чем пользы, если не подойдут к задачам ответственно. Она надеется, что ее работа — это важный шаг к более этичному ИИ.

Прочитавший этот опус физик сказал бы, что женскому авторскому коллективу надо тщательнее ставить и скрупулезнее решать задачи. Тем более, когда они априори знают ответ, например уверены, что преступность не имеет национальности, или провидят разницу между добром и злом. Кто прав, кто нет в этих изысканно гуманитарных околонаучных материях, читатель решит сам.


Environmental Data Science, 1, 2022 - полный текст

 
Разные разности
Микробы делают чай вкуснее
Что влияет на количество теанина в чае? Этот вопрос исследовали китайские ученые. Они тщательно изучили и сравнили по содержанию теанина 17 сортов чая и выяснили, что все зависит от количества и активности азотфиксирущих бактерий, обитающих на к...
Анатомия «Руанского собора»
В Музее изобразительных искусств имени Пушкина в Москве в феврале и марте прошла необычная выставка. Всего две картины Клода Моне — «Руанский собор в полдень» и «Руанский собор вечером». А рядом были представлены результаты физико-хими...
Пирожное как источник топлива
На волне интереса к биотопливу появилась идея использовать невостребованные хлебобулочные изделия в качестве сырья для биотоплива. А почему бы и нет? Хлеб содержит много крахмала. Он легко расщепляется ферментами на молекулы сахара, которые затем дро...
Универсальное противоядие
Ученые Исследовательского института Скриппса изучили нейротоксины, вырабатываемые многочисленными ядовитыми змеями и создали универсальное противоядие против ядов крайтов, тайпанов, кобр и мамбы.