Предсказания ИИ ненадежны и необъективны

Александр Гурьянов

Искусственный интеллект обеспечивает работу разнообразных городских сервисов, автопилотирование транспорта, анализирует загруженность дорог, управляет картами проезда и пр. Им буквально напичканы смартфоны. Но многие из нас об этом даже не задумываются, и уж тем более о том, как организованы и работают алгоритмы ИИ.

Из тех, кто понимает, большинство уверено, что ИИ при решении какой-либо проблемы лучше человека находит объективно правильный ответ, а математические правила, лежащие в основе его программ, объективны, строги и однозначны.

А вот и нет. Свойством объективности ИИ и системы машинного обучения не обладают. На примере погоды это недавно показали ученые Оклахомского университета под руководством доктора Эми Макговерн (Amy McGovern). В университете она руководит метеорологическим направлением ИИ, который предсказывает погоду и как воздействует на нее потепление климата. Прогнозы очень важны, поскольку они помогают избежать погодных и климатических катастроф. Поэтому предсказания погоды на основе данных метеостанций о планетных температурах, давлениях, влажности и пр. должны быть очень надежными.

Макговерн и ее группа обнаружили, что предсказания ИИ, напротив, ненадежны и необъективны. В статье авторы на специфических примерах демонстрируют эти проблемы для погодных и климатических исследований с помощью ИИ. Исследователи рассмотрели многие ошибки по аналогии с другими областями применения. Там ИИ приводил к неожиданным социальным последствиям, например к сильному расовому сдвигу системы уголовного наказания или возрастающему экономическому неравенству финансовой системы.

Эми считает, что наука об окружающей среде не защищена от ненамеренных искажений. К примеру, если в каком-то регионе живет больше людей, чем в другом, то шанс, что кто-либо заметит и сообщит о торнадо или граде, возрастает. Это приведет к более частым предсказаниям в городских районах и недооценке вероятности в сельских.

Доктор Эми Макговерн считает, что ИИ может быть скомпрометирован, а люди, которые его создают, могут принести больше вреда, чем пользы, если не подойдут к задачам ответственно. Она надеется, что ее работа — это важный шаг к более этичному ИИ.

Прочитавший этот опус физик сказал бы, что женскому авторскому коллективу надо тщательнее ставить и скрупулезнее решать задачи. Тем более, когда они априори знают ответ, например уверены, что преступность не имеет национальности, или провидят разницу между добром и злом. Кто прав, кто нет в этих изысканно гуманитарных околонаучных материях, читатель решит сам.


Environmental Data Science, 1, 2022 - полный текст

Разные разности
Пингвины во сне
Все мы знаем, как важен сон. В этом смысле очень тяжело молодым мамам. Первый месяц-два, когда детеныша надо кормить каждые три часа, о ночном сне можно забыть. И это тяжело, женщины знают. А как животные с этим справляются? Например — птицы? Би...
Долгожители обязаны вирусам
Почему при прочих равных условиях одни доживают до ста лет, а другие — нет? Исследователи из Копенгагенского университета решили поискать ответ на этот вопрос в кишечнике долгожителей, а точнее — в том гигантском сообществе бактерий, которы...
Сердце требует движения
Огромное количество исследователей во всем мире изучает сердечно-сосудистые заболевания и пытается найти универсальное решение. И на самом деле все они сходятся в одном: универсальное решение есть, и это — движение.
Фантастический телескоп
Два года назад NASA запустило в космос уникальную инфракрасную обсерваторию, до сей поры невиданную — телескоп Джеймс Уэбб. Мы уже рассказывали об этом, но не грех и повторить, потому что это настоящее рукотворное чудо.