Позовите Сьюзен Келвин. Немедленно!

Художник Iolanta Koscielecka

Психология роботов, похоже, представляет собой еще неродившуюся, но уже ставшую актуальной область знания. Причем очень сложную. Ведь это только в фантазиях Айзека Азимова все было просто: в мозги каждого робота впечатывали три закона роботехники и в обозначенных ими рамках робот был вынужден крутиться. И то Сьюзен Келвин, главный робопсихолог планеты из рассказов Айзека Азимова, не сидела без дела: роботы время от времени калечили друг друга и людей, хотя последнее строжайше запрещено законами. Более того, один сумасшедший робот для блага человечества вовсе додумался ускорить распад радиоактивных элементов в недрах Земли, вынудив людей бежать с родной планеты. Современные робототехники добавили в название своей профессии лишнее «то» и о законах Азимова либо забыли, либо не знают, поэтому каждый из них сует в мозги роботам такие принципы поведения, какие захочет. Получается не очень хорошо, одни роботы-убийцы современных войн чего стоят. Поэтому задачи у робопсихологов будущего будут посложнее, чем у Сьюзен Келвин.

Эта простая и для многих очевидная мысль начала доходить и до профессионального сообщества. Например, доцент философии Камерон Букнер из Хьюстонского университета (Nature Machine Intelligence, 23 ноября 2020 года) задумался об истоках ошибок в системах искусственного интеллекта (ИИ). Интересно, что таинственные сбои зачастую фиксируют, а то и создают не сами исследователи, а другие системы ИИ, поэтому такие ошибки принято называть состязательными. Хорошо если они связаны с ошибкой программирования — при тестировании можно ее исправить. А если это не ошибка? Что, если машина неверно истолковывает свое задание на основании правильно запрограммированной нейронной сети, верно сформированных паттернов поведения? Тогда проблема выходит на принципиально иной уровень: неверное поведение машины оказывается неизбывным дефектом, следствием зазора непонимания в интерфейсе человек-машина.

Судя по статье Букнера, осознание проблемы специалистами еще далеко от перехода к конкретным действиям: мировой стандартизации поведения роботов, законодательному ограничению их свободы и безусловному запрету роботов-убийц. Однако хотелось бы, чтобы в недалеком будущем людям никогда не пришлось кричать нечто вроде: позовите Сьюзен Келвин, лишь она сможет понять, что происходит в мозгах этого свихнувшегося робота!