Для человека это почти автоматическая способность. Если отличник внезапно проваливает экзамен, мы понимаем: произошло что-то необычное. Но если рядом припарковалась машина редкой модели, событие может быть статистически маловероятным и при этом совершенно не заслуживать нашего удивления.

Именно это различие плохо даётся существующим математическим подходам. Так называемая Shannon Surprise в первую очередь замечает редкие события. Bayesian Surprise оценивает, насколько новое наблюдение изменило прежние представления системы. Исследователи Georgia Tech предложили третий вариант - Mutual Information Surprise, или «удивление взаимной информации». Оно должно фиксировать события, которые действительно меняют понимание связей внутри наблюдаемой системы.

Проще говоря, машина должна научиться отличать «произошло что-то необычное» от «произошло что-то, после чего мне стоит пересмотреть картину мира».

Это важно для автономных систем. Беспилотный автомобиль может встретить ситуацию, которой не было в обучении, робот - неожиданно столкнуться с незнакомым объектом, производственная система - заметить изменение процесса. В такой момент агенту недостаточно просто зарегистрировать отклонение. Ему нужно решить: продолжать работу, остановиться, собрать дополнительные данные или изменить стратегию.

Авторы разработали и механизм реакции на такое «удивление»: система может менять способ сбора информации или запускать альтернативную ветвь процесса. В экспериментах на синтетических задачах и динамической карте загрязнения этот подход показал лучшую устойчивость, скорость реакции и точность прогнозов по сравнению с классическими мерами неожиданности. Работа опубликована в INFORMS Journal on Data Science.

Конечно, речь пока не идёт о человеческом переживании удивления. Машина не раскрывает глаза и не думает: «Ничего себе».

Но ей дают функциональный аналог одной очень важной способности: понять, что мир оказался не таким, каким она его считала.

И ещё один маленький бастион человеческого поведения становится вычислимым.