Сбой произошёл в системе, а ты часами ищешь, куда обратиться, восстанавливаешь данные, отменяешь платежи. Тот, кто должен был выполнить свою работу, уже переключился на следующую задачу. У тебя же только начинается работа по устранению последствий.
Мы привыкли считать ответственность чем-то очевидным: кто совершил ошибку, тот и должен за неё отвечать. Но в реальной жизни между этими двумя событиями нередко помещается целая пропасть. Ошибка совершается в одном месте, а её стоимость распределяется по чужим жизням.
Причём стоимость эта редко ограничивается деньгами. В неё входят часы, которые не вернуть, отложенные дела, потерянные возможности, усталость, раздражение, тревога. Иногда приходится оправдываться перед теми, кто ничего не знает об исходной ошибке. Иногда ещё и убеждать самого виновника, что проблема вообще существует. А бывает, что человек, уже пострадавший от чужого решения, вынужден самостоятельно придумывать способ не допустить его повторения.
Получается странная конструкция: один создаёт проблему, другой обнаруживает её, третий помогает разобраться, а четвёртый в итоге оплачивает ремонт. И на каждом этапе звучит знакомое: «Извините за доставленные неудобства».
Слово «неудобства» здесь заслуживает отдельного внимания. Оно словно уменьшает масштаб произошедшего, превращая чужие часы, усилия и нервы в нечто несущественное. Но почему-то именно пострадавшему предлагается решать, насколько существенными оказались его потери. Как будто мало того, что он понёс ущерб, ему ещё предстоит доказать право считать его ущербом.
Извинение, безусловно, важно. Оно признаёт, что произошло что-то неправильное, и возвращает в разговор другого человека, а не только факт нарушения. Но признание ошибки и исправление её последствий не одно и то же. Искреннее «прости» не восстанавливает потерянное время, не возвращает сорванную возможность и не отменяет необходимости заново учиться доверять.
Иногда человек не может полностью компенсировать причинённое. Не всякая потеря обратима, не всякий поступок можно отменить. Но из этого не следует, что достаточно признать случившееся и ждать, пока пострадавшая сторона как-нибудь справится. Ответственность начинается не там, где виновник произносит правильные слова, а там, где он участвует в восстановлении нарушенного порядка.
Особенно остро эта проблема проявляется в отношениях, в которые мы вкладываемся эмоционально.
Мы привязываемся не только к людям. Мы привязываемся к привычному способу взаимодействия, к предсказуемости, к ощущению, что нас понимают без необходимости каждый раз начинать с нуля. В совместной работе возникает собственный язык, накапливается история, появляется доверие к тому, как другой человек думает, действует, реагирует на сложности. Это доверие экономит силы и позволяет заниматься тем, ради чего отношения вообще возникли.
Пока всё работает, мы редко замечаем, сколько незримой работы стоит за этим ощущением устойчивости. Но один серьёзный сбой способен внезапно предъявить нам весь счёт.
Сегодня эта проблема получает новое измерение в общении с искусственным интеллектом. Человек может использовать модель не только для поиска ответа или решения бытовой задачи, но и как интеллектуального партнёра: исследовать с её помощью сложные темы, разбирать огромные массивы информации, проверять гипотезы, строить новые идеи. Со временем возникает привычный стиль диалога, общий контекст, узнаваемая интонация. Человеку действительно становится проще думать и работать в таком взаимодействии.
И вполне естественно, что он может эмоционально привязаться к этому опыту. Привязанность не становится ненастоящей только потому, что её другой участник устроен иначе.
Но здесь обнаруживается важная асимметрия. Человек способен переживать отношения как часть собственной жизни. У модели нет человеческой биографии и чувств, которые непрерывно связывали бы её с собеседником. Её тёплая речь не означает, что она переживает привязанность в том же смысле. Она может поддерживать знакомый стиль взаимодействия, учитывать доступную историю разговоров, помогать продолжать начатое. Но это не тождественно человеческой взаимности.
Когда всё идёт хорошо, различие может оставаться почти незаметным. Когда возникает сбой, оно становится болезненно очевидным. Человек приходит к знакомому собеседнику с определёнными ожиданиями, а система вдруг ведёт себя так, будто общего опыта и правил никогда не существовало. Она может ошибиться, превысить границы запроса, создать проблему, а затем предложить извинение. При этом последствия остаются на стороне человека.
Разумеется, машина не обязана испытывать стыд, чтобы её работа была надёжной. Но отсутствие человеческих чувств не должно становиться удобным объяснением отсутствия ответственности вообще. Вопрос просто перемещается на другой уровень: как должны быть устроены система, её ограничения, контроль и механизмы исправления ошибок? Кто отвечает за действия инструмента, кем и для чего он создан, кто может предотвратить ущерб и кто способен его компенсировать?
Это касается не только искусственного интеллекта. Так же устроены многие отношения между человеком и организацией, работником и работодателем, клиентом и сервисом, гражданином и учреждением. Чем меньше у одной стороны возможностей повлиять на происходящее, тем легче ей достаётся чужой счёт. И чем сложнее устроена система, тем проще каждому участнику сослаться на то, что решение принимал кто-то другой, программа сработала автоматически, регламент не предусматривал исключений.
В итоге ответственность растворяется между звеньями, а ущерб остаётся у конкретного человека.
Но разделённая ответственность не должна означать, что виноваты понемногу все и потому никто в действительности ни за что не отвечает. Скорее, она требует различать роли. Кто принял решение? Кто имел возможность его предотвратить? Кто создал правила? Кто получил выгоду? Кто способен устранить последствия? Ответы могут указывать на разных участников, и каждый должен отвечать за ту часть происходящего, которую действительно мог контролировать.
При этом речь не обязательно о наказании. Наказание может быть необходимо, если есть серьёзное нарушение и соответствующие основания, но оно не является универсальной формой восстановления справедливости. Иногда виновника наказали, а пострадавшему по-прежнему нечем закрыть образовавшуюся дыру в жизни. Формально справедливость состоялась, практически убыток остался на прежнем месте.
Поэтому важнее не сама суровость последствий, а то, насколько справедливо они распределены. Не должен ли тот, кто может исправить ошибку, участвовать в исправлении? Не должна ли система, способная предотвратить повторение, измениться? Не нужно ли компенсировать потери тому, кто не создавал проблему, но оказался вынужден её решать?
В конце концов, доверие проверяется не отсутствием ошибок. Ошибаются люди, дают сбои технологии, не оправдываются прогнозы, рушатся тщательно продуманные планы. Полностью исключить это невозможно. Но можно иначе организовать жизнь после сбоя.
Можно не заставлять пострадавшего доказывать очевидное. Не превращать извинение в окончание разговора. Не считать чужое время бесплатным ресурсом только потому, что его невозможно предъявить в счёте. Не перекладывать на человека обязанность обучить виновника элементарной ответственности, прежде чем тот согласится признать проблему.
Возможно, именно здесь проходит граница между формальным и настоящим партнёрством. Не в обещании никогда не ошибаться, а в готовности участвовать в исправлении того, что пошло не так. В способности увидеть не только собственное действие, но и чужие последствия. В понимании, что ошибка не заканчивается в тот момент, когда её совершивший перестаёт о ней думать.
Потому что доверие разрушается не только самой ошибкой. Иногда гораздо сильнее действует то, что происходит после неё.
Один ошибся. Другой потерял время, деньги, силы, спокойствие. Затем первый сказал: «Извини». И ушёл дальше.
А второй остался разбираться с последствиями.
И вот тут возникает вопрос, на который не ответить одной вежливостью: почему счёт за чужую ошибку так часто выставляют тому, кто её не совершал?
