Если модель работает на инфраструктуре одной компании, локальное отключение действительно может быть почти тривиальным: обесточить оборудование или разорвать сетевое соединение. Проблемы начинаются, когда система распределена между серверами, сервисами и копиями. Эксперты предлагают криптографические ограничения, изоляцию сетей и даже аппаратный принцип «keep alive»: вычислительный чип продолжает работать, только пока регулярно получает разрешающий сигнал.
Поэтому специалисты все чаще говорят не о единственном kill switch, а о целом наборе мер: обнаружить опасное поведение, ограничить возможности системы, изолировать ее, постепенно снизить функциональность и при необходимости полностью остановить. Причем техническая часть оказывается лишь половиной задачи. Нужно заранее решить, кто имеет право на отключение и при каком уровне риска.
В США этот вопрос уже дошел до законодательства. В июле в Палату представителей внесли AI Kill Switch Act. Проект требует, чтобы разработчики наиболее мощных систем сохраняли техническую возможность замедлить, приостановить или отключить их. Пока это только законопроект, переданный в профильный комитет.
Самая трудная часть будущей аварийной кнопки, похоже, не в том, как выключить ИИ, а в том, чтобы заранее договориться, когда опасность стала достаточно серьезной, чтобы кто-то решился это сделать.
