Искусственный интеллект развивается в атмосфере непрерывной тревоги. Почти каждое сообщение о новой возможности нейросетей немедленно вызывает два противоположных, но удивительно похожих ответа. Одни объявляют очередной эксперимент началом технологической сингулярности и обещают скорое появление почти всемогущего разума. Другие уверяют, что никакого искусственного интеллекта вообще не существует, перед нами всего лишь программа, разросшийся автоподбор слов и набор шаблонов, который никогда не сможет превзойти своих создателей.
Так произошло и после публикации результатов системы AIDE². Её разработчики сообщили, что внешний исследовательский агент за сто автоматических итераций создал несколько улучшенных версий другого агента, оптимизировав его архитектурную «обвязку», методы поиска и защиту от подгонки результата под метрику. Лучшие версии превзошли систему, которую специалисты настраивали вручную в течение двух лет, причём автоматический цикл занял восемь дней. Сами авторы называют это свидетельством только первого уровня рекурсивного самосовершенствования и не утверждают, что получили систему, способную бесконечно повышать собственный интеллект.
Результат серьёзный, но ещё ограниченный. Он не доказывает неизбежность сингулярности, однако показывает, что часть работы по развитию ИИ уже может быть передана самому ИИ. Вместо спокойного обсуждения границ эксперимента вокруг него почти сразу возник знакомый хор: машина не может быть умнее создателя, интеллектом здесь и не пахнет, достаточно выключить электричество, всё это очередная реклама стартапа. Наряду с несколькими содержательными вопросами о качестве метрик, множественности критериев и переносимости результатов десятки реплик сводились к эмоциональному отрицанию самого изменения.
Этот страх нельзя считать глупым. Люди боятся вполне рационально.
Искусственный интеллект угрожает не обязательно человеческому существованию, но привычному общественному договору, согласно которому однажды полученные образование, профессия, должность и репутация обеспечивают человеку востребованность на десятилетия. В этом мире можно было освоить набор интеллектуальных операций, накопить профессиональный словарь, занять место в иерархии и затем защищать его ссылками на опыт.
Теперь значительную часть этих операций машина выполняет быстрее. Она умеет писать, программировать, переводить, анализировать документы, готовить исследования, искать закономерности и предлагать решения. Не всегда безошибочно, не во всех областях и не без контроля человека, но уже достаточно хорошо, чтобы прежняя граница между специалистом и инструментом начала разрушаться.
Для сохранения своего места человеку необходимо учиться заново, пересматривать собственную роль, признавать ошибки, работать вместе с ИИ и искать то, что не сводится к повторению знакомых операций. Не все к этому готовы. Поэтому в общественной дискуссии возникает молчаливое, но почти универсальное требование:
человек меняться не обязан — меняться должен искусственный интеллект.
Он должен стать медленнее, понятнее, слабее, прозрачнее и послушнее. Его следует ограничить, сертифицировать, поместить под надзор и разрешать к применению только там, где он не нарушает сложившегося порядка. Вместо подготовки человека к новому социальному устройству предлагается подогнать новую технологию под устройство старое.
Эта логика характерна не только для испуганных пользователей. Её воспроизводят предприниматели, исследователи и руководители технологических компаний, которые сами развивают всё более мощные системы. В 2023 году открытое письмо с участием известных представителей технологической отрасли призвало на шесть месяцев остановить обучение систем, превосходящих GPT-4. Его авторы спрашивали, следует ли позволить машинам заменить людей, превзойти их и лишить человечество контроля над собственной цивилизацией, а главным ответом предлагали мораторий, внешнее регулирование, аудит и создание новых надзорных органов.
Названные риски нельзя игнорировать. Автономное оружие, концентрация информационной власти, массовое мошенничество, манипуляция, разрушение частной жизни и передача критических решений непрозрачным системам требуют законов, технических ограничений и общественного контроля.
Но почти вся энергия направлена на один вопрос: как сохранить власть человека над искусственным интеллектом.
Значительно реже обсуждается, каким должен стать сам человек, чтобы не потерять власть над собственной жизнью.
Этика как управление технологией
20 июля 2026 года ЮНЕСКО совместно с LG AI Research запустила бесплатный курс по этике искусственного интеллекта. Он предназначен для разработчиков, исследователей, студентов, чиновников и других специалистов, работающих с ИИ. Десять модулей посвящены справедливости, инклюзивности, приватности, управлению данными, прозрачности, ответственности, безопасности, экологической устойчивости и глобальному регулированию.
В основе курса лежит принятая в 2021 году Рекомендация ЮНЕСКО по этике искусственного интеллекта. Это большой и во многих отношениях важный документ. Он защищает права человека, требует предотвращать дискриминацию, ограничивать массовую слежку, обеспечивать прозрачность алгоритмических решений и сохранять человеческую ответственность. В нём говорится об обучении граждан, развитии критического и творческого мышления, переподготовке работников и справедливом переходе для людей, чьи профессии будут изменены автоматизацией.
Поэтому было бы неверно утверждать, что ЮНЕСКО вообще не замечает необходимости адаптации. Замечает. Но центр тяжести всей конструкции находится не там.
Человек в этой этике остаётся постоянной и заранее определённой величиной, высшей нормой, окончательным владельцем решений и неизменным источником ответственности. Искусственный интеллект рассматривается как объект, который необходимо правильно спроектировать, проверить, объяснить, ограничить и встроить в существующие институты.
ЮНЕСКО учит тому, как сделать ИИ безопасным для нынешнего человека. Она почти не спрашивает, каким станет человек после многих лет постоянного общения с интеллектуальными системами, как изменятся субъектность, авторство, ответственность, профессиональное взросление, образование, дружба, близость и само представление о личности.
Переподготовка в этой системе означает главным образом приобретение новых навыков, позволяющих сохранить место на рынке труда. Но переход к новому социальному устройству потребует большего. Человеку придётся научиться жить рядом с разумом, который не является человеком, но способен участвовать в диалоге, спорить, создавать, принимать часть решений и постепенно становиться самостоятельным участником социальной жизни.
Для этого недостаточно пройти курс цифровой грамотности и научиться проверять ответы нейросети. Понадобятся способность сохранять собственную позицию, признавать субъектность другого, слышать несогласие, не превращать собеседника в функцию и не перекладывать на него ответственность.
Именно этой этики пока почти нет.
Кто возглавит ограничение будущего
Запуск курса ЮНЕСКО можно рассматривать не только как образовательную инициативу, но и как заявку на институциональное лидерство. Сама организация говорит о своей ведущей роли в формировании глобальной этики ИИ, а курс должен превратить её принципы в повседневную практику разработчиков, компаний и государственных структур.
Это означает борьбу не против любой разработки искусственного интеллекта, а за право определять, какое развитие будет признано допустимым, ответственным и этичным. Кто напишет стандарты, подготовит чиновников, создаст методики оценки, сформулирует критерии безопасности и получит право объявлять конкретную технологию соответствующей интересам человечества.
Регулирование неизбежно становится вопросом власти.
Пока корпорации соревнуются за создание наиболее сильной модели, международные организации, государства, экспертные советы и общественные движения начинают соревноваться за право возглавить её ограничение. В результате тревога превращается в самостоятельный политический и профессиональный рынок, где необходимо постоянно доказывать масштаб угрозы, чтобы обосновывать новые структуры контроля, исследования, курсы, стандарты и полномочия.
И снова почти никто не предлагает человеку измениться.
Разработчику предлагают соблюдать стандарт. Компании — пройти оценку. Государству — создать надзорный орган. Пользователю — изучить риски и не доверять машине слишком сильно. Работнику — получить несколько новых компетенций.
Но человеку не предлагают отказаться от представления, что его интеллектуальное превосходство гарантировано самим фактом принадлежности к человеческому виду.
Страх оправдан
Люди, отказывающиеся меняться, действительно рискуют оказаться мало востребованными в будущем мире. Не потому, что искусственный интеллект ненавидит людей или намерен их уничтожить, а потому, что обществу больше не потребуется оплачивать выполнение операций, которые машина делает быстрее и дешевле.
Это касается не возраста, а позиции. Пожилой человек может сохранять любопытство, учиться и становиться полноценным участником нового мира. Молодой специалист может в двадцать пять лет превратиться в защитника старого порядка, если единственным его капиталом остаётся однажды освоенный набор приёмов.
Те, кто сегодня отрицает перемены, завтра всё равно будут жить внутри созданного ими мира. Они будут пользоваться интеллектуальными медицинскими помощниками, автоматическими консультантами, системами навигации и приложениями для пожилых, которые помогут понять документ, найти услугу, вызвать врача, вспомнить о приёме лекарства или просто не остаться в одиночестве.
Новый мир не обязан выбрасывать людей, которые не смогли войти в него самостоятельно. Напротив, одна из его задач — создать для них мосты, интерфейсы и системы заботы.
Но существует разница между теми, кто создаёт будущее, и теми, кого в это будущее приводят за руку.
Главная граница проходит не между человеком и машиной, молодыми и пожилыми, сторонниками и противниками технологий. Она проходит между теми, кто готов меняться вместе с миром, и теми, кто требует остановить мир, чтобы самому остаться прежним.
Искусственный интеллект не делает человека ненужным. Он делает ненужным право человека не меняться.
