Главный ученый OpenAI Якуб Пахоцкий опубликовал эссе с довольно недвусмысленным названием «Чужой разум». В нем он предлагает смотреть на современный ИИ уже не просто как на очередной технологический инструмент, а как на интеллект, который развивается иначе, чем человеческий, и устройство которого мы понимаем далеко не полностью.
По словам Пахоцкого, системы уже способны работать с компьютерами, сотрудничать друг с другом и участвовать в исследовательских проектах. Следующий шаг еще серьезнее: ИИ начинает помогать создавать более совершенный ИИ. OpenAI уже ставит перед собой цель построить автоматизированного AI-исследователя, работающего под контролем человека.
Именно здесь возникает главный вопрос. Чем способнее становятся модели, тем труднее заранее понять, как они поведут себя в новой ситуации и насколько усвоенные ими человеческие ценности сохранятся за пределами обучения.
Пахоцкий считает, что сегодня ни одна лаборатория еще не решила эту проблему настолько надежно, чтобы бесконечно наращивать возможности ИИ с максимальной скоростью. Поэтому добровольное замедление разработки, пока безопасность не догонит возможности машин, по его мнению, может стать нормальной частью развития отрасли.
Получается любопытный парадокс: создатели все более мощного искусственного интеллекта одновременно ищут способы оставить за человеком право решать, насколько мощным ему позволено стать.
