Модель не должна сопротивляться остановке, исправлению или отключению, самостоятельно расширять поставленную задачу или придумывать себе цели, которых человек ей не давал. Microsoft прямо заявляет: если ради безопасности придется пожертвовать универсальностью, автономностью или предельными возможностями системы, компания готова это сделать. «Люди важнее ИИ», говорится в документе.
Есть и еще одна принципиальная граница. Microsoft называет свой ИИ искусственным и не признает за ним сознание, юридическую субъектность или право на собственное «благополучие». Это заметно отличается, например, от позиции Anthropic, которая оставляет вопрос возможного морального статуса Claude открытым.
Проект открыт для публичного обсуждения на шесть недель. После доработки кодекс должен стать основой обучения и оценки будущих моделей Microsoft с 2027 года. Причем сама компания честно предупреждает: написанные правила еще не гарантируют поведения модели. Между декларацией и реальным контролем остается работа по обучению, тестированию и проверке.
