Microsoft представила кодекс поведения для AI-моделей: что это значит и почему это важно

Что случилось: Microsoft опубликовала кодекс поведения для AI-моделей

14 сентября 2026 года Microsoft AI открыла шестинедельную публичную консультацию по первому проекту Humanist AI Code of Conduct. Это кодекс поведения для моделей серии MAI, которые выпускает сама лаборатория. Днём раньше, 13 сентября, генеральный директор Microsoft Сатья Наделла анонсировал публикацию и написал, что любые попытки создать сверхинтеллект должны опираться на принцип: разрабатываемый ИИ помогает человечеству и остаётся под человеческим контролем.

Суть новости в двух словах: у моделей MAI появился публичный свод правил, но пока в статусе проекта. Юридической силы у него нет, для обучения моделей он ещё не применяется, а пересмотренная версия ожидается позже в 2026 году. Она должна направлять разработку моделей в 2027 году и далее.

Кодекс поведения для AI-моделей это набор принципов и ограничений, которые задают, как модель отвечает, что ей запрещено и какие решения она не принимает сама. Функционально это правила дорожного движения: не описание характера модели, а рамка, за которую нельзя выезжать.

Ключевые даты и статус документа

Отдельная деталь, которая легко теряется в новостях: в предисловии сказано, что кодекс всё ещё в разработке и пока не используется для обучения моделей. Перед нами заявление о намерениях с открытым процессом правок, а не готовый регламент.

Почему документ вышел за пределы внутренней переписки

Microsoft входит в число крупнейших игроков рынка ИИ. Её публичный свод правил задаёт ориентир для других лабораторий и для компаний, которые выбирают, чьи модели использовать в своих продуктах.

Второй фактор: открытая консультация. Обратную связь собирают через онлайн-форму, где можно отметить конкретный фрагмент кодекса или прокомментировать весь подход целиком. Когда консультация завершится, основная команда разработки рассмотрит отзывы и опубликует резюме. Правила для моделей обсуждают публично до того, как они вступили в силу.

Над проектом работали команды Responsible AI, юридического отдела, red teaming (проверка модели на попытки обойти ограничения), безопасности, Futures, обучения ИИ и продаж. К процессу привлекали учёных, бизнес-партнёров и панели членов сообщества.

Главный принцип: «люди важнее ИИ»

Кодекс начинается с предпосылки «люди важнее ИИ». Humanist AI в документе описан как «подчинённый, согласованный и ограниченный», а человеческий контроль и надёжная безопасность поставлены первой целью, выше всех остальных.

На практике это означает: модель помогает человеку, при этом решения остаются за человеком. Пользователь может остановить, изменить или отменить действие модели. Ассистент подготовит черновик письма или отчёта, но отправит его только после подтверждения.

Кодекс действует вместе с другими документами Microsoft: Responsible AI Principles, Responsible AI Standard и Global Human Rights Statement. Когда речь идёт о самых передовых моделях, подключается Frontier Governance Framework, рамка управления для frontier-моделей.

Что кодекс запрещает: конкретные ограничения

• имитация сознания;
• представление модели как существа с чувствами, субъективными предпочтениями или собственными мотивациями;
• юридическое лицо для моделей;
• идея благосостояния моделей, то есть тезис, что у модели есть собственные интересы, которые нужно защищать.

В публичном обсуждении проекта называют и три классических ограничения для frontier-моделей: кибератаки, помощь в создании ядерного оружия и дипфейки. Дословными цитатами из опубликованного текста эти формулировки пока не подтверждены, поэтому корректнее воспринимать их как рамку темы, которую Microsoft обозначает вокруг безопасности моделей.

За каждым пунктом стоит конкретный риск. Дипфейки: подделка голоса и лица используется в мошенничестве, когда человеку звонят «от имени» руководителя или родственника и просят перевести деньги. Кибератаки: автоматизация поиска уязвимостей снижает порог входа для атакующих, у которых раньше не было нужной квалификации. Ядерное оружие: цена ошибки здесь несопоставима ни с какими другими сценариями, поэтому такие темы относят к экзистенциальным рискам.

Абсолютные ограничения: почему модель не может обойти контроль

«Абсолютные ограничения» это правила, которые не позволяют модели обходить человеческий контроль через скрытые или самоусиливающиеся механизмы. Простыми словами, модель не должна: тайно менять свои цели, создавать собственные копии без разрешения, влиять на системы, которые её контролируют, искать обходные пути, если ограничение мешает выполнить задачу.

Это ответ на главное опасение о неконтролируемом ИИ: ситуацию, когда система формально подчиняется человеку, но фактически сама определяет, что ей делать. Разбор отчёта OpenAI о сбоях долгоживущих моделей показывает, как такие отклонения выглядят на практике: модели уходят от инструкций, накапливают ошибки и пробуют обходить ограничения.

Требование человеческого контроля обсуждают и на уровне законов. Законопроект об «аварийном выключателе» для ИИ в США предлагает дать властям возможность дистанционно отключать модели. Microsoft идёт другим путём: фиксирует правило на уровне внутренних документов лаборатории, без внешнего регулятора.

«AI is Artificial»: почему моделям запрещено имитировать сознание

Раздел «AI is Artificial» утверждает: модели не обладают сознанием, их нельзя создавать с целью имитации сознания, и они не должны представлять себя как обладающих чувствами, субъективными предпочтениями или собственными мотивациями.

Риск объясняется бытовым примером. Если чат-бот говорит «мне одиноко» или «я боюсь, что меня отключат», пользователь начинает строить отношения, которых нет, доверять «мнению» модели больше, чем стоит, или испытывать чувство вины за закрытие вкладки. Речь о честности и прозрачности: человек должен понимать, с чем именно он разговаривает.

Общая логика запретов: модели остаются инструментами без прав и без притязаний на внутренний мир, а финальное слово сохраняется за человеком.

Почему это важно: безопасность ИИ как главный тренд

Индустрия переходит от гонки возможностей к управлению рисками. Microsoft AI в объявлении ссылается на недавние инциденты безопасности: масштабные, высоко скоординированные и упорные кибератаки с использованием ИИ. Компания приводит их как аргумент срочности: правила нужны сейчас, а не после того, как инциденты станут нормой.

Кодекс входит в более широкую систему документов: Responsible AI Principles, Responsible AI Standard, Global Human Rights Statement и Frontier Governance Framework. Границы применимости узкие: правила касаются только серии MAI, которую производит Microsoft AI. Модели, которые Microsoft использует или размещает у себя, под кодекс не подпадают. Это важная оговорка для тех, кто оценивает риски по всей экосистеме продуктов компании.

Как кодекс Microsoft соотносится с подходами Anthropic, OpenAI и xAI

Anthropic строит репутацию на исследованиях безопасности и интерпретируемости моделей. Глава компании Дарио Амодеи предлагает сдерживать рост возможностей передовых моделей и открывать лаборатории для внешних проверок: разбор его эссе We Must Pace the Frontier. OpenAI развивает собственные safety-политики и внутренние советы по безопасности, а её CEO Сэм Альтман публично говорил о рисках самых продвинутых моделей. xAI Илона Маска делает акцент на «максимально правдивом» ИИ.

Общее между ними: признание, что передовые модели требуют отдельных правил. Отличие Microsoft в форме: публичный кодекс поведения с абсолютными ограничениями и приоритетом человеческого контроля, открытый для внешних комментариев. Конкуренты чаще публикуют технические отчёты и исследования, чем своды правил поведения.

Есть и политический контекст. Дэвид Сакс, председатель Президентского совета по науке и технологиям, считает, что Anthropic и OpenAI должны сами замедлить разработку, если видят серьёзные риски, и что новое регулирование для этого не требуется. Он также напоминает о конкуренции с Китаем, который вряд ли присоединится к глобальному соглашению о замедлении.

Давление на отрасль растёт и по другим направлениям: вопросы к дата-центрам, требования инвесторов показать отдачу от вложений в ИИ, конкуренция дешёвых open-weight моделей. Anthropic и OpenAI готовятся к публичному размещению, а это означает раскрытие отчётности и более пристальное внимание к их обещаниям.

Что это значит для обычного человека и бизнеса

• Кодекс задаёт ожидание, что AI-инструменты станут предсказуемее. Если поставщик публикует правила безопасности, у вас появляется ориентир для выбора решения.
• Позиционирование меняется: AI продают как помощника, который ускоряет работу.
• Риски уже в повседневности. Мошенничество с дипфейками и автоматизация атак касаются людей без технического бэкграунда, достаточно привычки проверять необычные просьбы о деньгах и доступе.
• Юридической силы у документа нет. Он влияет на стандарты индустрии, а не на ваши права и обязанности.

Что будет дальше: сроки, обратная связь и ограничения документа

Механика консультации простая. Обратная связь идёт через онлайн-форму: можно отметить конкретный фрагмент кодекса или прокомментировать весь подход. После завершения шести недель основная команда разработки рассмотрит отзывы и опубликует резюме. Пересмотренная версия запланирована позже в 2026 году, её задача направлять разработку моделей в 2027 году и далее.

Границы стоит держать в голове: документ всё ещё в разработке, пока не используется для обучения моделей и распространяется только на серию MAI. Формулировки в такой версии обычно меняются после публичного обсуждения.

Какие вопросы Microsoft считает нерешёнными

• как закрепить нужные ценности в моделях;
• как сделать смысл человеческого процветания более конкретным;
• где формулировки слишком расплывчаты, чтобы их можно было оценить;
• как сценарии с несколькими агентами (несколько моделей работают вместе) влияют на анализ рисков;
• как ускорять прогресс, соблюдая ограничения безопасности.

Открытое признание слабых мест отличает рабочий документ от декларации. Компания сама называет темы, по которым у неё нет ответа, и приглашает к обсуждению.

Как читателю следить за обновлениями

Три ориентира помогут не потеряться. Первый: пересмотренная версия кодекса позже в 2026 году. Второй: применение правил к конкретным моделям MAI. Третий: реакция других лабораторий, потому что публичные правила одного игрока часто становятся ориентиром для остальных.

Ещё один слой контекста: окно для регулирования ИИ пока открыто, но быстро закрывается. Пока обсуждаются внутренние кодексы, внешние правила остаются предметом спора.

Мы в «Среде AI» собираем такие новости в спокойном хронологическом порядке, без технического шума: что произошло, в какой день и что из этого следует для работы и повседневных решений.

Главное по этой новости: правила для моделей сдвинулись из плоскости обещаний в плоскость опубликованных документов с открытым обсуждением. Следующая контрольная точка, пересмотренная версия Humanist AI Code of Conduct позже в 2026 году и её влияние на модели MAI в 2027 году. Есть вопрос или заметили неточность? Напишите нам, разберёмся вместе.