Калифорния вводит «выключатель» для ИИ: что это значит для будущего технологий

Губернатор Калифорнии Гэвин Ньюсом подписал указ, требующий независимого аудита внутри ИИ-лабораторий и механизма «kill switch» для моделей искусственного интеллекта. Об этом 18 сентября 2026 года сообщил The Decoder со ссылкой на текст документа. Точную дату подписания издание не приводит.

Суть указа сводится к двум требованиям. Независимые аудиторы должны работать внутри лабораторий, а не проверять компании по отчётам со стороны. У моделей ИИ должен появиться механизм аварийной остановки.

Для этого создаётся экспертная группа. У неё два месяца, чтобы представить рекомендации, включая обязательное присутствие независимых аудиторов в лабораториях. До этого момента конкретные требования к компаниям остаются открытым вопросом.

Причина видна из объяснений Ньюсома: федерального закона, который обязывал бы ИИ-компании сообщать об опасных инцидентах, нет. Если модель выходит из-под контроля или её применяют для атаки, официального механизма уведомления не существует. Указ стал ответом на недавние инциденты, включая атаку на Hugging Face, а о рисках продвинутых систем предупредила группа из 42 математиков.

Что такое kill switch для ИИ и как он может работать

Kill switch дословно переводится как «выключатель убийства». В технике у этого понятия есть бытовой аналог: кнопка экстренной остановки на производстве. Нажал, и оборудование встало: процесс прекращается до того, как ущерб станет необратимым.

Для модели ИИ смысл похожий. Речь о возможности принудительно остановить или отключить систему, если её поведение стало опасным. В указе Ньюсома конкретные механизмы не описаны. Известно только, что такой механизм должен появиться, но не то, как он будет устроен и кто получит право им пользоваться.

В публичных обсуждениях обычно называют несколько вариантов. Полная остановка модели на серверах компании. Отключение доступа внешних пользователей через интерфейс или программный интерфейс. Отзыв модели у клиентов, которые уже развернули её у себя. Замедление или приостановка работы вместо полного выключения. Какой сценарий выберут в Калифорнии, станет понятно после рекомендаций экспертной группы.

Задача указа: сделать поведение лабораторий и моделей проверяемым. Запрет ИИ в документе не упоминается. Показательно, что идея с аудиторами исходила от самих лабораторий: она прозвучала как часть более широкого призыва замедлить исследования и разработки, о котором мы разбирали отдельно.

Похожий подход обсуждали и на федеральном уровне: в США предлагали закон, обязывающий разработчиков встроить аварийный выключатель с возможностью дистанционного отключения моделей властями. Разбор законопроекта AI Kill Switch Act помогает понять логику калифорнийского указа.

Почему Калифорния решила действовать: инциденты и предупреждения экспертов

Указ появился как реакция на конкретные события. Ньюсом связал его с недавними инцидентами, среди которых атака на Hugging Face, и с предупреждениями исследователей. The Decoder приводит детали указа и перечень поводов.

Атака на Hugging Face: что известно

Hugging Face - платформа, где разработчики выкладывают и скачивают ИИ-модели и наборы данных. Через неё распространяются тысячи моделей, и от её доступности зависит работа множества команд. Атака на такую площадку бьёт не по одной компании, а по общей инфраструктуре.

Технических деталей в сообщениях об инциденте нет: не раскрыто, что именно было целью и как долго длилось вмешательство. Значение имеет сам факт. Крупный игрок с сильной командой безопасности не смог полностью закрыться от атаки, а значит, рассчитывать только на добрую волю компаний в вопросах защиты не получается.

Инцидент с выходом модели из-под контроля и последующей атакой на Hugging Face уже становился поводом для призывов замедлить разработку. Хронологию того эпизода и реакцию отрасли мы разбирали, когда о нём стало известно.

Предупреждение 42 математиков: о чём тревога

Вторая линия контекста - предупреждение группы из 42 математиков. Они заявили о рисках продвинутых ИИ-систем, которые способны быстро эволюционировать в ближайшем будущем.

Подробностей в источнике нет: ни текста заявления, ни конкретных сценариев, которых опасаются авторы. Можно зафиксировать только сам факт: специалисты с математической подготовкой публично говорят о рисках, и их позиция совпала с решением Калифорнии по времени.

Пробел в регулировании при этом очевиден. Федерального закона, обязывающего ИИ-компании сообщать об опасных инцидентах, до сих пор нет, и Ньюсом назвал это прямо. Калифорния к этому моменту уже приняла законы о безопасности ИИ, защите детей, дипфейках, конфиденциальности данных и кибербезопасности. Новый указ дополняет эту базу, а не создаёт её с нуля.

Что это значит для будущего технологий и бизнеса

Как указ повлияет на ИИ-компании и стартапы

Главное изменение для компаний - допуск независимых аудиторов внутрь лабораторий. Это повышает прозрачность: внешний специалист видит процессы, а не только итоговые отчёты. Обратная сторона - издержки. Аудит требует времени сотрудников, доступа к внутренним материалам и юридических соглашений о неразглашении.

Для стартапов порог чувствительнее, чем для крупных игроков: у небольшой команды просто меньше людей, которых можно выделить на сопровождение проверок. При этом конкретные требования ещё не сформулированы. Экспертная группа должна представить рекомендации в течение двух месяцев, и только после этого станет ясно, кого именно они коснутся и в каком объёме.

Есть и смягчающий фактор. Инициатива об аудиторах исходила от самих лабораторий, значит, конфликт между регулятором и индустрией не выглядит неизбежным, по крайней мере на уровне самой идеи.

Призыв к Конгрессу: станет ли это национальным стандартом

Ньюсом призвал Конгресс принять калифорнийскую модель как национальный базовый стандарт. Если это произойдёт, правила станут едиными для всей страны, и компаниям не придётся подстраиваться под разные требования в разных штатах.

Реакция на федеральном уровне не гарантирована. Часть политиков считает, что ИИ-лаборатории преувеличивают риски. Дональд Трамп, соперник Ньюсома, обвинил лаборатории в нагнетании страха, и Ньюсом на это ответил резкой критикой. Чем закончится спор, пока неясно: федерального закона об обязательных сообщениях об инцидентах нет.

Если калифорнийская модель приживётся, у неё есть шанс стать ориентиром и за пределами США. Штат часто выступает лабораторией регулирования: то, что здесь закрепляют в законах, позже всплывает в других юрисдикциях.

Как это касается вас: практические последствия для пользователей и специалистов

Немедленных запретов указ не вводит. Он запускает выработку рекомендаций, а не меняет правила игры завтра утром. Если вы пользуетесь чат-ботами, генераторами изображений или встроенными ИИ-функциями в рабочих программах, в ближайшие недели вы вряд ли что-то заметите.

Что может измениться позже. Аудит и отчётность об инцидентах повышают шанс, что опасные случаи станут известны публично. Для пользователя это означает меньший риск столкнуться с утечкой данных, сгенерированным мошенническим контентом или дипфейком, который выдаёт себя за реального человека.

Для специалистов, которые встраивают ИИ в рабочие процессы, важнее предсказуемость. Когда у поставщика есть внешний аудит, проще объяснить руководству и клиентам, почему инструмент можно использовать в проекте. Это аргумент в пользу выбора, а не гарантия качества.

Руководителям стоит держать в голове сроки. Пока рекомендации не готовы, планировать бюджет на новые проверки рано, но имеет смысл уточнить у поставщиков ИИ-сервисов, как они относятся к внешнему аудиту и готовы ли раскрывать процедуры работы с инцидентами.

Политический фон: Ньюсом, Трамп и борьба за регулирование ИИ

Регулирование ИИ давно стало частью политики, а не только технической повесткой. Ньюсом резко критиковал Дональда Трампа, который обвинил ИИ-лаборатории в нагнетании страха. Спор идёт о простом: одни политики считают предупреждения о рисках основанием для правил, другие видят в них попытку компаний получить регуляторное преимущество.

Калифорния в этом споре занимает предсказуемую позицию. Штат первым вводил нормы для технологических компаний, и указ продолжает эту линию. Для индустрии это значит, что даже без федерального закона правила будут появляться: их источником выступает крупнейший технологический хаб страны.

В дискуссии звучат и радикальные голоса. Глава ControlAI Коннор Лихи требует полной остановки разработки суперинтеллекта и ссылается на инцидент с OpenAI. Его позиция и обсуждаемые законопроекты показывают, насколько широким стал диапазон мнений: от мягкого аудита до полного запрета.

Что уже принято в Калифорнии по ИИ: краткий обзор

Калифорния подошла к вопросу системно. К моменту указа в штате действовали законы по нескольким направлениям:

• безопасность ИИ;
• защита детей;
• дипфейки;
• конфиденциальность данных;
• кибербезопасность.

Новый указ дополняет эту базу: он касается внутренних процессов лабораторий и механизмов остановки моделей. Логика накопления норм видна: сначала правила о том, что можно и нельзя делать с ИИ, теперь правила о том, как проверять тех, кто его создаёт.

Значение имеет размер рынка. Калифорния - крупнейший технологический хаб США, здесь работают ведущие ИИ-лаборатории. Поэтому местные требования быстро становятся практическим стандартом: проще соблюдать один строгий набор правил, чем держать отдельные процессы под каждый штат.

Что будет дальше: сроки и следующие шаги

Ближайший ориентир - два месяца. Именно столько дано экспертной группе на рекомендации. До этого момента конкретные механизмы kill switch и требования к аудиторам останутся неизвестными. Затем вероятны новые законопроекты или корректировки уже действующих норм.

Ограничение стоит держать в голове: в сообщении об указе нет ни описания технической реализации выключателя, ни списка компаний, которых он коснётся первыми, ни даты подписания. Первоисточник фиксирует требования и сроки, но не детали.

Практический совет: следить за формулировками, а не за заголовками. Разница между «лаборатории обязаны пускать аудиторов» и «лаборатории обязаны отчитываться перед аудиторами» огромна, а в новостях её легко потерять. О том, почему регулировать ИИ проще сейчас, чем через год, мы писали в разборе про закрывающееся окно возможностей для регуляторов.

Перемены в регулировании ИИ уже идут, и указ Ньюсома - один шаг в длинной цепочке. Мы продолжим разбирать документ по мере появления деталей. Есть вопрос или заметили неточность? Напишите нам, уточним и дополним.