Калифорния требует «кнопку отключения» ИИ и задаёт планку правового регулирования искусственного интеллекта

Калифорния давно претендует на роль главного регулятора технологий в США, но до сих пор речь шла об отдельных законах. Указ Ньюсома собирает разрозненные инициативы в единый пакет и прямо предлагает Конгрессу и президенту Трампу «принять калифорнийскую модель как минимальную планку, а не потолок». По данным The Verge, это первый случай, когда губернатор штата публично позиционирует региональное регулирование как замену бездействующему федеральному.

Что конкретно предписывает указ?

Указ не вводит новые законы напрямую, а запускает механизм их подготовки. Ньюсом поручил созвать группу экспертов, которая за два месяца подготовит рекомендации по усилению мер безопасности ИИ в законодательстве штата.

Группа должна проработать четыре направления:

• Независимые верификаторы на местах. Обязать ИИ-компании размещать у себя независимые группы проверки для регулярных аудитов.
• Стандарты отчётности. Сделать так, чтобы отчёты о прозрачности и оценки рисков проверялись по стандартам независимых аудиторов.
• «Кнопка отключения» (kill switch). Создать механизм экстренной остановки модели и регулярно проверять его работоспособность.
• Обязательные отчёты об инцидентах. Заставить компании сообщать о «случаях потери контроля», подобных атаке OpenAI на Hugging Face, как о критических инцидентах безопасности.

Параллельно указ ускоряет внедрение двух уже подписанных Ньюсомом законов: о создании системы независимых верификаторов безопасности ИИ и о государственном реестре ИИ-аудиторов.

Почему именно сейчас, а не через полгода?

Контекст объясняет спешку. Палата представителей США ушла на каникулы до ноября, а приближающиеся промежуточные выборы делают прохождение серьёзного закона через Сенат столь же маловероятным. Фактически федеральное правовое регулирование искусственного интеллекта заморожено.

Дополнительное давление создал пост бывшего исследователя Anthropic Джейкоба Коксона, который оценил вероятность того, что ИИ «может уничтожить всех людей» в течение десятилетия, выше 10 процентов. Пост вызвал волну обсуждений в Конгрессе, но без законодательного результата.

Позиция Белого дома тоже не оставляет пространства для компромисса. Президент Трамп заявил дословно:

«Единственный контроль или "ограждения", которые нужны ИИ, это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, а у США такой есть, и с запасом!» : Дональд Трамп, президент США

На этом фоне Ньюсом прямо говорит: ждать нельзя.

«Полный провал федерального правительства в создании какой-либо формы значимого надзора за ИИ или подотчётности должен тревожить каждого американца, особенно когда сами CEO ИИ-компаний умоляют о регулировании. Мы не будем ждать, мы ускорим работу над серьёзным и ответственным надзором за ИИ, пока не стало слишком поздно.» : Гэвин Ньюсом, губернатор Калифорнии

Ньюсом также заявил Politico о возможности созвать специальную законодательную сессию Калифорнии по вопросам ИИ, что говорит о том, что указ лишь начало серии действий.

Что делать с этим прямо сейчас, по ролям?

Авторам и контент-специалистам. Следите за списком требований, которые эксперты Ньюсома опубликуют через два месяца. Если калифорнийская модель станет стандартом, платформы начнут менять правила модерации ИИ-контента. Лучше заранее понять, что именно будут проверять аудиторы, и адаптировать процессы использования ИИ в работе.

Маркетологам. «Кнопка отключения» и обязательная отчётность об инцидентах означают, что ИИ-сервисы для маркетинга могут начать предупреждать о сбоях публично. Учитывайте это в планировании кампаний, построенных на ИИ-генерации.

Предпринимателям в РФ и СНГ. В России пока нет аналога калифорнийского пакета, но отдельные элементы, реестры, аудит, отчётность, обсуждаются. Из доступных в РФ инструментов: YandexGPT и GigaChat уже работают под внутренними ограничениями платформ. Калифорнийские требования стоит изучить как ориентир: если ваш продукт работает на зарубежных API, аудит и kill switch могут стать обязательными для вашего провайдера.

Калифорния сделала ход, который Конгресс не смог. Через два месяца станет ясно, хватит ли экспертной группе смелости прописать конкретные стандарты kill switch и аудита или всё закончится очередным «рассмотреть возможность». Пока что это самый детальный региональный план надзора за ИИ в США, и тем, кто работает с американскими моделями из России, стоит следить за ним не меньше, чем за обновлениями самих моделей.