Нью-Йорк запустил правовое регулирование ИИ: штрафы до $3 млн и отчёт о сбоях за 72 часа

До сих пор крупные ИИ-лаборатории сами решали, что и когда рассказывать о рисках своих моделей. Закон RAISE (название закона штата о безопасности и прозрачности ИИ) обязывает их публиковать правила безопасности и сообщать о сбоях в срок. Губернатор Кэти Хокул объявила об этом на пресс-брифинге одновременно с запуском нового исследовательского центра.

Что нового в законе RAISE?

Закон касается крупных разработчиков передовых моделей (frontier, самые мощные модели на переднем крае отрасли). К ним относятся компании с годовой выручкой больше 500 млн долларов. Вот что им предстоит делать:

• публиковать на своих сайтах рамку безопасности (safety framework, документ о том, как компания проверяет модель и ограничивает её риски);
• сообщать о критических инцидентах безопасности в течение 72 часов;
• выпускать публичные отчёты о прозрачности моделей;
• зарегистрироваться на портале штата, иначе власти могут подать иск.

Надзор поручили новому ведомству DIGIT. Расшифровка его названия звучит как Управление цифровых инноваций, руководства, добросовестности и доверия. Какие именно меры грозят за отказ от регистрации, представитель штата уточнять не стал.

Параллельно заработал Нью-Йоркский центр ответственного ИИ и исследований при Бингемтонском университете Университета штата Нью-Йорк. Центр будет независимо оценивать безопасность и работу продвинутых систем ИИ, а также вместе с DIGIT проверять рамки безопасности компаний. Хокул впервые объявила о нём в январе.

Технологические магнаты говорят нам, что их видение ИИ неизбежно. Говорят: присоединяйтесь или останетесь позади. : Кэти Хокул, губернатор штата Нью-Йорк

Мне здесь важна деталь: портал открыли почти за год до крайнего срока. У компаний есть время подготовить документы, так что ссылки на внезапность уже не сработают.

Нью-Йорк собирает целый пакет законов о чат-ботах

RAISE не первый закон штата об ИИ. С прошлого года действует норма для операторов ИИ-компаньонов (чат-ботов для общения, своего рода виртуальных собеседников). Они обязаны регулярно напоминать пользователю, что он говорит с ботом, и стараться распознавать мысли о самоубийстве и самоповреждении.

В октябре Хокул подписала отдельный закон о безопасности чат-ботов для несовершеннолетних. Он ограничивает обманчиво человеческое общение, эмоциональную манипуляцию и угодливые ответы, а также поощрение суицида или расстройств пищевого поведения. Закон вступит в силу 1 июня 2027 года.

Похожие законы приняли и другие штаты:

• Калифорния, закон SB 53 (законопроект Сената № 53), действует с января: рамки безопасности, защита информаторов (сотрудников, сообщающих о нарушениях) и отчёт о критических инцидентах за 15 дней;
• Иллинойс, закон SB 315, вступит в силу в начале 2027 года: схожие требования плюс независимые аудиты соблюдения правил безопасности.

Нью-Йорк требует сообщать об инцидентах за 72 часа, Калифорния даёт на это 15 дней.

Как проверить, касается ли закон вашего ИИ-сервиса?

1. Посмотрите, кто стоит за нейросетью, с которой вы работаете. Если это Anthropic, OpenAI или другая компания с выручкой выше 500 млн долларов в год, закон на неё распространяется.
2. После вступления закона в силу найдите на сайте разработчика рамку безопасности. Публиковать её обязательно.
3. Следите за публичными отчётами о прозрачности моделей: в них компании описывают свои системы.
4. Отслеживайте оценки центра при Бингемтонском университете. Он будет проверять модели независимо от разработчиков.

Касается ли закон YandexGPT и GigaChat?

Из доступных в РФ аналогов это YandexGPT и GigaChat. Распространяются ли на них требования RAISE, источник не сообщает: речь идёт о крупных разработчиках передовых моделей вроде Anthropic и OpenAI. Для русскоязычного автора ценность другая. Появится открытый документ о том, как зарубежные модели проверяют на риски, и на него можно ссылаться.

Что делать с этим прямо сейчас, по ролям

Автору Дзена: тема регулирования ИИ хорошо подходит для разборов. Когда выйдут отчёты о прозрачности, опирайтесь на них вместо пересказов из соцсетей.

Маркетологу: при выборе ИИ-инструмента для команды заложите в чек-лист вопрос о публичной рамке безопасности поставщика. Скоро крупным игрокам будет что показать.

Предпринимателю из РФ и СНГ: напрямую закон касается компаний с выручкой выше 500 млн долларов. Если ваш продукт построен на моделях американских лабораторий, отслеживайте их отчёты об инцидентах: сбой у поставщика может сказаться и на вашем сервисе.

Что чаще всего спрашивают о законе RAISE?

Сколько заплатит компания за нарушение?

До 1 млн долларов за одно нарушение и до 3 млн за последующие. За отказ от регистрации штат тоже может подать иск, подробности не раскрыли.

Кто проверяет компании?

Ведомство DIGIT вместе с новым центром при Бингемтонском университете. Центр получил 55 млн долларов пожертвований и капитала.

Зачем это знать русскоязычному автору?

Вы ежедневно пользуетесь моделями тех самых компаний, которые теперь обязаны отчитываться публично. Кто первым научится читать эти отчёты, тот будет писать об ИИ точнее остальных.