Адам Шифф об регулировании искусственного интеллекта

Сенатор Адам Шифф, демократ от Калифорнии и член комитетов по интеллектуальной собственности, антимонопольному регулированию и технологиям, в интервью The Verge раскритиковал добровольный пакт руководителей ИИ-компаний с администрацией Трампа и объяснил, почему правовое регулирование искусственного интеллекта требует не обещаний, а закона.

Добровольный пакт и почему Шифф считает его пустым?

Контекст такой: администрация Трампа собрала руководителей крупных ИИ-компаний в Белом доме, где те подписали необязывающее соглашение. По его условиям компании обещали самостоятельно оценивать безопасность своих систем. Никаких санкций за нарушение, никакого внешнего контроля.

Шифф обратил внимание на парадокс: те же самые руководители, покинув Белый дом, публично заявляли, что одних обещаний недостаточно и нужно полноценное правовое регулирование искусственного интеллекта.

Они говорят то, что президент хочет от них услышать, в его присутствии. Но реальность в том, что здесь есть настоящая угроза национальной безопасности. : Адам Шифф, сенатор от Калифорнии

По словам Шиффа, ни одна из компаний не хочет навлечь на себя гнев «мстительного президента», поэтому публичное несогласие звучит только за пределами Белого дома.

Какие риски Шифф назвал конкретно?

Сенатор перечислил несколько угроз, которые, по его мнению, делают саморегулирование опасным:

• Непрозрачность моделей. По мере того как модели становятся мощнее и начинают улучшать сами себя (Шифф использовал термин «рекурсивный ИИ», то есть системы, которые дообучают и совершенствуют сами себя), становится всё труднее понять, как именно они принимают решения и к каким данным пытаются получить доступ.

• Использование ИИ в военных операциях. Шифф заявил о необходимости расследовать, какую роль ИИ мог сыграть при выборе целей при бомбардировке иранской школы для девочек. Бесконтрольное внедрение ИИ в Пентагоне, по его словам, может привести к катастрофам.

• Давление на Anthropic. По словам Шиффа, администрация пыталась «убить» компанию Anthropic после того, как та настаивала на отказе от использования ИИ для массовой внутренней слежки и полностью автономных систем вооружения.

Когда журналист спросил президента Трампа об этих рисках, тот ответил, что «миру не о чем беспокоиться, потому что эти компании любят Америку», и указал на собственный интеллект как на гарантию безопасности. Шифф назвал этот ответ несерьёзным.

Почему новое агентство может застрять в судах?

В интервью затронута юридическая проблема, которая касается любого будущего регулятора ИИ в США. Верховный суд отменил так называемый принцип Chevron deference (правило Шеврона). Раньше суды при неясности закона доверяли экспертам из профильных ведомств. Теперь суды сами решают, что закон имеет в виду.

Это значит: даже если Конгресс создаст новое агентство для надзора за ИИ (а Шифф выступает именно за это), любое его решение могут немедленно оспорить в суде. Регулирование рискует увязнуть в судебных процессах ещё до того, как начнёт действовать.

Шифф также провёл параллель с социальными сетями: Конгресс упустил момент для их регулирования, и теперь вопрос в том, повторится ли та же ошибка с ИИ.

Что с этого вам, по ролям?

Авторам Дзена и копирайтерам. Тема регулирования ИИ в США напрямую влияет на то, какие функции будут доступны в инструментах, которыми вы пользуетесь. Если американский закон обяжет компании ограничить возможности моделей, это коснётся ChatGPT, Claude и других сервисов, доступных из России через VPN.

Маркетологам и предпринимателям. Добровольные пакты без юридической силы означают, что правила для ИИ-продуктов пока определяют сами компании. Это удобно для скорости внедрения, но создаёт риск: условия использования могут измениться в любой момент, когда придёт настоящий закон.

Всем, кто работает в РФ и СНГ. В России вопрос правового регулирования искусственного интеллекта тоже открыт. YandexGPT и GigaChat (основные российские аналоги ChatGPT и Claude) работают в рамках российского законодательства, но единого закона об ИИ пока нет. Позиция Шиффа показывает, в каком направлении может двигаться американское регулирование, и это ориентир для понимания глобального тренда.

Частые вопросы

Добровольный пакт ИИ-компаний с Белым домом имеет юридическую силу?

Нет. Как следует из интервью Шиффа, пакт является необязывающим (non-binding). Компании обещают самостоятельно оценивать безопасность своих систем, но за нарушение этих обещаний не предусмотрено никаких санкций. Шифф и сами руководители компаний (за пределами Белого дома) признают, что этого недостаточно.

Что такое принцип Шеврона и почему его отмена мешает регулировать ИИ?

Принцип Шеврона (Chevron deference) означал, что суды при толковании нечётких законов доверяли экспертам из профильных ведомств. Верховный суд этот принцип отменил. Теперь судьи сами решают, что закон имеет в виду. Для будущего агентства по надзору за ИИ это означает, что любое его решение можно оспорить в суде, и регулирование может не заработать годами.

Касается ли всё это российских пользователей ИИ?

Напрямую американский закон на Россию не распространяется. Но если Конгресс примет ограничения, они затронут модели, которыми пользуются по всему миру: ChatGPT от OpenAI, Claude от Anthropic и другие. Российские сервисы YandexGPT и GigaChat работают по своим правилам, однако глобальный тренд на ужесточение требований коснётся и тех моделей, которые доступны из РФ.