Гарвардский историк объяснила, что такое искусственный интеллект для Кремниевой долины: новая утопия власти

Лепор представила свою книгу в подкасте Equity (TechCrunch), где ведущий Энтони Ха обсудил с ней главный тезис: технологические компании постепенно забирают себе функции демократического государства. Twitter (ныне X) подменял картину общественного мнения, Facebook вытеснял местные СМИ. Теперь, по мнению Лепор, ИИ-компании обещают «умное правительство без бюрократии», но на деле продают старую фантазию в новой обёртке.

Что Лепор считает «искусственным государством»?

Чтобы понять суть критики, полезно зафиксировать, что такое искусственный интеллект простыми словами: это программы, которые обучаются на данных и выполняют задачи, которые раньше требовали человеческого мышления. Лепор предлагает термин «искусственное государство» (artificial state): ситуация, при которой технологические корпорации берут на себя роль государственных институтов, от модерации публичной дискуссии до написания «конституций» для своих ИИ-моделей.

В книге она проводит линию от знаменитой рекламы Macintosh 1984 года, где Apple позиционировала себя как освободителя от тоталитаризма, до «конституции Claude» компании Anthropic и высказываний Альтмана об «ИИ-президенте». По мнению Лепор, все эти шаги объединяет одна логика: технологический прогресс подаётся как политический.

Какие аргументы звучат в пользу ИИ-управления?

Сторонники идеи «эффективного ИИ-правительства» опираются на конкретные проблемы реальной бюрократии:

• Скорость и масштаб. ИИ-агент (программа, которая сама выполняет цепочку действий без пошаговых команд) способен обрабатывать тысячи обращений одновременно, а чиновник обрабатывает их поштучно.
• Прозрачность правил. Anthropic публично выложила «конституцию» для своей модели Claude, набор принципов, которым модель следует при генерации ответов. Это, по замыслу компании, прозрачнее, чем непубличные инструкции модераторов в соцсетях.
• Снижение коррупции. Алгоритм не берёт взяток и не имеет личных интересов, так звучит аргумент технократов.

Эти доводы находят отклик: многие пользователи действительно получают ответы от ChatGPT или Claude быстрее, чем от государственных служб.

Почему Лепор считает это опасной утопией?

Лепор, по её словам в подкасте, видит несколько ключевых проблем.

Подмена подотчётности. Демократическое правительство подотчётно избирателям. Корпорация подотчётна акционерам. Когда Facebook вытесняет местные новости, жители не могут «проголосовать» за другой алгоритм. Когда Twitter искажает картину общественного мнения, избиратели не контролируют настройки ленты.

Старая фантазия, новая упаковка. Лепор проводит параллель с научно-фантастическим рассказом Э. М. Форстера «Машина останавливается» 1909 года, где всё человечество зависит от единой системы. По её выражению, сегодня этот текст «читается как дневник очень несчастного ютубера». Технократическая мечта о замене государства машиной не нова: ей больше ста лет, и каждый раз она заканчивалась провалом.

Путаница между техническим и политическим прогрессом. Лидеры ИИ-компаний, по мнению Лепор, систематически путают одно с другим. Более быстрая модель не означает более справедливого общества. Более точный алгоритм не заменяет судебную систему.

Лидеры технологических компаний часто принимают технологический прогресс за политический, при этом прямо заявляя о намерении заменить национальное государство. : Джилл Лепор, историк, профессор Гарварда

Что с этого вам?

Авторам Дзена и контент-мейкерам. Каждый раз, когда платформа меняет алгоритм, вы ощущаете «ИИ-правительство» на себе: охваты падают или растут по логике, которую никто не объяснил. Понимание того, что такое искусственный интеллект в контексте управления контентом, помогает не путать баг алгоритма с «несправедливостью» и строить стратегию, а не жаловаться в пустоту.

Маркетологам. Если ваши клиенты начинают говорить «ИИ заменит отдел маркетинга», покажите им аргументы Лепор: замена человеческого суждения алгоритмом без подотчётности создаёт не эффективность, а непредсказуемость.

Предпринимателям в РФ и СНГ. В России и СНГ доступны YandexGPT, GigaChat и другие локальные модели. Они тоже работают по правилам, которые задаёт корпорация, а не пользователь. Критика Лепор применима и здесь: стоит отслеживать, какие «конституции» и фильтры стоят за инструментами, которыми вы пользуетесь ежедневно.

Лепор считает «искусственное государство» неустойчивой конструкцией и верит, что его можно обуздать, хотя в подкасте не даёт готового рецепта. Реалистичный прогноз проще: в ближайшие два-три года регуляторы в ЕС, США и, вероятно, в России будут всё жёстче требовать от ИИ-компаний объяснять правила, по которым работают их модели. Авторам и предпринимателям не нужно ждать этих законов, чтобы задать себе главный вопрос: кто на самом деле устанавливает правила на площадке, где вы зарабатываете, и что случится, если эти правила изменятся завтра без предупреждения.