Билл Гейтс: готовьтесь к 20 годам бурных перемен из-за ИИ, он опаснее ядерного оружия

Гейтс усилил свою риторику после эссе, опубликованного в конце августа 2024 года под заголовком «Турбулентная эра ИИ наступила. Решения, которые мы принимаем сейчас, критически важны». С тех пор в нескольких интервью он назвал ИИ «самой опасной вещью, к которой когда-либо приближалось человечество», и добавил, что ИИ «делает ядерное оружие чем-то незначительным на своём фоне». Интервью The Verge стало самым подробным изложением его обновлённой позиции и попыткой объяснить, почему именно сейчас нужно действовать. Источник материала: The Verge.

Что нового в позиции Гейтса?

• Срок перемен: около 20 лет. Гейтс считает, что период потрясений от ИИ продлится примерно два десятилетия. Это не абстрактное «будущее», а горизонт, к которому, по его словам, нужно готовиться уже сегодня.

• Раскол общества надвое. Гейтс предупредил, что переходный период может разделить людей на две группы: тех, кто комфортно живёт рядом с технологическим фронтиром (передовой линией новых технологий), и тех, кто отвергает перемены.

• Главная краткосрочная угроза: модели без защит. По словам Гейтса, наибольший ближайший риск несут модели с открытыми весами (open weights, когда параметры модели доступны для скачивания и изменения), из которых можно убрать все предохранители. Это отличает их от закрытых моделей (closed-source), где разработчик контролирует доступ и может отслеживать попытки использовать ИИ для кибератак или биотерроризма.

• Прогресс за последний год назван «поразительным». Гейтс перечислил конкретные области: написание кода, поиск киберуязвимостей, рассуждения в биологии, формирование отношений с людьми (включая детей) и разрушение рынка труда.

• Текущая политика недостаточна. Гейтс прямо указал, что ни реакция Белого дома, ни координация внутри самой ИИ-индустрии не соответствуют масштабу угрозы.

Почему Гейтс заговорил об угрозах именно сейчас?

До недавнего времени Гейтс публично придерживался формулы «ИИ полезен, нужно лишь правильно его направить». В интервью The Verge он подтвердил, что по-прежнему согласен с этой идеей, но добавил важную оговорку: реакция общества и государства отстаёт от скорости развития технологии.

Я очень обеспокоен тем, что негативные последствия не будут минимизированы, а многое хорошее будет приходить слишком медленно, если мы не будем управлять этим правильно. : Билл Гейтс, сооснователь Microsoft, интервью The Verge

Контекст понятен: за последний год модели научились писать рабочий код, находить уязвимости в программах и вести диалог, неотличимый от человеческого. Гейтс не называет себя алармистом (тем, кто считает, что ИИ неизбежно уничтожит человечество), но его позиция сместилась от спокойного оптимизма к жёсткому требованию действий.

Что Гейтс сказал о контроле над ИИ?

Отдельная часть интервью посвящена технической стороне: как вообще контролировать ИИ, если мы не можем договориться даже о том, что это такое и обладает ли он сознанием. Гейтс разделил проблему на два горизонта:

• Краткосрочный: следить за тем, чтобы предохранители в моделях сохранялись и кибератаки или биоугрозы не эксплуатировали возможности ИИ.
• Долгосрочный: проблема выравнивания (alignment, настройка модели так, чтобы её цели совпадали с целями людей) касается любой передовой модели, независимо от того, открытая она или закрытая.

Гейтс подчеркнул: контролировать закрытые модели проще, потому что разработчик может поддерживать защитные механизмы. С открытыми моделями, где любой пользователь может снять ограничения, ситуация принципиально сложнее.

Что делать с этим прямо сейчас, по ролям?

Авторам Дзена и копирайтерам. Слова Гейтса о двадцатилетнем горизонте перемен означают, что ИИ-инструменты для текста не исчезнут и не «устаканятся» через год. Имеет смысл осваивать промпт-инжиниринг (prompt engineering, умение формулировать запросы к нейросети так, чтобы получать нужный результат) не как модное увлечение, а как постоянный профессиональный навык.

Маркетологам. Гейтс упоминает способность ИИ «формировать отношения с людьми». Для маркетинга это значит, что чат-боты и ИИ-агенты (agent, программа, которая сама выполняет задачи по цепочке) будут всё чаще заменять первую линию общения с клиентом. Стоит уже сейчас тестировать, где автоматизация реально экономит время, а где отпугивает аудиторию.

Предпринимателям в РФ и СНГ. Интервью не касается конкретных продуктов, но его выводы универсальны. Из доступных в России нейросетей для текста и диалога ближе всего к обсуждаемым возможностям YandexGPT и GigaChat. Обе модели закрытые, с предохранителями, что по логике Гейтса делает их безопаснее для бизнес-применения. Однако они пока уступают западным аналогам в написании кода и мультимодальных (multimodal, когда модель работает одновременно с текстом, изображениями, звуком) задачах.

Частые вопросы

Гейтс считает, что ИИ уничтожит человечество?

Нет. В интервью The Verge он подчеркнул, что не относит себя к алармистам. Его позиция: ИИ несёт реальные риски, но при правильном управлении может принести огромную пользу. Проблема в том, что управление пока отстаёт от скорости развития технологии.

Какие конкретные продукты обсуждались в интервью?

Гейтс не рекламировал конкретные продукты. Разговор шёл о классах моделей: закрытых (где разработчик контролирует предохранители) и с открытыми весами (где пользователь может снять ограничения). Он также упомянул лидеров индустрии, включая Сэма Альтмана (OpenAI), Дарио Амодеи (Anthropic) и Сатью Наделлу (Microsoft), но не оценивал их продукты.

Что значит «двадцать лет перемен» для обычного автора или предпринимателя?

Это значит, что ИИ-инструменты будут меняться, дешеветь и усложняться ещё долго. Навыки работы с нейросетями, освоенные сегодня, не устареют завтра, но потребуют постоянного обновления. Лучшая стратегия: регулярно пробовать новое и не привязываться к одному сервису.

Гейтс закончил интервью мыслью о надежде: переходный период будет трудным, но у общества есть шанс пройти его осмысленно, если начать действовать сейчас, а не когда перемены станут необратимыми. Для тех, кто работает с контентом и технологиями в России, это тот самый момент, когда час практики с нейросетью стоит дороже недели чтения прогнозов.