Открытая база AI safety: 323 события за 20 лет показали разрыв между деньгами и наукой

Исследовательница собрала открытую таблицу с 323 событиями, 129 участниками и 18 направлениями безопасности ИИ за период с 2005 по июнь 2026 года, и эта база впервые позволяет увидеть реальные временные разрывы между финансированием и вниманием исследователей.

Автор базы поставила задачу не пересказывать историю безопасности ИИ словами, а показать её на проверяемых данных. Каждая строка таблицы содержит одно событие со ссылкой на первоисточник, с указанием года, участника, направления, типа, суммы и источника. Рядом с основной таблицей собран отдельный набор прокси-метрик (косвенных оценок) по arXiv (крупнейший открытый архив научных статей): сколько публикаций по каждому из 23 направлений выходит в год. Именно на этих данных построены все графики и выводы.

Что понадобится

• Доступ к интернету и браузер для работы с интерактивной таблицей и графиками
• Базовое понимание того, что такое AI safety: безопасность ИИ, то есть набор практик и исследований, направленных на то, чтобы нейросети работали предсказуемо и не причиняли вреда
• Около 40 минут на первое знакомство с базой и графиками
• Таблица с 323 событиями (открытая, ссылки внутри каждой строки ведут на первоисточники)
• Для продвинутого анализа: любой инструмент для работы с таблицами (Google Sheets, Excel, Python)

Как работать с базой: пошаговая инструкция

1. Откройте таблицу и отсортируйте по годам. Первое, что стоит сделать: выстроить 323 события хронологически. Вы сразу увидите, что направления появляются вразнобой, а не последовательно.

2. Сравните финансирование и публикации по одному направлению. Возьмите, например, интерпретируемость (interpretability, исследование того, почему нейросеть приняла конкретное решение). По данным базы, интереса к этому направлению примерно в 37 раз больше, чем можно было бы ожидать при его финансировании около 1 млн долларов. Сравните с governance (управление и регулирование ИИ): там деньги шли впереди публикаций.

3. Проверьте, кто платит. Отфильтруйте события по типу финансирования. К 2023 году государственные деньги обошли филантропию. Полдюжины национальных институтов (UK AISI, ARIA, канадские, австралийские программы, NSF в США, программы ЕС) за пару лет сделали поле международным. Отдельно в базе видны около 268 млн долларов венчурных инвестиций в стартапы по безопасности ИИ.

4. Посмотрите на «живые» и «затихшие» направления. На графике продолжительности жизни направлений линия идёт от первого события до последнего. Но затихнуть не значит умереть. У reward modeling (обучение модели через систему оценок) последнее собственное событие относится к 2017 году, но под названием RLHF (обучение с подкреплением на основе обратной связи от человека) направление дожило до 2025 года. Прокси-метрика arXiv по этому направлению выросла с 25 статей в 2021 году до 1 777 в 2025 году.

5. Отследите смену центра тяжести. Доля событий из группы foundations-and-strategy (фундаментальные и стратегические исследования) упала с 67 % в 2005-2013 годах до 6 % к 2024-2026 годам. Техническая безопасность выросла примерно до 60 % и стянулась к нескольким участникам; самый связанный узел в базе, Anthropic.

6. Обратите внимание на ребрендинг. Только за 2025 год UK AI Safety Institute стал AI Security Institute, US AI Safety Institute переименовали в CAISI, а Open Philanthropy (фонд, с которого поле фактически началось) сменила имя на Coefficient Giving. Само слово safety постепенно уходит из названий.

7. Проверяйте «консолидацию» по числу новых организаций. 2024 год стал рекордным: появилось 24 новых организации. В основном это небольшие команды по 1-5 человек, работающие над интерпретируемостью, AI security (защита ИИ-систем от атак) и мониторингом chain-of-thought (отслеживание цепочки рассуждений модели).

8. Используйте arXiv-прокси как независимый сигнал. Ромб на графике отмечает последний год, когда по направлению ещё выходят статьи. Эти точки часто не совпадают с последним событием в базе: направление может замолчать в таблице событий и при этом оставаться живым в науке.

Что делать с этим прямо сейчас, по ролям

Исследователю и аспиранту. База с 323 событиями и ссылками на первоисточники экономит месяцы литературного обзора. Постройте свою выборку по направлению и году, сверьтесь с arXiv-прокси и определите, где сейчас окно: много денег, мало публикаций или наоборот.

Автору Дзена, который пишет про ИИ. Любой из 18 направлений AI safety это готовая тема для разбора. Пример: «Почему reward modeling исчезла из заголовков, но захватила индустрию под именем RLHF» это история с данными и сюжетом, которую можно рассказать аудитории без технического бэкграунда.

Маркетологу и предпринимателю в РФ. Рост государственного финансирования AI safety в мире и появление венчурных денег (268 млн долларов) означают, что compliance (соответствие требованиям безопасности) станет обязательным для продуктов, выходящих на международные рынки. В России тема регулируется пока мягче, но тренд задан: кто разберётся в структуре поля сейчас, будет готов к требованиям раньше конкурентов.

Для тех, кто работает с безопасностью ИИ в России и СНГ, эта база решает конкретную задачу: вместо пересказов и мнений вы получаете 323 проверяемых события со ссылками, на которых можно строить собственный анализ, грантовую заявку или серию публикаций.