OpenAI уволила трёх исследователей безопасности AI: компания говорит об утечке, они о цензуре

Издание The Verge опубликовало подробности спора между OpenAI и тремя бывшими исследователями. Компания настаивает, что дело касается нарушения внутренних правил обращения с конфиденциальной информацией. Уволенные же считают, что их наказали за попытку привлечь внимание к проблемам безопасности. Этот конфликт разворачивается на фоне растущей тревоги внутри всей индустрии: сотрудники ИИ-лабораторий всё чаще призывают замедлить разработку и усилить защиту.

Что именно произошло?

OpenAI опубликовала пост в социальной сети X, в котором заявила: исследователи Jasmine Wang, Tomek Korbak и Mikita Balesni были уволены за нарушение «чётких политик обращения с конфиденциальной информацией». Компания подчеркнула, что решение не связано с тем, что трое сотрудников открыто высказывались о проблемах безопасности ИИ.

Днём ранее исследователи опубликовали открытое письмо, в котором призвали OpenAI к большей прозрачности. Они заявили, что «действовали в соответствии с миссией OpenAI и в рабочих нормах того времени».

OpenAI в ответ сообщила, что внутреннее расследование выявило нарушения «помимо тех, что описаны в письме», но деталей не раскрыла.

Почему это вызывает тревогу в индустрии?

Увольнения произошли не в вакууме. Безопасность передовых ИИ-систем (то есть самых мощных моделей, которые разрабатывают лидеры рынка) стала болезненной темой внутри компаний. По данным The Verge, после серии громких инцидентов в этом году, включая взлом OpenAI платформы Hugging Face (крупнейшее открытое хранилище ИИ-моделей), многие сотрудники ИИ-лабораторий стали призывать замедлить разработку.

Суть опасений: компании строят системы, способные к самосовершенствованию, но при этом не уделяют достаточно внимания защите от потенциальных последствий. Когда исследователей, которые именно этим и занимаются, увольняют за «нарушение доверия» без публичных деталей, это вызывает вопросы у всего сообщества.

Показательно, что OpenAI заявила о нарушениях «помимо описанных в письме», но отказалась их конкретизировать. Это оставляет обе стороны конфликта без возможности проверки.

Что это значит для вас?

Авторам и копирайтерам на Дзене. Если вы пишете об ИИ или используете нейросети в работе, этот конфликт напоминает: за фасадом продуктов вроде ChatGPT идёт реальная борьба за то, насколько открыто компании будут говорить о рисках. Когда компания увольняет людей, отвечающих за безопасность, и не объясняет причин, это повод критичнее относиться к заявлениям о «безопасности по умолчанию».

Маркетологам и предпринимателям в РФ и СНГ. Безопасность ИИ (openai безопасность ai) касается вас напрямую: если вы строите продукты на API OpenAI или других зарубежных сервисов, внутренние конфликты в этих компаниях создают репутационные и операционные риски. Стоит иметь план Б. Из доступных в РФ альтернатив для базовых задач работают YandexGPT и GigaChat, хотя набор функций у них уже.

Всем, кто работает с ИИ. Случай показывает системную проблему: исследователи безопасности внутри компаний оказываются в уязвимом положении. Они видят риски, но связаны соглашениями о конфиденциальности. Публичная критика может стоить работы, молчание может стоить безопасности пользователей.

Конфликт между OpenAI и уволенными исследователями далёк от разрешения, но уже сейчас он показывает главное: в гонке за мощностью моделей безопасность остаётся зоной, где интересы компании и её же сотрудников могут оказаться по разные стороны.

По данным The Verge