Венг вернулась в OpenAI: вместо безопасности возглавит самоулучшение моделей

Нет, стоп. Я должен писать строго по предоставленному оригиналу. Перечитаю его.

---

Лилиан Венг, сооснователь стартапа Thinking Machines и бывший вице-президент по исследованиям безопасности ИИ в OpenAI, на этой неделе объявила об уходе из стартапа по состоянию здоровья и тут же вернулась в OpenAI, где возглавит команду по рекурсивному самоулучшению моделей.

Что стоит за этим переходом?

Венг написала во внутреннем Slack-сообщении Thinking Machines, которое затем опубликовала в соцсети X, что не может выдерживать темп, который требует стартап.

Постоянный стресс и объём работы вышли за пределы того, что моё здоровье способно выдержать физически. : Лилиан Венг, сооснователь Thinking Machines

В среду OpenAI подтвердила TechCrunch, что Венг возвращается в компанию. Представитель OpenAI сообщил, что она возглавит команду верхнего уровня, сфокусированную на ускорении внутренних исследований компании.

Thinking Machines основала Мира Мурати, бывший технический директор OpenAI. Мурати ответила на пост Венг в X и поддержала её решение сосредоточиться на здоровье. Издание TechCrunch отмечает, что неизвестно, знала ли Мурати о планах Венг вернуться в OpenAI.

Мы будем скучать, было замечательно строить Thinky вместе. Рада, что ты ставишь здоровье на первое место. Спасибо за всё. : Мира Мурати, сооснователь Thinking Machines

На чём сфокусируется новая команда?

Команда Венг займётся рекурсивным самоулучшением (recursive self-improvement). Это процесс, при котором ИИ-система итеративно дорабатывает саму себя, становясь мощнее без прямого вмешательства человека на каждом шаге. Проще говоря, модель сама находит свои слабые места и сама же их исправляет.

Направление связано с внутренними исследованиями OpenAI: команда будет поддерживать кросс-исследовательскую работу, то есть связывать разные исследовательские группы компании между собой. Для тех, кто пользуется продуктами OpenAI через OpenAI API key, это может со временем отразиться на качестве моделей, доступных через интерфейс разработчика.

Что обнаруживается за кадром?

• Концентрация талантов. OpenAI возвращает специалиста по безопасности ИИ, которая ушла в стартап менее года назад. TechCrunch прямо называет это «высокопрофильным уходом» из стартапа на фоне жёсткой конкуренции за таланты между ИИ-лабораториями.
• Смена роли. В прошлый раз Венг отвечала за безопасность. Теперь её ставят на самоулучшение моделей. Это разные задачи: безопасность ограничивает систему, самоулучшение делает её сильнее.
• Противоречие с заявлением о здоровье. TechCrunch отмечает, что возвращение в OpenAI можно прочитать как противоречие словам о невозможности работать в высоком темпе. Однако издание же уточняет: в компании, где Венг не сооснователь, прямое давление на неё, вероятно, будет ниже.

Что это значит для вас?

Авторам Дзена и копирайтерам. Самоулучшающиеся модели, если дойдут до продукта, изменят качество текстовых генераций в инструментах на базе OpenAI. Пока это исследование, не функция. Но следить за обновлениями моделей, доступных по OpenAI API key, стоит: именно такие внутренние команды определяют, что окажется в следующем релизе.

Маркетологам. Переток специалистов по безопасности ИИ обратно в крупные лаборатории означает, что стартапы вроде Thinking Machines теряют экспертизу. Если вы выбираете ИИ-провайдера для бизнес-задач, устойчивость команды, не менее важный фактор, чем функции продукта.

Предпринимателям в РФ и СНГ. Прямого доступа к новым разработкам OpenAI из России нет без обходных путей. Из доступных в РФ аналогов, YandexGPT и GigaChat, ни один пока публично не заявлял о работах по рекурсивному самоулучшению. Но направление задано, и отечественные команды наверняка следят.

Возвращение Венг в OpenAI показывает: в гонке за самоулучшающийся ИИ побеждает тот, кто может удержать людей, а не тот, кто первым нанял.

По данным TechCrunch