Стартап создал ИИ, генерирующий вирусы с нуля: биобезопасность ИИ требует гонки, а не торможения

Тема всплыла после того, как атака OpenAI на Hugging Face заставила индустрию спросить: «Чего ещё бояться?» Фильтры Anthropic выделяют два главных направления угроз: кибербезопасность и биологию. Клем Деланг из Hugging Face настаивает, что оборонительные инструменты в кибервойне должны быть открытыми и не отставать от атакующих возможностей передовых моделей. Эрик Нгуен, сооснователь Radical Numerics, развивает ту же логику для биологии: модели, которые наращивают биологические возможности, должны одновременно удерживать оборону от отставания.

Как геномные модели научились создавать вирусы?

GLM (Genomic Language Model, языковая модель для геномов) работает по тому же принципу, что и ChatGPT, но вместо слов оперирует «буквами» ДНК: всего четыре символа (A, C, T, G). Разница в масштабе: средний человеческий ген содержит около 60 тысяч таких символов, отдельные последовательности достигают 2,3 миллиона, а полный геном человека занимает около 3 миллиардов.

Эрик Нгуен начал работу над GLM ещё в Стэнфорде, но долго не мог убедить биологов: те не верили в результат, не понимали, как верифицировать выходные данные, и не видели применений за пределами уже известных методов. Нгуен продолжал и в итоге участвовал в разработке моделей Evo и Evo 2 в Arc Institute. Отдельная команда Arc и Стэнфорда затем использовала эти модели, чтобы сгенерировать полные геномы бактериофагов (вирусов, поражающих бактерии), которые были синтезированы в лаборатории и оказались функциональными.

Технологически это стало возможным благодаря длинному контексту (long context, способность модели «держать в голове» очень большой объём информации за один проход). Инновации в длинноконтекстных архитектурах появились примерно три года назад, задолго до того, как крупные лаборатории начали строить модели с окном контекста свыше миллиона токенов (токен, минимальная единица текста для модели).

Аргументы за: гонка вперёд защищает лучше, чем торможение

Radical Numerics занимает позицию, которая звучит контринтуитивно: чтобы защититься, нужно двигать границу технологий быстрее, а не замедляться. Вот ключевые доводы.

• Оборона отстаёт уже сейчас. По словам Нгуена, защита в биобезопасности проигрывает нападению. Если оборонительные GLM не будут развиваться наравне с наступательными, разрыв увеличится.
• Модели уже «мыслят» на языке ДНК. Команда Radical Numerics провела эксперимент с аптамерами (aptamers, короткие молекулы РНК, которые связываются с конкретными мишенями). Модели показывали последовательности с низкими оценками эффективности, постепенно повышая планку, а затем просили продолжить тренд. Модель самостоятельно воспроизвела результаты лучших аптамеров, которых ей не показывали. Фактически это аналог «цепочки рассуждений» (chain-of-thought, пошаговое рассуждение модели), только на языке ДНК, а не на естественном языке.
• GLM обобщают на несколько «языков». Хотя модели обучены на ДНК, они уже неплохо работают с РНК и белками, потому что в последовательности ДНК заложены маркеры генов и белок-кодирующих участков. Это означает мультимодальность (multimodal, способность работать с разными типами данных) ещё до целенаправленного обучения на 3D-структурах белков, эпигенетике или естественном языке.
• Открытость усиливает защиту, а не ослабляет. Аргумент Клема Деланга, поддержанный Radical Numerics: если оборонительные технологии будут закрытыми, только атакующая сторона сохранит темп.

Аргументы против: открытое ускорение множит угрозы

Контрдоводы не менее весомы, и честный разбор биобезопасности ИИ без них невозможен.

• Публикация моделей снижает порог входа для атаки. Открытые веса (open weights, когда параметры модели доступны всем) означают, что любой желающий может запустить GLM и генерировать опасные последовательности. Фильтры Anthropic, которые уже помечают биологию как зону риска, бессильны против моделей за пределами их контроля.
• Верификация отстаёт от генерации. Нгуен сам признаёт, что биологи поначалу не понимали, как проверять выходные данные GLM. Если модель генерирует функциональный геном вируса, лабораторная верификация занимает недели; выпуск, секунды.
• «Больше технологий» не равно «больше безопасности». Аналогия с кибербезопасностью хромает: в кибермире патч закрывает уязвимость для всех, а в биологии синтезированный патоген нельзя «откатить» обновлением.
• Регулирование не успевает ни в одной юрисдикции. Ни в США, ни в ЕС, ни в России пока нет адекватного правового каркаса для контроля GLM.

Оборона сейчас проигрывает в этой битве, но мы в Radical Numerics считаем, что нужно двигать фронтир ещё агрессивнее. : Эрик Нгуен, сооснователь и CEO Radical Numerics, PhD в области биоинженерии и ИИ, Стэнфордский университет

Что это значит для вас, по ролям?

Авторам Дзена и копирайтерам. Тема биобезопасности и ИИ пока не перегрета в русскоязычном пространстве. Кто первым объяснит, что такое геномные языковые модели простым языком, соберёт трафик из нового информационного слоя.

Маркетологам и бренд-стратегам. Компании в biotech и healthtech скоро начнут позиционироваться через «ответственный ИИ в биологии». Это новый сегмент коммуникаций, к которому стоит присмотреться уже сейчас.

Предпринимателям в РФ и СНГ. Геномные модели пока разрабатываются преимущественно в Стэнфорде и Arc Institute. В России нет публичных аналогов GLM уровня Evo 2. Однако развитие российских оборонительных биотехнологий на стыке с ИИ становится локальной задачей: если атакующие модели открыты и доступны глобально, оборонительные не могут существовать только на импортных решениях.

Следить стоит не за самими GLM, а за компаниями, которые контролируют синтез ДНК: именно они остаются последним физическим барьером между сгенерированным геномом и реальным патогеном, и именно на этом рубеже в ближайший год развернётся настоящая регуляторная борьба.