Кибербезопасность и искусственный интеллект: урок цифры от трёх нобелевских лауреатов ИИ

Дискуссия прошла на конференции Ai4 в Лас-Вегасе на прошлой неделе. Три исследователя, каждый из которых формировал индустрию ИИ десятилетиями, разошлись в деталях, но сошлись в главном: горстка компаний не должна контролировать доступ к технологии. Тема напрямую связана с вопросами кибербезопасности и искусственного интеллекта, которые сегодня обсуждают и на уровне школьных программ вроде «Урока цифры», и в правительственных кабинетах.

Что именно обсуждали?

Центральный вопрос: должны ли модели ИИ оставаться открытыми, то есть доступными для скачивания, изучения и адаптации любым разработчиком, или доступ к ним должны контролировать крупные лаборатории?

Хинтон провёл границу, которую часто не замечают. Открытый код (open-source) и открытые веса (open weights, параметры обученной модели, которые можно скачать и использовать) это разные вещи. Код можно проверить построчно, найти ошибку. С весами иначе: любой желающий может взять дорогую модель и сравнительно дёшево переобучить её, в том числе для вредоносных задач вроде кибератак.

Нг смотрел на проблему с другой стороны. Если небольшое число корпораций становится «привратниками» (gatekeepers), повторяется ситуация мобильного рынка: Apple и Google контролируют платформы и влияют на то, что на них строится.

«Если бы мне нужно было дать одну рекомендацию, я бы сказал: продвигайте открытость, потому что ИИ это удивительная технология, и я хочу, чтобы она была в руках у каждого.» : Эндрю Нг, сооснователь Coursera

Ли предложила третий путь. Она привела пример ядерной физики: научные статьи публикуются открыто, уран регулируется, а лабораторная работа находится где-то между. Так же и с ИИ: разные слои экосистемы могут работать при разной степени открытости.

Геополитический аргумент: почему Китай уже в игре?

Нг добавил аргумент, критически важный для любого, кто следит за темой кибербезопасности и искусственного интеллекта. Он предупредил: китайские модели с открытыми весами уже активно внедряются в Африке и развивающихся странах Азии. Если эти модели станут дешевле и удобнее, они получат «фундаментальное бизнес-преимущество» при массовом внедрении и смогут влиять на то, как миллиарды людей воспринимают идеи демократии, свободы и прав человека.

«Моё беспокойство в том, что из-за лоббирования и нагнетания страха в США разработка открытого ИИ в Америке с трудом конкурирует с моделями с открытыми весами, которые выходят из Китая.» : Эндрю Нг

Это мягкая сила (soft power) через технологию: кто поставляет инфраструктуру, тот формирует среду. Ли при этом возразила: сводить вопрос к дихотомии «полная открытость или полная закрытость» опасно.

Хинтон: «Битва проиграна», но риски остались

Хинтон, известный скептическими высказываниями о рисках ИИ, признал: модели с открытыми весами уже стали постоянной реальностью. Барьер входа, который раньше определялся стоимостью обучения больших моделей, исчез.

При этом он настоял: беспокойство о рисках не делает человека паникёром. ИИ будет повышать производительность, улучшать образование и медицину. Но вопрос о том, что сделают системы, которые умнее нас, остаётся открытым.

«Нельзя оставлять решения о том, как развивать ИИ, на усмотрение людей вроде Илона Маска и Марка Цукерберга.» : Джеффри Хинтон

Все трое сошлись в одном: регулирование необходимо.

Что это значит для вас?

Авторам Дзена и копирайтерам. Тема кибербезопасности и искусственного интеллекта, в том числе в формате «Урока цифры», становится частью массовой повестки. Если вы пишете про ИИ, аргумент Хинтона о различии между открытым кодом и открытыми весами отлично ложится в объяснительный контент: читатели часто путают эти понятия, а разница принципиальна.

Маркетологам. Выбор между закрытой моделью (например, от OpenAI) и моделью с открытыми весами (Llama от Meta, Qwen от Alibaba) это не только вопрос цены. Это вопрос контроля: кто видит ваши данные, кто решает, что модель может и не может делать. Аргумент Нг про «привратников» касается каждого, кто строит продукт поверх чужой модели.

Предпринимателям в РФ и СНГ. Дискуссия напрямую касается выбора инфраструктуры. Из моделей, доступных в России: YandexGPT (закрытая модель), GigaChat от Сбера (закрытая модель), а также открытые модели, которые можно развернуть самостоятельно. Геополитический аргумент Нг работает в обе стороны: зависимость от любого внешнего поставщика, американского или китайского, создаёт риски. Собственная экспертиза в дообучении (fine-tuning, адаптация готовой модели под свои задачи) открытых моделей становится стратегическим активом.

Хинтон сказал, что битва за закрытость проиграна. Вопрос теперь не в том, будут ли модели открытыми, а в том, кто установит правила их использования и хватит ли у общества воли не отдать это решение трём-четырём компаниям.

По данным TechCrunch