Хакерское мышление по Уокеру: правила это договорённость, а доверие пользователей расходуется

Это не лабораторное исследование с выборкой и замерами, а интервью в подкасте. Майк Уокер руководит проектами Microsoft Research на стыке ИИ, кибербезопасности и крупных распределённых систем. Вопросы ему задаёт Вейшунг Лю, главный технический руководитель программ в Microsoft Research.

Что обсуждали и почему это не замер?

DARPA, американское агентство перспективных оборонных исследований, провело Cyber Grand Challenge (CGC), а руководил программой Уокер. Суть турнира простая: участвуют не люди, а программы. Они сами находят уязвимости (ошибки в коде, через которые злоумышленник проникает в систему) и сами ставят патчи, то есть заплатки, закрывающие эту дыру.

Представьте шахматный турнир, где за доской сидят только компьютеры, но вместо фигур у них чужие программы, которые нужно вскрыть, и свои, которые нужно защитить. Подкаст Microsoft Research называет CGC программой, которая первой показала автономные ИИ-системы в такой роли.

Метода измерений в выпуске нет: это рассказ практика о карьере и взглядах. Уокер объясняет, как увлечение хакерской культурой привело его к созданию киберзащиты следующего поколения, и почему безопасность держится на доверии и контексте.

Пять мыслей Уокера о правилах и защите

• Хакерское мышление начинается с правил. Уокер говорит, что правила нужно понимать, чтобы делать то, что хочешь, и подчёркивает: правила это социальная договорённость, а не закон природы.
• Доверие пользователей расходуется. По его словам, каждое требование системы безопасности к людям это просьба о доверии, и если доверие растратить, вся система защиты рушится.
• Соревнования учат командной работе. Состязательный взлом, по словам ведущих, научил его командной работе и коллективному интеллекту, когда группа находит решения, недоступные одиночке.
• Машины учат защищаться. Работа Уокера охватывает анализ памяти облачных систем, автоматический разбор вредоносных программ и киберзащиту следующего поколения.
• Вопрос о безопасности открыт. Ведущая ставит вопрос, стали ли сетевые системы безопаснее за 10 лет с момента CGC. Ответа в опубликованном фрагменте расшифровки нет.

Каждый раз, когда система безопасности чего-то требует от пользователей, вы просите их доверия. А доверие это ценный ресурс. Растратите доверие, и режим безопасности рушится. : Майк Уокер, руководитель исследований Microsoft Research

Обратите внимание на деталь: беседа вышла в год юбилея CGC. Поэтому разговор звучит как подведение итогов десятилетия, а не как анонс нового продукта. Новых цифр, моделей или сроков Microsoft в выпуске не называет.

Есть и личная линия. Уокер вырос в Колумбусе, штат Огайо, а лето проводил на ферме в городке Таппаханнок в Вирджинии. Отец, наполовину учёный и наполовину венчурный инвестор, приносил ему промышленное оборудование, например гелий-неоновый лазер, со словами «Посмотри, что из этого можно сделать». Сам Уокер возился с компьютером Apple II, задолго до того, как узнал слово «хакерская культура». Сегодня он участвует в ультрамарафонских велогонках, где проверяет на прочность обычный велосипед.

Что делать с этим прямо сейчас, по ролям?

Автору Дзена. Мысль Уокера о доверии переносится на контент напрямую. Каждый раз, когда вы просите читателя подписаться, перейти по ссылке или оставить телефон, вы тратите его доверие. Просьб без явной пользы должно быть меньше.

Маркетологу. Если ваш сервис требует от клиента сложных паролей, лишних подтверждений и проверок, посмотрите на это глазами Уокера. Неудобная защита раздражает, и люди начинают её обходить, а это хуже, чем отсутствие правил.

Предпринимателю в России и СНГ. Подкаст не про конкретный продукт, так что вопрос «доступно или нет» здесь не стоит. Полезнее идея: автоматический поиск уязвимостей машиной уже 10 лет как вышел из лаборатории. Спросите своего подрядчика по безопасности, какие проверки у вас идут автоматически, а какие только вручную.

Уроки Уокера пригодятся каждому, кто просит у людей внимания: берегите доверие, его не восстановить заплаткой.

По данным Microsoft Research Podcast