Доверие к нейросетям без ревью кода: три кейса, где ИИ ломал продакшен

Источник этого разбора собрал три собирательных, но узнаваемых кейса: senior-разработчик, DevOps-инженер и Data Scientist, каждый из которых постепенно отдал модели не только рутину, но и само мышление. Проблема не в инструменте, а в том, что удобство незаметно подменяет компетенцию.

Что понадобится

• Любой ИИ-ассистент для кода: ChatGPT, Claude, Copilot, Cursor или российские аналоги (GigaCode, YandexGPT)
• Редактор кода или терминал для ручной проверки результатов
• 30 минут на перестройку привычного рабочего процесса
• Готовность честно ответить себе на вопрос: «Смогу ли я решить эту задачу без чата?»

Пошаговая инструкция: как пользоваться ИИ и не терять навыки

1. Сформулируйте задачу сами, до открытия чата. Запишите в комментарии или на бумаге: что за проблема, какие ограничения, какой результат нужен. Если не можете описать задачу без ИИ, это первый сигнал зависимости.

2. Набросайте решение вручную, хотя бы псевдокодом. Не обязательно писать рабочий код. Достаточно наметить структуру: какие шаги, какие проверки, где могут быть ошибки. Это занимает пять минут, но сохраняет навык декомпозиции.

3. Передайте модели конкретную подзадачу, а не всю проблему целиком. Вместо промпта «напиши парсер CSV с транзакциями» разбейте на части:

Напиши функцию, которая читает CSV-файл с указанной кодировкой
и возвращает список словарей. Учти: файл может прийти
в Windows-1251 или UTF-8 с BOM. Обработай ошибки чтения.

1. Примените технику «Объясни мне». После получения кода задайте модели уточняющие вопросы:

1. Объясни по шагам, почему выбран этот подход.
2. Какие альтернативы ты рассмотрел и почему отверг?
3. Какие проблемы всплывут в проде через полгода?
4. Покажи trade-offs между этим вариантом и [вашей альтернативой].

Если модель не может внятно ответить, решение поверхностное или содержит скрытые ошибки.

1. Проверьте результат руками, а не глазами. Прогоните код на граничных данных: пустой файл, битая строка, отрицательная сумма, неизвестная валюта. Модели стабильно пропускают именно такие случаи.

2. Задокументируйте, что добавили сами. Каждая проверка, которую вы дописали поверх сгенерированного скелета, это ваша экспертиза. Фиксируйте в комментариях, почему эта проверка нужна. Это пригодится на ревью и при передаче кода коллегам.

3. Раз в неделю решайте одну задачу полностью без ассистента. Не ради мазохизма, а чтобы мышцы не атрофировались. Ручная отладка, чтение документации, трассировка кода, всё, что модель делает за вас каждый день.

Правило 80/20 в действии

80% времени тратьте на собственное мышление: анализ, проектирование, понимание проблемы. 20% отдайте модели на реализацию, оптимизацию и рутину.

Перевернутая пропорция, когда 80% работы делает ассистент, а вы только копируете, приводит к ситуациям из кейсов ниже.

Три кейса, когда доверие к нейросетям стало ловушкой

Senior-разработчик. Восемь лет опыта, два года работы почти исключительно через Copilot и Cursor. На собеседовании получил задачу: оптимизировать метод на 30% без смены публичного API. Скопировал код в чат с промптом «оптимизируй», модель ответила «код уже оптимален». Без подсказки не смог провести мысленную трассировку, не заметил лишние аллокации внутри цикла. Навык атрофировался. Отказ после техинтервью.

DevOps-инженер. Автоматизировала инфраструктуру через Terraform и ассистентов, документацию Nginx и HAProxy глубоко не читала. В пятницу вечером упал прод. ИИ предлагал стандартное: перезапуск, проверка конфигов. Причина оказалась в редком сочетании версии ПО и нестандартной настройки ядра. Не знала, как вручную проверить сокеты через ss -tlnp, не понимала TCP keepalive на уровне ядра. Инцидент тянулся часами вместо минут.

Data Scientist. Отдавал ИИ почти весь разведочный анализ данных (EDA, exploratory data analysis) и построение моделей. Бизнес попросил предсказать отток B2B-клиентов. Модель натянула стандартный пайплайн, но не учла: в B2B отток часто бизнес-решение, а не статистический паттерн. Специалист не смог сам сформулировать гипотезу про обращения в поддержку после релизов. В проде модель оказалась бесполезной.

Все три случая собирательные, но характерные. Динамика одинаковая: сначала скорость растёт, потом падают сопровождаемость кода и собственный навык без ИИ.

Что делать прямо сейчас, по ролям

Автору Дзена и копирайтеру. Принцип тот же, что и для разработчика: не давайте нейросети писать текст целиком, а потом ставить своё имя. Генерируйте черновик, но структуру, тезисы и проверку фактов оставляйте себе. Доверие к нейросетям у читателей падает, когда текст пахнет шаблоном.

Маркетологу. Если вы используете ИИ для аналитики или генерации отчётов, проверяйте цифры вручную. Галлюцинации в маркетинговом отчёте бьют по бюджету, а не только по репутации.

Разработчику и DevOps в РФ. Все описанные инструменты (ChatGPT, Claude, Copilot) доступны с ограничениями. Из российских альтернатив работают GigaChat и YandexGPT. Принципы те же: не отдавайте модели весь процесс, разбивайте задачу на части, проверяйте результат на граничных случаях. Раз в неделю решайте задачу без ассистента, чтобы навык не ржавел.

Лучший тест на то, инструмент ли для вас ИИ или уже костыль: закройте чат и попробуйте объяснить коллеге последнее решение, которое «написали вместе с моделью». Если не можете, пора менять пропорцию.