Калибровка моделей ИИ: почему 0.8 на выходе классификатора не означает 80%

Проблема калибровки моделей ИИ стоит отдельно от точности. Модель может отлично разделять классы и при этом систематически врать о своей уверенности. Материал основан на курсе «Машинное обучение. Экспертный уровень», опубликованном на Хабре, и разбирает конкретные шаги: как обнаружить проблему, измерить её и починить, не трогая саму модель.

Что понадобится

• Python 3.8+ с библиотеками scikit-learn и numpy
• Обученный классификатор, который выдаёт predict_proba или decision_function
• Отложенная выборка данных, которую модель не видела при обучении (калибровочная выборка)
• Около 30 минут на первый проход и построение калибровочной кривой

Какую проблему решаем?

Вы обучили классификатор. Он выдаёт predict_proba. Вы берёте эти числа как вероятности и строите логику: если модель уверена больше чем на 0.8, принимаем решение автоматически, меньше, отправляем человеку.

Но число 0.8 на выходе, это не вероятность в обычном смысле. Это внутренний скор, который модель выдала, оптимизируя свою функцию потерь (loss function, формулу, по которой модель учится минимизировать ошибки). Скор неплохо ранжирует объекты: те, кому модель дала выше, обычно действительно «правее» тех, кому ниже. Но как абсолютная вероятность он врёт, иногда сильно.

Как разные модели врут по-разному?

Характер вранья зависит от архитектуры, и это важно для выбора метода починки.

• Нейросети с софтмаксом почти всегда переуверены. Выдают 0.99 там, где реальная частота около 80%. Причина: сеть с большой ёмкостью загоняет логиты (сырые числа перед финальным преобразованием) в крайние значения при долгом обучении
• Градиентный бустинг врёт наоборот: стягивает предсказания к середине. Уверенные случаи получают не 0.99, а 0.85, потому что усреднение по деревьям сглаживает
• Наивный байес печально известен экстремальными вероятностями: 0.9999 и 0.0001. Причина в предположении о независимости признаков, которое почти никогда не выполняется

Пошаговая инструкция

1. Постройте калибровочную кривую. Разбейте предсказания на корзины по уровню вероятности и для каждой корзины посмотрите, какая доля объектов реально положительная. Откалиброванная модель ляжет на диагональ:

from sklearn.calibration import calibration_curve

frac_pos, mean_pred = calibration_curve(y_test, probs, n_bins=10)
# frac_pos — реальная доля положительных в корзине
# mean_pred — средняя предсказанная вероятность в корзине
# идеал: frac_pos == mean_pred

1. Посчитайте ECE (Expected Calibration Error, ожидаемая ошибка калибровки, число, которое показывает, насколько модель врёт о своей уверенности). ECE равный нулю означает идеальную калибровку. Чем больше, тем хуже:

import numpy as np

def expected_calibration_error(y_true, probs, n_bins=10):
    bins = np.linspace(0, 1, n_bins + 1)
    ece = 0.0
    for i in range(n_bins):
        mask = (probs >= bins[i]) & (probs < bins[i + 1])
        if mask.sum() > 0:
            acc = y_true[mask].mean()
            conf = probs[mask].mean()
            ece += mask.mean() * abs(acc - conf)
    return ece

1. Определите тип искажения по форме кривой. Кривая выше диагонали означает недоуверенность, ниже диагонали означает переуверенность. Форма подскажет метод починки.

2. Примените Platt scaling для сигмоидных искажений. Обучите логистическую регрессию (Logistic Regression, линейная модель, которая переводит число в вероятность через S-образную функцию) поверх сырых скоров модели на отложенной выборке:

from sklearn.linear_model import LogisticRegression

raw_scores = model.decision_function(X_cal).reshape(-1, 1)
calibrator = LogisticRegression().fit(raw_scores, y_cal)

calibrated = calibrator.predict_proba(
    model.decision_function(X_new).reshape(-1, 1)
)

1. Проверьте результат. Постройте калибровочную кривую заново на тестовой выборке (не на калибровочной!) и сравните ECE до и после. Кривая должна лечь ближе к диагонали.

Platt scaling хорошо работает, когда искажение имеет сигмоидную (S-образную) форму. Это типично для SVM (метод опорных векторов, модель, которая ищет границу между классами) и случаев, когда модель врёт «плавно». У метода всего два параметра, поэтому калибровочная выборка может быть небольшой.

Что делать с этим прямо сейчас, по ролям

Автору Дзена и копирайтеру. Если вы используете ИИ-классификатор для сортировки черновиков или определения тональности, проверьте: число на выходе модели, это не «процент уверенности». Постройте калибровочную кривую, прежде чем автоматизировать решения на основе порога.

Маркетологу. Скоринговые модели для лидов и сегментации часто выдают некалиброванные скоры. Порог «отправлять в отдел продаж, если скор выше 0.7» может пропускать или отсеивать не тех клиентов. Попросите аналитика проверить калибровку, это 30 минут работы, а не переобучение модели.

Разработчику и предпринимателю в РФ. Все методы из этой инструкции работают в scikit-learn без ограничений, никаких подписок и заблокированных API. Из российских платформ: Yandex DataSphere и ML-сервисы SberCloud поддерживают Python-стек, калибровку можно запускать прямо там.

Один простой тест, калибровочная кривая, покажет, врёт ли ваша модель о своей уверенности. Починить это можно за полчаса, не трогая саму модель. Но узнать о проблеме и ничего не сделать хуже, чем не знать: теперь каждый порог, который вы ставите на predict_proba, это осознанный выбор, а не слепое доверие числу.