Ford вернула 350 инженеров для исправления ошибок искусственного интеллекта на заводах

Историю опубликовало издание The Verge по итогам пресс-брифинга руководства Ford. Компания лидировала в отрасли по числу отзывных кампаний, а рейтинги качества падали несколько лет подряд. Теперь Ford перестроила процессы и поднялась на первое место в рейтинге начального качества JD Power (авторитетная американская оценка дефектов в новых автомобилях), чего не случалось с 2009 года. Разбираем, что пошло не так и какие выводы полезны тем, кто автоматизирует работу в России.

Что признал Ford и как исправлял ошибки искусственного интеллекта?

• Автоматизация без экспертных данных снизила качество. Ford полагала, что достаточно внедрить ИИ и скорректировать проектные требования. Но модели обучались на неполных данных, потому что опытные инженеры уволились раньше, чем их знания попали в систему.

• Вернули людей. Компания наняла, повысила или вернула из отставки более 350 опытных инженеров. Их задача: переобучить автоматизированные системы (то есть провести дообучение, повторное обучение модели на корректных примерах) и менторить молодых специалистов.

• Перешли от «найди и почини» к предотвращению. По словам операционного директора Кумара Гальхотры, раньше разные отделы работали изолированно и искали дефекты уже после их появления. Теперь Ford отслеживает ранние индикаторы проблем, а не реагирует постфактум.

• Создали отдельную команду качества софта. 40 человек занимаются исключительно предотвращением программных сбоев. Раньше баги в софте находили поздно, потому что компания не использовала быстрые циклы итераций (повторных проверок кода).

• Добавили 100 000+ автоматизированных тестов на базе ИИ. Тесты ищут крайние случаи (edge cases, нетипичные сценарии, которые обычная проверка пропускает) и нагружают системы в широком диапазоне условий. Даже при позднем изменении кода весь цикл валидации прогоняется заново.

«Мы ошибочно полагали, что достаточно просто внедрить искусственный интеллект и скорректировать проектные требования, и это даст продукт высокого качества» : Чарльз Пун, вице-президент Ford по аппаратной инженерии автомобилей

«Мы переходим от подхода "найди и почини" к предотвращению проблем до их появления. Хватит любоваться проблемой, пора её решать» : Кумар Гальхотра, операционный директор Ford

Почему ИИ без людей не справился?

Ford назвала две причины. Первая: качество любой модели ИИ полностью зависит от обучающих данных. Если данные неполные, результат будет с ошибками. Вторая: компания недооценила так называемое институциональное знание (опыт, накопленный сотрудниками за десятки лет и несколько циклов разработки новых моделей автомобилей). Эти знания не были формализованы и потерялись вместе с уволившимися людьми.

Результат: рост числа отзывных кампаний, проблемы с запуском моделей Explorer и Aviator, сбои в цепочках поставок во время пандемии.

Примечательно, что Ford не отказывается от ИИ. Напротив, компания наращивает автоматизированное тестирование. Но теперь опытные инженеры стоят в цепочке между данными и моделью, проверяя, что автоматика обучается на корректных примерах.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы используете нейросети для генерации текста, кейс Ford напрямую касается вас. Нейросеть обучена на общих данных, а ваша экспертиза в нише, это и есть то «институциональное знание», которое потерял Ford. Не отдавайте финальную редактуру машине: проверяйте факты, цифры и выводы, которые ИИ вставляет в текст.

Маркетологу. Ошибки искусственного интеллекта в автоматических рассылках, чат-ботах и сегментации аудитории обнаруживаются так же поздно, как баги в автомобильном софте Ford. Назначьте конкретного человека, который проверяет выходные данные автоматизации, это дешевле, чем разгребать последствия.

Предпринимателю в РФ. Российские компании массово внедряют YandexGPT, GigaChat и автоматизацию процессов. Урок Ford универсален: прежде чем увольнять опытных сотрудников и заменять их ИИ, убедитесь, что их знания перенесены в систему. Иначе через год вы будете нанимать тех же людей обратно, но дороже.

Есть ли аналогия в России?

Прямого аналога ситуации Ford среди российских автопроизводителей в источнике нет, и сравнивать напрямую некорректно. Но принцип работает одинаково: если вы дообучаете YandexGPT или GigaChat на корпоративных данных, качество результата определяется полнотой и точностью этих данных. Пустили процесс без эксперта, получили галлюцинации (ситуации, когда ИИ уверенно выдаёт несуществующие факты). Ford потратила годы, чтобы это понять. Вам необязательно повторять.

Частые вопросы

Ford отказался от ИИ?

Нет. Компания, наоборот, добавила более 100 000 автоматизированных тестов на базе ИИ. Но теперь опытные инженеры контролируют данные, на которых обучаются модели, и проверяют результаты до того, как те попадут в производство.

Какое отношение история Ford имеет к авторам и маркетологам?

Прямое. Ошибки искусственного интеллекта возникают одинаково: модель работает с неполными или некорректными данными и выдаёт результат, который выглядит правдоподобно, но содержит дефект. В тексте это галлюцинация, на заводе это брак. Контроль человека на выходе решает обе проблемы.

Рейтинг JD Power, это надёжный показатель?

JD Power Initial Quality Study (исследование начального качества новых автомобилей) считается одним из стандартных отраслевых замеров в США. Он оценивает количество дефектов в первые 90 дней владения. Ford возглавила рейтинг среди массовых брендов впервые за 16 лет, что как минимум фиксирует улучшение по формальным метрикам.