Разоблачитель Theranos: ИИ-бум прикрывает мошенничество с помощью нейросетей

Холмс отбывает срок в федеральной тюрьме, её дело закрыто, но интерес к ней вернул документальный фильм You Can See Everything. По словам издания, он вошёл в число самых кассовых документальных лент в истории. На этом фоне Шульц в интервью The San Francisco Standard объяснил, почему уроки Theranos сегодня важнее, чем десять лет назад.

Что нового?

• Шульц считает, что ИИ-бум даёт мошенникам удобное прикрытие. Его слова: «Если вы хотите обманывать людей, это отличная возможность».
• Главную проблему он видит в проверке перед сделкой (due diligence, когда инвестор изучает, работает ли продукт на самом деле). С ИИ это, по его словам, «очень трудно».
• Отличить настоящую разработку от «обёртки над ChatGPT» тоже непросто. Обёртка — это сервис, который передаёт ваш запрос в чужую модель и выдаёт ответ под своей вывеской.
• Фоном служат компании, которые ни разу не показали прибыль, но привлекают деньги при оценке в триллионы долларов. Конкретных названий в приведённых цитатах Шульц не даёт.
• Холмс с партнёром развивает диагностическую компанию Haemanthus и сама называет её «Theranos 2.0».

Шульц не стал смотреть фильм, чтобы составить мнение о Холмс: его первой работой после университета была Theranos. Именно он рассказал, что её приборы для анализа крови давали неточные результаты. Эти приборы попали в магазины Walgreens, и ошибочные данные получали реальные пациенты.

Думаю, времена, когда можно было полчаса выпить с кем-то кофе и отправить ему $100 000, должны закончиться. Элизабет взяла эту модель и масштабировала её до $100 млн. : Тайлер Шульц, бывший сотрудник и разоблачитель Theranos

Его дед, бывший госсекретарь и министр финансов США Джордж Шульц, сам вкладывался в Theranos и входил в её совет директоров. Деньги компании давали в основном частные инвесторы, например семьи Девос и Уолтон, а не венчурные фонды.

Научных доказательств того, что приборы работают, Theranos инвесторам не показывала и ссылалась на коммерческую тайну. Многие крупные венчурные фонды Кремниевой долины из-за этого отказались от сделки. Сама Theranos проводила на своих машинах лишь малую часть анализов, остальные отдавала на чужое оборудование.

Как проверить ИИ-сервис, прежде чем платить?

Это не запуск продукта, и пробовать здесь нечего. Зато уроки Шульца можно сразу превратить в порядок действий перед покупкой любого «умного» сервиса:

1. Попросите показать, как продукт работает на ваших задачах, а не на демо-ролике. Отказ со ссылкой на коммерческую тайну насторожил фонды ещё в истории Theranos.
2. Спросите, на какой модели построен сервис. Если ответа нет, перед вами вполне может быть обёртка над чужой нейросетью по завышенной цене.
3. Сравните результат с тем, что даёт сама базовая модель напрямую. Разница должна быть заметна на вашей работе, а не на словах.
4. Не платите за годовой тариф после одной презентации. По словам Шульца, такая модель «полчаса кофе и деньги» и вырастила Theranos.

Как сверить сервис с российскими нейросетями?

Из доступных в РФ моделей можно взять YandexGPT и GigaChat. Положите рядом ответ платного сервиса и ответ одной из этих моделей на тот же промпт (текстовое задание для нейросети). Если результаты почти одинаковы, вы переплачиваете за упаковку.

Автору, маркетологу и предпринимателю: что сделать сейчас

Автору Дзена: перед покупкой «нейросети для статей» прогоните одно и то же задание через сервис и через бесплатную версию YandexGPT или GigaChat. Свой вывод можно превратить в полезный материал для читателей.

Маркетологу: требуйте от подрядчика, продающего «ИИ-аналитику», пробный период и ответ, на какой модели всё работает. Это ваша проверка перед сделкой в малом масштабе.

Предпринимателю в РФ и СНГ: прежде чем вкладываться в чужой ИИ-проект, попросите данные, а не обещания. Отказ показать работу продукта — повод уйти, как ушли венчурные фонды от Theranos.

Частые вопросы

Шульц назвал конкретные ИИ-компании мошенниками?

Нет. В приведённых цитатах он говорит об общем риске: ИИ трудно проверить, и это удобно тем, кто хочет обманывать.

Что известно о новой компании Холмс?

Haemanthus занимается диагностикой, Холмс развивает её вместе с Билли Эвансом. По сообщениям СМИ, компания привлекла около $20 млн. Сам Шульц признаётся, что чувствует тревогу и не знает, куда приведёт её «второй акт».

Как мне не попасться на ИИ-пустышку?

Проверяйте результат на своих задачах и сравнивайте с бесплатными моделями. Тот, кто прячет работу продукта за «коммерческой тайной», уже ответил на ваш вопрос.