МОДУЛЬ 19 · Middle · 2.5 час

Модель без мониторинга — это инцидент, который ещё не случился

Модель, которую запускают руками по понедельникам, — это не продукт. Превращаем её в сервис с API, версиями, мониторингом дрейфа и планом отката.

Пройти модуль в симуляторе Все 23 урока

Первые два модуля бесплатны, без карты. Остальные — по подписке $20/мес.

🏢 Ситуация

Churn-модель (модули 5–10) до сих пор живёт как «ноутбук, который запускает Игорь по понедельникам». Лена:

«Стыдно признаться, но это правда половины индустрии. Пора по-взрослому: модель должна стать сервисом — с API, версионированием, мониторингом и планом на случай "всё сломалось". Заворачивай в FastAPI + Docker, настраивай мониторинг дрейфа. Это последний навык, отделяющий тебя от мидла: модель, которую нельзя надёжно эксплуатировать, не существует.»

🎯 Ваша задача

  1. Обернуть модель в REST API (FastAPI) и контейнер (Docker).
  2. Понять версионирование моделей и reproducibility.
  3. Настроить мониторинг: сервисные метрики, дрейф данных, качество.

📚 Теория

Уровни зрелости ML-систем

  1. Ноутбук + ручной запуск («у нас сейчас»).
  2. Модель как сервис: API, контейнер, CI/CD, версии.
  3. Автоматизированный пайплайн: переобучение по расписанию/триггеру, валидационные гейты.
  4. Полный MLOps: feature store, реестр моделей, автоматический откат, A/B на моделях.

Большинству команд достаточно уровня 1–2. Не стройте уровень 3 ради галочки.

Модель как артефакт

Три слоя мониторинга ML-сервиса

  1. Сервисный (как у любого бэкенда): латентность p50/p99, RPS, ошибки 5xx.
  2. Дрейф данных (data drift): распределение входных признаков уехало от обучающего (новый сегмент клиентов, сломался источник поля). Метрики: PSI, KS-тест по каждому признаку. Дрейф предсказаний — сдвиг распределения скоров — самый дешёвый ранний сигнал.
  3. Качество (concept drift): истинные метки приходят с задержкой (узнаём об оттоке через 30 дней) → считаем отложенное качество, сравниваем с офлайн-оценкой.

Правило: модель без мониторинга — это инцидент, который ещё не случился. Данные меняются всегда.

PSI признака по неделям: дрейф пойман до падения качества 0.10 — насторожиться 0.25 — алерт 🔔 PSI = 0.31 нед 1нед 2нед 3нед 4нед 5нед 6нед 7нед 8 причина: релиз автологина обнулил признак days_since_last_login
Population Stability Index еженедельно по каждому признаку и по скорам модели: дрейф виден за недели до того, как деградацию заметит бизнес.

Стратегии выкладки моделей


Что запомнить

  • Модель в проде = код + артефакт + данные + версии, зафиксированные вместе.
  • Валидация входа (Pydantic) — дёшево, спасает от мусорных предсказаний.
  • Мониторинг: сервисные метрики + дрейф (PSI по признакам и скорам) + отложенное качество.
  • Shadow → canary → раскатка; откат конфигом за минуту.

Дальше в модуле: Практика

Открыть модуль →

Соседние уроки

18 Собеседование наоборот: ML System Design 20 Финал: защита проекта перед CTO

Программа целиком — 23 урока