Какие метрики качества и эффективности тестирования вы использовали?

«Какие метрики качества и эффективности тестирования вы использовали?» — вопрос из категории Управление тестированием, который задают на 10% собеседований QA Тестировщик. Ниже — развёрнутый ответ с разбором ключевых моментов.

Ответ

Использовал следующие ключевые метрики для контроля качества и процесса тестирования:

Метрики покрытия и объема:

  • Покрытие кода (Code Coverage): процент строк/ветвей кода, выполненных тестами. Измеряется инструментами (JaCoCo для Java, coverage.py для Python).
  • Покрытие требований (Requirements Coverage): процент реализованных и протестированных требований/пользовательских историй.

Метрики эффективности процесса:

  • Плотность дефектов (Defect Density): Количество найденных дефектов / Размер модуля (в KLOC или story points). Помогает выявить проблемные модули.
  • Процент успешных тестов (Pass Rate): (Количество успешных тестов / Общее количество тестов) * 100%. Мониторинг стабильности.
  • Среднее время выполнения тестов (Test Execution Time): Тренд на увеличение сигнализирует о необходимости оптимизации (параллелизация, отказ от медленных тестов).

Метрики качества продукта и реакции:

  • Количество пропущенных в прод дефектов (Escaped Defects): Критичный показатель эффективности тест-дизайна.
  • Среднее время на исправление (MTTR - Mean Time To Repair): Отражает скорость реакции команды на критические инциденты.
  • Соотношение приоритетов дефектов (Severity/Priority Distribution): Помогает фокусироваться на высокорисковых областях.

Пример измерения покрытия в Python:

# Установка и запуск
pip install pytest-cov
pytest --cov=my_project --cov-report=html

# В консоли будет таблица:
Name                Stmts   Miss  Cover
---------------------------------------
my_module.py          89      7    92%