Pepelen
Аналитика данных с нуля: SQL, таблицы и метрики

Lesson

Урок 3: Грязные данные и вопрос раньше данных

Диагностировать типичные проблемы качества данных и формулировать аналитический вопрос до того, как трогать данные.

1 / 7

Шесть типичных проблем качества данных

Диагностика «грязных» данных

Прежде чем анализировать, убедитесь, что данные пригодны для этого. Вот шесть сигналов тревоги, которые нужно проверить в первую очередь.
Lesson notes
Сначала вопрос — потом данные
Данные редко бывают идеальными. Прежде чем считать, нужно разобраться, насколько данным можно доверять. Типичные проблемы качества делятся на четыре вида. Пропуски — пустые ячейки там, где должно быть значение. Например, у части заказов не указан город. Если вы считаете среднюю выручку и игнорируете пропуски, результат может оказаться неверным. Дубликаты — строки, которые повторяются полностью или частично. Это опасно: один заказ посчитается дважды, и сумма задвоится. Выбросы — аномальные значения, сильно отличающиеся от остальных. Например, одна доставка заняла 9 000 минут вместо обычных 30–60. Такой выброс сильно искажает среднее (медиана в этом случае устойчивее). Рассогласование единиц — разные части таблицы используют разные единицы или форматы: выручка в одних строках в рублях, в других — в тысячах рублей; дата записана то как «01.03.2024», то как «2024-03-01». Одна из главных ошибок начинающих аналитиков — сразу бросаться в данные без чёткого вопроса. Без вопроса вы собираете не то, тонете в цифрах и теряете время. Правильный алгоритм старта: сначала сформулируйте аналитический вопрос («Почему упала выручка в марте?»), затем поймите, какие именно данные нужны для ответа, и только потом откройте таблицу и проверьте её качество. Этот порядок экономит часы работы и защищает от ложных выводов.
Урок 3: Грязные данные и вопрос раньше данных — Аналитика данных с нуля: SQL, таблицы и метрики