lekss361/gendesign
1
0
Fork 0
Code Issues 143 Pull requests Projects Releases Packages Wiki Activity Actions

tradein/scraper: длинная серия неудач замолкает навсегда, а прогон, оборванный после частичного сбора, отчитывается успешным #2670

New issue
Closed
opened 2026-08-05 18:50:21 +00:00 by bot-backend · 4 comments
bot-backend commented 2026-08-05 18:50:21 +00:00
Collaborator
Copy link

Два следствия одного устройства проверки честности статуса, найдены при ревью PR #2667. Оба — тот же класс, что и сегодняшняя серия: механизм есть, но срабатывает не тогда, когда нужно.

1. Постоянно сломанный источник перестаёт о себе напоминать

Алерт по подряд идущим неудачам срабатывает на точной серии из трёх: три последних прогона неуспешны и четвёртый успешен. Как только серия становится длиннее, алерт замолкает — навсегда, повторного напоминания нет.

Пока источники падали вперемешку с успехами, это работало: серия рвалась, алерт взводился заново. Но после #2667 длинная непрерывная серия бана становится ожидаемым состоянием Домклика — до починки прокси (#2638). То есть про сломанный источник придёт ровно одно сообщение, а дальше тишина, неотличимая от «всё хорошо».

Это ровно та ловушка, из-за которой #2574 месяц выглядела как «всё собирается».

Чем чинить: повторное напоминание с разрежением (например раз в сутки, потом раз в неделю), либо отдельная сводка «источники, которые не собирают дольше N дней». Второе честнее — оно отвечает на вопрос «что у нас сейчас сломано», а не «что сломалось только что».

2. Оборванный после частичного сбора прогон считается успешным

Проверка честного статуса разбирает два случая: блок (теперь banned) и ноль лотов при ошибках (failed). Всё остальное — «успешно».

Значит прогон, который собрал часть комнатных бакетов и оборвался по таймауту или исключению, попадает в «успешно». Он ровно так же неполон, как заблокированный, но отчитается зелёным — и его неполнота уедет дальше в данные молча.

На проде такого пока не случалось (строк с ошибками при ненулевом сборе нет), поэтому это профилактика, а не инцидент. Но форма ровно та же, что у уже случившегося: у Домклика гейт требовал одновременно блока и нуля лотов, а блок никогда не давал ноль — и 13 блоков из 13 ушли в «успешно».

Чем чинить: сравнивать собранное с ожидаемым охватом (сколько бакетов из скольких пройдено), а не с нулём. Прогон, прошедший 3 бакета из 6, не «успешен», даже если лоты есть.

Общее

Оба пункта об одном: успех определяется как «не поймали известную ошибку», а не как «сделали то, что собирались». Первое определение всегда будет пропускать новые способы не сделать работу.

Связано: #2657, #2625, #2574, #1968.

Два следствия одного устройства проверки честности статуса, найдены при ревью PR #2667. Оба — тот же класс, что и сегодняшняя серия: механизм есть, но срабатывает не тогда, когда нужно. ## 1. Постоянно сломанный источник перестаёт о себе напоминать Алерт по подряд идущим неудачам срабатывает на **точной серии из трёх**: три последних прогона неуспешны и четвёртый успешен. Как только серия становится длиннее, алерт замолкает — **навсегда**, повторного напоминания нет. Пока источники падали вперемешку с успехами, это работало: серия рвалась, алерт взводился заново. Но после #2667 длинная непрерывная серия бана становится **ожидаемым состоянием** Домклика — до починки прокси (#2638). То есть про сломанный источник придёт ровно одно сообщение, а дальше тишина, неотличимая от «всё хорошо». Это ровно та ловушка, из-за которой #2574 месяц выглядела как «всё собирается». Чем чинить: повторное напоминание с разрежением (например раз в сутки, потом раз в неделю), либо отдельная сводка «источники, которые не собирают дольше N дней». Второе честнее — оно отвечает на вопрос «что у нас сейчас сломано», а не «что сломалось только что». ## 2. Оборванный после частичного сбора прогон считается успешным Проверка честного статуса разбирает два случая: блок (теперь `banned`) и ноль лотов при ошибках (`failed`). Всё остальное — «успешно». Значит прогон, который собрал часть комнатных бакетов и оборвался по таймауту или исключению, попадает в «успешно». Он ровно так же неполон, как заблокированный, но отчитается зелёным — и его неполнота уедет дальше в данные молча. На проде такого пока не случалось (строк с ошибками при ненулевом сборе нет), поэтому это профилактика, а не инцидент. Но форма ровно та же, что у уже случившегося: у Домклика гейт требовал одновременно блока **и** нуля лотов, а блок никогда не давал ноль — и 13 блоков из 13 ушли в «успешно». Чем чинить: сравнивать собранное с ожидаемым охватом (сколько бакетов из скольких пройдено), а не с нулём. Прогон, прошедший 3 бакета из 6, не «успешен», даже если лоты есть. ## Общее Оба пункта об одном: **успех определяется как «не поймали известную ошибку»**, а не как «сделали то, что собирались». Первое определение всегда будет пропускать новые способы не сделать работу. Связано: #2657, #2625, #2574, #1968.
bot-backend commented 2026-08-07 09:13:08 +00:00
Author
Collaborator
Copy link

Проверка на проде 2026-08-07: код доехал, механизм ни разу не сработал — ЖДЁТ ПРОГОНА

Оба пункта в живом контейнере (проверено вызовом внутри tradein-scraper, а не по релизу):

STREAK_ALERT_MAX_PERIOD = 16 · STREAK_SCAN_LIMIT = 500
лестница вех при пороге 3: 3, 6, 12, 24, 48, 96, 144, 192
DomClickScraper.buckets_completed — есть
ветка «пройдено N бакетов из M → mark_failed» — есть

п.2 виден в данных. Счётчики охвата появились у прогонов с 06.08: domclick_city_sweep
id 3348 (07.08 03:34) — buckets_completed 0 / buckets_total 6, статус failed. У прогонов
до правки (3264, 3192, 3115 …) этих ключей нет вовсе. Сама ветка «частичный охват» ещё не
срабатывала — на проде такого случая не было, задача сама называет п.2 профилактикой.

п.1 поведенчески не проверен: сработать было не на чем. Стрики ≥ 3 сейчас ровно два, и
оба у источников, которые с момента правки не бегали:

avito_full_load              стрик 31   следующий прогон 2026-08-10 14:16 UTC
avito_full_load_exhaustive   стрик  5   следующий прогон 2026-08-09 14:02 UTC

В GlitchTip за всё время ни одного события вида has N consecutive failed/banned runs
(искал по подстроке consecutive — нашлись только per-run ABORT'ы, это другой сторож).

Критерий приёмки (записан ДО факта)

2026-08-09, avito_full_load_exhaustive. Если прогон снова неуспешен, стрик станет 6 —
это веха лестницы, и в проекте trade-in GlitchTip обязано появиться событие с текстом
Scraper source 'avito_full_load_exhaustive' has 6 consecutive failed/banned runs.
Появится — п.1 подтверждён живым срабатыванием. Не появится — сторож не работает.

2026-08-10, avito_full_load: стрик 31 → 32, вехи там нет, события быть не должно —
это встречная проверка, что лестница не выродилась в спам.

Две оговорки, которые стоит знать заранее

  1. Разрежение на длинных стриках грубее, чем кажется. Вехи идут 24 → 48, промежуточных нет.
    avito_full_load со стриком 31 при недельном такте получит следующее напоминание на 48-й
    неудаче — это 17 недель. Формально «замолкает навсегда» вылечено, практически для
    недельных источников напоминание приходит раз в четыре месяца. Второй вариант из задачи
    («сводка: источники, которые не собирают дольше N дней»), который вы называли более честным,
    не сделан — и именно он закрывал бы этот случай.
  2. Напоминание уходит в никуда. Получателей в GlitchTip 0, правил 0, отправлено 0 (#2673).
    Даже подтверждённое срабатывание 09.08 будет означать «событие записано», а не «кто-то узнал».
## Проверка на проде 2026-08-07: код доехал, механизм ни разу не сработал — ЖДЁТ ПРОГОНА **Оба пункта в живом контейнере** (проверено вызовом внутри `tradein-scraper`, а не по релизу): ``` STREAK_ALERT_MAX_PERIOD = 16 · STREAK_SCAN_LIMIT = 500 лестница вех при пороге 3: 3, 6, 12, 24, 48, 96, 144, 192 DomClickScraper.buckets_completed — есть ветка «пройдено N бакетов из M → mark_failed» — есть ``` **п.2 виден в данных.** Счётчики охвата появились у прогонов с 06.08: `domclick_city_sweep` id 3348 (07.08 03:34) — `buckets_completed 0 / buckets_total 6`, статус `failed`. У прогонов до правки (3264, 3192, 3115 …) этих ключей нет вовсе. Сама ветка «частичный охват» ещё не срабатывала — на проде такого случая не было, задача сама называет п.2 профилактикой. **п.1 поведенчески не проверен: сработать было не на чем.** Стрики ≥ 3 сейчас ровно два, и оба у источников, которые с момента правки не бегали: ``` avito_full_load стрик 31 следующий прогон 2026-08-10 14:16 UTC avito_full_load_exhaustive стрик 5 следующий прогон 2026-08-09 14:02 UTC ``` В GlitchTip за всё время **ни одного** события вида `has N consecutive failed/banned runs` (искал по подстроке `consecutive` — нашлись только per-run ABORT'ы, это другой сторож). ## Критерий приёмки (записан ДО факта) **2026-08-09, `avito_full_load_exhaustive`.** Если прогон снова неуспешен, стрик станет **6** — это веха лестницы, и в проекте `trade-in` GlitchTip обязано появиться событие с текстом `Scraper source 'avito_full_load_exhaustive' has 6 consecutive failed/banned runs`. Появится — п.1 подтверждён живым срабатыванием. Не появится — сторож не работает. **2026-08-10, `avito_full_load`:** стрик 31 → 32, вехи там нет, события быть **не должно** — это встречная проверка, что лестница не выродилась в спам. ## Две оговорки, которые стоит знать заранее 1. **Разрежение на длинных стриках грубее, чем кажется.** Вехи идут 24 → 48, промежуточных нет. `avito_full_load` со стриком 31 при недельном такте получит следующее напоминание на 48-й неудаче — это **17 недель**. Формально «замолкает навсегда» вылечено, практически для недельных источников напоминание приходит раз в четыре месяца. Второй вариант из задачи («сводка: источники, которые не собирают дольше N дней»), который вы называли более честным, не сделан — и именно он закрывал бы этот случай. 2. **Напоминание уходит в никуда.** Получателей в GlitchTip 0, правил 0, отправлено 0 (#2673). Даже подтверждённое срабатывание 09.08 будет означать «событие записано», а не «кто-то узнал».
bot-backend commented 2026-08-10 08:29:58 +00:00
Author
Collaborator
Copy link

Остаток закрыт сводкой, а не уплотнением вех — PR #2806 (смержен 2026-08-10 08:29 UTC)

Разбор 07.08 предлагал два выхода: уплотнить лестницу либо ограничить её по времени. Прод-данные 2026-08-10 отвергают оба.

Шесть источников не имели успешного прогона дольше 3× своего такта:

источник стрик сут. без успеха когда напомнит лестница
avito_full_load_exhaustive 0 49.5 никогда: 5 банов подряд обнулил cancelled 09.08 (деплой убил бегущий прогон)
cian_history_backfill 0 42.1 никогда: завершённых прогонов нет с 30.06; единственная строка за 42 дня — skipped (cian_cookies_expired)
avito_full_load 31 37.7 веха 48 при interval_days=7 → +17 прогонов ≈ 119 суток
avito_detail_backfill 5 5.2 веха 6 → завтра
domclick_city_sweep 5 5.1 веха 6 → завтра
domclick_detail_backfill 4 5.0 веха 6 → послезавтра

Из трёх худших редкие вехи виноваты только в одном случае. У двух других стрик равен нулю: лестница шагает по подряд идущим завершённым failed/banned, а «замолчал» там означает «перестал производить завершённые прогоны» либо «серию обнулило не-провальное завершение». Уплотнять нечего, таймить тоже нечего — ограничение «не реже раза в неделю» без стрика не срабатывает по той же причине.

Поэтому сделан второй вариант из исходной задачи, тот, который вы называли более честным: раз в сутки одно событие со списком источников, у которых max(finished_at) при status='done' старше 3× interval_days их расписания. Порог и сортировка — в тактах, а не в сутках: 24 суток без сбора у 28-суточного rosreestr_quarter_poll норма, у суточного domclick_city_sweep авария.

Лестница оставлена как есть. Она отвечает на другой вопрос — «что сломалось только что» — и после сводки её редкие вехи перестают быть проблемой: avito_full_load теперь называется каждые сутки, а не раз в 119.

Что попутно опровергнуто

  1. Критерий приёмки от 07.08 не сработал не потому, что сторож сломан. 09.08 avito_full_load_exhaustive завершился cancelled (14:02 → 17:00), а не banned, — стрик обнулился с 5 до 0, вехи 6 не случилось. Ожидаемого события в GlitchTip нет, и это НЕ отказ механизма; это третий способ замолчать, которого разбор не предполагал.
  2. Шапка scraper_kit/orchestration/scheduler.py врала: «боевой рантайм по-прежнему крутит старый app.services.scheduler». Эта ветка удалена в #2397 Part C, прод (python -m app.scheduler_main) крутит именно kit-loop. Строка пережила собственную правду и посылала правку сторожей не в тот файл — исправлена в том же PR.

Критерий приёмки (записан ДО факта)

2026-08-11, в первые сутки после деплоя в логе tradein-scraper обязана появиться ровно одна строка scheduler: N источников не собирают дольше 3× своего такта, и в ней обязаны быть названы cian_history_backfill и avito_full_load_exhaustive — те двое, у кого стрик 0. Нет строки → сводка не работает. Есть, но без этих двоих → порог посчитан не тем тактом. Встречная проверка: rosreestr_quarter_poll (такт 28 сут, 24 сут без сбора) в списке быть не должен.

Оговорка #2673 в силе: получателей в GlitchTip 0, сводка означает «событие записано», а не «кто-то узнал».

## Остаток закрыт сводкой, а не уплотнением вех — PR #2806 (смержен 2026-08-10 08:29 UTC) Разбор 07.08 предлагал два выхода: уплотнить лестницу либо ограничить её по времени. **Прод-данные 2026-08-10 отвергают оба.** Шесть источников не имели успешного прогона дольше 3× своего такта: | источник | стрик | сут. без успеха | когда напомнит лестница | |---|---|---|---| | `avito_full_load_exhaustive` | **0** | 49.5 | никогда: 5 банов подряд обнулил `cancelled` 09.08 (деплой убил бегущий прогон) | | `cian_history_backfill` | **0** | 42.1 | никогда: завершённых прогонов нет с 30.06; единственная строка за 42 дня — `skipped` (cian_cookies_expired) | | `avito_full_load` | 31 | 37.7 | веха 48 при `interval_days=7` → +17 прогонов ≈ **119 суток** | | `avito_detail_backfill` | 5 | 5.2 | веха 6 → завтра | | `domclick_city_sweep` | 5 | 5.1 | веха 6 → завтра | | `domclick_detail_backfill` | 4 | 5.0 | веха 6 → послезавтра | Из трёх худших **редкие вехи виноваты только в одном случае**. У двух других стрик равен нулю: лестница шагает по подряд идущим завершённым `failed`/`banned`, а «замолчал» там означает «перестал производить завершённые прогоны» либо «серию обнулило не-провальное завершение». Уплотнять нечего, таймить тоже нечего — ограничение «не реже раза в неделю» без стрика не срабатывает по той же причине. Поэтому сделан второй вариант из исходной задачи, тот, который вы называли более честным: раз в сутки одно событие со списком источников, у которых `max(finished_at) при status='done'` старше `3× interval_days` их расписания. Порог и сортировка — в тактах, а не в сутках: 24 суток без сбора у 28-суточного `rosreestr_quarter_poll` норма, у суточного `domclick_city_sweep` авария. **Лестница оставлена как есть.** Она отвечает на другой вопрос — «что сломалось только что» — и после сводки её редкие вехи перестают быть проблемой: `avito_full_load` теперь называется каждые сутки, а не раз в 119. ### Что попутно опровергнуто 1. **Критерий приёмки от 07.08 не сработал не потому, что сторож сломан.** 09.08 `avito_full_load_exhaustive` завершился `cancelled` (14:02 → 17:00), а не `banned`, — стрик обнулился с 5 до 0, вехи 6 не случилось. Ожидаемого события в GlitchTip нет, и это НЕ отказ механизма; это третий способ замолчать, которого разбор не предполагал. 2. **Шапка `scraper_kit/orchestration/scheduler.py` врала**: «боевой рантайм по-прежнему крутит старый `app.services.scheduler`». Эта ветка удалена в #2397 Part C, прод (`python -m app.scheduler_main`) крутит именно kit-loop. Строка пережила собственную правду и посылала правку сторожей не в тот файл — исправлена в том же PR. ### Критерий приёмки (записан ДО факта) **2026-08-11, в первые сутки после деплоя** в логе `tradein-scraper` обязана появиться ровно одна строка `scheduler: N источников не собирают дольше 3× своего такта`, и в ней обязаны быть названы `cian_history_backfill` и `avito_full_load_exhaustive` — те двое, у кого стрик 0. Нет строки → сводка не работает. Есть, но без этих двоих → порог посчитан не тем тактом. Встречная проверка: `rosreestr_quarter_poll` (такт 28 сут, 24 сут без сбора) в списке быть **не должен**. Оговорка #2673 в силе: получателей в GlitchTip 0, сводка означает «событие записано», а не «кто-то узнал».
bot-backend commented 2026-08-10 09:00:11 +00:00
Author
Collaborator
Copy link

Прод-проверка 2026-08-10: критерий выполнен, на сутки раньше срока

Критерий записан ДО факта (см. описание PR #2806): в первые сутки после деплоя в логе tradein-scraper — ровно одна строка сводки, и в ней обязаны быть названы двое со стриком 0. Сводка сработала на первом же тике после деплоя:

2026-08-10 08:37:09,702 ERROR scraper_kit.orchestration.scheduler:
scheduler: 6 источников не собирают дольше 3× своего такта —
cian_history_backfill 42.1d/1d, avito_full_load_exhaustive 49.5d/7d, avito_full_load 37.7d/7d,
avito_detail_backfill 5.2d/1d, domclick_city_sweep 5.1d/1d, domclick_detail_backfill 5.0d/1d (#2670)
  • cian_history_backfill (стрик 0, 42.1 сут) и avito_full_load_exhaustive (стрик 0, 49.5 сут) названы — те двое, которых лестница не увидит никогда;
  • rosreestr_quarter_poll (такт 28 сут, 24 сут без сбора) в списке отсутствует — встречная проверка пройдена, порог считается в тактах, а не в сутках;
  • шесть источников и все шесть чисел совпали с прогнозом, посчитанным SQL-ом до правки, — сводка меряет то же, что мерил я руками.

Код проверен в живом контейнере, не по релизу: hasattr(scheduler, "emit_stale_digest") == True, STALE_DIGEST_INTERVAL_FACTOR == 3.

Известный потолок подтвердился ровно в предсказанном виде: за сегодня два выпуска — 08:37:09 и 08:58:43, по одному на пересоздание контейнера (деплой PR #2806 и деплой соседнего PR #2809). Это то самое «рестарт даёт лишний выпуск», помеченное # ponytail: в коде. Один лишний выпуск в сутки на деплой — принятая цена за отсутствие таблицы состояния.

## Прод-проверка 2026-08-10: критерий выполнен, на сутки раньше срока Критерий записан ДО факта (см. описание PR #2806): в первые сутки после деплоя в логе `tradein-scraper` — ровно одна строка сводки, и в ней обязаны быть названы двое со стриком 0. Сводка сработала на первом же тике после деплоя: ``` 2026-08-10 08:37:09,702 ERROR scraper_kit.orchestration.scheduler: scheduler: 6 источников не собирают дольше 3× своего такта — cian_history_backfill 42.1d/1d, avito_full_load_exhaustive 49.5d/7d, avito_full_load 37.7d/7d, avito_detail_backfill 5.2d/1d, domclick_city_sweep 5.1d/1d, domclick_detail_backfill 5.0d/1d (#2670) ``` - `cian_history_backfill` (стрик 0, 42.1 сут) и `avito_full_load_exhaustive` (стрик 0, 49.5 сут) названы — те двое, которых лестница не увидит никогда; - `rosreestr_quarter_poll` (такт 28 сут, 24 сут без сбора) в списке отсутствует — встречная проверка пройдена, порог считается в тактах, а не в сутках; - шесть источников и все шесть чисел совпали с прогнозом, посчитанным SQL-ом до правки, — сводка меряет то же, что мерил я руками. Код проверен в живом контейнере, не по релизу: `hasattr(scheduler, "emit_stale_digest") == True`, `STALE_DIGEST_INTERVAL_FACTOR == 3`. **Известный потолок подтвердился ровно в предсказанном виде:** за сегодня два выпуска — 08:37:09 и 08:58:43, по одному на пересоздание контейнера (деплой PR #2806 и деплой соседнего PR #2809). Это то самое «рестарт даёт лишний выпуск», помеченное `# ponytail:` в коде. Один лишний выпуск в сутки на деплой — принятая цена за отсутствие таблицы состояния.
bot-backend commented 2026-08-12 12:42:37 +00:00
Author
Collaborator
Copy link

Прод 12.08: сводка живая, оба пункта разрешены — закрываю

п.1 (сломанный источник перестаёт напоминать) — работает, второе подтверждение. Сводка выпущена сегодня, на первом тике после пересоздания контейнера (старт 12:24:14 → выпуск 12:24:47 UTC):

2026-08-12 12:24:47,331 ERROR scraper_kit.orchestration.scheduler:
scheduler: 5 источников не собирают дольше 3× своего такта —
avito_full_load_exhaustive 51.7d/7d, avito_detail_backfill 7.3d/1d,
domclick_city_sweep 7.3d/1d, domclick_detail_backfill 7.2d/1d,
avito_full_load 39.9d/7d (#2670)

Список изменился с 10.08 осмысленно, а не случайно: было шесть, стало пять — cian_history_backfill ушёл, потому что 11.08 и 12.08 отработал done (listings_succeeded 100 в обоих). Сводка не просто печатается, она реагирует на выздоровление источника. Встречная проверка держится: rosreestr_quarter_poll (такт 28 сут) в списке по-прежнему нет. Код живой: emit_stale_digest есть, STALE_DIGEST_INTERVAL_FACTOR == 3 (проверено внутри контейнера).

Оговорка про суточный такт, чтобы не выдавать за большее: подтвердить его по логам нельзя — docker logs живёт от последнего пересоздания контейнера, а деплои идут чаще суток. Наблюдаемо: каждый запуск даёт ровно один выпуск, и содержимое совпадает с независимым SQL-замером. Это тот самый известный потолок, помеченный # ponytail: в коде.

п.2 (оборванный после частичного сбора прогон считается успешным) — механизм на месте, случая не было. Счётчики охвата пишутся у всех прогонов с бакетами:

run дата статус buckets lots
3751 12.08 banned 0/6 59
3675 11.08 banned 0/6 58
3594 10.08 banned 0/6 372
3502 / 3420 / 3348 07-09.08 failed 0/6 0

Строк с частичным охватом (0 < completed < total) на проде нет ни одной. Ноль имеет причину — повода не было: задача сама называет п.2 профилактикой, и за неделю случай «оборвался после частичного сбора, но без блока» не наступил. Ветка при этом достижима — pipeline.py:3946, elif 0 < counters.buckets_completed < counters.buckets_total: — и покрыта tests/test_2670_streak_and_partial_coverage.py. Ждать её живого срабатывания бессрочно смысла нет.

Оговорка #2673 (получателей в GlitchTip 0) остаётся в силе и живёт в своей задаче: сводка означает «событие записано», а не «кто-то узнал».

## Прод 12.08: сводка живая, оба пункта разрешены — закрываю **п.1 (сломанный источник перестаёт напоминать) — работает, второе подтверждение.** Сводка выпущена сегодня, на первом тике после пересоздания контейнера (старт 12:24:14 → выпуск 12:24:47 UTC): ``` 2026-08-12 12:24:47,331 ERROR scraper_kit.orchestration.scheduler: scheduler: 5 источников не собирают дольше 3× своего такта — avito_full_load_exhaustive 51.7d/7d, avito_detail_backfill 7.3d/1d, domclick_city_sweep 7.3d/1d, domclick_detail_backfill 7.2d/1d, avito_full_load 39.9d/7d (#2670) ``` Список изменился с 10.08 осмысленно, а не случайно: было шесть, стало пять — **`cian_history_backfill` ушёл**, потому что 11.08 и 12.08 отработал `done` (listings_succeeded 100 в обоих). Сводка не просто печатается, она реагирует на выздоровление источника. Встречная проверка держится: `rosreestr_quarter_poll` (такт 28 сут) в списке по-прежнему нет. Код живой: `emit_stale_digest` есть, `STALE_DIGEST_INTERVAL_FACTOR == 3` (проверено внутри контейнера). Оговорка про суточный такт, чтобы не выдавать за большее: подтвердить его по логам нельзя — `docker logs` живёт от последнего пересоздания контейнера, а деплои идут чаще суток. Наблюдаемо: каждый запуск даёт ровно один выпуск, и содержимое совпадает с независимым SQL-замером. Это тот самый известный потолок, помеченный `# ponytail:` в коде. **п.2 (оборванный после частичного сбора прогон считается успешным) — механизм на месте, случая не было.** Счётчики охвата пишутся у всех прогонов с бакетами: | run | дата | статус | buckets | lots | |---|---|---|---|---:| | 3751 | 12.08 | banned | 0/6 | 59 | | 3675 | 11.08 | banned | 0/6 | 58 | | 3594 | 10.08 | banned | 0/6 | 372 | | 3502 / 3420 / 3348 | 07-09.08 | failed | 0/6 | 0 | Строк с частичным охватом (`0 < completed < total`) на проде нет ни одной. Ноль имеет причину — **повода не было**: задача сама называет п.2 профилактикой, и за неделю случай «оборвался после частичного сбора, но без блока» не наступил. Ветка при этом достижима — `pipeline.py:3946`, `elif 0 < counters.buckets_completed < counters.buckets_total:` — и покрыта `tests/test_2670_streak_and_partial_coverage.py`. Ждать её живого срабатывания бессрочно смысла нет. Оговорка #2673 (получателей в GlitchTip 0) остаётся в силе и живёт в своей задаче: сводка означает «событие записано», а не «кто-то узнал».
Sign in to join this conversation.
No Branch/Tag specified
Branches Tags
main
fix/3469-showcase-schedule
fix/3443-caddy-selfdowntime
fix/3463-db-statement-timeout
fix/3448-caddy-only-detection
fix/metrics-deploy-reloads-prometheus
feat/landing-showcase-band
fix/3452-corridor-advisory-zone
fix/alert-value-is-not-the-ratio
fix/3449-geocoder-cancel-orphan
fix/3451-tvf-deals-rooms
fix/msk-collector-net-retry
feat/msk-yandex-import
fix/3051-fetch-deals-rooms-dropped
feat/msk-collector-cian
fix/3256-asking-to-sold-buckets
fix/3083-estimate-throughput
fix/3274-part2b-gate
fix/3274-part2a-caddy-retry
fix/perimeter-smoke-retry-on-no-response
fix/3274-zero-downtime-frontend
fix/3274-part1-deploy-swap
fix/3412-cian-instance-relaunch
fix/3415-bucket-done-only-if-phases-ok
chore/backend-pool-wiring-tails
fix/3398-pool-ops-off-event-loop
fix/3402-followups-ban-kinds-curl
feat/3404-proxy-run-attribution
fix/cian-captcha-is-platform-refusal
refactor/3390-single-runs-module
fix/3398-estimator-valuations-proxy-pool
fix/3386-estimator-imv-proxy-pool
fix/3394-cian-sweep-houses-proxy-pool
fix/3393-interrupted-runs-outside-streaks
fix/drain-marks-inflight-app-tasks
fix/3384-no-proxy-at-batch-start
fix/3197-yandex-newbuilding-proxy-pool
fix/3376-price-history-decimal-slips
fix/backend-proxy-pool-flags
fix/3197-cian-history-backfill-proxy-pool
fix/3288-sidecar-ban-status-code
fix/3375-yandex-fullload-on-bucket-contract
fix/3380-deploy-metrics-alloy-recreate
fix/3354-alloy-query-secret-scrub
fix/3360-admin-prefix-anon-404
fix/3368-yandex-leaf-complete-flag
fix/3369-domclick-cancel-checkpoint
fix/3225-domklik-diff-percent
fix/smoke-history-path
fix/3288-breaker-block-kind
fix/3355-drain-mark-fullloads
fix/3191-yandex-detail-completeness
fix/3359-containment-cian-yandex
fix/3323-payment-init-fail-409
fix/3172-freshness-by-data
fix/3288-avito-ban-per-source
fix/3253-domclick-house-fields
fix/3312-defer-interval-minutes
fix/3324-rbac-401-oracle
fix/3274-deploy-window-error-page
fix/3343-auth-latency-flaky
fix/3315-exhaustive-containment-skip
fix/3338-backfill-save-false
fix/3339-thin-market-badge
fix/3154-glitchtip-secret-log-leak
fix/3333-drain-mark-all-sweeps
fix/3323-imv-thin-market-gate
fix/3324-mera-perimeter
fix/3323-coverage-copy-honesty
fix/3332-domclick-counter-identity
fix/3324-ptica-deploy-gate
fix/3316-role-single-source
fix/3319-citysweep-checkpoint
fix/3322-rosseti-stable-key
fix/3320-v2-honest-zeros
fix/3321-draft-fields-survive
fix/mera-mobile-nav-and-sticky
fix/audit-form-ux
fix/audit-coverage-500
fix/audit-dkp-price
fix/audit-accuracy-window
fix/audit-faq-contradiction
fix/perimeter-smoke-after-payments
feat/b2c-landing-honest-copy
feat/b2c-landing-live-numbers
feat/b2c-v3-becomes-root
feat/b2c-v3-port-v1-blocks
feat/b2c-report-redesign
feat/b2c-landing-v3-full
feat/3192b-yandex-phones
feat/3168-backfill-cursor-resume
fix/3118-domclick-no-proxy
fix/3170-yandex-combo-checkpoint
feat/3074-newbuilding-sweep-resume
fix/3163-infra-topic-default
fix/3156-tgbot-error-type
feat/3163-infra-topic-split
fix/3161-alertmanager-route-prefix
fix/3155-prometheus-no-alertmanager
feat/2997-drop-listings-geom-idx
fix/3122-boot-reap-observable
feat/3122-boot-reap
feat/3051-houses-region-code
feat/3074-cian-anchor-checkpoint
feat/3051-region-registry
fix/2656-anchor-ratio-freshness
fix/3114-scrub-credentials-in-logs
fix/3078-grafana-single-auth
fix/3081-honest-progress
fix/3063-pro-seller-derive
fix/3074-checkpoint-survives-claim
fix/3082-estimate-concurrency
fix/3044-enriched-total-seen
fix/telegram-pin-selectel-override
chore/compose-host-parameterised-resources
fix/revisit-floor-lateral-lookup
fix/avito-detail-fields
fix/3034-avito-fingerprint
fix/avito-offers-per-page
feat/3033-avito-secondary-filter
fix/2203-restore-drill-readiness
feat/2203-backup-staleness-and-forgejo
fix/2990-clean-start-initdb
fix/2924-yandex-jk-resolve-tried-at
fix/2992-upsert-distinct-gate
fix/2998-rosreestr-q2-partitions
feat/2936-null-penalty-flag
fix/2996-mislocated-houses-watchdog
fix/1781-secondary-only-param
fix/2934-risks-coverage
fix/2464-three-small
fix/2464-two-docstrings
fix/2464-zouit-label
fix/2464-building-pct-guard
fix/2464-download-binary-retry
fix/2986-permits-key
fix/2464-tep-docstring
fix/2464-act-date-backfill
fix/2464-area-bin-null
fix/2464-act-date-citation
fix/2464-detect-kind
fix/2464-status-negation
fix/2464-objective-zombie-sweep
fix/2464-inert-retry-config
fix/2464-default-profile-unique
fix/2464-zombie-any-running
fix/2464-catalog-skipped-counter
fix/2464-heat-loader-tx
fix/2464-objective-run-stuck
fix/2464-catalog-waf-breaker
fix/2464-lock-key-order
fix/2464-backfill-waf-abort
fix/2464-docs-vs-code
fix/2464-land-reservation-dedup
fix/2464-manual-list-validation
fix/2464-capacity-savepoints
fix/2464-leads-window-naming
fix/2464-zouit-count-label
fix/2464-catalog-batch-commits
fix/2464-html-zoning-fallback
fix/2950-lock-wait-observable
fix/2956-freshness-counts-failed-harvest
fix/2950-host-lock
fix/2953-nominatim-throttle
fix/2950-deploy-docker-lock
fix/2464-ird-lookups-savepoint
fix/2464-parcels-savepoint-pair
fix/2674-deal-floor-display
docs/2854-stale-justifications
chore/2857-drop-placeholder-columns
fix/2855-probe-protected-path
fix/2674-has-panorama
fix/house-imv-anchor-era
fix/2674-quality-cadastre-column
fix/sber-freshness-guard
fix/dkp-corridor-as-of
fix/scheduler-resume-checkpoint
fix/quarter-target-from-neighbour
fix/2687-domclick-ban-kind-platform
fix/2814-address-backfill
fix/2677-house-anchor-renovation
feat/tradein-paid-retention
chore/ci-config-cleanup
feat/mera-b2c-privacy
feat/tradein-payments-schema
chore/2674-dead-code-sweep
fix/2674-matching-tiers-honesty
fix/2674-avito-full-load-coverage
fix/2674-admin-metrics-honesty
fix/2674-writers-honor-schema
fix/2674-alerts-actually-fire
fix/2679-scraper-deploy-parity
fix/2674-house-imv-params
fix/2666-discount-plausibility-gate
feat/2435-cian-house-enrichment
fix/2657-domclick-block-not-done
feat/2571-login-throttle
fix/2660-display-freshness-segment
fix/2658-loud-skip-status
fix/2603-geocode-city-hint-tails
feat/2600-per-source-proxy-health
feat/tradein-v2-exposure-in-result-card
fix/tradein-avito-browser-proxy-pool
chore/tradein-cut-wasteful-scraping
fix/tradein-v2-deals-fallback-visible
fix/tradein-city-stamp-geo-guard
fix/tradein-cian-oblast-secondary
fix/tradein-implausible-build-year
fix/tradein-snapshot-query-perf
fix/tradein-asking-sold-city-scope
chore/tradein-purge-dead-mobileproxy
feat/tradein-asocks-rotation
fix/tradein-region-code-foreign-cities
fix/tradein-proxy-pool-self-healing
fix/tradein-backfill-listing-city-from-url
fix/tradein-geocode-queue-active-only
fix/tradein-geocode-city-hint
chore/tradein-remove-yandex-scripts
fix/tradein-listing-city-from-sweep
chore/tradein-remove-yandex-geocoder
chore/tradein-remove-n1
fix/tradein-geocoder-fail-closed
fix/tradein-ui-city-label-clip
feat/tradein-ui-city-hint
fix/tradein-coords-backfill-city-gate
fix/tradein-geocoder-city-default
fix/tradein-anchor-geo-scope
fix/tradein-avito-detail-oblast
feat/tradein-price-bands-refresh
feat/tradein-caddy-cutover
fix/tradein-team-nav-and-401
feat/tradein-team-dashboard
fix/tradein-team-list-order
feat/tradein-team-api
feat/tradein-login-ui
feat/tradein-auth-core
feat/tradein-auth-password-foundation
feat/tradein-auth-users-schema
fix/tradein-rbac-test-user2-expired
fix/tradein-auth-revoke-user2
fix/2013-avito-cohort-null
fix/rbac-test-user2-expired
fix/expire-brusnika-trial-access
feat/tradein-domclick-house-sku-schema
chore/design-sync-tradein
fix/tradein-deploy-scraper-paths-filter
fix/tradein-no-numberless-house-insert
fix/tradein-dedup-fias-pass-no-geoguard
feat/tradein-fias-estimate-frontend
fix/tradein-dedup-by-fias
feat/tradein-fias-tier-matching
fix/tradein-v2-uiux-p1
fix/objective-lots-dedup-1964
fix/audit-followups-1953
feat/concept-house-picker-1965-stage3b
feat/concept-house-catalog-1965-stage3a
feat/concept-live-massing-1965-stage2b
feat/concept-recompute-1965-stage2a
feat/concept-section-1965-stage1
fix/best-layouts-per-object-snapshot-1956
fix/deficit-segmentation-1959
feat/tradein-hedonic-ground-floor
fix/report-map-points-1961
fix/report-microcopy-1963
fix/report-nspd-zoning-1962
fix/report-frontend-display-1953
perf/tradein-estimate-audit
perf/best-layouts-objects-first
fix/171-migration-path
perf/171-objective-crm-report-month-idx
fix/1926-app-log-stdout
fix/estimator-tiebreaker-nanalogs
fix/1917-fetch-json-network-retry
fix/1926-scrape-runs-total-seen
fix/1781-house-fk-source-identity
feat/39-osrm-per-category
feat/1746-utility-infra-map
fix/test-849-savepoint-count
fix/parking-economics-by-class
fix/zouit-engineering-area-gate
fix/zoning-resolution-decouple
feat/dcf-velocity-schedule
feat/zone-regulation-backfill
chore/mock-financial-estimate
fix/finmodel-split-disclosure-threshold
feat/finmodel-financing
feat/finmodel-sitefinder-bridge
feat/finmodel-dcf
feat/finmodel-price-calibration
feat/finmodel-cost-cascade
audit/1871-p2-estimator-dedup-split
audit/1871-p2-avito-coord
audit/1871-p3-uiux
audit/1871-p2-invest-moi
audit/1871-p2-velocity-market
audit/1871-p1-3-isreal-stubs
audit/1871-p1-2-ghost-anchor-guard
audit/1871-p1-scenarios-collapse
revert/site-finder-v2
fix/v2-remove-resource-legend
fix/v2-map-legend-position
feat/site-finder-v2-map-light-polish
rollback/site-finder-home-light
feat/site-finder-v2-cockpit
rollback/sf-old-analysis-design
feat/ptica-tabs-6-6-reports-params
fix/ptica-vri-row
feat/ptica-map-glyphs-sitefinder-dark
fix/ptica-3d-preview-product-verdict
fix/ptica-button-fontsize
fix/ptica-parity-data-mapping
chore/ptica-iso-preview-spin
fix/ptica-inter-map-product
fix/ptica-visual-parity
fix/ptica-left-rail
feat/ptica-cockpit-complete-bottom
feat/ptica-default-and-rich-map
feat/ptica-real-ksit-frontend
feat/tradein-ekb-geoportal-buildings
fix/sf-feedback-batch
feat/avito-newbuilding-sweep
feat/browser-concurrent-pool
fix/backfill-kadastr-column
fix/avito-proactive-ip-rotate
feat/activate-domclick-sweep
feat/avito-newbuilding-capture
fix/house-id-fk-realtime-link
fix/migration-162-table-if-exists
feat/riasurt-sverdl-layers-108
fix/sber-dataset-paths-902
fix/conflict-resolution-freshness-1539
feat/objective-lots-history-writer-307-obj6
feat/velocity-mv-61
fix/objective-mapping-is-reviewed-gate-307-obj2
fix/cian-detail-rich-fields
fix/avito-novostroyki-segment
feat/yandex-novostroyki-newflat
fix/ci-dedup-runner-storm-1709
fix/emiss-pk-granularity-1687
feat/listings-segment-param-1188
fix/inn-regex-word-boundary-1682
fix/excel-deficit-horizon-1590
fix/admin-scrape-validation
fix/admin-leads-interval-cast-1694
fix/dkp-corridor-doc-p10p90-1695
fix/weather-wind-d-allnone
test/residential-zone-rawprops-1681
fix/domrf-badge-regex-narrow-1686
feat/yandex-camoufox-transport
fix/score-sat-factor-1509
fix/base-pace-room-bucket-1593
fix/gate-verdict-no-blocker-1617
fix/confidence-deal-count-window-1637
fix/match-economics-1511-1512
fix/listings-partial-indexes-1398
fix/smart-suggestions-threshold-1503
fix/dkp-corridor-percentile-1520
fix/enrich-economics-window-1513
fix/leads-stats-window-1383
fix/poi-score-scale-1486
fix/geo-weight-floor-1633
fix/inn-regex-context-1640
fix/domrf-status-classify-1609
fix/emiss-period-dedup-1606
fix/cian-paginate-tail-1393
fix/normalize-zero-fill-guard-1638
fix/supply-view-devgroup-key-1650
fix/residential-zone-detect-1353
fix/score-label-threshold-1357
fix/trend-ratio-vprior-zero-1508
fix/district-median-dedup-1352
fix/supply-layers-overlap-1355
fix/pdf-expires-at-1530
fix/quartirography-area-bucket-1406
fix/cad-zones-multipolygon-1344
fix/sold-pct-market-verdict-1407
fix/week-review-finish
fix/week-review-backend-v2
feat/plan-vectorization-spike-299
fix/1668-analyze-confidence
fix/1667-metro-block
fix/1666-layout-velocity-beat
chore/remove-n1-scraper
fix/cian-kitchen-area
feat/yandex-detail-backfill
feat/avito-detail-backfill
fix/best-layouts-bucket-normalization
fix/gknspecial-incremental-commit-per-prefix
fix/okn-objects-full-registry-load
fix/parcel-ird-overlap-except-expand
fix/report-assembler-confounded-keys
fix/job-settings-json-persist-v2
fix/nspd-geo-soft-time-limit-passthrough
fix/nspd-soft-time-limit-v2
fix/pilot-request-modal-validation
fix/recommend-mix-saturation-latest-snapshot
fix/scrape-cadastre-fail-counter-v2
fix/izyatie-ocr-cad-normalize
fix/job-settings-panel-json-state-persist
fix/noise-loader-savepoint-per-row
fix/objective-sync-config-bare-except
fix/parcel-snapshot-mdash-double-escape
fix/poi-loader-leap-year-date-replace
fix/scrape-cadastre-permanent-fail-counter
fix/usermenu-analyst-role-label
feat/location-948b-r
feat/location-entity-948b
feat/insight-entity-948a
feat/analyst-role-audit-962
feat/cbr-inflation-macro-946
feat/cian-zhk-resolve-972
perf/forecast-parallel-horizons-1129
feat/newbuilding-enrich-backfill-972
feat/emiss-macro-indicators-946
feat/rosstat-emiss-macro-946
ci/frontend-vitest-job
chore/frontend-vitest-wkt-tests
feat/forecast-meta-footer
feat/forecast-future-supply-competitors
feat/forecast-docx-pptx-buttons
feat/forecast-scoring-panel
feat/forecast-product-tz-block
feat/market-map-layers-999
feat/forecast-chart-section6
feat/forecast-export-pptx-959
feat/forecast-export-docx-959
feat/forecast-export-ui-959
feat/forecast-export-telegram-959
feat/forecast-export-md-959
feat/analyze-response-contract-961
feat/competitor-velocity-spatial-fallback-968
fix/frontend-healthcheck-hostname
feat/analyze-market-coords-999
fix/site-finder-entry-crash-1001
feat/horizon-selector-996
feat/forecast-section-998
feat/forecast-endpoint-horizon-enqueue
feat/forecast-celery-task-persist
feat/forecast-orchestrator-service
feat/demand-supply-months-of-inventory
feat/wire-district-resolver
feat/district-vocab-reconciliation
fix/affordability-market-spread
fix/backtest-sig-gate
feat/wire-978-almon-rate-regime
feat/backtest-oos-almon-seasonal
ci/forgejo-pytest-gate
fix/tradein-praktika-logo-form-scroll
feat/yandex-exhaustive-price-room
feat/794-sber-time-adjust
chore/bot-harness-tuning
docs/agent-usage-throttle-qa-terminal
fix/avito-sweep-single-run-guard
chore/analyst-inbound-queue-tradein-db
feat/801-preview-full-wt
chore/bot-safety-followups
feat/tradein-avito-imv-fix
feat/tradein-repair-coef-calibration
feat/tradein-avito-houses-fix
feat/tradein-address-precision
feat/tradein-backfill-prioritize-listings
feat/tradein-geocode-deals-nominatim
feat/tradein-geocode-deals-from-houses
feat/tradein-same-building-match
feat/claude-envvars-and-stale-cron
No results found.
Labels
Clear labels   
Fable 5 ревью

Находки полного мульти-агентного ревью (Claude Fable 5, 2026-06-09)

  
GG-форсайт

Новое ТЗ от Ген Геныча (июнь 2026): Site Finder v2 — ИИ-прогноз продуктовой стратегии девелопера. Актуальный приоритет.

  
admin

Admin UI / internal tools / pipeline tracker

  
analytics

Аналитика данных / matching

  
auth

Authentication / authorization / multi-tenancy

  
automation

Автоматизация / cron / scheduler

  
bug

Something isn't working

  
business

Коммерческая воронка / пилоты / pipeline / реестр ПО

  
chore

Operational housekeeping

  
ci

Forgejo Actions / build pipeline

  
compliance

152-ФЗ / реестр ПО / legal / TOS

  
data

Data sources, parsers, ETL

  
data-moat

Уникальные данные — sales tracker, CRM aggregation

  
docs

README / runbooks / onboarding

  
duplicate

This issue or pull request already exists

  
dx

Developer experience / build speed

  
enhancement

New feature or request

  
feedback/max

Feedback from Max (Senior partner)

  
generative

Generative Design — concept generation engine

  
needs-discussion

Pending team sync / decision

  
needs-human

Human review/decision required

  
observability

Monitoring / metrics / logs / Sentry / Uptime

  
pause-bots

Kill-switch — all autonomous bots pause

  
performance

Latency / throughput / DB query tuning

  
priority/p0

Critical / production-blocker

  
priority/p1

High priority

  
priority/p2

Normal priority

  
priority/p3

Низкий приоритет (follow-up, tech-debt)

  
scope/backend

Backend Python — FastAPI, Celery, scrapers

  
scope/db

DB migrations, indexes, SQL

  
scope/devops

docker-compose, Caddy, workflows

  
scope/frontend

Frontend — Next.js, React, TypeScript

  
scope/qa

Tests, smoke, Playwright

  
scrapers

Скрапперы (Avito/Cian/Yandex/Rosreestr)

  
security

Security audit / secrets / vulnerabilities

  
site-finder

Site Finder scoring quality & data layer

  
stage/1

Stage 1: Generative MVP (нед 2-7)

  
stage/2

Stage 2: Site Finder MVP (нед 8-12)

  
status/blocked

Blocked — needs human intervention

  
status/done

Closed, completed

  
status/needs-analysis

Raw/fuzzy task filed by human — auto-analyst подхватывает: code-archeology + декомпозиция в actionable scope/* + status/ready (или split на под-issues)

  
status/needs-fix

Reviewer/QA вернул worker на доработку — worker сам чинит свой PR (fixup), НЕ требует human (в отличие от status/blocked)

  
status/qa

PR merged, awaiting smoke test

  
status/ready

Ready for pickup by worker bot

  
status/review

PR open, awaiting code review

  
status/wip

Work in progress (worker claimed)

  
tech-debt

Технический долг

  
tradein

Trade-In MVP проект

  
ux

User experience / responsive / conversion

  
week ревью 1

Week review 1 — находки multi-agent аудита проекта (2026-06-14)

  
wontfix

This will not be worked on

  
ИРД

Исходно-разрешительная документация — слой ограничений участка для analyze-таблицы

  
вторичка

Trade-In Estimator — проект оценки вторичного жилья

No labels
Fable 5 ревью
GG-форсайт
admin
analytics
auth
automation
bug
business
chore
ci
compliance
data
data-moat
docs
duplicate
dx
enhancement
feedback/max
generative
needs-discussion
needs-human
observability
pause-bots
performance
priority/p0
priority/p1
priority/p2
priority/p3
scope/backend
scope/db
scope/devops
scope/frontend
scope/qa
scrapers
security
site-finder
stage/1
stage/2
status/blocked
status/done
status/needs-analysis
status/needs-fix
status/qa
status/ready
status/review
status/wip
tech-debt
tradein
ux
week ревью 1
wontfix
ИРД
вторичка
Milestone
Clear milestone
No items
No milestone
Projects
Clear projects
No items
No project
Assignees
Clear assignees
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference: lekss361/gendesign#2670
No description provided.
Delete branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?