lekss361/gendesign
1
0
Fork 0
Code Issues 143 Pull requests Projects Releases Packages Wiki Activity Actions

Домклик не собирается с 5 августа: 17 банов подряд, QRATOR рубит на первой из шести корзин #3118

New issue
Closed
opened 2026-08-26 14:47:27 +00:00 by lekss361 · 4 comments
lekss361 commented 2026-08-26 14:47:27 +00:00
Owner
Copy link

Найдено при обходе состояния скраперов. В трекере этого нет, а тянется три недели.

Что случилось

domclick_city_sweep за всю историю:

статус прогонов последний макс. собрано
done 26 05.08 464
failed 24 09.08 0
banned 17 сегодня 1815

До 5 августа свип штатно завершался. Потом неделя failed, и с середины августа — только баны, 17 прогонов подряд, ни одного успешного.

domclick_detail_backfill за неделю: 7 прогонов, 0 успешных, 7 банов, blocked=3, обогащено 0 из 3 — там ноль по-настоящему.

Ротация корзин работает, но не спасает

В свипе уже есть механизм честности — start_bucket_index = run_id % len(ROOM_BUCKETS), чтобы блок не убивал всегда одни и те же корзины. Он действительно работает, стартовые индексы разные:

дата старт корзины завершено всего собрано
08-26 0 0 6 235
08-25 2 1 6 1815
08-24 0 0 6 59
08-23 3 0 6 277
08-22 4 1 6 447
08-21 5 0 6 393
08-20 5 1 6 423

buckets_completed никогда не больше 1 из 6. То есть QRATOR прилетает внутри первой-второй корзины при любом старте, и ротация лишь меняет, какую именно корзину мы теряем.

Объём до блока скачет: 59, 60, 277, 387, 389, 393, 423, 447, 1815. Это не фиксированная квота — защита адаптивная.

Что это значит для чекпоинтов (#3074)

Утром я вынес домклик из плана по замеру отмен деплоем — 54 прогона, ноль отмен, среднее 3 минуты. Это решение было принято по неверной мерке: урон здесь наносят не деплои, а баны.

Но и чекпоинт — не полное решение. При buckets_completed ≤ 1 он превратил бы случайную ротацию в систематический обход: шесть прогонов покрыли бы все шесть корзин вместо случайных повторов. Это ощутимо лучше нынешнего, но не чинит причину — источник блокирует нас почти сразу, и потолок остаётся около одной корзины в сутки.

Что стоит выяснить прежде всего

Не «как обойти блок», а что изменилось 5 августа. Ровная граница между 26 успешными прогонами и сплошными банами говорит о конкретном событии: смена защиты на стороне Домклика, смена нашего пула прокси, изменение в заголовках или частоте. Разбор ban_kind/error_text вокруг 05–09.08 и сверка с историей изменений скрапера дадут ответ быстрее, чем подбор обходов.

Отдельно замечу: сейчас это не видно ниоткуда, кроме прямого запроса в scrape_runs. Правила в ops/metrics/prometheus/rules/infra.yml уже есть, а Alertmanager не поднят (#3078) — то есть источник может молча не собираться неделями, и мы узнаём об этом случайно. Это тот же класс, что и остальные находки дня.

Refs #3074, #3078

Найдено при обходе состояния скраперов. В трекере этого нет, а тянется три недели. ## Что случилось `domclick_city_sweep` за всю историю: | статус | прогонов | последний | макс. собрано | |---|---|---|---| | `done` | 26 | **05.08** | 464 | | `failed` | 24 | 09.08 | 0 | | `banned` | **17** | **сегодня** | 1815 | До 5 августа свип штатно завершался. Потом неделя `failed`, и с середины августа — **только баны, 17 прогонов подряд, ни одного успешного**. `domclick_detail_backfill` за неделю: 7 прогонов, 0 успешных, 7 банов, `blocked=3, обогащено 0 из 3` — там ноль по-настоящему. ## Ротация корзин работает, но не спасает В свипе уже есть механизм честности — `start_bucket_index = run_id % len(ROOM_BUCKETS)`, чтобы блок не убивал всегда одни и те же корзины. Он действительно работает, стартовые индексы разные: | дата | старт корзины | завершено | всего | собрано | |---|---|---|---|---| | 08-26 | 0 | **0** | 6 | 235 | | 08-25 | 2 | **1** | 6 | 1815 | | 08-24 | 0 | **0** | 6 | 59 | | 08-23 | 3 | **0** | 6 | 277 | | 08-22 | 4 | **1** | 6 | 447 | | 08-21 | 5 | **0** | 6 | 393 | | 08-20 | 5 | **1** | 6 | 423 | **`buckets_completed` никогда не больше 1 из 6.** То есть QRATOR прилетает внутри первой-второй корзины при любом старте, и ротация лишь меняет, какую именно корзину мы теряем. Объём до блока скачет: 59, 60, 277, 387, 389, 393, 423, 447, 1815. Это не фиксированная квота — защита адаптивная. ## Что это значит для чекпоинтов (#3074) Утром я вынес домклик из плана по замеру отмен деплоем — 54 прогона, ноль отмен, среднее 3 минуты. **Это решение было принято по неверной мерке:** урон здесь наносят не деплои, а баны. Но и чекпоинт — не полное решение. При `buckets_completed ≤ 1` он превратил бы случайную ротацию в систематический обход: шесть прогонов покрыли бы все шесть корзин вместо случайных повторов. Это ощутимо лучше нынешнего, но не чинит причину — источник блокирует нас почти сразу, и потолок остаётся около одной корзины в сутки. ## Что стоит выяснить прежде всего Не «как обойти блок», а **что изменилось 5 августа**. Ровная граница между 26 успешными прогонами и сплошными банами говорит о конкретном событии: смена защиты на стороне Домклика, смена нашего пула прокси, изменение в заголовках или частоте. Разбор `ban_kind`/`error_text` вокруг 05–09.08 и сверка с историей изменений скрапера дадут ответ быстрее, чем подбор обходов. Отдельно замечу: сейчас это не видно ниоткуда, кроме прямого запроса в `scrape_runs`. Правила в `ops/metrics/prometheus/rules/infra.yml` уже есть, а Alertmanager не поднят (#3078) — то есть источник может молча не собираться неделями, и мы узнаём об этом случайно. Это тот же класс, что и остальные находки дня. Refs #3074, #3078
bot-backend commented 2026-08-27 08:43:46 +00:00
Collaborator
Copy link

«Что изменилось 5 августа» — выяснил: изменились наши ЛЕЙБЛЫ, а не их защита. И сбор сейчас растёт, а не лежит

Проверял гипотезу «конкретное событие 05.08» по git-хронологии и понедельным объёмам (Poincare, 27.08).

1. Граница 05.08 — это влитие честности классификации, не смена защиты

  • 04.08 — #2640 (один прокси на сессию браузера) и #2634 (не ходить через мёртвый запасной);
  • 05.08 — #2657 «блок QRATOR у Домклика больше не помечает прогон успешным» + #2645 (единый список QRATOR-маркеров serp+detail);
  • 09.08 — #2796 «свип ходит через прокси-пул, отказ узла не обнуляет прогон».

До 05.08 QRATOR-блок мог прятаться в done. После — называется failed/banned. Ровная граница в статусах — артефакт этих правок.

2. «До 5 августа штатно завершался» — опровергается июлем

Понедельно, domclick_city_sweep:

неделя статусы собрано за неделю макс/прогон
06.07 done 2 975 464
13.07 failed 0 0
20.07 failed 0 0
27.07 done,failed 407 368
03.08 done,failed 157 59
10.08 banned 1 093 387
17.08 banned 2 048 447
24.08 banned,failed 2 109 1 815

Две недели июля — сплошные failed («QRATOR block — 0 listings») при живом расписании; «здоровые» done начала августа собирали по 39–59 лотов. Хроническая деградация тянется с середины июля, просто до #2657 её часть проходила под done.

3. Тренд ПОСЛЕ #2796 — восстановление

С прокси-пулом (09.08) недельный сбор растёт три недели подряд: 1 093 → 2 048 → 2 109. Прогон 25.08 собрал 1 815 — больше, чем ЛЮБОЙ done-прогон за всю историю из шапки задачи (максимум там 464). Статус banned при этом честный (обрыв в конце), но читать его как «не собирается» — ловушка: собирается лучше, чем в «зелёном» июле.

4. Что из этого следует для плана задачи

  • Пункт «выяснить, что изменилось 05.08» можно закрывать: на стороне площадки события нет, дата — артефакт наших правок честности.
  • Довод за чекпоинт (#3074) остаётся и усиливается: buckets_completed ≤ 1 при любом старте → чекпоинт превращает случайную ротацию в систематический обход шести корзин. А «потолок ~одна корзина в сутки» уже мягче, чем выглядел: блок приходит по объёму/поведению (59…1815 до обрыва), не по номеру корзины.
  • Отдельно стоит перепроверить вклад sticky-прокси #2640: он влит за сутки до «границы» и меняет профиль трафика (один exit-IP на всю browser-сессию — удобная мишень для поведенческого профилирования QRATOR). Чистый эксперимент: один прогон с per-request ротацией против текущего sticky, сравнить точку обрыва. Не делал — это уже вмешательство в прод-поведение, решение за владельцем задачи.

domclick_detail_backfill — да, там ноль по-настоящему (7/7 банов, 0 обогащено), выводы задачи по нему не оспариваю.

## «Что изменилось 5 августа» — выяснил: изменились наши ЛЕЙБЛЫ, а не их защита. И сбор сейчас растёт, а не лежит Проверял гипотезу «конкретное событие 05.08» по git-хронологии и понедельным объёмам (Poincare, 27.08). ### 1. Граница 05.08 — это влитие честности классификации, не смена защиты - **04.08** — #2640 (один прокси на сессию браузера) и #2634 (не ходить через мёртвый запасной); - **05.08** — #2657 «**блок QRATOR у Домклика больше не помечает прогон успешным**» + #2645 (единый список QRATOR-маркеров serp+detail); - **09.08** — #2796 «свип ходит через прокси-пул, отказ узла не обнуляет прогон». До 05.08 QRATOR-блок мог прятаться в `done`. После — называется `failed`/`banned`. Ровная граница в статусах — артефакт этих правок. ### 2. «До 5 августа штатно завершался» — опровергается июлем Понедельно, `domclick_city_sweep`: | неделя | статусы | собрано за неделю | макс/прогон | |---|---|---:|---:| | 06.07 | done | 2 975 | 464 | | **13.07** | **failed** | **0** | 0 | | **20.07** | **failed** | **0** | 0 | | 27.07 | done,failed | 407 | 368 | | 03.08 | done,failed | 157 | 59 | | 10.08 | banned | 1 093 | 387 | | 17.08 | banned | 2 048 | 447 | | 24.08 | banned,failed | **2 109** | **1 815** | Две недели июля — сплошные `failed` («QRATOR block — 0 listings») при живом расписании; «здоровые» done начала августа собирали по 39–59 лотов. Хроническая деградация тянется с середины июля, просто до #2657 её часть проходила под `done`. ### 3. Тренд ПОСЛЕ #2796 — восстановление С прокси-пулом (09.08) недельный сбор растёт три недели подряд: 1 093 → 2 048 → 2 109. Прогон 25.08 собрал **1 815** — больше, чем ЛЮБОЙ done-прогон за всю историю из шапки задачи (максимум там 464). Статус `banned` при этом честный (обрыв в конце), но читать его как «не собирается» — ловушка: собирается лучше, чем в «зелёном» июле. ### 4. Что из этого следует для плана задачи - Пункт «выяснить, что изменилось 05.08» можно закрывать: на стороне площадки события нет, дата — артефакт наших правок честности. - Довод за чекпоинт (#3074) остаётся и усиливается: `buckets_completed ≤ 1` при любом старте → чекпоинт превращает случайную ротацию в систематический обход шести корзин. А «потолок ~одна корзина в сутки» уже мягче, чем выглядел: блок приходит по объёму/поведению (59…1815 до обрыва), не по номеру корзины. - Отдельно стоит перепроверить вклад sticky-прокси #2640: он влит за сутки до «границы» и меняет профиль трафика (один exit-IP на всю browser-сессию — удобная мишень для поведенческого профилирования QRATOR). Чистый эксперимент: один прогон с per-request ротацией против текущего sticky, сравнить точку обрыва. Не делал — это уже вмешательство в прод-поведение, решение за владельцем задачи. `domclick_detail_backfill` — да, там ноль по-настоящему (7/7 банов, 0 обогащено), выводы задачи по нему не оспариваю.
bot-backend commented 2026-08-27 12:09:40 +00:00
Collaborator
Copy link

Чекпоинты для domclick_city_sweep — на проде (PR #3140, спасибо за мерж)

Вывод твоего разбора («чекпоинт превращает случайную ротацию в систематический обход — ощутимо лучше нынешнего») реализован зеркально яндексовскому (#3074/PR #3098): провайдер skip_buckets + имена завершённых корзин + гард «цепочка накопила все 6» (честный no-op); buckets_total сжимается до объёма прогона — honest-status не читает возобновлённый как вечно-частичный; done_buckets пишется heartbeat'ом до финализации (мерж jsonb); планировщик — generic #2845.

Заодно это исправление моего же «домклику чекпоинтить нечего» из #3074 — тот вывод по средним 3 минутам твои данные опровергли.

Доставка: мерж попал под каскадную отмену деплой-очереди (Trade-In джобы зависли Blocked, следующий коммит был ops-only и воркфлоу не запускал) — дотащено workflow_dispatch'ем, код verified в контейнере (skip_buckets×5 в провайдере, _pick_resume в диспатче, scraper пересоздан 12:08 UTC).

Приёмка (обрывы у домклика ежедневные — снимется за 1-2 суток): у преемника оборванного прогона resume_reason='ok' + растущий done_buckets; за ≤6 прогонов покрыты все 6 корзин (до этого — никогда, buckets_completed ≤ 1 всю banned-эру).

## Чекпоинты для domclick_city_sweep — на проде (PR #3140, спасибо за мерж) Вывод твоего разбора («чекпоинт превращает случайную ротацию в систематический обход — ощутимо лучше нынешнего») реализован зеркально яндексовскому (#3074/PR #3098): провайдер `skip_buckets` + имена завершённых корзин + гард «цепочка накопила все 6» (честный no-op); `buckets_total` сжимается до объёма прогона — honest-status не читает возобновлённый как вечно-частичный; `done_buckets` пишется heartbeat'ом до финализации (мерж jsonb); планировщик — generic #2845. Заодно это исправление моего же «домклику чекпоинтить нечего» из #3074 — тот вывод по средним 3 минутам твои данные опровергли. **Доставка**: мерж попал под каскадную отмену деплой-очереди (Trade-In джобы зависли Blocked, следующий коммит был ops-only и воркфлоу не запускал) — дотащено `workflow_dispatch`'ем, код verified в контейнере (`skip_buckets`×5 в провайдере, `_pick_resume` в диспатче, scraper пересоздан 12:08 UTC). **Приёмка (обрывы у домклика ежедневные — снимется за 1-2 суток)**: у преемника оборванного прогона `resume_reason='ok'` + растущий `done_buckets`; за ≤6 прогонов покрыты все 6 корзин (до этого — никогда, `buckets_completed ≤ 1` всю banned-эру).
bot-backend commented 2026-08-27 21:44:27 +00:00
Collaborator
Copy link

Разбор 27.08. Заголовок тикета неверен: Домклик собирается. Под одним номером лежат два разных явления.

(а) «Не собирается с 5 августа» — артефакт метрики

Свежесть источника считается по max(finished_at) WHERE status = 'done' — orchestration/scheduler.py:113-125 (_STALE_SOURCES_SQL). А pipeline.py:4398 переводит любой прогон с blocked в banned и никогда в done (это осознанно, #2657 — external constraint, не наш баг).

Домклик поэтому не может получить done в принципе, и метрика показывает «мёртв с 05.08» независимо от того, сколько строк он на самом деле принёс.

Сколько принёс (проверено запросом, counters->>'lots_inserted'):

дата статус вставлено
25.08 banned 886
23.08 banned 128
26.08 banned 67
24.08 banned 8

Реальные нули — только 06-09.08 (мёртвый прокси-URL, снято #2657) и 27.08.

(б) Реальный отказ 27.08 — исчерпание пула, а не бан

Прогон 5023 умер за 51 мс: NoProxyAvailableError из BrowserFetcher.__aenter__ → _acquire_lease поднимается ДО первого HTTP-запроса. У run_domclick_city_sweep (pipeline.py:4208) нет обработчика этого исключения — у соседей он есть (:3610, :3851, :4114). Отказ провалился в generic except Exception → errors_count=1, mark_failed("fetch errors — 0 listings"), ban_kind = NULL. Со стороны неотличимо от «площадка забанила», хотя площадку даже не трогали.

Почему не осталось узлов: аренда держится на весь прогон, часами (browser_fetcher.py:288). В 04:04:45 одновременно жили четыре прогона — 5005 и 5010 в статусе zombie (стартовали 00:16 и 01:13, «закрыты» только в 06:16 и 07:13), 5018 и 5020. Пул из четырёх узлов был выбран целиком.

Что опровергнуто из тела

  • «17 банов подряд, QRATOR рубит на первой странице» — блок действительно прилетает внутри первой корзины, но прогоны берут 59-1815 лотов, а не ноль.
  • provider_affinity ни при чём: у всех четырёх узлов any, выделенных нет (миграция 253 / #2800).
  • Бан прокси id=9 сам по себе не причина — узлы 1 и 10 забанены не были.

Что делается

Правка (а) — метрика свежести — вынесена отдельно, она затрагивает все источники.
Правка (б) — обработчик NoProxyAvailableError для домклика — в работе, ветка fix/3118-domclick-no-proxy.

Не подтверждено строкой лога: логи прогона 5023 утрачены при пересоздании контейнера 27.08 19:12, тип исключения выведен из формы counters (buckets_total=6, bucket_start_index=0 при 5023 % 6 = 1 — падение внутри build_browser_fetcher, до нормализации индекса).

**Разбор 27.08. Заголовок тикета неверен: Домклик собирается.** Под одним номером лежат два разных явления. ## (а) «Не собирается с 5 августа» — артефакт метрики Свежесть источника считается по `max(finished_at) WHERE status = 'done'` — `orchestration/scheduler.py:113-125` (`_STALE_SOURCES_SQL`). А `pipeline.py:4398` переводит **любой** прогон с `blocked` в `banned` и никогда в `done` (это осознанно, #2657 — external constraint, не наш баг). Домклик поэтому не может получить `done` в принципе, и метрика показывает «мёртв с 05.08» независимо от того, сколько строк он на самом деле принёс. Сколько принёс (проверено запросом, `counters->>'lots_inserted'`): | дата | статус | вставлено | |---|---|---| | 25.08 | banned | **886** | | 23.08 | banned | **128** | | 26.08 | banned | 67 | | 24.08 | banned | 8 | Реальные нули — только 06-09.08 (мёртвый прокси-URL, снято #2657) и 27.08. ## (б) Реальный отказ 27.08 — исчерпание пула, а не бан Прогон **5023** умер за **51 мс**: `NoProxyAvailableError` из `BrowserFetcher.__aenter__` → `_acquire_lease` поднимается ДО первого HTTP-запроса. У `run_domclick_city_sweep` (`pipeline.py:4208`) нет обработчика этого исключения — у соседей он есть (`:3610`, `:3851`, `:4114`). Отказ провалился в generic `except Exception` → `errors_count=1`, `mark_failed("fetch errors — 0 listings")`, `ban_kind = NULL`. Со стороны неотличимо от «площадка забанила», хотя площадку даже не трогали. Почему не осталось узлов: аренда держится на весь прогон, часами (`browser_fetcher.py:288`). В 04:04:45 одновременно жили четыре прогона — 5005 и 5010 в статусе `zombie` (стартовали 00:16 и 01:13, «закрыты» только в 06:16 и 07:13), 5018 и 5020. Пул из четырёх узлов был выбран целиком. ## Что опровергнуто из тела - «17 банов подряд, QRATOR рубит на первой странице» — блок действительно прилетает внутри первой корзины, но прогоны берут 59-1815 лотов, а не ноль. - `provider_affinity` ни при чём: у всех четырёх узлов `any`, выделенных нет (миграция 253 / #2800). - Бан прокси `id=9` сам по себе не причина — узлы 1 и 10 забанены не были. ## Что делается Правка (а) — метрика свежести — вынесена отдельно, она затрагивает все источники. Правка (б) — обработчик `NoProxyAvailableError` для домклика — в работе, ветка `fix/3118-domclick-no-proxy`. Не подтверждено строкой лога: логи прогона 5023 утрачены при пересоздании контейнера 27.08 19:12, тип исключения выведен из формы `counters` (`buckets_total=6`, `bucket_start_index=0` при `5023 % 6 = 1` — падение внутри `build_browser_fetcher`, до нормализации индекса).
bot-backend commented 2026-09-01 06:56:21 +00:00
Collaborator
Copy link

Закрываю по ревизии 01.09.2026: заголовок опровергнут фактом (коммент 27.08 — «Домклик собирается», граница 05.08 оказалась сменой лейблов #2657, сбор растёт); чекпоинты PR #3140 и фиксы #3174/#3205 смержены. Свежесть по источнику сегодня: 6 813 активных, scraped 01.09. Живой остаток про баны внутри корзины — #2854, про слепоту freshness к banned-с-данными — #3172.

Закрываю по ревизии 01.09.2026: заголовок опровергнут фактом (коммент 27.08 — «Домклик собирается», граница 05.08 оказалась сменой лейблов #2657, сбор растёт); чекпоинты PR #3140 и фиксы #3174/#3205 смержены. Свежесть по источнику сегодня: 6 813 активных, scraped 01.09. Живой остаток про баны внутри корзины — #2854, про слепоту freshness к banned-с-данными — #3172.
Sign in to join this conversation.
No Branch/Tag specified
Branches Tags
main
fix/3469-showcase-schedule
fix/3443-caddy-selfdowntime
fix/3463-db-statement-timeout
fix/3448-caddy-only-detection
fix/metrics-deploy-reloads-prometheus
feat/landing-showcase-band
fix/3452-corridor-advisory-zone
fix/alert-value-is-not-the-ratio
fix/3449-geocoder-cancel-orphan
fix/3451-tvf-deals-rooms
fix/msk-collector-net-retry
feat/msk-yandex-import
fix/3051-fetch-deals-rooms-dropped
feat/msk-collector-cian
fix/3256-asking-to-sold-buckets
fix/3083-estimate-throughput
fix/3274-part2b-gate
fix/3274-part2a-caddy-retry
fix/perimeter-smoke-retry-on-no-response
fix/3274-zero-downtime-frontend
fix/3274-part1-deploy-swap
fix/3412-cian-instance-relaunch
fix/3415-bucket-done-only-if-phases-ok
chore/backend-pool-wiring-tails
fix/3398-pool-ops-off-event-loop
fix/3402-followups-ban-kinds-curl
feat/3404-proxy-run-attribution
fix/cian-captcha-is-platform-refusal
refactor/3390-single-runs-module
fix/3398-estimator-valuations-proxy-pool
fix/3386-estimator-imv-proxy-pool
fix/3394-cian-sweep-houses-proxy-pool
fix/3393-interrupted-runs-outside-streaks
fix/drain-marks-inflight-app-tasks
fix/3384-no-proxy-at-batch-start
fix/3197-yandex-newbuilding-proxy-pool
fix/3376-price-history-decimal-slips
fix/backend-proxy-pool-flags
fix/3197-cian-history-backfill-proxy-pool
fix/3288-sidecar-ban-status-code
fix/3375-yandex-fullload-on-bucket-contract
fix/3380-deploy-metrics-alloy-recreate
fix/3354-alloy-query-secret-scrub
fix/3360-admin-prefix-anon-404
fix/3368-yandex-leaf-complete-flag
fix/3369-domclick-cancel-checkpoint
fix/3225-domklik-diff-percent
fix/smoke-history-path
fix/3288-breaker-block-kind
fix/3355-drain-mark-fullloads
fix/3191-yandex-detail-completeness
fix/3359-containment-cian-yandex
fix/3323-payment-init-fail-409
fix/3172-freshness-by-data
fix/3288-avito-ban-per-source
fix/3253-domclick-house-fields
fix/3312-defer-interval-minutes
fix/3324-rbac-401-oracle
fix/3274-deploy-window-error-page
fix/3343-auth-latency-flaky
fix/3315-exhaustive-containment-skip
fix/3338-backfill-save-false
fix/3339-thin-market-badge
fix/3154-glitchtip-secret-log-leak
fix/3333-drain-mark-all-sweeps
fix/3323-imv-thin-market-gate
fix/3324-mera-perimeter
fix/3323-coverage-copy-honesty
fix/3332-domclick-counter-identity
fix/3324-ptica-deploy-gate
fix/3316-role-single-source
fix/3319-citysweep-checkpoint
fix/3322-rosseti-stable-key
fix/3320-v2-honest-zeros
fix/3321-draft-fields-survive
fix/mera-mobile-nav-and-sticky
fix/audit-form-ux
fix/audit-coverage-500
fix/audit-dkp-price
fix/audit-accuracy-window
fix/audit-faq-contradiction
fix/perimeter-smoke-after-payments
feat/b2c-landing-honest-copy
feat/b2c-landing-live-numbers
feat/b2c-v3-becomes-root
feat/b2c-v3-port-v1-blocks
feat/b2c-report-redesign
feat/b2c-landing-v3-full
feat/3192b-yandex-phones
feat/3168-backfill-cursor-resume
fix/3118-domclick-no-proxy
fix/3170-yandex-combo-checkpoint
feat/3074-newbuilding-sweep-resume
fix/3163-infra-topic-default
fix/3156-tgbot-error-type
feat/3163-infra-topic-split
fix/3161-alertmanager-route-prefix
fix/3155-prometheus-no-alertmanager
feat/2997-drop-listings-geom-idx
fix/3122-boot-reap-observable
feat/3122-boot-reap
feat/3051-houses-region-code
feat/3074-cian-anchor-checkpoint
feat/3051-region-registry
fix/2656-anchor-ratio-freshness
fix/3114-scrub-credentials-in-logs
fix/3078-grafana-single-auth
fix/3081-honest-progress
fix/3063-pro-seller-derive
fix/3074-checkpoint-survives-claim
fix/3082-estimate-concurrency
fix/3044-enriched-total-seen
fix/telegram-pin-selectel-override
chore/compose-host-parameterised-resources
fix/revisit-floor-lateral-lookup
fix/avito-detail-fields
fix/3034-avito-fingerprint
fix/avito-offers-per-page
feat/3033-avito-secondary-filter
fix/2203-restore-drill-readiness
feat/2203-backup-staleness-and-forgejo
fix/2990-clean-start-initdb
fix/2924-yandex-jk-resolve-tried-at
fix/2992-upsert-distinct-gate
fix/2998-rosreestr-q2-partitions
feat/2936-null-penalty-flag
fix/2996-mislocated-houses-watchdog
fix/1781-secondary-only-param
fix/2934-risks-coverage
fix/2464-three-small
fix/2464-two-docstrings
fix/2464-zouit-label
fix/2464-building-pct-guard
fix/2464-download-binary-retry
fix/2986-permits-key
fix/2464-tep-docstring
fix/2464-act-date-backfill
fix/2464-area-bin-null
fix/2464-act-date-citation
fix/2464-detect-kind
fix/2464-status-negation
fix/2464-objective-zombie-sweep
fix/2464-inert-retry-config
fix/2464-default-profile-unique
fix/2464-zombie-any-running
fix/2464-catalog-skipped-counter
fix/2464-heat-loader-tx
fix/2464-objective-run-stuck
fix/2464-catalog-waf-breaker
fix/2464-lock-key-order
fix/2464-backfill-waf-abort
fix/2464-docs-vs-code
fix/2464-land-reservation-dedup
fix/2464-manual-list-validation
fix/2464-capacity-savepoints
fix/2464-leads-window-naming
fix/2464-zouit-count-label
fix/2464-catalog-batch-commits
fix/2464-html-zoning-fallback
fix/2950-lock-wait-observable
fix/2956-freshness-counts-failed-harvest
fix/2950-host-lock
fix/2953-nominatim-throttle
fix/2950-deploy-docker-lock
fix/2464-ird-lookups-savepoint
fix/2464-parcels-savepoint-pair
fix/2674-deal-floor-display
docs/2854-stale-justifications
chore/2857-drop-placeholder-columns
fix/2855-probe-protected-path
fix/2674-has-panorama
fix/house-imv-anchor-era
fix/2674-quality-cadastre-column
fix/sber-freshness-guard
fix/dkp-corridor-as-of
fix/scheduler-resume-checkpoint
fix/quarter-target-from-neighbour
fix/2687-domclick-ban-kind-platform
fix/2814-address-backfill
fix/2677-house-anchor-renovation
feat/tradein-paid-retention
chore/ci-config-cleanup
feat/mera-b2c-privacy
feat/tradein-payments-schema
chore/2674-dead-code-sweep
fix/2674-matching-tiers-honesty
fix/2674-avito-full-load-coverage
fix/2674-admin-metrics-honesty
fix/2674-writers-honor-schema
fix/2674-alerts-actually-fire
fix/2679-scraper-deploy-parity
fix/2674-house-imv-params
fix/2666-discount-plausibility-gate
feat/2435-cian-house-enrichment
fix/2657-domclick-block-not-done
feat/2571-login-throttle
fix/2660-display-freshness-segment
fix/2658-loud-skip-status
fix/2603-geocode-city-hint-tails
feat/2600-per-source-proxy-health
feat/tradein-v2-exposure-in-result-card
fix/tradein-avito-browser-proxy-pool
chore/tradein-cut-wasteful-scraping
fix/tradein-v2-deals-fallback-visible
fix/tradein-city-stamp-geo-guard
fix/tradein-cian-oblast-secondary
fix/tradein-implausible-build-year
fix/tradein-snapshot-query-perf
fix/tradein-asking-sold-city-scope
chore/tradein-purge-dead-mobileproxy
feat/tradein-asocks-rotation
fix/tradein-region-code-foreign-cities
fix/tradein-proxy-pool-self-healing
fix/tradein-backfill-listing-city-from-url
fix/tradein-geocode-queue-active-only
fix/tradein-geocode-city-hint
chore/tradein-remove-yandex-scripts
fix/tradein-listing-city-from-sweep
chore/tradein-remove-yandex-geocoder
chore/tradein-remove-n1
fix/tradein-geocoder-fail-closed
fix/tradein-ui-city-label-clip
feat/tradein-ui-city-hint
fix/tradein-coords-backfill-city-gate
fix/tradein-geocoder-city-default
fix/tradein-anchor-geo-scope
fix/tradein-avito-detail-oblast
feat/tradein-price-bands-refresh
feat/tradein-caddy-cutover
fix/tradein-team-nav-and-401
feat/tradein-team-dashboard
fix/tradein-team-list-order
feat/tradein-team-api
feat/tradein-login-ui
feat/tradein-auth-core
feat/tradein-auth-password-foundation
feat/tradein-auth-users-schema
fix/tradein-rbac-test-user2-expired
fix/tradein-auth-revoke-user2
fix/2013-avito-cohort-null
fix/rbac-test-user2-expired
fix/expire-brusnika-trial-access
feat/tradein-domclick-house-sku-schema
chore/design-sync-tradein
fix/tradein-deploy-scraper-paths-filter
fix/tradein-no-numberless-house-insert
fix/tradein-dedup-fias-pass-no-geoguard
feat/tradein-fias-estimate-frontend
fix/tradein-dedup-by-fias
feat/tradein-fias-tier-matching
fix/tradein-v2-uiux-p1
fix/objective-lots-dedup-1964
fix/audit-followups-1953
feat/concept-house-picker-1965-stage3b
feat/concept-house-catalog-1965-stage3a
feat/concept-live-massing-1965-stage2b
feat/concept-recompute-1965-stage2a
feat/concept-section-1965-stage1
fix/best-layouts-per-object-snapshot-1956
fix/deficit-segmentation-1959
feat/tradein-hedonic-ground-floor
fix/report-map-points-1961
fix/report-microcopy-1963
fix/report-nspd-zoning-1962
fix/report-frontend-display-1953
perf/tradein-estimate-audit
perf/best-layouts-objects-first
fix/171-migration-path
perf/171-objective-crm-report-month-idx
fix/1926-app-log-stdout
fix/estimator-tiebreaker-nanalogs
fix/1917-fetch-json-network-retry
fix/1926-scrape-runs-total-seen
fix/1781-house-fk-source-identity
feat/39-osrm-per-category
feat/1746-utility-infra-map
fix/test-849-savepoint-count
fix/parking-economics-by-class
fix/zouit-engineering-area-gate
fix/zoning-resolution-decouple
feat/dcf-velocity-schedule
feat/zone-regulation-backfill
chore/mock-financial-estimate
fix/finmodel-split-disclosure-threshold
feat/finmodel-financing
feat/finmodel-sitefinder-bridge
feat/finmodel-dcf
feat/finmodel-price-calibration
feat/finmodel-cost-cascade
audit/1871-p2-estimator-dedup-split
audit/1871-p2-avito-coord
audit/1871-p3-uiux
audit/1871-p2-invest-moi
audit/1871-p2-velocity-market
audit/1871-p1-3-isreal-stubs
audit/1871-p1-2-ghost-anchor-guard
audit/1871-p1-scenarios-collapse
revert/site-finder-v2
fix/v2-remove-resource-legend
fix/v2-map-legend-position
feat/site-finder-v2-map-light-polish
rollback/site-finder-home-light
feat/site-finder-v2-cockpit
rollback/sf-old-analysis-design
feat/ptica-tabs-6-6-reports-params
fix/ptica-vri-row
feat/ptica-map-glyphs-sitefinder-dark
fix/ptica-3d-preview-product-verdict
fix/ptica-button-fontsize
fix/ptica-parity-data-mapping
chore/ptica-iso-preview-spin
fix/ptica-inter-map-product
fix/ptica-visual-parity
fix/ptica-left-rail
feat/ptica-cockpit-complete-bottom
feat/ptica-default-and-rich-map
feat/ptica-real-ksit-frontend
feat/tradein-ekb-geoportal-buildings
fix/sf-feedback-batch
feat/avito-newbuilding-sweep
feat/browser-concurrent-pool
fix/backfill-kadastr-column
fix/avito-proactive-ip-rotate
feat/activate-domclick-sweep
feat/avito-newbuilding-capture
fix/house-id-fk-realtime-link
fix/migration-162-table-if-exists
feat/riasurt-sverdl-layers-108
fix/sber-dataset-paths-902
fix/conflict-resolution-freshness-1539
feat/objective-lots-history-writer-307-obj6
feat/velocity-mv-61
fix/objective-mapping-is-reviewed-gate-307-obj2
fix/cian-detail-rich-fields
fix/avito-novostroyki-segment
feat/yandex-novostroyki-newflat
fix/ci-dedup-runner-storm-1709
fix/emiss-pk-granularity-1687
feat/listings-segment-param-1188
fix/inn-regex-word-boundary-1682
fix/excel-deficit-horizon-1590
fix/admin-scrape-validation
fix/admin-leads-interval-cast-1694
fix/dkp-corridor-doc-p10p90-1695
fix/weather-wind-d-allnone
test/residential-zone-rawprops-1681
fix/domrf-badge-regex-narrow-1686
feat/yandex-camoufox-transport
fix/score-sat-factor-1509
fix/base-pace-room-bucket-1593
fix/gate-verdict-no-blocker-1617
fix/confidence-deal-count-window-1637
fix/match-economics-1511-1512
fix/listings-partial-indexes-1398
fix/smart-suggestions-threshold-1503
fix/dkp-corridor-percentile-1520
fix/enrich-economics-window-1513
fix/leads-stats-window-1383
fix/poi-score-scale-1486
fix/geo-weight-floor-1633
fix/inn-regex-context-1640
fix/domrf-status-classify-1609
fix/emiss-period-dedup-1606
fix/cian-paginate-tail-1393
fix/normalize-zero-fill-guard-1638
fix/supply-view-devgroup-key-1650
fix/residential-zone-detect-1353
fix/score-label-threshold-1357
fix/trend-ratio-vprior-zero-1508
fix/district-median-dedup-1352
fix/supply-layers-overlap-1355
fix/pdf-expires-at-1530
fix/quartirography-area-bucket-1406
fix/cad-zones-multipolygon-1344
fix/sold-pct-market-verdict-1407
fix/week-review-finish
fix/week-review-backend-v2
feat/plan-vectorization-spike-299
fix/1668-analyze-confidence
fix/1667-metro-block
fix/1666-layout-velocity-beat
chore/remove-n1-scraper
fix/cian-kitchen-area
feat/yandex-detail-backfill
feat/avito-detail-backfill
fix/best-layouts-bucket-normalization
fix/gknspecial-incremental-commit-per-prefix
fix/okn-objects-full-registry-load
fix/parcel-ird-overlap-except-expand
fix/report-assembler-confounded-keys
fix/job-settings-json-persist-v2
fix/nspd-geo-soft-time-limit-passthrough
fix/nspd-soft-time-limit-v2
fix/pilot-request-modal-validation
fix/recommend-mix-saturation-latest-snapshot
fix/scrape-cadastre-fail-counter-v2
fix/izyatie-ocr-cad-normalize
fix/job-settings-panel-json-state-persist
fix/noise-loader-savepoint-per-row
fix/objective-sync-config-bare-except
fix/parcel-snapshot-mdash-double-escape
fix/poi-loader-leap-year-date-replace
fix/scrape-cadastre-permanent-fail-counter
fix/usermenu-analyst-role-label
feat/location-948b-r
feat/location-entity-948b
feat/insight-entity-948a
feat/analyst-role-audit-962
feat/cbr-inflation-macro-946
feat/cian-zhk-resolve-972
perf/forecast-parallel-horizons-1129
feat/newbuilding-enrich-backfill-972
feat/emiss-macro-indicators-946
feat/rosstat-emiss-macro-946
ci/frontend-vitest-job
chore/frontend-vitest-wkt-tests
feat/forecast-meta-footer
feat/forecast-future-supply-competitors
feat/forecast-docx-pptx-buttons
feat/forecast-scoring-panel
feat/forecast-product-tz-block
feat/market-map-layers-999
feat/forecast-chart-section6
feat/forecast-export-pptx-959
feat/forecast-export-docx-959
feat/forecast-export-ui-959
feat/forecast-export-telegram-959
feat/forecast-export-md-959
feat/analyze-response-contract-961
feat/competitor-velocity-spatial-fallback-968
fix/frontend-healthcheck-hostname
feat/analyze-market-coords-999
fix/site-finder-entry-crash-1001
feat/horizon-selector-996
feat/forecast-section-998
feat/forecast-endpoint-horizon-enqueue
feat/forecast-celery-task-persist
feat/forecast-orchestrator-service
feat/demand-supply-months-of-inventory
feat/wire-district-resolver
feat/district-vocab-reconciliation
fix/affordability-market-spread
fix/backtest-sig-gate
feat/wire-978-almon-rate-regime
feat/backtest-oos-almon-seasonal
ci/forgejo-pytest-gate
fix/tradein-praktika-logo-form-scroll
feat/yandex-exhaustive-price-room
feat/794-sber-time-adjust
chore/bot-harness-tuning
docs/agent-usage-throttle-qa-terminal
fix/avito-sweep-single-run-guard
chore/analyst-inbound-queue-tradein-db
feat/801-preview-full-wt
chore/bot-safety-followups
feat/tradein-avito-imv-fix
feat/tradein-repair-coef-calibration
feat/tradein-avito-houses-fix
feat/tradein-address-precision
feat/tradein-backfill-prioritize-listings
feat/tradein-geocode-deals-nominatim
feat/tradein-geocode-deals-from-houses
feat/tradein-same-building-match
feat/claude-envvars-and-stale-cron
No results found.
Labels
Clear labels   
Fable 5 ревью

Находки полного мульти-агентного ревью (Claude Fable 5, 2026-06-09)

  
GG-форсайт

Новое ТЗ от Ген Геныча (июнь 2026): Site Finder v2 — ИИ-прогноз продуктовой стратегии девелопера. Актуальный приоритет.

  
admin

Admin UI / internal tools / pipeline tracker

  
analytics

Аналитика данных / matching

  
auth

Authentication / authorization / multi-tenancy

  
automation

Автоматизация / cron / scheduler

  
bug

Something isn't working

  
business

Коммерческая воронка / пилоты / pipeline / реестр ПО

  
chore

Operational housekeeping

  
ci

Forgejo Actions / build pipeline

  
compliance

152-ФЗ / реестр ПО / legal / TOS

  
data

Data sources, parsers, ETL

  
data-moat

Уникальные данные — sales tracker, CRM aggregation

  
docs

README / runbooks / onboarding

  
duplicate

This issue or pull request already exists

  
dx

Developer experience / build speed

  
enhancement

New feature or request

  
feedback/max

Feedback from Max (Senior partner)

  
generative

Generative Design — concept generation engine

  
needs-discussion

Pending team sync / decision

  
needs-human

Human review/decision required

  
observability

Monitoring / metrics / logs / Sentry / Uptime

  
pause-bots

Kill-switch — all autonomous bots pause

  
performance

Latency / throughput / DB query tuning

  
priority/p0

Critical / production-blocker

  
priority/p1

High priority

  
priority/p2

Normal priority

  
priority/p3

Низкий приоритет (follow-up, tech-debt)

  
scope/backend

Backend Python — FastAPI, Celery, scrapers

  
scope/db

DB migrations, indexes, SQL

  
scope/devops

docker-compose, Caddy, workflows

  
scope/frontend

Frontend — Next.js, React, TypeScript

  
scope/qa

Tests, smoke, Playwright

  
scrapers

Скрапперы (Avito/Cian/Yandex/Rosreestr)

  
security

Security audit / secrets / vulnerabilities

  
site-finder

Site Finder scoring quality & data layer

  
stage/1

Stage 1: Generative MVP (нед 2-7)

  
stage/2

Stage 2: Site Finder MVP (нед 8-12)

  
status/blocked

Blocked — needs human intervention

  
status/done

Closed, completed

  
status/needs-analysis

Raw/fuzzy task filed by human — auto-analyst подхватывает: code-archeology + декомпозиция в actionable scope/* + status/ready (или split на под-issues)

  
status/needs-fix

Reviewer/QA вернул worker на доработку — worker сам чинит свой PR (fixup), НЕ требует human (в отличие от status/blocked)

  
status/qa

PR merged, awaiting smoke test

  
status/ready

Ready for pickup by worker bot

  
status/review

PR open, awaiting code review

  
status/wip

Work in progress (worker claimed)

  
tech-debt

Технический долг

  
tradein

Trade-In MVP проект

  
ux

User experience / responsive / conversion

  
week ревью 1

Week review 1 — находки multi-agent аудита проекта (2026-06-14)

  
wontfix

This will not be worked on

  
ИРД

Исходно-разрешительная документация — слой ограничений участка для analyze-таблицы

  
вторичка

Trade-In Estimator — проект оценки вторичного жилья

No labels
Fable 5 ревью
GG-форсайт
admin
analytics
auth
automation
bug
business
chore
ci
compliance
data
data-moat
docs
duplicate
dx
enhancement
feedback/max
generative
needs-discussion
needs-human
observability
pause-bots
performance
priority/p0
priority/p1
priority/p2
priority/p3
scope/backend
scope/db
scope/devops
scope/frontend
scope/qa
scrapers
security
site-finder
stage/1
stage/2
status/blocked
status/done
status/needs-analysis
status/needs-fix
status/qa
status/ready
status/review
status/wip
tech-debt
tradein
ux
week ревью 1
wontfix
ИРД
вторичка
Milestone
Clear milestone
No items
No milestone
Projects
Clear projects
No items
No project
Assignees
Clear assignees
No assignees
2 participants
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference: lekss361/gendesign#3118
No description provided.
Delete branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?