Compare commits
No commits in common. "main" and "fix/3463-db-statement-timeout" have entirely different histories.
main
...
fix/3463-d
24 changed files with 149 additions and 1950 deletions
|
|
@ -233,16 +233,6 @@ jobs:
|
|||
# уезжает в main зелёной. Ровно то, что осуждает комментарий выше.
|
||||
- '.forgejo/workflows/deploy-metrics.yml'
|
||||
- 'docker-compose.metrics.yml'
|
||||
# #3443: тот же класс, третий раз. Гейт
|
||||
# backend/tests/ops/test_3443_caddy_reload_not_recreate.py не читает
|
||||
# ops/caddy-apply.sh, а ИСПОЛНЯЕТ его с подставным `docker` — то есть
|
||||
# все содержательные регрессии живут в самом скрипте, а не в
|
||||
# deploy.yml. PR, правящий только ops/**, без этой строки давал бы
|
||||
# backend=false: джоба пропускается, гейт не исполняется, и
|
||||
# «пересоздавать всегда» (окно 67 с на всех доменах) или
|
||||
# «не пересоздавать никогда» (правка конфига беззвучно не доезжает)
|
||||
# уезжает в main зелёным.
|
||||
- 'ops/**'
|
||||
frontend:
|
||||
- 'frontend/**'
|
||||
- '.forgejo/workflows/ci.yml'
|
||||
|
|
|
|||
|
|
@ -1058,17 +1058,12 @@ jobs:
|
|||
docker compose -p gendesign -f docker-compose.prod.yml up -d \
|
||||
--force-recreate --no-deps $WORKER_SERVICES
|
||||
|
||||
# Caddy: пересоздание ТОЛЬКО когда без него правка не доедет (#3443).
|
||||
# Здесь стоял безусловный `up -d --force-recreate --no-deps caddy` —
|
||||
# то есть КАЖДЫЙ полный деплой сносил единственный процесс, слушающий
|
||||
# 80/443, и все домены хоста отдавали `code=000` (замер 05.09: 67 с).
|
||||
# Довод той правки (17.05, 11e78d73 — «иначе новые volume mounts не
|
||||
# появляются») не подтвердился: `up -d` БЕЗ флага пересоздаёт
|
||||
# контейнер сам, как только меняется описание сервиса или образ.
|
||||
# Разбор и проверки — в шапке ops/caddy-apply.sh; там же сверка
|
||||
# пофайловых bind-маунтов (Caddyfile + 4 сниппета держат инод) и
|
||||
# `caddy validate` до применения.
|
||||
sh ops/caddy-apply.sh
|
||||
# Caddy: force-recreate чтобы подхватить изменения в Caddyfile
|
||||
# И в особенности новые volume mounts из docker-compose.prod.yml
|
||||
# (`reload` не пересоздаёт container, поэтому новые binds не появляются —
|
||||
# был случай 2026-05-17 с PR #268 preview/ — потребовался manual SSH fix).
|
||||
docker compose -p gendesign -f docker-compose.prod.yml up -d \
|
||||
--force-recreate --no-deps caddy
|
||||
|
||||
# Forwarder: force-recreate чтобы новый image / новые env подхватывались.
|
||||
# Без --force-recreate обычный `up -d` НЕ recreate'ит при image rebuild
|
||||
|
|
@ -1295,13 +1290,14 @@ jobs:
|
|||
# Публичный периметр МЕРЫ живёт в этом файле и будет меняться часто: новая
|
||||
# страница = новая строка allowlist'а.
|
||||
#
|
||||
# ПОЧЕМУ `reload`, А НЕ `up -d --force-recreate caddy`. Опечатка в конфиге на
|
||||
# пересоздании уводит контейнер в crash-loop и роняет ВСЕ домены сразу, а
|
||||
# `caddy reload` её просто не принимает: job краснеет, домены продолжают
|
||||
# обслуживаться прежним конфигом. С #3443 ровно тот же порядок действует и на
|
||||
# полном деплое — оба пути зовут ops/caddy-apply.sh, который сперва проверяет
|
||||
# конфиг одноразовым контейнером и пересоздаёт Caddy, только если правка иначе
|
||||
# не доедет (пофайловый bind-маунт держит инод).
|
||||
# ПОЧЕМУ `reload`, А НЕ `up -d --force-recreate caddy`. Полный деплой
|
||||
# осознанно пересоздаёт контейнер (комментарий в ci.yml: `reload` отказался бы
|
||||
# принять битый конфиг и оставил бы работать старый — на общем деплое это
|
||||
# скрыло бы поломку). Здесь наоборот: правится ТОЛЬКО конфиг, и отказ
|
||||
# применить битый — ровно то, что нужно. `caddy reload` возвращает ненулевой
|
||||
# код → job краснеет, а домены продолжают обслуживаться старым конфигом.
|
||||
# Альтернатива (`--force-recreate`) на опечатке уводит контейнер в crash-loop
|
||||
# и роняет ВСЕ домены сразу.
|
||||
#
|
||||
# Гейт `caddy validate` на PR (#2913) остаётся первой линией; этот шаг —
|
||||
# вторая, уже против боевого файла после `git reset`.
|
||||
|
|
@ -1404,16 +1400,11 @@ jobs:
|
|||
exit 1
|
||||
fi
|
||||
git reset --hard origin/main
|
||||
# #3443: тот же скрипт, что и в полном деплое. Голый `exec caddy
|
||||
# reload` здесь был ВЕРЕН только для каталогов (caddy/sites/**,
|
||||
# caddy/local/**). Caddyfile и четыре сниппета смонтированы
|
||||
# ПОФАЙЛОВО, а `git reset --hard` выше пишет новый инод — контейнер
|
||||
# остаётся на прежнем, и reload перечитывает СТАРЫЙ текст. Отказ
|
||||
# беззвучный: джоба зелёная, конфиг на диске новый, прокси работает
|
||||
# по старому. Скрипт сверяет, что именно видит контейнер, и
|
||||
# пересоздаёт его только в этом случае.
|
||||
sh ops/caddy-apply.sh
|
||||
echo "✓ быстрый путь завершён: без пересборки образов и без миграций"
|
||||
# Конфиг примонтирован read-only с хоста, пересборка не нужна —
|
||||
# контейнер читает тот же файл, что только что обновил git.
|
||||
docker compose -p gendesign -f docker-compose.prod.yml exec -T caddy \
|
||||
caddy reload --config /etc/caddy/Caddyfile --adapter caddyfile
|
||||
echo "✓ конфиг прокси перезагружен без пересборки и без миграций"
|
||||
|
||||
# ── Смоук публичного периметра МЕРЫ после выкатки (#2917) ──────────────────
|
||||
#
|
||||
|
|
|
|||
|
|
@ -17,22 +17,12 @@ Analyze-тесты с ПОЗИЦИОННЫМ DB-моком (``_make_db_for_analy
|
|||
(``test_analyze_zoning_regulation.py``), переопределяют этот же target своим
|
||||
per-test ``patch`` — он применяется ПОВЕРХ авто-фикстуры (вложенный mock-scope), так
|
||||
что их ожидаемые значения резолвера сохраняются.
|
||||
|
||||
Perf-fix (2026-09-12): в конце ``analyze_parcel`` — безусловный best-effort
|
||||
``forecast_site_finder_report.delay(...)`` (§22-форсайт enqueue, см. app/api/v1/parcels.py).
|
||||
В песочнице тестов Celery-брокер (Redis) недоступен → ``.delay()`` синхронно ждёт
|
||||
kombu-реконнект с растущим backoff (~69с) ДО того как try/except его проглотит —
|
||||
эта пауза оказалась внутри КАЖДОГО теста, который дергает ``POST /analyze`` и не
|
||||
мокал форсайт-таску. Авто-фикстура ниже глушит ``.delay`` в no-op-мок для ВСЕХ
|
||||
тестов каталога (как и с резолвером выше) — тесты самого enqueue
|
||||
(``test_parcels_forecast.py``, ``test_run_history_and_response_contract.py``)
|
||||
переопределяют тот же target своим per-test ``patch`` поверх авто-фикстуры.
|
||||
"""
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
from collections.abc import Iterator
|
||||
from unittest.mock import MagicMock, patch
|
||||
from unittest.mock import patch
|
||||
|
||||
import pytest
|
||||
|
||||
|
|
@ -47,34 +37,3 @@ def _stub_zone_regulation_resolver() -> Iterator[None]:
|
|||
"""
|
||||
with patch("app.api.v1.parcels.get_or_fetch_zone_regulation", return_value=None):
|
||||
yield
|
||||
|
||||
|
||||
@pytest.fixture(autouse=True)
|
||||
def _stub_forecast_enqueue() -> Iterator[None]:
|
||||
"""No-op форсайт-enqueue по умолчанию (без реального Celery/Redis round-trip).
|
||||
|
||||
``.delay(...)`` в проде — fire-and-forget (best-effort, обёрнут в try/except в
|
||||
``analyze_parcel``), тестам сам форсайт не нужен, а живой брокер в CI/локальной
|
||||
песочнице недоступен и держит запрос ~69с на реконнект-backoff.
|
||||
"""
|
||||
with patch("app.workers.tasks.forecast.forecast_site_finder_report.delay", MagicMock()):
|
||||
yield
|
||||
|
||||
|
||||
@pytest.fixture(autouse=True)
|
||||
def _fast_inline_fetch_wait(monkeypatch: pytest.MonkeyPatch) -> None:
|
||||
"""Схлопнуть inline-ожидание NSPD-фетча (#93 graceful fallback) до миллисекунд.
|
||||
|
||||
В ``analyze_parcel`` ветка «участка нет в БД» ждёт появления геометрии циклом
|
||||
``sleep(_INLINE_FETCH_POLL_INTERVAL_S)`` до ``_INLINE_FETCH_WAIT_S`` (15с прод-
|
||||
значение). В тестах фетч замокан и геометрия не появится никогда → каждый такой
|
||||
тест честно спал 16с (``test_market_price_invalid_cad_returns_404``,
|
||||
``test_recent_permits_invalid_cad_no_regression``).
|
||||
|
||||
Оставляем цикл РАБОЧИМ (несколько итераций по 10мс), а не выключаем его нулём:
|
||||
тесты, проверяющие сам fast-path «строка появилась на N-м опросе», продолжают
|
||||
видеть опросы. Тесты с собственным ``patch`` того же имени (напр.
|
||||
``test_run_history_and_response_contract.py``) переопределяют это поверх.
|
||||
"""
|
||||
monkeypatch.setattr("app.api.v1.parcels._INLINE_FETCH_WAIT_S", 0.05)
|
||||
monkeypatch.setattr("app.api.v1.parcels._INLINE_FETCH_POLL_INTERVAL_S", 0.01)
|
||||
|
|
|
|||
|
|
@ -1,463 +0,0 @@
|
|||
"""Полный деплой не пересоздаёт Caddy без нужды (#3443).
|
||||
|
||||
ЧТО СЛУЧИЛОСЬ. Каждый полный деплой ПТИЦЫ делал `up -d --force-recreate
|
||||
--no-deps caddy`, то есть сносил единственный процесс, слушающий 80/443.
|
||||
Замер 05.09 (#3274): 67 с `code=000` на ВСЕХ доменах хоста — gendsgn.ru,
|
||||
meraocenka.ru и зеркала. Не 502/503: принимающего процесса нет вовсе, поэтому
|
||||
заглушка окна деплоя бессильна по построению — её отдаёт тот же Caddy.
|
||||
|
||||
ЧТО УСТАНОВЛЕНО. Безусловный флаг появился 17.05 (11e78d73) ради нового
|
||||
bind-маунта `./preview`, который «не появлялся в running container». Довод
|
||||
неверен: `docker compose up -d` БЕЗ `--force-recreate` пересоздаёт контейнер
|
||||
сам, как только меняется описание сервиса или образ (проверено на живом демоне
|
||||
docker 28.4). Единственное, чего compose не видит, — СОДЕРЖИМОЕ пофайлового
|
||||
bind-маунта: `git reset --hard` пишет новый инод, контейнер держит прежний, и
|
||||
`caddy reload` перечитывает старый текст. У Caddy так смонтированы Caddyfile и
|
||||
четыре сниппета; каталоги (caddy/sites, caddy/local, preview) этим не страдают.
|
||||
|
||||
ЗАЧЕМ ЭТОТ ФАЙЛ. У правки нет отрицательного признака: вернуть `--force-recreate`
|
||||
«на всякий случай» — одна строка, все деплои останутся зелёными, а окно в минуту
|
||||
увидит только тот, кто в этот момент держал непрерывную пробу. Проверки ниже
|
||||
ИСПОЛНЯЮТ ops/caddy-apply.sh с подставным `docker` и смотрят на СОВЕРШЁННЫЕ
|
||||
действия (пересоздал / перезагрузил / не тронул), а не на текст скрипта.
|
||||
Отдельно проверяется проводка в deploy.yml — что оба пути деплоя зовут именно
|
||||
его.
|
||||
"""
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
import re
|
||||
import shutil
|
||||
import stat
|
||||
import subprocess
|
||||
from pathlib import Path
|
||||
|
||||
import pytest
|
||||
import yaml
|
||||
|
||||
# backend/tests/ops/<этот файл> → корень репозитория
|
||||
REPO_ROOT = Path(__file__).resolve().parents[3]
|
||||
SCRIPT = REPO_ROOT / "ops" / "caddy-apply.sh"
|
||||
WORKFLOWS = REPO_ROOT / ".forgejo" / "workflows"
|
||||
DEPLOY = WORKFLOWS / "deploy.yml"
|
||||
|
||||
CID = "caddy-cid-0001"
|
||||
|
||||
# Маунты Caddy ровно как на проде (`docker inspect gendesign-caddy-1`, 12.09):
|
||||
# пять ПОФАЙЛОВЫХ bind-маунтов и три каталога. Тома (caddy_data и соседи) в
|
||||
# сверку не входят — их фильтрует `{{if eq .Type "bind"}}`.
|
||||
FILE_MOUNTS = {
|
||||
"Caddyfile": "/etc/caddy/Caddyfile",
|
||||
"caddy/users.caddy.snippet": "/etc/caddy/caddy/users.caddy.snippet",
|
||||
"caddy/metrics-ui.caddy.snippet": "/etc/caddy/caddy/metrics-ui.caddy.snippet",
|
||||
"caddy/metrics-ingest.caddy.snippet": "/etc/caddy/caddy/metrics-ingest.caddy.snippet",
|
||||
"caddy/deploy-window.caddy.snippet": "/etc/caddy/caddy/deploy-window.caddy.snippet",
|
||||
}
|
||||
DIR_MOUNTS = {
|
||||
"caddy/sites": "/etc/caddy/caddy/sites",
|
||||
"caddy/local": "/etc/caddy/caddy/local",
|
||||
"preview": "/srv/preview",
|
||||
}
|
||||
|
||||
# Подставной `docker`. Пишет каждый вызов в $FAKE_LOG и отвечает по сценарию:
|
||||
# run — одноразовый `caddy validate`, код из $FAKE_VALIDATE_RC;
|
||||
# inspect — список маунтов из $FAKE_MOUNTS, код из $FAKE_INSPECT_RC;
|
||||
# exec — sha256sum ФАЙЛА, КОТОРЫЙ ВИДИТ КОНТЕЙНЕР ($FAKE_VIEW/<slug>);
|
||||
# compose … ps — текущий id контейнера из $FAKE_CID_FILE;
|
||||
# compose … up — при $FAKE_UP_RECREATES=1 подменяет id (compose пересоздал сам).
|
||||
FAKE_DOCKER = r"""#!/bin/bash
|
||||
printf '%s\n' "$*" >> "$FAKE_LOG"
|
||||
cmd="$1"; shift
|
||||
case "$cmd" in
|
||||
run) exit "${FAKE_VALIDATE_RC:-0}" ;;
|
||||
inspect)
|
||||
if [ "${FAKE_INSPECT_RC:-0}" != "0" ]; then
|
||||
echo "Error: No such object" >&2
|
||||
exit "$FAKE_INSPECT_RC"
|
||||
fi
|
||||
cat "$FAKE_MOUNTS"
|
||||
;;
|
||||
exec)
|
||||
dst="$3"
|
||||
view="$FAKE_VIEW/$(printf '%s' "$dst" | tr '/' '_')"
|
||||
[ -f "$view" ] || exit 1
|
||||
sha256sum "$view"
|
||||
;;
|
||||
compose)
|
||||
case " $* " in
|
||||
*" ps "*) cat "$FAKE_CID_FILE" ;;
|
||||
*--force-recreate*) echo "recreated caddy (forced)" ;;
|
||||
*" up "*)
|
||||
if [ "${FAKE_UP_RECREATES:-0}" = "1" ]; then
|
||||
printf 'caddy-cid-NEW\n' > "$FAKE_CID_FILE"
|
||||
echo "Container gendesign-caddy-1 Started"
|
||||
else
|
||||
echo "Container gendesign-caddy-1 Running"
|
||||
fi
|
||||
;;
|
||||
*) echo "(compose $*)" ;;
|
||||
esac
|
||||
;;
|
||||
esac
|
||||
exit 0
|
||||
"""
|
||||
|
||||
# macOS несёт shasum вместо sha256sum; на раннере (ubuntu) и на проде утилита
|
||||
# настоящая. Шим ставится только при её отсутствии — иначе гейт не запускался бы
|
||||
# локально вовсе.
|
||||
SHA_SHIM = '#!/bin/sh\nexec shasum -a 256 "$@"\n'
|
||||
|
||||
|
||||
def _write_exec(path: Path, text: str) -> None:
|
||||
path.write_text(text, encoding="utf-8")
|
||||
path.chmod(path.stat().st_mode | stat.S_IXUSR | stat.S_IXGRP | stat.S_IXOTH)
|
||||
|
||||
|
||||
@pytest.fixture
|
||||
def prod_tree(tmp_path: Path) -> Path:
|
||||
"""Копия боевого дерева: скрипт + конфиги + «взгляд контейнера»."""
|
||||
tree = tmp_path / "opt" / "gendesign"
|
||||
(tree / "ops").mkdir(parents=True)
|
||||
shutil.copy(SCRIPT, tree / "ops" / SCRIPT.name)
|
||||
for rel in [*FILE_MOUNTS, "caddy/sites/apps.caddy", "caddy/local/.gitignore"]:
|
||||
path = tree / rel
|
||||
path.parent.mkdir(parents=True, exist_ok=True)
|
||||
path.write_text(f"# {rel} версия НОВАЯ\n", encoding="utf-8")
|
||||
(tree / "preview").mkdir()
|
||||
|
||||
view = tmp_path / "view"
|
||||
view.mkdir()
|
||||
# По умолчанию контейнер видит ровно то же, что лежит на диске.
|
||||
for rel, dst in FILE_MOUNTS.items():
|
||||
(view / dst.replace("/", "_")).write_text(
|
||||
(tree / rel).read_text(encoding="utf-8"), encoding="utf-8"
|
||||
)
|
||||
|
||||
mounts = tmp_path / "mounts"
|
||||
mounts.write_text(
|
||||
"".join(f"{tree / rel}|{dst}\n" for rel, dst in {**FILE_MOUNTS, **DIR_MOUNTS}.items()),
|
||||
encoding="utf-8",
|
||||
)
|
||||
|
||||
bin_dir = tmp_path / "bin"
|
||||
bin_dir.mkdir()
|
||||
_write_exec(bin_dir / "docker", FAKE_DOCKER)
|
||||
if shutil.which("sha256sum") is None:
|
||||
_write_exec(bin_dir / "sha256sum", SHA_SHIM)
|
||||
(tmp_path / "cid").write_text(CID + "\n", encoding="utf-8")
|
||||
(tmp_path / "log").write_text("", encoding="utf-8")
|
||||
return tree
|
||||
|
||||
|
||||
def _run(tree: Path, **env_extra: str) -> tuple[int, str, list[str]]:
|
||||
root = tree.parent.parent
|
||||
env = {
|
||||
"PATH": f"{root / 'bin'}:/usr/bin:/bin:/usr/sbin:/sbin",
|
||||
"FAKE_LOG": str(root / "log"),
|
||||
"FAKE_CID_FILE": str(root / "cid"),
|
||||
"FAKE_MOUNTS": str(root / "mounts"),
|
||||
"FAKE_VIEW": str(root / "view"),
|
||||
**env_extra,
|
||||
}
|
||||
proc = subprocess.run(
|
||||
["sh", str(tree / "ops" / "caddy-apply.sh")],
|
||||
cwd=str(tree),
|
||||
env=env,
|
||||
capture_output=True,
|
||||
text=True,
|
||||
)
|
||||
calls = [c for c in (root / "log").read_text(encoding="utf-8").splitlines() if c]
|
||||
return proc.returncode, proc.stdout + proc.stderr, calls
|
||||
|
||||
|
||||
def _stale(tree: Path, dst: str) -> None:
|
||||
"""Контейнер остался на старом иноде этого маунта."""
|
||||
view = tree.parent.parent / "view" / dst.replace("/", "_")
|
||||
view.write_text("# версия СТАРАЯ\n", encoding="utf-8")
|
||||
|
||||
|
||||
def _recreated(calls: list[str]) -> bool:
|
||||
return any("--force-recreate" in c for c in calls)
|
||||
|
||||
|
||||
def _reloaded(calls: list[str]) -> bool:
|
||||
return any("caddy reload" in c for c in calls)
|
||||
|
||||
|
||||
# ── Что скрипт делает на самом деле ──────────────────────────────────────────
|
||||
|
||||
|
||||
def test_nothing_changed_reloads_without_recreate(prod_tree: Path) -> None:
|
||||
"""Обычный полный деплой (конфиг прокси не трогали): reload, без окна."""
|
||||
rc, out, calls = _run(prod_tree)
|
||||
assert rc == 0, out
|
||||
assert not _recreated(calls), (
|
||||
f"Caddy пересоздан, хотя ничего не изменилось: {calls}. "
|
||||
"Это и есть #3443: 67 с code=000 на всех доменах при каждом деплое."
|
||||
)
|
||||
assert _reloaded(calls), f"конфиг не применён вовсе: {calls}"
|
||||
|
||||
|
||||
def test_changed_file_mount_forces_recreate(prod_tree: Path) -> None:
|
||||
"""Caddyfile правлен: reload перечитал бы старый инод — нужен recreate."""
|
||||
_stale(prod_tree, "/etc/caddy/Caddyfile")
|
||||
rc, out, calls = _run(prod_tree)
|
||||
assert rc == 0, out
|
||||
assert _recreated(calls), (
|
||||
f"пересоздания нет: {calls}. Пофайловый bind-маунт держит инод — правка "
|
||||
"Caddyfile не доехала бы до контейнера, а деплой ушёл бы зелёным."
|
||||
)
|
||||
assert "/etc/caddy/Caddyfile" in out, f"решение не названо в логе:\n{out}"
|
||||
|
||||
|
||||
@pytest.mark.parametrize("dst", sorted(set(FILE_MOUNTS.values()) - {"/etc/caddy/Caddyfile"}))
|
||||
def test_changed_snippet_forces_recreate(prod_tree: Path, dst: str) -> None:
|
||||
"""Каждый из четырёх сниппетов — тот же класс, не только Caddyfile."""
|
||||
_stale(prod_tree, dst)
|
||||
_, _out, calls = _run(prod_tree)
|
||||
assert _recreated(calls), f"{dst}: правка сниппета не доехала бы: {calls}"
|
||||
|
||||
|
||||
def test_directory_mount_change_does_not_recreate(prod_tree: Path) -> None:
|
||||
"""caddy/sites/apps.caddy — самый частый случай; каталог инод не держит.
|
||||
|
||||
Если сюда приползёт пересоздание «за компанию», окно недоступности вернётся
|
||||
ровно на тех правках, ради которых заведён быстрый путь #2916.
|
||||
"""
|
||||
(prod_tree / "caddy" / "sites" / "apps.caddy").write_text("# новый блок\n", encoding="utf-8")
|
||||
rc, out, calls = _run(prod_tree)
|
||||
assert rc == 0, out
|
||||
assert not _recreated(calls), f"правка в КАТАЛОГЕ вызвала пересоздание: {calls}"
|
||||
assert _reloaded(calls), f"правка в каталоге не применена: {calls}"
|
||||
|
||||
|
||||
def test_broken_config_touches_nothing(prod_tree: Path) -> None:
|
||||
"""Битый конфиг: ни up, ни reload, ни пересоздания — прокси не тронут.
|
||||
|
||||
Иначе опечатка в Caddyfile уводит контейнер в crash-loop и роняет все
|
||||
домены сразу (ровно то, чем опасен `--force-recreate` вслепую).
|
||||
"""
|
||||
rc, out, calls = _run(prod_tree, FAKE_VALIDATE_RC="1")
|
||||
assert rc != 0, f"скрипт не упал на битом конфиге:\n{out}"
|
||||
assert not _recreated(calls), f"битый конфиг поехал в пересоздание: {calls}"
|
||||
assert not _reloaded(calls), f"битый конфиг поехал в reload: {calls}"
|
||||
assert not any(" up " in f" {c} " for c in calls), f"был `up` при битом конфиге: {calls}"
|
||||
|
||||
|
||||
def test_compose_recreate_is_not_doubled(prod_tree: Path) -> None:
|
||||
"""compose пересоздал сам (сменилось описание сервиса/образ) — хватит.
|
||||
|
||||
Второй `--force-recreate` поверх — ещё одно окно недоступности на ровном
|
||||
месте, а новый контейнер и так читает свежие файлы.
|
||||
"""
|
||||
rc, out, calls = _run(prod_tree, FAKE_UP_RECREATES="1")
|
||||
assert rc == 0, out
|
||||
assert not _recreated(calls), f"пересоздание сделано дважды: {calls}"
|
||||
assert not _reloaded(calls), f"reload поверх свежего контейнера: {calls}"
|
||||
|
||||
|
||||
def test_unreadable_container_view_falls_back_to_recreate(prod_tree: Path) -> None:
|
||||
"""Сверка не отработала (контейнер не отвечает) → прежнее поведение.
|
||||
|
||||
Fail-safe направлен в сторону пересоздания: лучше окно в секунды, чем
|
||||
беззвучно не применённая правка конфига прокси.
|
||||
"""
|
||||
(prod_tree.parent.parent / "view" / "_etc_caddy_Caddyfile").unlink()
|
||||
_, out, calls = _run(prod_tree)
|
||||
assert _recreated(calls), f"непрочитанный маунт сочли доехавшим: {calls}\n{out}"
|
||||
|
||||
|
||||
def test_unreadable_mount_list_falls_back_to_recreate(prod_tree: Path) -> None:
|
||||
"""`docker inspect` не ответил → пересоздать, а не «расхождений нет».
|
||||
|
||||
Статус `$(docker inspect … | while …)` — это статус `while`, то есть всегда
|
||||
0, а `pipefail` в POSIX-sh не существует. Провал команды давал бы пустой
|
||||
список маунтов, ветку «всё доехало» и зелёную строку «окна недоступности
|
||||
нет» при прокси, работающем по СТАРОМУ конфигу — тот самый беззвучный отказ,
|
||||
ради которого написан скрипт.
|
||||
"""
|
||||
rc, out, calls = _run(prod_tree, FAKE_INSPECT_RC="1")
|
||||
assert rc == 0, out
|
||||
assert _recreated(calls), f"непрочитанный список маунтов сочли «всё доехало»: {calls}\n{out}"
|
||||
assert not _reloaded(calls), f"reload вместо пересоздания: {calls}"
|
||||
|
||||
|
||||
def test_no_file_mounts_is_not_silence(prod_tree: Path) -> None:
|
||||
"""Ноль пофайловых маунтов — не «сверка прошла», а «сверять было нечем».
|
||||
|
||||
Так выглядит, например, перевод Caddyfile на именованный том: фильтр
|
||||
`{{if eq .Type "bind"}}` перестаёт что-либо отбирать, и сверка становится
|
||||
тавтологически успешной.
|
||||
"""
|
||||
root = prod_tree.parent.parent
|
||||
(root / "mounts").write_text(
|
||||
"".join(f"{prod_tree / rel}|{dst}\n" for rel, dst in DIR_MOUNTS.items()), encoding="utf-8"
|
||||
)
|
||||
rc, out, calls = _run(prod_tree)
|
||||
assert rc == 0, out
|
||||
assert _recreated(calls), f"пустая сверка сочтена успешной: {calls}\n{out}"
|
||||
|
||||
|
||||
def test_missing_host_file_is_not_skipped_as_a_directory(prod_tree: Path) -> None:
|
||||
"""Файла на хосте нет — это расхождение, а не «нечего сверять».
|
||||
|
||||
Пропуск по `[ -f "$src" ] || continue` склеивает два разных случая: каталог
|
||||
(пропустить верно — инод он не держит) и исчезнувший/нечитаемый файл, для
|
||||
которого в контейнере как раз живёт старый инод со старым текстом. Файл
|
||||
удаляется после проверки конфига (в тесте она подставная) — проверяется
|
||||
именно ветка сверки.
|
||||
"""
|
||||
(prod_tree / "Caddyfile").unlink()
|
||||
_, out, calls = _run(prod_tree)
|
||||
assert _recreated(calls), f"исчезнувший файл сочли доехавшим: {calls}\n{out}"
|
||||
|
||||
|
||||
def test_log_says_how_many_mounts_were_compared(prod_tree: Path) -> None:
|
||||
"""В логе должно быть ЧИСЛО сверенных файлов, а не только вердикт.
|
||||
|
||||
«Сверили пять» и «сверили ноль» обязаны различаться: иначе строка
|
||||
«перезагружен без пересоздания» одинаково означает и проверку, и её
|
||||
отсутствие.
|
||||
"""
|
||||
_, out, _ = _run(prod_tree)
|
||||
assert re.search(r"сверено пофайловых маунтов[^\n]*: 5", out), (
|
||||
f"скрипт не печатает число сверенных маунтов (их пять):\n{out}"
|
||||
)
|
||||
|
||||
|
||||
def test_validation_precedes_any_action(prod_tree: Path) -> None:
|
||||
"""Проверка конфига идёт ПЕРВЫМ вызовом, до любого изменения состояния."""
|
||||
_, out, calls = _run(prod_tree)
|
||||
assert calls, f"скрипт не сделал ни одного вызова docker:\n{out}"
|
||||
assert calls[0].startswith("run "), f"первым идёт не проверка конфига: {calls}"
|
||||
assert "caddy validate" in calls[0], f"первый вызов — не validate: {calls[0]}"
|
||||
|
||||
|
||||
# ── Проводка: оба пути деплоя зовут именно этот скрипт ───────────────────────
|
||||
|
||||
|
||||
def _ssh_script(job: str) -> str:
|
||||
spec = yaml.safe_load(DEPLOY.read_text(encoding="utf-8"))
|
||||
steps = [s for s in spec["jobs"][job]["steps"] if "ssh-action" in str(s.get("uses"))]
|
||||
assert len(steps) == 1, f"в job `{job}` нет ровно одного ssh-шага — гейт #3443 ослеп"
|
||||
script = steps[0]["with"]["script"]
|
||||
assert script.strip(), f"ssh-скрипт job `{job}` пуст"
|
||||
return script
|
||||
|
||||
|
||||
def _commands(script: str) -> str:
|
||||
"""Только команды: комментарии выкинуты, продолжения строк склеены.
|
||||
|
||||
Комментарии — потому что разбор дефекта живёт в тех же файлах и содержит
|
||||
его формулировку дословно: гейт по голому тексту краснел бы от объяснения,
|
||||
а не от кода. Склейка `\\` — потому что `--force-recreate` и имя сервиса
|
||||
легко оказываются на РАЗНЫХ физических строках, и построчный поиск такую
|
||||
запись не увидел бы (зелено по построению).
|
||||
"""
|
||||
kept = [ln for ln in script.splitlines() if not ln.lstrip().startswith("#")]
|
||||
return re.sub(r"\\\n\s*", " ", "\n".join(kept))
|
||||
|
||||
|
||||
def _forced_caddy_recreates(commands: str) -> list[str]:
|
||||
"""Строки, которые пересоздают именно сервис caddy."""
|
||||
return [
|
||||
ln
|
||||
for ln in commands.splitlines()
|
||||
if "--force-recreate" in ln and re.search(r"\bcaddy\b", ln)
|
||||
]
|
||||
|
||||
|
||||
def test_script_exists_and_is_the_one_under_test() -> None:
|
||||
"""Признак непустоты: без скрипта проверки выше проходили бы вхолостую."""
|
||||
assert SCRIPT.is_file(), f"нет {SCRIPT} — проводка ниже проверяла бы пустоту"
|
||||
|
||||
|
||||
@pytest.mark.parametrize("job", ["deploy", "deploy-caddy"])
|
||||
def test_deploy_applies_caddy_config_through_the_script(job: str) -> None:
|
||||
assert "ops/caddy-apply.sh" in _commands(_ssh_script(job)), (
|
||||
f"job `{job}` не зовёт ops/caddy-apply.sh — конфиг прокси применяется "
|
||||
"мимо разбора #3443 (или безусловным пересозданием, или reload'ом, "
|
||||
"который на пофайловом маунте читает старый инод)"
|
||||
)
|
||||
|
||||
|
||||
def test_full_deploy_has_no_unconditional_caddy_recreate() -> None:
|
||||
"""Главный инвариант: в полном деплое нет безусловного пересоздания Caddy.
|
||||
|
||||
Возврат одной строки `up -d --force-recreate --no-deps caddy` в job `deploy`
|
||||
возвращает 67-секундное окно `code=000` на всех доменах — и не краснит
|
||||
ничего: деплой остаётся зелёным, а увидеть отказ может только непрерывная
|
||||
проба, запущенная ровно в эту минуту.
|
||||
"""
|
||||
bad = _forced_caddy_recreates(_commands(_ssh_script("deploy")))
|
||||
assert not bad, (
|
||||
"в полный деплой вернулось безусловное пересоздание Caddy:\n "
|
||||
+ "\n ".join(bad)
|
||||
+ "\nПересоздание обязано быть УСЛОВНЫМ — см. ops/caddy-apply.sh: compose "
|
||||
"сам пересоздаёт контейнер при смене описания сервиса или образа, а "
|
||||
"вручную это нужно только когда до контейнера не доехал пофайловый "
|
||||
"bind-маунт (#3443)."
|
||||
)
|
||||
|
||||
|
||||
def test_failures_are_not_swallowed() -> None:
|
||||
"""Ни применение конфига, ни сам reload не гасятся `|| true`.
|
||||
|
||||
Строка `caddy reload … || true` в репозитории уже живёт
|
||||
(deploy-tradein.yml), то есть это не гипотеза: с ней отказ применения
|
||||
перестаёт краснеть, и «конфиг доехал» становится неотличимо от «команда
|
||||
упала, а мы продолжили». Проверяется и вызов скрипта из обеих джоб, и
|
||||
строка reload внутри самого скрипта.
|
||||
"""
|
||||
swallow = re.compile(r"\|\|\s*(true|:)\s*$")
|
||||
offenders = []
|
||||
for where, text in [
|
||||
("deploy", _commands(_ssh_script("deploy"))),
|
||||
("deploy-caddy", _commands(_ssh_script("deploy-caddy"))),
|
||||
(SCRIPT.name, SCRIPT.read_text(encoding="utf-8")),
|
||||
]:
|
||||
for line in text.splitlines():
|
||||
code = line.split("#", 1)[0] if not line.lstrip().startswith("#") else ""
|
||||
if ("caddy-apply.sh" in code or "caddy reload" in code) and swallow.search(code):
|
||||
offenders.append(f"{where}: {line.strip()}")
|
||||
assert not offenders, "отказ применения конфига проглочен:\n " + "\n ".join(offenders)
|
||||
|
||||
|
||||
def test_gate_runs_on_changes_to_the_script_itself() -> None:
|
||||
"""CI-фильтр обязан пускать backend-тесты на правку ops/**.
|
||||
|
||||
Все содержательные регрессии живут в ops/caddy-apply.sh: проверки выше его
|
||||
ИСПОЛНЯЮТ. Без `ops/**` в фильтре PR, правящий только скрипт, даёт
|
||||
backend=false — джоба пропускается, гейт не исполняется, и «пересоздавать
|
||||
всегда» уезжает в main зелёным. Тот же класс, что #2950/#3448/#3467.
|
||||
"""
|
||||
spec = yaml.safe_load((WORKFLOWS / "ci.yml").read_text(encoding="utf-8"))
|
||||
steps = [
|
||||
s
|
||||
for job in spec["jobs"].values()
|
||||
for s in job.get("steps") or []
|
||||
if str(s.get("uses", "")).startswith("dorny/paths-filter")
|
||||
]
|
||||
assert steps, "в ci.yml не найден paths-filter — проверка прошла бы вхолостую"
|
||||
patterns = [p for s in steps for p in yaml.safe_load(s["with"]["filters"]).get("backend") or []]
|
||||
assert "ops/**" in patterns, (
|
||||
f"фильтр backend не покрывает ops/** (сейчас: {patterns}) — гейт #3443 не "
|
||||
"побежит на правке ops/caddy-apply.sh, то есть ровно на той правке, от "
|
||||
"которой стережёт"
|
||||
)
|
||||
|
||||
|
||||
def test_gate_would_notice_the_regression() -> None:
|
||||
"""Сам гейт обязан краснеть на возвращённом дефекте — проверка на себя.
|
||||
|
||||
Без этого «не нашли force-recreate» неотличимо от «искали не там»: маска
|
||||
поиска, промахнувшаяся мимо строки, выглядит зелёной ровно так же.
|
||||
"""
|
||||
regressed = _commands(
|
||||
" # безусловное пересоздание caddy вернулось сюда\n"
|
||||
" docker compose -p gendesign -f docker-compose.prod.yml up -d \\\n"
|
||||
" --force-recreate --no-deps caddy\n"
|
||||
)
|
||||
assert _forced_caddy_recreates(regressed), (
|
||||
"маска поиска не видит дословно ту строку, ради которой заведён гейт"
|
||||
)
|
||||
|
|
@ -1,138 +0,0 @@
|
|||
#!/bin/sh
|
||||
# Применить текущий конфиг прокси к работающему Caddy (#3443).
|
||||
#
|
||||
# ЗАЧЕМ. Полный деплой ПТИЦЫ пересоздавал сам Caddy БЕЗУСЛОВНО
|
||||
# (`up -d --force-recreate --no-deps caddy`), а вместе с контейнером исчезал
|
||||
# единственный процесс, слушающий 80/443. Замер 05.09 (#3274): 67 с `code=000`
|
||||
# на ВСЕХ доменах хоста — gendsgn.ru, meraocenka.ru и зеркала, включая
|
||||
# публичный лендинг МЕРЫ. Это не 502/503: принимающего процесса нет вовсе,
|
||||
# поэтому заглушка окна деплоя (caddy/sites/deploy-window.caddy.snippet) здесь
|
||||
# бессильна по построению — её отдаёт тот же Caddy.
|
||||
#
|
||||
# ЧТО НА САМОМ ДЕЛЕ ТРЕБУЕТ ПЕРЕСОЗДАНИЯ. Безусловный флаг появился 17.05
|
||||
# (11e78d73) ради нового bind-маунта `./preview` из docker-compose.prod.yml,
|
||||
# который «не появлялся в running container». Довод неверен: `docker compose
|
||||
# up -d` БЕЗ `--force-recreate` пересоздаёт контейнер сам, как только меняется
|
||||
# описание сервиса или образ. Проверено на живом демоне (docker 28.4):
|
||||
# добавлен volume → `Container … Starting/Started`, id контейнера новый;
|
||||
# тег указан на др. образ → id новый;
|
||||
# не менялось ничего → `Container … Running`, id тот же.
|
||||
#
|
||||
# Остаётся ровно один класс изменений, которого compose не видит: СОДЕРЖИМОЕ
|
||||
# пофайлового bind-маунта. `git reset --hard` не правит файл на месте, а пишет
|
||||
# новый инод; контейнер держит примонтированным прежний и продолжает читать
|
||||
# его — `caddy reload` перечитает ровно тот же старый инод. Тот же механизм уже
|
||||
# ловили на Alertmanager (27.08, deploy-metrics.yml) и на Alloy (#3380). У Caddy
|
||||
# так смонтированы пять путей: Caddyfile и четыре сниппета. Каталоги
|
||||
# (caddy/sites, caddy/local, preview) этим не страдают — правка внутри каталога
|
||||
# видна контейнеру сразу, поэтому самый частый случай (caddy/sites/apps.caddy)
|
||||
# пересоздания НЕ требует.
|
||||
#
|
||||
# ОТСЮДА ПОРЯДОК: проверить конфиг → `up -d` без `--force-recreate` → если
|
||||
# контейнер остался тем же, сверить, видит ли он текущее содержимое пофайловых
|
||||
# маунтов → пересоздать ТОЛЬКО при расхождении, иначе `caddy reload`, который
|
||||
# не рвёт соединения.
|
||||
#
|
||||
# ГРАНИЦА. Сверка по СОДЕРЖИМОМУ, а не по иноду: файл, переписанный тем же
|
||||
# текстом, пересоздания не требует. Не прочиталось (контейнер не запущен, в
|
||||
# образе нет sha256sum) — считаем расхождением: fail-safe в сторону прежнего
|
||||
# поведения, то есть пересоздания.
|
||||
set -eu
|
||||
|
||||
# Оба вызывающих (job `deploy` и job `deploy-caddy` в .forgejo/workflows/deploy.yml)
|
||||
# работают в /opt/gendesign, но не зависеть от cwd дешевле, чем это помнить.
|
||||
cd "$(dirname "$0")/.."
|
||||
|
||||
COMPOSE="docker compose -p gendesign -f docker-compose.prod.yml"
|
||||
|
||||
caddy_cid() { $COMPOSE ps -aq caddy 2>/dev/null | tail -n1; }
|
||||
|
||||
# ── 1. Проверка ДО применения ────────────────────────────────────────────────
|
||||
# Одноразовый контейнер читает файлы С ХОСТА — то есть ровно то, что поедет в
|
||||
# работающий Caddy. `exec caddy validate` здесь не годится: он проверил бы
|
||||
# старый инод, то есть предыдущую версию конфига. Образ и парсер те же, что на
|
||||
# PR-гейте (ci.yml «Guard: Caddyfile синтаксически валиден»).
|
||||
#
|
||||
# ГРАНИЦА ЭТОЙ ПРОВЕРКИ. Она обрывает применение до того, как конфиг попадёт в
|
||||
# работающий Caddy, — но только на быстром пути. В полном деплое ВЫШЕ по
|
||||
# скрипту (deploy.yml, `up -d $UP_SERVICES`) уже прошёл общий подъём всех
|
||||
# сервисов, и если правка одновременно ломает Caddyfile И меняет блок caddy в
|
||||
# docker-compose.prod.yml, контейнер пересоздастся там — с непроверенным
|
||||
# конфигом и раньше этой строки. Первая линия против этого — гейт на PR (#2913).
|
||||
echo "→ проверяю конфиг прокси одноразовым контейнером…"
|
||||
if ! docker run --rm -v "$PWD:/work:ro" -w /work caddy:2 \
|
||||
caddy validate --config /work/Caddyfile --adapter caddyfile; then
|
||||
echo "ОШИБКА: конфиг прокси не применён — проверка не пройдена ЛИБО не удалось"
|
||||
echo " запустить проверочный контейнер (нет образа caddy:2, занят демон,"
|
||||
echo " недоступен реестр). Причина — в выводе выше, не гадать по этой строке."
|
||||
echo " Работающий Caddy не тронут, домены живы."
|
||||
exit 1
|
||||
fi
|
||||
|
||||
# ── 2. Описание сервиса и образ ──────────────────────────────────────────────
|
||||
before=$(caddy_cid)
|
||||
$COMPOSE up -d --no-deps caddy
|
||||
after=$(caddy_cid)
|
||||
if [ -z "$after" ]; then
|
||||
echo 'ОШИБКА: после `up -d` контейнера caddy нет — смотри вывод compose выше.'
|
||||
exit 1
|
||||
fi
|
||||
if [ "$before" != "$after" ]; then
|
||||
echo "✓ Caddy пересоздан compose'ом: изменилось описание сервиса или образ (${before:-нет}→${after})."
|
||||
exit 0
|
||||
fi
|
||||
|
||||
# ── 3. Доехало ли содержимое пофайловых маунтов ──────────────────────────────
|
||||
# Список маунтов читается ОТДЕЛЬНОЙ командой, а не в конвейере с циклом: в
|
||||
# `$(docker inspect … | while …)` статус подстановки — это статус `while`, то
|
||||
# есть всегда 0 (`pipefail` в POSIX-sh нет вовсе). Провал `docker inspect`
|
||||
# давал бы пустой список → «расхождений нет» → `caddy reload` → зелёная джоба с
|
||||
# надписью «окна недоступности нет», а прокси работал бы по СТАРОМУ конфигу.
|
||||
# Это ровно тот беззвучный отказ, ради которого написан весь скрипт.
|
||||
mounts=$(docker inspect "$after" \
|
||||
--format '{{range .Mounts}}{{if eq .Type "bind"}}{{.Source}}|{{.Destination}}{{println}}{{end}}{{end}}') \
|
||||
|| mounts=''
|
||||
|
||||
if [ -z "$mounts" ]; then
|
||||
echo "WARNING: список маунтов Caddy не прочитан (docker inspect молчит или упал) —"
|
||||
echo " сверить нечем, считаю расхождением: fail-safe в прежнее поведение."
|
||||
verdicts=""
|
||||
stale="(маунты не прочитаны)"
|
||||
else
|
||||
verdicts=$(printf '%s\n' "$mounts" | while IFS='|' read -r src dst; do
|
||||
[ -n "${dst:-}" ] || continue
|
||||
# Каталог инод не держит — пропускаем. Именно `-d`, а не `-f`:
|
||||
# отсутствующий/нечитаемый ФАЙЛ — не повод молча пропустить, в
|
||||
# контейнере в этот момент живёт старый инод со старым текстом.
|
||||
if [ -d "$src" ]; then continue; fi
|
||||
host_sum=$(sha256sum "$src" 2>/dev/null | cut -d' ' -f1)
|
||||
seen_sum=$(docker exec "$after" sha256sum "$dst" 2>/dev/null | cut -d' ' -f1)
|
||||
if [ -n "$host_sum" ] && [ "$host_sum" = "${seen_sum:-НЕ_ПРОЧИТАНО}" ]; then
|
||||
echo "OK $dst"
|
||||
else
|
||||
echo "STALE $dst"
|
||||
fi
|
||||
done)
|
||||
# «Сверили пять файлов» и «сверили ноль» обязаны различаться в логе — иначе
|
||||
# зелёная строка ниже одинаково означает и проверку, и её отсутствие.
|
||||
checked=$(printf '%s\n' "$verdicts" | grep -c . || true)
|
||||
echo "→ сверено пофайловых маунтов с тем, что видит контейнер: $checked"
|
||||
stale=$(printf '%s\n' "$verdicts" | sed -n 's/^STALE //p' | tr '\n' ' ')
|
||||
if [ "$checked" -eq 0 ]; then
|
||||
echo "WARNING: ни одного пофайлового bind-маунта не найдено — у Caddy их пять"
|
||||
echo " (Caddyfile + 4 сниппета). Считаю расхождением: fail-safe."
|
||||
stale="(пофайловых маунтов не найдено)"
|
||||
fi
|
||||
fi
|
||||
|
||||
if [ -n "$stale" ]; then
|
||||
echo "→ до контейнера НЕ доехали пофайловые маунты: $stale"
|
||||
echo " (bind-маунт файла держит инод: reload перечитал бы старую версию — нужен recreate)"
|
||||
$COMPOSE up -d --force-recreate --no-deps caddy
|
||||
echo "✓ Caddy пересоздан — иначе правка осталась бы неприменённой."
|
||||
exit 0
|
||||
fi
|
||||
|
||||
# ── 4. Всё доехало — перезагрузка без разрыва соединений ─────────────────────
|
||||
$COMPOSE exec -T caddy caddy reload --config /etc/caddy/Caddyfile --adapter caddyfile
|
||||
echo "✓ конфиг прокси перезагружен без пересоздания контейнера — окна недоступности нет."
|
||||
|
|
@ -328,13 +328,6 @@ SBER_TIME_ADJUST_REGION = "Свердловская область" # ряд р
|
|||
_SBER_REGION_SERIES: dict[int, str] = {
|
||||
66: SBER_TIME_ADJUST_REGION,
|
||||
77: "Москва",
|
||||
# Московская область — свой ряд, а не фолбэк на «Россию». Загрузчик научился
|
||||
# тянуть REF_AREA=50 (services/sber_index), и 12.09.2026 ряд приехал на прод:
|
||||
# real_estate_deals/«Вторичный», 116 месяцев 2017-01..2026-08 — та же глубина,
|
||||
# что у Москвы и обл.66. До этой строки область считалась по общероссийскому
|
||||
# ряду, то есть коридор ошибался на расхождение области со страной; теперь
|
||||
# ошибка только внутрирегиональная.
|
||||
50: "Московская область",
|
||||
}
|
||||
|
||||
# Ряд для региона ВНЕ карты. Выбран общероссийский, а не отказ от поправки (1.0):
|
||||
|
|
|
|||
|
|
@ -325,34 +325,6 @@ async def _job_landing_stats(
|
|||
await loop.run_in_executor(None, refresh_landing_stats, db, run_id, params)
|
||||
|
||||
|
||||
# ── landing_showcase_deals — sync пересчёт витрины сделок в executor ─────────
|
||||
async def _job_landing_showcase_deals(
|
||||
db: Session, run_id: int, params: dict[str, Any], ctx: SchedulerContext
|
||||
) -> None:
|
||||
"""Пересчёт витрины сделок публичного лэндинга (#3469).
|
||||
|
||||
ЛАЙФСАЙКЛ ПРОГОНА ВЕДЁТ HANDLER, а не задача. `refresh_landing_showcase_deals`
|
||||
писалась под ручной запуск (`python -m app.tasks.landing_showcase_deals`) и про
|
||||
`run_id` ничего не знает — тот же случай, что у `_job_refresh_search_matview`,
|
||||
и решается так же: done/failed ставим здесь.
|
||||
|
||||
Параметры берём ИЗ РАСПИСАНИЯ только те, что в нём есть: дефолты живут в
|
||||
сигнатуре задачи, и повтор их здесь дал бы два места, которые разъедутся.
|
||||
"""
|
||||
from app.tasks.landing_showcase_deals import refresh_landing_showcase_deals
|
||||
|
||||
kwargs = {k: params[k] for k in ("sample", "since", "limit", "city") if k in params}
|
||||
loop = asyncio.get_event_loop()
|
||||
try:
|
||||
counters = await loop.run_in_executor(
|
||||
None, lambda: refresh_landing_showcase_deals(db, **kwargs)
|
||||
)
|
||||
ctx.runs.mark_done(db, run_id, counters)
|
||||
except Exception:
|
||||
logger.exception("scheduler: landing_showcase_deals crashed run_id=%d", run_id)
|
||||
ctx.runs.mark_failed(db, run_id, "landing_showcase_deals failed", {})
|
||||
|
||||
|
||||
# ── sber_freshness_monitor — sync DB-only freshness check в executor ──────────
|
||||
async def _job_sber_freshness_monitor(
|
||||
db: Session, run_id: int, params: dict[str, Any], ctx: SchedulerContext
|
||||
|
|
@ -939,7 +911,6 @@ def build_product_handlers(ctx: SchedulerContext) -> dict[str, Handler]:
|
|||
"deals_freshness_monitor": Handler(_job_deals_freshness_monitor, "deals_freshness_monitor"),
|
||||
"sber_freshness_monitor": Handler(_job_sber_freshness_monitor, "sber_freshness_monitor"),
|
||||
"landing_stats_refresh": Handler(_job_landing_stats, "landing_stats_refresh"),
|
||||
"landing_showcase_deals": Handler(_job_landing_showcase_deals, "landing_showcase_deals"),
|
||||
"newbuilding_enrich": Handler(_job_newbuilding_enrich, "newbuilding_enrich"),
|
||||
"yandex_newbuilding_sweep": Handler(
|
||||
_job_yandex_newbuilding_sweep, "yandex_newbuilding_sweep"
|
||||
|
|
|
|||
|
|
@ -233,11 +233,9 @@ REGIONS: dict[int, Region] = {
|
|||
),
|
||||
# Тиров обогащения у области пока НЕТ ни одного: IMV/квартальный
|
||||
# индекс/кадастр/POI не заведены (проверено — frozenset() пуст
|
||||
# намеренно, не заглушка). Ряд Сбериндекса по области с 12.09.2026 в
|
||||
# карте _SBER_REGION_SERIES эстиматора есть, но тиром он от этого не
|
||||
# становится: у Москвы набор тиров тоже пуст, а свой ряд она читает —
|
||||
# поправка по времени идёт мимо enrichment_tiers (TIER_SBER_INDEX нигде
|
||||
# за пределами этого реестра не спрашивают).
|
||||
# намеренно, не заглушка). Ряд Сбериндекса по области загружен в
|
||||
# источник (#3498), но в карте _SBER_REGION_SERIES эстиматора кода 50
|
||||
# ЕЩЁ НЕТ — тир пока недоступен, добавляется отдельным решением.
|
||||
enrichment_tiers=frozenset(),
|
||||
# Источники по области несут настоящий city (Химки, Балашиха — не
|
||||
# муниципальный округ/поселение, в отличие от Москвы) — перезаписывать
|
||||
|
|
|
|||
|
|
@ -1,34 +1,22 @@
|
|||
"""Импорт сырья `msk_raw.*_latest` в `listings` — Москва (77) и область (50).
|
||||
"""Импорт московского сырья (`msk_raw.*_latest`) в `listings`.
|
||||
|
||||
Сырьё собрано отдельным коллектором и лежит в прод-схеме `msk_raw`: каждая строка
|
||||
несёт `payload` — сериализованный `ScrapedLot` один в один (те же 54 ключа, что и
|
||||
поля модели, см. `scraper_kit/base.py`). Свой писатель поэтому не нужен: собираем
|
||||
`ScrapedLot(**payload)` и отдаём в штатный `save_listings(..., region_code=region)`.
|
||||
`ScrapedLot(**payload)` и отдаём в штатный `save_listings(..., region_code=77)`.
|
||||
|
||||
Отбор региона (source=cian). Адрес карточки Циана города НЕ содержит, зато для
|
||||
Москвы начинается с округа: «ЦАО, ...», «СВАО, ...». По этому префиксу Москва и
|
||||
опознаётся — байт-в-байт как раньше. Замер по проду (60 464 карточки): с округом
|
||||
— 35 551, ВСЕ внутри bbox региона 77; без округа внутри bbox — 17 576 (это
|
||||
Московская область, регион 50); без округа вне bbox — 7 337. Отдельно 212
|
||||
карточек с адресом вида «Екатеринбург (Cian)» — артефакт парсера, считаются
|
||||
своим счётчиком, чтобы не растворяться в «не целевой регион».
|
||||
|
||||
Область (регион 50) у Циана в адресе НЕ видна вовсе — берём по ПОДДОМЕНУ
|
||||
`source_url` (`https://<sub>.cian.ru/...`): `sub != "www"` ⇒ область. Замер по
|
||||
`msk_raw.cian_latest` 12.09.2026: `www` — 38 030 карточек, из них 36 569 с
|
||||
префиксом округа (это Москва); все прочие поддомены (krasnogorsk 2065,
|
||||
balashikha 1828, vidnoye 1802, lyubertsy 1498, zvenigorod 1420, khimki 1306,
|
||||
mytishchi 1288, podolsk 756, odintsovo 738, …) — 0 карточек с префиксом округа,
|
||||
итого не-www ≈ 24 784. Поддомен и префикс округа нигде не противоречат друг
|
||||
другу, поэтому Москва остаётся на префиксе округа (не трогаем), а область —
|
||||
на поддомене. Поддомен не распознался (нет source_url / хост не `*.cian.ru`) →
|
||||
карточка НЕ область (консервативно, счётчик «не целевой регион»).
|
||||
Отбор Москвы (source=cian). Адрес карточки Циана города НЕ содержит, зато
|
||||
начинается с округа: «ЦАО, ...», «СВАО, ...». По этому префиксу Москва и
|
||||
опознаётся. Замер по проду (60 464 карточки): с округом — 35 551, ВСЕ внутри
|
||||
bbox региона 77; без округа внутри bbox — 17 576 (это Московская область, регион
|
||||
50, которого в реестре ещё нет, в этот импорт не берём); без округа вне bbox —
|
||||
7 337. Отдельно 212 карточек с адресом вида «Екатеринбург (Cian)» — артефакт
|
||||
парсера, считаются своим счётчиком, чтобы не растворяться в «не Москва».
|
||||
|
||||
Отбор Москвы (source=avito) по адресу НЕВОЗМОЖЕН: у Авито адрес — голая улица с
|
||||
домом («Варшавское ш.,62к1»), ни города, ни округа, и координат нет НИ У ОДНОЙ
|
||||
карточки (замер: lat/lon/cadastral_number/geo_precision пусты у всех 50 335).
|
||||
Поэтому для Авито работает ПРЕД-ГЕОКОД (`--geocode`), а не префиксный фильтр —
|
||||
для ЛЮБОГО целевого региона.
|
||||
Поэтому для Авито работает ПРЕД-ГЕОКОД (`--geocode`), а не префиксный фильтр.
|
||||
|
||||
Два сигнала, и оба нужны — ни один по отдельности не годится.
|
||||
|
||||
|
|
@ -54,16 +42,16 @@ mytishchi 1288, podolsk 756, odintsovo 738, …) — 0 карточек с пр
|
|||
qc_geo=0 у 97% найденных.
|
||||
|
||||
Что куда едет:
|
||||
* регион == `--region` → в `listings`, С координатами (geom есть сразу,
|
||||
radius-подбор аналогов работает без ожидания `geocode_missing`);
|
||||
* адрес разрешился, но регион ответа не совпал с `--region` → не пишется,
|
||||
лежит не в воздухе, а строкой в `msk_raw.avito_geocode` — прогон с другим
|
||||
`--region` подхватит её из кэша без единого внешнего вызова;
|
||||
* регион 77 → в `listings`, С координатами (geom есть сразу, radius-подбор
|
||||
аналогов работает без ожидания `geocode_missing`);
|
||||
* регион 50 → НЕ пишется, ждёт появления региона 50 в реестре; лежит не в
|
||||
воздухе, а строкой в `msk_raw.avito_geocode` (region_code=50) — когда
|
||||
регион появится, прогон по этой полке уже не потребует внешних вызовов;
|
||||
* адрес не разрешился (ЖК без улицы, «Мкр-н имени В.Н. Махалина, 33») →
|
||||
свой счётчик, карточка не пишется.
|
||||
|
||||
`--allow-unfiltered` (без `--geocode`) остаётся прежним аварийным режимом: пишет
|
||||
целевой регион вперемешку с прочими и БЕЗ geom. Молча он по-прежнему не срабатывает.
|
||||
Москву вперемешку с областью и БЕЗ geom. Молча он по-прежнему не срабатывает.
|
||||
|
||||
Пересчёт `listing_segment` (пункт, ради которого нельзя копировать payload как
|
||||
есть). Кит ставит 'novostroyki' по одному лишь наличию `offer.newbuilding.id`,
|
||||
|
|
@ -83,43 +71,28 @@ source_id) считает сам кит (`ScrapedLot.compute_dedup_hash`), це
|
|||
курсор идёт по `id` вью, так что порядок и полнота обхода от прогона к прогону
|
||||
одинаковы.
|
||||
|
||||
Отбор региона (source=yandex) стоит ноль вызовов: адрес приходит полным и
|
||||
Отбор Москвы (source=yandex) стоит ноль вызовов: адрес приходит полным и
|
||||
нормализованным («Россия, Москва, Коробейников переулок, 1»), регион читается
|
||||
вторым компонентом. Замер по 21 393 карточкам первого прохода — ровно два
|
||||
значения, «Москва» 10 610 и «Московская область» 10 783. Координаты у Яндекса
|
||||
заполнены у 100% карточек, поэтому ни геокод, ни `geocode_missing` ему не нужны.
|
||||
|
||||
Отбор региона (source=domclick) стоит ноль вызовов, но таблица одна на ДВА
|
||||
РАЗНЫХ прогона сборщика с разными GUID: московский (батч
|
||||
`msk-serp-domclick-20260912`) и областной (отдельный запуск, батч
|
||||
`mo-serp-domclick-20260912`) — оба пишут в один и тот же
|
||||
`msk_raw.domclick_cards`. Колонки региона в таблице НЕТ, а вью
|
||||
`msk_raw.domclick_latest` отдаёт обе партии вперемешку — курсор по `id` не
|
||||
различает, из какого прогона строка. Поэтому фильтр по адресу здесь не
|
||||
опциональная вторая линия, а единственный способ развести регионы.
|
||||
|
||||
Регион читается ПЕРВЫМ компонентом адреса. Замер живьём на API ДомКлика
|
||||
12.09.2026: московские карточки — «Москва, Генерала Дорохова проспект, 49» и
|
||||
подобные, первый компонент «Москва» у всех 22 836 карточек прод-корпуса;
|
||||
областные карточки — «Московская область, Химки, 7-й м-н, проспект
|
||||
Мельникова, 33», «Московская область, Одинцовский городской округ,
|
||||
Звенигород, 3-й м-н, 28» и подобные, первый компонент «Московская область» у
|
||||
всех 140 карточек выборки с семи разных смещений выдачи. Разделение полное и
|
||||
симметричное `is_moscow_yandex_address`/`is_oblast_yandex_address`. Новая
|
||||
Москва приходит как «Москва, пос. Птичное, …» — посёлок стоит вторым
|
||||
компонентом, первый по-прежнему «Москва», регион 77 не ломается. Координаты
|
||||
заполнены у 100% карточек в обоих прогонах.
|
||||
Отбор Москвы (source=domclick) тоже стоит ноль вызовов, но по другой причине:
|
||||
сырьё собрано запросом с GUID-ом Москвы и отфильтровано по bbox ещё на стороне
|
||||
сборщика, поэтому областных карточек в нём нет по построению. Регион читается
|
||||
ПЕРВЫМ компонентом адреса («Москва, улица Нижние Мнёвники, 16 к2»), и фильтр
|
||||
оставлен второй линией — на случай, если в ту же таблицу когда-нибудь приедет
|
||||
второй город. Замер по 5 024 карточкам первого прохода: единственное значение
|
||||
первого компонента — «Москва». Новая Москва приходит как «Москва, пос. Птичное,
|
||||
…», то есть посёлок стоит вторым компонентом и регион 77 не ломает. Координаты
|
||||
заполнены у 100% карточек.
|
||||
|
||||
Запуск:
|
||||
python -m app.tasks.msk_raw_import --dry-run
|
||||
python -m app.tasks.msk_raw_import --limit 500
|
||||
python -m app.tasks.msk_raw_import --source yandex
|
||||
python -m app.tasks.msk_raw_import --source yandex --region 50
|
||||
python -m app.tasks.msk_raw_import --source cian --region 50
|
||||
python -m app.tasks.msk_raw_import --source domclick
|
||||
python -m app.tasks.msk_raw_import --source domclick --region 50
|
||||
python -m app.tasks.msk_raw_import --source avito --geocode --geocode-limit 9000
|
||||
python -m app.tasks.msk_raw_import --source avito --geocode --region 50
|
||||
python -m app.tasks.msk_raw_import --source avito --allow-unfiltered # аварийный
|
||||
"""
|
||||
|
||||
|
|
@ -129,7 +102,6 @@ import argparse
|
|||
import asyncio
|
||||
import logging
|
||||
import re
|
||||
from collections.abc import Callable
|
||||
from dataclasses import dataclass
|
||||
from urllib.parse import urlsplit
|
||||
|
||||
|
|
@ -141,18 +113,15 @@ from sqlalchemy.orm import Session
|
|||
from app.core.db import SessionLocal
|
||||
from app.services import dadata
|
||||
from app.services.geocoder import normalize_address
|
||||
from app.services.regions import REGIONS, is_within_bbox
|
||||
from app.services.scraper_adapters import RealMatcherAdapter
|
||||
|
||||
logger = logging.getLogger(__name__)
|
||||
|
||||
MOSCOW_REGION_CODE = 77
|
||||
MOSCOW_CITY = "Москва"
|
||||
# Московская область в реестре `app.services.regions` заведена, но своего
|
||||
# единого города у неё нет (`canonical_city is None`) — в listings.city для
|
||||
# неё пишем None (см. `import_msk_raw`, `save_listings` его COALESCE'ит).
|
||||
# Регион 50 (Московская область) в реестре `app.services.regions` ещё не заведён —
|
||||
# карточки области не пишутся, а откладываются (см. докстринг модуля).
|
||||
OBLAST_REGION_CODE = 50
|
||||
SUPPORTED_REGIONS = (MOSCOW_REGION_CODE, OBLAST_REGION_CODE)
|
||||
DEFAULT_BATCH_SIZE = 500
|
||||
|
||||
# Слаг города в `source_url` Авито: `https://www.avito.ru/<slug>/kvartiry/...`.
|
||||
|
|
@ -458,16 +427,14 @@ class ImportCounters:
|
|||
|
||||
read: int = 0
|
||||
skipped_artifact: int = 0
|
||||
# Карточка сама говорит про другой регион (префикс округа / поддомен
|
||||
# Циана / компонент адреса не совпал с целевым `--region`).
|
||||
skipped_not_target_region: int = 0
|
||||
skipped_not_moscow: int = 0
|
||||
skipped_invalid: int = 0
|
||||
# Пред-геокод Авито: два РАЗНЫХ исхода, и смешивать их нельзя. Другой
|
||||
# регион — адрес разрешён, дом реальный, просто регион в ответе DaData не
|
||||
# совпал с целевым. Не разрешён — DaData дома не нашла ИЛИ кончился
|
||||
# бюджет вызовов; всплеск этого счётчика читается как «проверь квоту», а
|
||||
# не «в целевом регионе стало меньше домов».
|
||||
skipped_geo_other_region: int = 0
|
||||
# Пред-геокод Авито: два РАЗНЫХ исхода, и смешивать их нельзя. Область —
|
||||
# адрес разрешён, дом реальный, просто регион 50 (ждёт реестра). Не
|
||||
# разрешён — DaData дома не нашла ИЛИ кончился бюджет вызовов; всплеск
|
||||
# этого счётчика читается как «проверь квоту», а не «в Москве стало меньше
|
||||
# домов».
|
||||
skipped_oblast: int = 0
|
||||
skipped_ungeocoded: int = 0
|
||||
selected: int = 0
|
||||
inserted: int = 0
|
||||
|
|
@ -494,8 +461,8 @@ class ImportCounters:
|
|||
self.read
|
||||
== self.selected
|
||||
+ self.skipped_artifact
|
||||
+ self.skipped_not_target_region
|
||||
+ self.skipped_geo_other_region
|
||||
+ self.skipped_not_moscow
|
||||
+ self.skipped_oblast
|
||||
+ self.skipped_ungeocoded
|
||||
+ self.skipped_invalid
|
||||
)
|
||||
|
|
@ -513,37 +480,6 @@ def is_moscow_address(address: str | None) -> bool:
|
|||
return _MOSCOW_OKRUG_RE.match(address.strip()) is not None
|
||||
|
||||
|
||||
def cian_subdomain(payload: dict) -> str | None:
|
||||
"""Поддомен `source_url` Циана: `https://<sub>.cian.ru/...` → `<sub>`.
|
||||
|
||||
Адрес карточки регион 50 не выдаёт вовсе (см. докстринг модуля), поэтому
|
||||
область читается из URL. Поддомен и префикс округа не противоречат друг
|
||||
другу ни в одной карточке (замер по `msk_raw.cian_latest`, 12.09.2026):
|
||||
`www` — 38 030 карточек (36 569 с префиксом округа, это Москва); все
|
||||
прочие поддомены (krasnogorsk, balashikha, vidnoye, lyubertsy, zvenigorod,
|
||||
khimki, mytishchi, podolsk, odintsovo, …) — 0 карточек с префиксом округа.
|
||||
Хост не `*.cian.ru` или `source_url` отсутствует → None (консервативно:
|
||||
региону не сопоставляем).
|
||||
"""
|
||||
url = payload.get("source_url")
|
||||
if not isinstance(url, str) or not url:
|
||||
return None
|
||||
# `hostname`, а не `netloc`: он уже без порта и userinfo и в нижнем
|
||||
# регистре — иначе гипотетический `www.cian.ru:443` промахнулся бы мимо
|
||||
# суффикса и уехал в «не целевой регион».
|
||||
host = urlsplit(url).hostname or ""
|
||||
if not host.endswith(".cian.ru"):
|
||||
return None
|
||||
sub = host[: -len(".cian.ru")]
|
||||
return sub or None
|
||||
|
||||
|
||||
def is_cian_oblast_payload(payload: dict) -> bool:
|
||||
"""Регион 50 у Циана: любой поддомен, кроме `www` (см. `cian_subdomain`)."""
|
||||
sub = cian_subdomain(payload)
|
||||
return sub is not None and sub != "www"
|
||||
|
||||
|
||||
def is_moscow_yandex_address(address: str | None) -> bool:
|
||||
"""У Яндекса регион — второй компонент полного адреса.
|
||||
|
||||
|
|
@ -561,17 +497,6 @@ def is_moscow_yandex_address(address: str | None) -> bool:
|
|||
return len(parts) > 1 and parts[1] == "Москва"
|
||||
|
||||
|
||||
def is_oblast_yandex_address(address: str | None) -> bool:
|
||||
"""Регион 50 у Яндекса: второй компонент адреса — «Московская область».
|
||||
|
||||
Симметрично `is_moscow_yandex_address`: во втором компоненте встречаются
|
||||
ровно два значения (см. докстринг модуля), третьего нет — среди карточек
|
||||
Яндекса «не Москва» и означает «область».
|
||||
"""
|
||||
parts = [part.strip() for part in (address or "").split(",")]
|
||||
return len(parts) > 1 and parts[1] == "Московская область"
|
||||
|
||||
|
||||
def is_moscow_domclick_address(address: str | None) -> bool:
|
||||
"""У ДомКлика регион — ПЕРВЫЙ компонент адреса: «Москва, улица …».
|
||||
|
||||
|
|
@ -590,70 +515,12 @@ def is_moscow_domclick_address(address: str | None) -> bool:
|
|||
return bool(parts) and parts[0] == "Москва"
|
||||
|
||||
|
||||
def is_oblast_domclick_address(address: str | None) -> bool:
|
||||
"""Регион 50 у ДомКлика: первый компонент адреса — «Московская область».
|
||||
|
||||
Симметрично `is_moscow_domclick_address`. Таблица `msk_raw.domclick_cards`
|
||||
копит ДВА разных прогона сборщика (московский батч
|
||||
`msk-serp-domclick-20260912`, областной `mo-serp-domclick-20260912`) без
|
||||
своей колонки региона, а вью `msk_raw.domclick_latest` отдаёт обе партии
|
||||
вперемешку — фильтр по адресу обязателен, не опционален. Замер живьём на
|
||||
API ДомКлика 12.09.2026: «Московская область, Химки, 7-й м-н, проспект
|
||||
Мельникова, 33», «Московская область, Одинцовский городской округ,
|
||||
Звенигород, 3-й м-н, 28» и подобные — первый компонент «Московская
|
||||
область» у всех 140 карточек выборки с семи разных смещений выдачи.
|
||||
"""
|
||||
parts = [part.strip() for part in (address or "").split(",")]
|
||||
return bool(parts) and parts[0] == "Московская область"
|
||||
|
||||
|
||||
def _payload_point(payload: dict) -> tuple[float, float] | None:
|
||||
"""(lat, lon) из сырья ДомКлика, если сборщик их положил и они читаются."""
|
||||
try:
|
||||
return float(payload["lat"]), float(payload["lon"])
|
||||
except (KeyError, TypeError, ValueError):
|
||||
return None
|
||||
|
||||
|
||||
def is_oblast_domclick_payload(payload: dict) -> bool:
|
||||
"""Область у ДомКлика: префикс адреса ИЛИ координата внутри bbox области.
|
||||
|
||||
Одного префикса мало. Замер на собранном корпусе 12.09.2026 (2 961 карточка
|
||||
областного батча): «Московская область» стоит первым компонентом у 2 960, а
|
||||
у одной — «Можайский муниципальный округ, д. Семёновское, 1», 55.5116/35.8293.
|
||||
Это настоящая область (Можайск), и строгий префикс выбросил бы её молча.
|
||||
Московский батч тем же замером даёт «Москва» первым компонентом у ВСЕХ
|
||||
22 836 карточек, поэтому явный отказ Москве идёт раньше гео-ветки и bbox
|
||||
Москвы (вложенный в областной) не может протащить столичную карточку в 50.
|
||||
"""
|
||||
address = payload.get("address")
|
||||
if is_oblast_domclick_address(address):
|
||||
return True
|
||||
if is_moscow_domclick_address(address):
|
||||
return False
|
||||
point = _payload_point(payload)
|
||||
if point is None:
|
||||
return False
|
||||
return is_within_bbox(point[0], point[1], REGIONS[OBLAST_REGION_CODE].bbox_region)
|
||||
|
||||
|
||||
def _by_address(fn: Callable[[str | None], bool]) -> Callable[[dict], bool]:
|
||||
"""Адаптер: фильтр по адресу → фильтр по всему payload'у (для реестра)."""
|
||||
return lambda payload: fn(payload.get("address"))
|
||||
|
||||
|
||||
# Реестр (source, целевой регион) → фильтр по ВСЕМУ payload'у, не только
|
||||
# адресу: у Циана признак региона 50 лежит в `source_url`, адрес про него
|
||||
# молчит. Ключа нет только для источника, который вообще не умеет отличать
|
||||
# регион без пред-геокода (avito, для ЛЮБОГО региона) — для всех прочих пар
|
||||
# фильтр обязан быть в реестре явно.
|
||||
REGION_FILTERS: dict[tuple[str, int], Callable[[dict], bool]] = {
|
||||
("cian", MOSCOW_REGION_CODE): _by_address(is_moscow_address),
|
||||
("cian", OBLAST_REGION_CODE): is_cian_oblast_payload,
|
||||
("yandex", MOSCOW_REGION_CODE): _by_address(is_moscow_yandex_address),
|
||||
("yandex", OBLAST_REGION_CODE): _by_address(is_oblast_yandex_address),
|
||||
("domclick", MOSCOW_REGION_CODE): _by_address(is_moscow_domclick_address),
|
||||
("domclick", OBLAST_REGION_CODE): is_oblast_domclick_payload,
|
||||
# Источники, у которых город виден в самой карточке. Ключ отсутствует —
|
||||
# источник про город молчит, и без пред-геокода писать его нельзя (avito).
|
||||
CITY_FILTERS = {
|
||||
"cian": is_moscow_address,
|
||||
"yandex": is_moscow_yandex_address,
|
||||
"domclick": is_moscow_domclick_address,
|
||||
}
|
||||
|
||||
|
||||
|
|
@ -702,7 +569,6 @@ def import_msk_raw(
|
|||
db: Session,
|
||||
*,
|
||||
source: str = "cian",
|
||||
region: int = MOSCOW_REGION_CODE,
|
||||
batch_size: int = DEFAULT_BATCH_SIZE,
|
||||
limit: int | None = None,
|
||||
dry_run: bool = False,
|
||||
|
|
@ -711,38 +577,32 @@ def import_msk_raw(
|
|||
geocode_limit: int = DEFAULT_GEOCODE_LIMIT,
|
||||
) -> ImportCounters:
|
||||
"""Переливает сырьё `msk_raw` в `listings`. Коммит — на каждом батче."""
|
||||
if region not in SUPPORTED_REGIONS:
|
||||
raise SystemExit(f"region={region}: регион не поддержан, доступны {SUPPORTED_REGIONS}")
|
||||
|
||||
view = SOURCE_VIEWS[source]
|
||||
counters = ImportCounters()
|
||||
matcher = RealMatcherAdapter()
|
||||
budget = GeocodeBudget(remaining=max(0, geocode_limit))
|
||||
|
||||
# Источник, который сам говорит про целевой регион: у Циана это префикс
|
||||
# округа/поддомен, у Яндекса — второй компонент адреса, у ДомКлика —
|
||||
# первый. Авито не говорит ничего ни для какого региона, ему нужен
|
||||
# пред-геокод, поэтому в реестре его нет вовсе.
|
||||
city_filter = REGION_FILTERS.get((source, region))
|
||||
# Источник, который сам говорит про город: у Циана это префикс округа, у
|
||||
# Яндекса — второй компонент полного адреса. Авито не говорит ничего, ему
|
||||
# нужен пред-геокод, поэтому его в словаре нет.
|
||||
city_filter = CITY_FILTERS.get(source)
|
||||
if geocode and city_filter is not None:
|
||||
# Регион опознаётся даром и без ошибок — тратить на него внешнюю квоту
|
||||
# Город опознаётся даром и без ошибок — тратить на него внешнюю квоту
|
||||
# незачем.
|
||||
raise SystemExit(f"source={source}: --geocode нужен только для avito")
|
||||
if city_filter is None and not geocode:
|
||||
# Без пред-геокода у Авито по-прежнему нечем отделить целевой регион от
|
||||
# прочих: ни города в адресе, ни координат. Пишем только по явному
|
||||
# разрешению.
|
||||
# Без пред-геокода у Авито по-прежнему нечем отделить Москву от области:
|
||||
# ни города в адресе, ни координат. Пишем только по явному разрешению.
|
||||
if not (dry_run or allow_unfiltered):
|
||||
raise SystemExit(
|
||||
f"source={source}: адрес не содержит признака города, регион "
|
||||
f"{region} от прочих не отличить. Нужен --geocode (штатный путь), "
|
||||
f"source={source}: адрес не содержит признака города, Москву от "
|
||||
"области не отличить. Нужен --geocode (штатный путь), "
|
||||
"--allow-unfiltered (аварийный) или --dry-run."
|
||||
)
|
||||
logger.warning(
|
||||
"source=%s region=%d: пред-геокод ВЫКЛЮЧЕН — фильтра по региону нет "
|
||||
"вовсе; строки лягут без geom и вперемешку с прочими регионами",
|
||||
"source=%s: пред-геокод ВЫКЛЮЧЕН — фильтра по городу нет вовсе; "
|
||||
"строки лягут без geom и вперемешку с областью",
|
||||
source,
|
||||
region,
|
||||
)
|
||||
if geocode and not dry_run:
|
||||
db.execute(text(_GEO_CACHE_DDL))
|
||||
|
|
@ -758,16 +618,16 @@ def import_msk_raw(
|
|||
if is_artifact_address(address):
|
||||
counters.skipped_artifact += 1
|
||||
continue
|
||||
if city_filter is not None and not city_filter(payload):
|
||||
counters.skipped_not_target_region += 1
|
||||
if city_filter is not None and not city_filter(address):
|
||||
counters.skipped_not_moscow += 1
|
||||
continue
|
||||
if geocode:
|
||||
point = points.get(geo_cache_key(address or "", avito_city_slug(payload)))
|
||||
if point is None:
|
||||
counters.skipped_ungeocoded += 1
|
||||
continue
|
||||
if point.region_code != region:
|
||||
counters.skipped_geo_other_region += 1
|
||||
if point.region_code != MOSCOW_REGION_CODE:
|
||||
counters.skipped_oblast += 1
|
||||
continue
|
||||
# Координаты кладём в КОПИЮ payload'а: исходную строку сырья не
|
||||
# трогаем, пересбор корпуса от этого не зависит. geom появляется
|
||||
|
|
@ -789,26 +649,19 @@ def import_msk_raw(
|
|||
if dry_run or not lots:
|
||||
continue
|
||||
|
||||
# У региона 50 своего единого города нет (`canonical_city is None` в
|
||||
# реестре regions) — пишем city=None, `save_listings` его COALESCE'ит
|
||||
# и существующее значение не затирает. Подбор аналогов не страдает:
|
||||
# он радиусный (ST_DWithin), а не по городу; ценовая полоса ДКП
|
||||
# ключуется на `deals.city`, а не на `listings.city`.
|
||||
city = MOSCOW_CITY if region == MOSCOW_REGION_CODE else None
|
||||
inserted, updated = save_listings(
|
||||
db,
|
||||
lots,
|
||||
matcher=matcher,
|
||||
region_code=region,
|
||||
city=city,
|
||||
region_code=MOSCOW_REGION_CODE,
|
||||
city=MOSCOW_CITY,
|
||||
)
|
||||
counters.inserted += inserted
|
||||
counters.updated += updated
|
||||
db.commit() # батч зафиксирован — обрыв не отматывает всю работу
|
||||
logger.info(
|
||||
"msk_raw %s region=%d: прочитано=%d отобрано=%d записано=%d (new=%d upd=%d)",
|
||||
"msk_raw %s: прочитано=%d отобрано=%d записано=%d (new=%d upd=%d)",
|
||||
source,
|
||||
region,
|
||||
counters.read,
|
||||
counters.selected,
|
||||
counters.written,
|
||||
|
|
@ -826,12 +679,11 @@ def import_msk_raw(
|
|||
geocode_limit,
|
||||
)
|
||||
logger.info(
|
||||
"msk_raw %s region=%d ИТОГ%s: прочитано=%d отобрано=%d записано=%d "
|
||||
"(new=%d upd=%d, писатель пропустил=%d) | пропущено: не целевой регион=%d "
|
||||
"геокод-другой-регион=%d не разрешён=%d артефакт=%d невалидный payload=%d | "
|
||||
"msk_raw %s ИТОГ%s: прочитано=%d отобрано=%d записано=%d "
|
||||
"(new=%d upd=%d, писатель пропустил=%d) | пропущено: не Москва=%d "
|
||||
"область(50)=%d не разрешён=%d артефакт=%d невалидный payload=%d | "
|
||||
"геокод-вызовов=%d | сходится=%s",
|
||||
source,
|
||||
region,
|
||||
" (dry-run)" if dry_run else "",
|
||||
counters.read,
|
||||
counters.selected,
|
||||
|
|
@ -839,8 +691,8 @@ def import_msk_raw(
|
|||
counters.inserted,
|
||||
counters.updated,
|
||||
counters.writer_skipped if not dry_run else 0,
|
||||
counters.skipped_not_target_region,
|
||||
counters.skipped_geo_other_region,
|
||||
counters.skipped_not_moscow,
|
||||
counters.skipped_oblast,
|
||||
counters.skipped_ungeocoded,
|
||||
counters.skipped_artifact,
|
||||
counters.skipped_invalid,
|
||||
|
|
@ -855,30 +707,21 @@ def main() -> None:
|
|||
level=logging.INFO,
|
||||
format="%(asctime)s %(levelname)s %(name)s: %(message)s",
|
||||
)
|
||||
parser = argparse.ArgumentParser(
|
||||
description="Импорт сырья msk_raw в listings (регион задаётся --region, по умолчанию 77)"
|
||||
)
|
||||
parser = argparse.ArgumentParser(description="Импорт сырья msk_raw в listings (регион 77)")
|
||||
parser.add_argument("--source", choices=sorted(SOURCE_VIEWS), default="cian")
|
||||
parser.add_argument(
|
||||
"--region",
|
||||
type=int,
|
||||
choices=SUPPORTED_REGIONS,
|
||||
default=MOSCOW_REGION_CODE,
|
||||
help=f"целевой регион: {MOSCOW_REGION_CODE} — Москва, {OBLAST_REGION_CODE} — область",
|
||||
)
|
||||
parser.add_argument("--batch-size", type=int, default=DEFAULT_BATCH_SIZE)
|
||||
parser.add_argument("--limit", type=int, default=None, help="обработать не больше N карточек")
|
||||
parser.add_argument("--dry-run", action="store_true", help="ничего не пишет, только счётчики")
|
||||
parser.add_argument(
|
||||
"--allow-unfiltered",
|
||||
action="store_true",
|
||||
help="АВАРИЙНЫЙ режим: писать avito без фильтра по региону и без geom",
|
||||
help="АВАРИЙНЫЙ режим: писать avito без фильтра по городу и без geom",
|
||||
)
|
||||
parser.add_argument(
|
||||
"--geocode",
|
||||
action="store_true",
|
||||
help="штатный путь для avito: пред-геокод адреса (слаг + DaData), "
|
||||
"в listings уходит только целевой регион (--region), прочее пропускается",
|
||||
"в listings уходит только регион 77, область откладывается",
|
||||
)
|
||||
parser.add_argument(
|
||||
"--geocode-limit",
|
||||
|
|
@ -894,7 +737,6 @@ def main() -> None:
|
|||
import_msk_raw(
|
||||
db,
|
||||
source=args.source,
|
||||
region=args.region,
|
||||
batch_size=args.batch_size,
|
||||
limit=args.limit,
|
||||
dry_run=args.dry_run,
|
||||
|
|
|
|||
|
|
@ -1,52 +0,0 @@
|
|||
-- 302_scrape_schedules_seed_rosreestr_dkp_50.sql
|
||||
-- Seed-строка scrape_schedules для региона 50 (Московская область) — #3051, трек МО.
|
||||
--
|
||||
-- Dependencies: 289_rosreestr_fdw_msk_columns_seed77.sql (та же таблица, тот же
|
||||
-- формат source/default_params).
|
||||
-- Apply after: 301_web_support_message_idempotency_key.sql
|
||||
--
|
||||
-- WHY:
|
||||
-- Код-часть импорта уже параметризована регионом (`scheduler.py::_job_rosreestr_dkp`
|
||||
-- читает `region_code` из default_params и валидирует его по `app.services.regions`),
|
||||
-- а wildcard-хендлер `rosreestr_dkp_import_*` резолвит любое имя с суффиксом кода.
|
||||
-- Регион 50 заведён в реестре и уже на проде, поэтому включение области стоит ровно
|
||||
-- одной строки расписания — новой логики не требуется.
|
||||
--
|
||||
-- У региона 50 `canonical_city IS NULL`, то есть он идёт по ветке региона 66:
|
||||
-- `deals.city` берётся из источника (муниципалитет — Балашиха, Химки, Подольск),
|
||||
-- `raw_payload` не заполняется, строки с пустым city отбрасываются. Для области это
|
||||
-- и есть верное поведение: единого города у региона нет, подставлять нечего.
|
||||
--
|
||||
-- Замер по FDW (2026-09-12, прод): под полным WHERE импорта регион 50 даёт
|
||||
-- 113 351 сделку ДКП с 2024-01-01 — корпус того же порядка, что московский.
|
||||
--
|
||||
-- Строка ВЫКЛЮЧЕНА (enabled=false) — ровно как seed 77 в миграции 289: миграция
|
||||
-- заводит расписание, включение и первый прогон остаются отдельным решением
|
||||
-- main-сессии. Окно 4-6 UTC совпадает с окнами регионов 66 и 77; прогоны
|
||||
-- сериализуются планировщиком, а первая полная заливка 77 заняла 3 минуты на
|
||||
-- 212 937 строк, так что третий регион в то же окно помещается с запасом.
|
||||
--
|
||||
-- ИДЕМПОТЕНТНОСТЬ: ON CONFLICT (source) DO NOTHING — повторный прогон no-op и,
|
||||
-- что важнее, НЕ сбрасывает enabled обратно в false после ручного включения.
|
||||
|
||||
BEGIN;
|
||||
|
||||
SET LOCAL lock_timeout = '5s';
|
||||
|
||||
INSERT INTO scrape_schedules (
|
||||
source,
|
||||
enabled,
|
||||
window_start_hour,
|
||||
window_end_hour,
|
||||
default_params
|
||||
)
|
||||
VALUES (
|
||||
'rosreestr_dkp_import_50',
|
||||
false,
|
||||
4,
|
||||
6,
|
||||
'{"region_code": 50, "since": "2024-01-01", "batch_size": 2000}'::jsonb
|
||||
)
|
||||
ON CONFLICT (source) DO NOTHING;
|
||||
|
||||
COMMIT;
|
||||
|
|
@ -1,79 +0,0 @@
|
|||
-- 303_scrape_schedules_seed_landing_showcase_deals.sql
|
||||
-- Расписание для пересчёта витрины сделок публичного лэндинга (issue #3469).
|
||||
--
|
||||
-- ЧТО БЫЛО. Задача `landing_showcase_deals` (миграции 276/277, таблицы
|
||||
-- landing_showcase_deals + landing_showcase_runs) в scrape_schedules НЕ СТОЯЛА:
|
||||
-- `SELECT * FROM scrape_schedules WHERE source LIKE '%showcase%'` — 0 строк
|
||||
-- (замер на проде 12.09.2026). Пересчёт был ручным шагом, и за всё время его
|
||||
-- запускали четырежды; на 12.09 лэндинг показывал прогон от 30.08 — тринадцать
|
||||
-- суток. Handler в реестре тоже отсутствовал, то есть строка расписания без
|
||||
-- него не помогла бы: обе половины регистрации задачи (Handler в
|
||||
-- app/services/product_handlers.py + вот эта строка) едут одним PR.
|
||||
--
|
||||
-- ТАКТ — СУТКИ, И СЧИТАЕТСЯ ОН НЕ ОТ ДАННЫХ, А ОТ КОДА.
|
||||
-- Вход витрины — ДКП-сделки Росреестра, они приезжают ПОКВАРТАЛЬНО, и по
|
||||
-- входу хватило бы такта в квартал. Но витрина показывает не сделки, а
|
||||
-- РАСХОЖДЕНИЕ прогноза МЕРЫ с ценой сделки, а прогноз пересчитывается тем же
|
||||
-- спайном оценщика, что и боевой расчёт: любая правка оценщика, коэффициентов
|
||||
-- СберИндекса, набора активных объявлений или правила отбора (миграция 276,
|
||||
-- полоса −5..+20 % от 12.09.2026) меняет ЧИСЛА на странице, не трогая ни одной
|
||||
-- сделки. Деплой у продукта чаще, чем квартал, — поэтому такт суточный: столько
|
||||
-- живёт окно «код уже другой, а витрина ещё прежняя». Прогон дешёвый и без
|
||||
-- внешних вызовов (200 сделок через спайн + запись 20 строк, ~минуты CPU
|
||||
-- ночью), так что цена суточного такта — та же, что у соседнего
|
||||
-- landing_stats_refresh (миграция 275).
|
||||
--
|
||||
-- ЭТА ЖЕ СТРОКА ЗАВОДИТ ВИТРИНУ В МОНИТОР СВЕЖЕСТИ. Сводка просроченных
|
||||
-- источников (`emit_stale_digest`, scraper_kit/orchestration/scheduler.py,
|
||||
-- #2670) ходит по ВКЛЮЧЁННЫМ расписаниям и бьёт тревогу (logger.error →
|
||||
-- GlitchTip), когда источник не приносил данных дольше
|
||||
-- STALE_DIGEST_INTERVAL_FACTOR × его такта — то есть здесь дольше ТРЁХ СУТОК.
|
||||
-- Отдельного монитора для витрины не заводится намеренно: её молчание было
|
||||
-- невидимо ровно потому, что источника не существовало для сводки, а не потому,
|
||||
-- что сводка не умеет про него говорить (живой пример с прода 12.09.2026:
|
||||
-- «1 источников не собирают дольше 3× своего такта — avito_newbuilding_sweep
|
||||
-- 3.5d/1d»). interval_days в default_params стоит ЯВНО — им же сводка считает
|
||||
-- порог (`_schedule_interval_days`), и умолчание «1» лучше не подразумевать.
|
||||
--
|
||||
-- ОКНО 06:00–07:00 UTC (11:00–12:00 по Екатеринбургу): после импорта сделок
|
||||
-- Росреестра (rosreestr_dkp_import, окно 04–06) и после landing_stats_refresh
|
||||
-- (05–06) — витрина считается по уже обновлённым за ночь данным; и за два часа
|
||||
-- до deals_freshness_monitor (08–09), так что утренний пересчёт успевает
|
||||
-- сняться с просрочки до утренней же проверки.
|
||||
--
|
||||
-- enabled=true — как у landing_stats_refresh: задача только читает базу и
|
||||
-- перезаписывает две свои маленькие таблицы, внешних вызовов нет, цена ошибки —
|
||||
-- минуты CPU. Дожидаться ручного включения тут значило бы оставить дефект
|
||||
-- #3469 на месте, просто под другой причиной.
|
||||
--
|
||||
-- next_run_at на завтра 06:00 UTC — прогон не выстреливает в момент деплоя
|
||||
-- (образец: 162_seed_deals_freshness_monitor.sql, 275_landing_stats.sql).
|
||||
--
|
||||
-- ЗАВИСИМОСТИ: 052_scrape_schedules.sql (таблица + UNIQUE(source)), 276/277
|
||||
-- (таблицы витрины), Handler 'landing_showcase_deals' в product_handlers.py.
|
||||
-- Идемпотентно: ON CONFLICT (source) DO NOTHING.
|
||||
|
||||
BEGIN;
|
||||
-- Конвенция проекта (#2752): блокирующий DDL/DML под lock_timeout.
|
||||
SET LOCAL lock_timeout = '5s';
|
||||
|
||||
INSERT INTO scrape_schedules (
|
||||
source,
|
||||
enabled,
|
||||
window_start_hour,
|
||||
window_end_hour,
|
||||
next_run_at,
|
||||
default_params
|
||||
)
|
||||
VALUES
|
||||
(
|
||||
'landing_showcase_deals',
|
||||
true,
|
||||
6,
|
||||
7,
|
||||
((CURRENT_DATE + INTERVAL '1 day') + make_interval(hours => 6)) AT TIME ZONE 'UTC',
|
||||
'{"interval_days": 1, "sample": 200, "limit": 20}'::jsonb
|
||||
)
|
||||
ON CONFLICT (source) DO NOTHING;
|
||||
|
||||
COMMIT;
|
||||
|
|
@ -38,7 +38,6 @@ tests/test_house_dedup_merge.py::test_real_fias_pass_ignores_geo_guard
|
|||
tests/test_house_dedup_merge.py::test_real_merge_is_reversible_via_journal
|
||||
tests/test_house_dedup_merge.py::test_real_merge_repoints_dedups_deletes_and_is_idempotent
|
||||
tests/test_user_events.py::test_real_record_event_inserts_row
|
||||
tests/test_3469_showcase_schedule.py::test_live_migration_puts_showcase_into_schedules_and_digest
|
||||
|
||||
# Приватность/ретеншн (#2547) — тот же `_live_session()`. Приехали в main
|
||||
# параллельно с самим списком, поэтому первым же прогоном deploy-лэйна хук их и
|
||||
|
|
|
|||
|
|
@ -342,9 +342,6 @@ def _yandex_with_pool(monkeypatch: pytest.MonkeyPatch, *, get: Any) -> _Counting
|
|||
patch(
|
||||
"scraper_kit.providers.yandex.valuation._CurlCffiSession", _fake_curl_session(get=get)
|
||||
),
|
||||
# На успехе fetch_house_history зовёт настоящий anti-ban sleep_between_requests
|
||||
# (5с jitter) — тесту нужен только факт release-lease, не сама пауза.
|
||||
patch("scraper_kit.base.asyncio.sleep", new_callable=AsyncMock),
|
||||
):
|
||||
_call_yandex(_db_cache_miss())
|
||||
return provider
|
||||
|
|
|
|||
|
|
@ -1,324 +0,0 @@
|
|||
"""Витрина сделок лэндинга попадает в расписание и в монитор свежести (#3469).
|
||||
|
||||
ЧТО БЫЛО СЛОМАНО. `landing_showcase_deals` считает витрину публичного лэндинга
|
||||
(«МЕРА сказала X — продали за Y»), но в `scrape_schedules` строки для неё не было
|
||||
вовсе (`WHERE source LIKE '%showcase%'` — 0 строк на проде 12.09.2026), а в
|
||||
реестре `product_handlers` — обработчика. То есть планировщик про задачу не знал
|
||||
ни с какой стороны, пересчёт был ручным, и страница показывала прогон
|
||||
тринадцатисуточной давности. Заметить это было неоткуда: под таблицей печатались
|
||||
счётчики прогона, но не его дата, а сводка просроченных источников
|
||||
(`emit_stale_digest`, #2670) ходит по ВКЛЮЧЁННЫМ РАСПИСАНИЯМ — источника, которого
|
||||
в таблице нет, для неё не существует.
|
||||
|
||||
ЧТО ПРОВЕРЯЕТСЯ ЗДЕСЬ, И ПОЧЕМУ ИМЕННО ЭТО.
|
||||
|
||||
1. Обработчик резолвится ТЕМ ЖЕ `resolve_handler`, которым его ищет боевой
|
||||
`_dispatch`. Одной строки расписания мало: без обработчика планировщик
|
||||
нашёл бы задачу и не смог её запустить.
|
||||
2. Миграция 303 сеет строку, и сеет её ВКЛЮЧЁННОЙ с явным `interval_days` —
|
||||
сводка считает порог просрочки из этого же числа.
|
||||
3. Сводка краснеет, когда витрина не пересчитывалась дольше ТРЁХ тактов
|
||||
(приёмка #3469), и молчит на двух. Число тактов здесь — литерал, а такт
|
||||
читается из миграции: ожидание, взятое из той же настройки, которую
|
||||
проверяешь, уезжает вместе с ней — см. комментарий при _ACCEPTANCE_CYCLES.
|
||||
4. Живой Postgres (само-скип): миграция реально вставляет строку в таблицу,
|
||||
повторное применение её не задваивает, и настоящий запрос сводки
|
||||
`_STALE_SOURCES_SQL` видит эту строку и отдаёт витрину просроченной.
|
||||
|
||||
ЖИВОЙ ТЕСТ НЕ УДАЛЯЕТ И НЕ ПРАВИТ НИЧЕГО ЧУЖОГО: он применяет ту же идемпотентную
|
||||
миграцию, что применяет деплой (ON CONFLICT DO NOTHING). В CI он ИДЁТ —
|
||||
ci-tradein.yml поднимает свой Postgres и кладёт DSN в DATABASE_URL; на машине без
|
||||
базы само-скипается (запись в tests/skip_allowlist.txt).
|
||||
|
||||
ГОНЯТЬ ЕГО НАДО НА ПОЛНОЙ СХЕМЕ, А НЕ НА ПУСТОЙ БАЗЕ. На чистой базе он был
|
||||
зелёным и при этом падал в CI: повтор `015_scrape_runs.sql` (его комментарий к
|
||||
колонке, снесённой миграцией 214) на полной схеме валится, а на пустой — нет.
|
||||
Поэтому зависимости применяются только когда таблицы ещё нет, а проверять надо
|
||||
тем же путём, каким гоняет CI:
|
||||
|
||||
docker exec tradein-postgres psql -U tradein -d postgres -c 'CREATE DATABASE t3469full'
|
||||
docker exec -i tradein-postgres psql -U tradein -d t3469full -c \\
|
||||
'CREATE EXTENSION postgis; CREATE EXTENSION pg_trgm; CREATE ROLE gendesign_reader;'
|
||||
for f in $(ls -1 data/sql/*.sql | sort); do docker exec -i tradein-postgres \\
|
||||
psql -U tradein -d t3469full -v ON_ERROR_STOP=on -q < "$f"; done
|
||||
DATABASE_URL="postgresql+psycopg://tradein:tradein@127.0.0.1:5433/t3469full" \\
|
||||
uv run python -m pytest tests/test_3469_showcase_schedule.py -q
|
||||
"""
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
import os
|
||||
import re
|
||||
from datetime import UTC, datetime, timedelta
|
||||
from pathlib import Path
|
||||
from types import SimpleNamespace
|
||||
from typing import Any
|
||||
|
||||
import pytest
|
||||
|
||||
os.environ.setdefault("DATABASE_URL", "postgresql+psycopg://test:test@localhost:5432/test")
|
||||
|
||||
from scraper_kit.orchestration import scheduler as sched
|
||||
|
||||
from app.services.product_handlers import _job_landing_showcase_deals, build_product_handlers
|
||||
|
||||
SOURCE = "landing_showcase_deals"
|
||||
|
||||
_SQL_DIR = Path(__file__).resolve().parents[1] / "data" / "sql"
|
||||
_MIGRATION = _SQL_DIR / "303_scrape_schedules_seed_landing_showcase_deals.sql"
|
||||
# Таблицы, без которых строку расписания некуда класть (FK scrape_schedules →
|
||||
# scrape_runs), — живой тест применяет их в том же порядке, что и деплой.
|
||||
_DEPS = [
|
||||
_SQL_DIR / "015_scrape_runs.sql",
|
||||
# counters jsonb — по нему сводка судит, принёс ли прогон данные.
|
||||
_SQL_DIR / "051_scrape_runs_extend.sql",
|
||||
_SQL_DIR / "052_scrape_schedules.sql",
|
||||
]
|
||||
|
||||
NOW = datetime(2026, 9, 12, 8, 0, tzinfo=UTC)
|
||||
|
||||
|
||||
def _migration_sql() -> str:
|
||||
return _MIGRATION.read_text("utf-8")
|
||||
|
||||
|
||||
def _seeded_interval_days() -> int:
|
||||
"""Такт из САМОЙ миграции — порог сводки считается из него, не из литерала."""
|
||||
m = re.search(r'"interval_days"\s*:\s*(\d+)', _migration_sql())
|
||||
assert m is not None, "в default_params миграции 303 нет interval_days"
|
||||
return int(m.group(1))
|
||||
|
||||
|
||||
# ── 1. Планировщик видит задачу ──────────────────────────────────────────────
|
||||
|
||||
|
||||
def test_handler_resolves_for_scheduler() -> None:
|
||||
"""`resolve_handler` находит витрину — тем же вызовом, что и боевой _dispatch.
|
||||
|
||||
Ломать так: убрать ключ из реестра в product_handlers — тест покраснеет, а
|
||||
планировщик на проде заклеймил бы прогон и не нашёл, чем его выполнить.
|
||||
"""
|
||||
registry = build_product_handlers(ctx=None) # type: ignore[arg-type]
|
||||
handler = sched.resolve_handler(SOURCE, registry)
|
||||
assert handler is not None, f"{SOURCE} не резолвится реестром — задача невидима"
|
||||
# СРАВНИВАЕМ САМ JOB, А НЕ `log_name`: имя — второй литерал конструктора
|
||||
# Handler, и правильный ключ с чужим телом (`_job_landing_stats` под ключом
|
||||
# витрины) проходил проверку по имени насквозь. Резолв ведёт к пересчёту
|
||||
# витрины или не ведёт — это свойство функции, а не подписи в логе.
|
||||
assert handler.job is _job_landing_showcase_deals, (
|
||||
f"под ключом {SOURCE} стоит чужой job: {handler.job.__name__}"
|
||||
)
|
||||
assert handler.log_name == SOURCE
|
||||
|
||||
|
||||
# ── 2. Миграция сеет строку ──────────────────────────────────────────────────
|
||||
|
||||
|
||||
def test_migration_303_exists() -> None:
|
||||
assert _MIGRATION.is_file(), f"missing migration: {_MIGRATION}"
|
||||
|
||||
|
||||
def test_migration_303_seeds_source_enabled() -> None:
|
||||
sql = _migration_sql()
|
||||
assert f"'{SOURCE}'" in sql
|
||||
assert "INSERT INTO scrape_schedules" in sql
|
||||
# enabled=true — иначе сводка просроченных источников строку не увидит
|
||||
# (_STALE_SOURCES_SQL: WHERE sch.enabled), и монитор молчал бы как раньше.
|
||||
assert re.search(rf"'{SOURCE}',\s*\n\s*true", sql), "расписание засеяно выключенным"
|
||||
|
||||
|
||||
def test_migration_303_is_idempotent_and_transactional() -> None:
|
||||
sql = _migration_sql()
|
||||
assert "ON CONFLICT (source) DO NOTHING" in sql
|
||||
assert "BEGIN;" in sql
|
||||
assert "COMMIT;" in sql
|
||||
|
||||
|
||||
def test_migration_303_no_psycopg_trap() -> None:
|
||||
assert not re.search(r":\w+::", _migration_sql())
|
||||
|
||||
|
||||
def test_migration_303_interval_days_is_daily() -> None:
|
||||
"""Такт суточный: витрина устаревает от КОДА (деплой), а не от квартальных сделок."""
|
||||
assert _seeded_interval_days() == 1
|
||||
|
||||
|
||||
# ── 3. Сводка свежести краснеет на молчащей витрине ──────────────────────────
|
||||
|
||||
|
||||
def _row(age_days: float, *, status: str | None = "done") -> Any:
|
||||
"""Строка `_STALE_SOURCES_SQL`: прогон витрины `age_days` суток назад.
|
||||
|
||||
`status=None` (LEFT JOIN не нашёл прогонов) — витрину не пересчитывали ни разу
|
||||
с момента появления расписания; тогда возраст считается от created_at строки.
|
||||
"""
|
||||
finished = None if status is None else NOW - timedelta(days=age_days)
|
||||
return SimpleNamespace(
|
||||
source=SOURCE,
|
||||
interval_days=str(_seeded_interval_days()),
|
||||
created_at=NOW - timedelta(days=age_days),
|
||||
finished_at=finished,
|
||||
status=status,
|
||||
counters={"considered": 200, "eligible": 161, "written": 20},
|
||||
)
|
||||
|
||||
|
||||
def _stale_now(rows: list[Any]) -> list[sched.StaleSource]:
|
||||
return sched.stale_sources(sched.freshness_rows(rows), NOW)
|
||||
|
||||
|
||||
# Приёмка issue #3469 дословно: «отсутствие прогона дольше 3× такта даёт тревогу».
|
||||
# ЧИСЛО ЗДЕСЬ ЛИТЕРАЛ, А НЕ `sched.STALE_DIGEST_INTERVAL_FACTOR`. Взятое из той же
|
||||
# настройки, которую проверяем, ожидание уезжает вместе с ней: при факторе 3650
|
||||
# ЭТИ ЖЕ тесты оставались зелёными (проверено руками), то есть проверяли ровно
|
||||
# ничего. Такт (`interval_days`) при этом читается из миграции — правило «3×»
|
||||
# и задано в тактах, а не в сутках.
|
||||
_ACCEPTANCE_CYCLES = 3
|
||||
|
||||
|
||||
def test_digest_flags_showcase_after_three_cycles() -> None:
|
||||
"""Нет пересчёта дольше 3× такта → витрина в сводке просроченных."""
|
||||
lag = _ACCEPTANCE_CYCLES * _seeded_interval_days() + 0.5
|
||||
stale = _stale_now([_row(lag)])
|
||||
assert [s.source for s in stale] == [SOURCE], (
|
||||
f"витрина молчит {lag} суток при такте {_seeded_interval_days()} и не в тревоге"
|
||||
)
|
||||
assert stale[0].interval_days == _seeded_interval_days()
|
||||
|
||||
|
||||
def test_digest_silent_within_cycle() -> None:
|
||||
"""Контроль: два такта — ещё норма, иначе тревога кричала бы всегда."""
|
||||
lag = 2 * _seeded_interval_days()
|
||||
assert _stale_now([_row(lag)]) == []
|
||||
|
||||
|
||||
def test_digest_flags_showcase_that_never_ran() -> None:
|
||||
"""Расписание есть, прогонов нет — самый частый вид молчания (#3469 и был им)."""
|
||||
lag = _ACCEPTANCE_CYCLES * _seeded_interval_days() + 1
|
||||
stale = _stale_now([_row(lag, status=None)])
|
||||
assert [s.source for s in stale] == [SOURCE]
|
||||
assert stale[0].never_ok is True
|
||||
|
||||
|
||||
def test_showcase_counters_do_not_fake_freshness() -> None:
|
||||
"""Свежесть даёт ПРОГОН, а не его счётчики.
|
||||
|
||||
`run_brought_data` судит по результатным ключам kit'а, а у витрины их нет
|
||||
(`considered`/`eligible`/`written` — свой словарь). Значит мерой остаётся
|
||||
успешный статус: прогон, свалившийся в failed, свежести не даёт.
|
||||
"""
|
||||
assert sched.run_brought_data("done", {"considered": 200, "written": 20}) is True
|
||||
assert sched.run_brought_data("failed", {"considered": 200, "written": 0}) is False
|
||||
|
||||
|
||||
# ── 4. Живая БД: строка реально ложится в таблицу ────────────────────────────
|
||||
|
||||
|
||||
def _live_session() -> Any | None:
|
||||
"""Session на живой Postgres — та же проба, что у соседних живых тестов.
|
||||
|
||||
`TEST_DATABASE_URL` имеет приоритет; `localhost:5432/test` — заглушка модулей,
|
||||
её не считаем базой. В CI сюда приезжает DSN поднятого в job'е контейнера
|
||||
(ci-tradein.yml), поэтому проверка там ИДЁТ, а не тихо скипается.
|
||||
"""
|
||||
try:
|
||||
from sqlalchemy import create_engine, text
|
||||
from sqlalchemy.orm import sessionmaker
|
||||
|
||||
dsn = os.environ.get("TEST_DATABASE_URL") or os.environ.get("DATABASE_URL", "")
|
||||
if not dsn or "localhost:5432/test" in dsn:
|
||||
return None
|
||||
engine = create_engine(dsn, future=True)
|
||||
with engine.connect() as conn:
|
||||
conn.execute(text("SELECT 1"))
|
||||
return sessionmaker(bind=engine, future=True)()
|
||||
except Exception:
|
||||
return None
|
||||
|
||||
|
||||
def _apply(db: Any, path: Path) -> None:
|
||||
"""Прогнать файл миграции целиком, одним куском — как `psql -f` на деплое.
|
||||
|
||||
Через ДРАЙВЕРНОЕ соединение, а не `exec_driver_sql`: последний отдаёт текст
|
||||
psycopg вместе с пустым набором параметров, и тот начинает искать в нём
|
||||
плейсхолдеры — любой процент в комментарии миграции («полоса −5..+20 %»)
|
||||
роняет запуск ошибкой про `%`. psql такого разбора не делает, так что это
|
||||
артефакт теста, а не свойство файла.
|
||||
"""
|
||||
db.connection().connection.driver_connection.execute(path.read_text("utf-8"))
|
||||
db.commit()
|
||||
|
||||
|
||||
@pytest.mark.skipif(_live_session() is None, reason="no reachable Postgres test DB")
|
||||
def test_live_migration_puts_showcase_into_schedules_and_digest() -> None:
|
||||
"""Миграция кладёт строку в scrape_schedules, и сводка видит витрину просроченной.
|
||||
|
||||
Значение, а не текст файла: применяем 303 на живой базе (дважды — дублей быть
|
||||
не должно), читаем строку обратно и прогоняем настоящий `_STALE_SOURCES_SQL` —
|
||||
тот же запрос, которым сводка судит на проде.
|
||||
|
||||
Ничего не удаляем: обе миграции идемпотентны (CREATE TABLE IF NOT EXISTS /
|
||||
ON CONFLICT DO NOTHING), то есть повтор здесь — ровно то же действие, что и
|
||||
повторный деплой.
|
||||
"""
|
||||
from sqlalchemy import text
|
||||
|
||||
db = _live_session()
|
||||
assert db is not None
|
||||
try:
|
||||
# Зависимости — ТОЛЬКО на пустой базе. На базе, прошедшей всю цепочку
|
||||
# (CI и прод), повтор 015 падает: `CREATE TABLE IF NOT EXISTS` — no-op,
|
||||
# а `COMMENT ON COLUMN scrape_runs.returning_count` внизу того же файла
|
||||
# обращается к колонке, которую снесла 214. Файл идемпотентен
|
||||
# относительно себя, но не относительно схемы, прошедшей 214, — и
|
||||
# прогон на чистой базе этого не видит по построению.
|
||||
if db.execute(text("SELECT to_regclass('public.scrape_schedules')")).scalar() is None:
|
||||
for dep in _DEPS:
|
||||
_apply(db, dep)
|
||||
_apply(db, _MIGRATION)
|
||||
# ИДЕМПОТЕНТНОСТЬ МЕРЯЕТСЯ ПО СОСТОЯНИЮ СТРОКИ, А НЕ ПО ЧИСЛУ СТРОК.
|
||||
# «DELETE + INSERT» тоже оставляет ровно одну строку, но на КАЖДОМ
|
||||
# деплое стирает last_run_at/next_run_at и взводит расписание заново —
|
||||
# счёт строк такую замену не отличает, а created_at отличает.
|
||||
first_created_at = db.execute(
|
||||
text("SELECT created_at FROM scrape_schedules WHERE source = :s"), {"s": SOURCE}
|
||||
).scalar()
|
||||
_apply(db, _MIGRATION)
|
||||
|
||||
rows = db.execute(
|
||||
text(
|
||||
"SELECT enabled, window_start_hour, window_end_hour, created_at, "
|
||||
" (next_run_at > now()) AS next_run_ahead, "
|
||||
" default_params->>'interval_days' AS interval_days "
|
||||
"FROM scrape_schedules WHERE source = :s"
|
||||
),
|
||||
{"s": SOURCE},
|
||||
).fetchall()
|
||||
assert len(rows) == 1, f"ожидалась одна строка расписания, получено {len(rows)}"
|
||||
row = rows[0]
|
||||
assert row.created_at == first_created_at, (
|
||||
"повторное применение пересоздало строку расписания — на каждом деплое "
|
||||
"это стирало бы состояние прогонов (last_run_at/next_run_at)"
|
||||
)
|
||||
assert row.enabled is True
|
||||
assert (row.window_start_hour, row.window_end_hour) == (6, 7)
|
||||
assert int(row.interval_days) == _seeded_interval_days()
|
||||
# next_run_at в БУДУЩЕМ: сев расписания не должен выстреливать прогоном
|
||||
# в момент деплоя (образец — 162/275). Стоит в приёмке, значит и здесь.
|
||||
assert row.next_run_ahead is True, "next_run_at в прошлом — прогон стартует на деплое"
|
||||
|
||||
# Сводка: прогонов у витрины нет, возраст считается от created_at строки.
|
||||
digest_rows = list(db.execute(sched._STALE_SOURCES_SQL).fetchall())
|
||||
assert SOURCE in {r.source for r in digest_rows}, "сводка не видит витрину"
|
||||
|
||||
overdue_at = row.created_at + timedelta(
|
||||
days=_ACCEPTANCE_CYCLES * _seeded_interval_days() + 0.5
|
||||
)
|
||||
stale = sched.stale_sources(sched.freshness_rows(digest_rows), overdue_at)
|
||||
assert SOURCE in {s.source for s in stale}, "витрина без прогонов не попала в тревогу"
|
||||
|
||||
fresh_at = row.created_at + timedelta(hours=1)
|
||||
fresh = sched.stale_sources(sched.freshness_rows(digest_rows), fresh_at)
|
||||
assert SOURCE not in {s.source for s in fresh}, "тревога сразу после сева — ложная"
|
||||
finally:
|
||||
db.close()
|
||||
|
|
@ -70,7 +70,7 @@ def glitchtip_events() -> Iterator[list[dict[str, Any]]]:
|
|||
yield events
|
||||
finally:
|
||||
# Иначе на каждый тест остаётся фоновый поток транспорта.
|
||||
client.close(timeout=0)
|
||||
client.close()
|
||||
|
||||
|
||||
def event_texts(events: list[dict[str, Any]]) -> list[str]:
|
||||
|
|
|
|||
|
|
@ -215,8 +215,7 @@ async def test_backfill_yandex_addresses_error_on_non_200():
|
|||
return_value=mock_session,
|
||||
),
|
||||
):
|
||||
# request_delay_sec=0: реальный анти-бот sleep(3с) тут не нужен, 1 item в батче.
|
||||
result = await backfill_yandex_addresses(MagicMock(), limit=10, request_delay_sec=0)
|
||||
result = await backfill_yandex_addresses(MagicMock(), limit=10)
|
||||
|
||||
assert result.errors == 1
|
||||
assert result.saved == 0
|
||||
|
|
|
|||
|
|
@ -156,7 +156,7 @@ def test_only_moscow_rows_reach_the_writer(captured: list[dict[str, Any]]) -> No
|
|||
assert [lot.source_id for lot in captured[0]["lots"]] == ["1", "4"]
|
||||
assert counters.read == 5
|
||||
assert counters.selected == 2
|
||||
assert counters.skipped_not_target_region == 1
|
||||
assert counters.skipped_not_moscow == 1
|
||||
assert counters.skipped_artifact == 1
|
||||
assert counters.skipped_invalid == 1
|
||||
assert counters.check(), "счётчики обязаны сходиться с прочитанным"
|
||||
|
|
@ -331,7 +331,7 @@ def test_geocode_lets_avito_through_without_allow_unfiltered(
|
|||
_FakeSession(_geo_rows()), source="avito", batch_size=10, geocode=True
|
||||
)
|
||||
assert [lot.source_id for lot in captured[0]["lots"]] == ["1"]
|
||||
assert counters.skipped_geo_other_region == 1
|
||||
assert counters.skipped_oblast == 1
|
||||
assert counters.skipped_ungeocoded == 1
|
||||
assert counters.check(), "счётчики обязаны сходиться с прочитанным"
|
||||
|
||||
|
|
@ -444,7 +444,7 @@ def test_yandex_oblast_rows_do_not_reach_the_writer(captured: list[dict[str, Any
|
|||
]
|
||||
counters = mod.import_msk_raw(_FakeSession(rows), source="yandex", batch_size=10)
|
||||
assert [lot.source_id for lot in captured[0]["lots"]] == ["1"]
|
||||
assert counters.skipped_not_target_region == 1
|
||||
assert counters.skipped_not_moscow == 1
|
||||
|
||||
|
||||
def test_yandex_keeps_its_own_coordinates(captured: list[dict[str, Any]]) -> None:
|
||||
|
|
@ -480,261 +480,6 @@ def test_domclick_non_moscow_is_rejected() -> None:
|
|||
assert not mod.is_moscow_domclick_address(None)
|
||||
|
||||
|
||||
def test_domclick_oblast_is_recognised_without_geocode() -> None:
|
||||
"""Регион 50 у ДомКлика — первый компонент адреса «Московская область»."""
|
||||
assert mod.is_oblast_domclick_address("Московская область, Химки, 9 Мая, 21к3")
|
||||
assert mod.is_oblast_domclick_address(
|
||||
"Московская область, Одинцовский городской округ, Звенигород, 3-й м-н, 28"
|
||||
)
|
||||
assert not mod.is_oblast_domclick_address("Москва, улица Нижние Мнёвники, 16 к2")
|
||||
assert not mod.is_oblast_domclick_address("")
|
||||
assert not mod.is_oblast_domclick_address(None)
|
||||
|
||||
|
||||
def test_domclick_oblast_without_prefix_is_saved_by_its_coordinates() -> None:
|
||||
"""Живой случай: областная карточка БЕЗ префикса «Московская область».
|
||||
|
||||
В собранном корпусе 12.09.2026 такая ровно одна на 2 961 — Можайск, и
|
||||
строгий префикс выбросил бы её молча. Координата внутри bbox области —
|
||||
вторая опора фильтра, а не замена первой.
|
||||
"""
|
||||
mozhaysk = _payload(
|
||||
source="domclick",
|
||||
address="Можайский муниципальный округ, д. Семёновское, 1",
|
||||
lat=55.511625,
|
||||
lon=35.829308,
|
||||
)
|
||||
assert mod.is_oblast_domclick_payload(mozhaysk)
|
||||
|
||||
# Строки вместо чисел (JSON сырья бывает и таким) читаются так же.
|
||||
assert mod.is_oblast_domclick_payload({**mozhaysk, "lat": "55.511625", "lon": "35.829308"})
|
||||
|
||||
|
||||
def test_domclick_oblast_geo_branch_cannot_swallow_moscow() -> None:
|
||||
"""bbox Москвы вложен в областной — отказ по адресу обязан идти РАНЬШЕ гео."""
|
||||
moscow = _payload(
|
||||
source="domclick",
|
||||
address="Москва, улица Нижние Мнёвники, 16 к2",
|
||||
lat=55.7558,
|
||||
lon=37.6173,
|
||||
)
|
||||
assert not mod.is_oblast_domclick_payload(moscow)
|
||||
|
||||
|
||||
def test_domclick_oblast_geo_branch_needs_a_usable_point() -> None:
|
||||
"""Нет префикса и нечего проверить координатой → карточка НЕ область."""
|
||||
bare = _payload(source="domclick", address="Можайский муниципальный округ, д. Семёновское, 1")
|
||||
bare.pop("lat", None)
|
||||
bare.pop("lon", None)
|
||||
assert not mod.is_oblast_domclick_payload(bare)
|
||||
assert not mod.is_oblast_domclick_payload({**bare, "lat": None, "lon": None})
|
||||
assert not mod.is_oblast_domclick_payload({**bare, "lat": "н/д", "lon": "н/д"})
|
||||
# Координата за пределами области (Екатеринбург) тоже не проходит.
|
||||
assert not mod.is_oblast_domclick_payload({**bare, "lat": 56.8300, "lon": 60.6000})
|
||||
|
||||
|
||||
def test_domclick_view_is_wired_into_source_views() -> None:
|
||||
assert mod.SOURCE_VIEWS["domclick"] == "msk_raw.domclick_latest"
|
||||
filt77 = mod.REGION_FILTERS[("domclick", 77)]
|
||||
assert filt77(_payload(source="domclick", address="Москва, улица Нижние Мнёвники, 16 к2"))
|
||||
assert not filt77(_payload(source="domclick", address="Московская область, Химки, 9 Мая, 21к3"))
|
||||
|
||||
filt50 = mod.REGION_FILTERS[("domclick", 50)]
|
||||
assert filt50 is mod.is_oblast_domclick_payload
|
||||
assert filt50(_payload(source="domclick", address="Московская область, Химки, 9 Мая, 21к3"))
|
||||
assert not filt50(_payload(source="domclick", address="Москва, улица Нижние Мнёвники, 16 к2"))
|
||||
|
||||
|
||||
# ── регион 50 (Московская область) ───────────────────────────────────────────
|
||||
|
||||
|
||||
def test_cian_subdomain_selects_oblast_regardless_of_okrug(
|
||||
captured: list[dict[str, Any]],
|
||||
) -> None:
|
||||
"""khimki.cian.ru → область при --region 50, даже если адрес без округа."""
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _payload(
|
||||
source_id="khimki-1",
|
||||
source_url="https://khimki.cian.ru/sale/flat/1/",
|
||||
address="городской округ Химки, Олимпийский проспект, 29",
|
||||
),
|
||||
}
|
||||
]
|
||||
counters_50 = mod.import_msk_raw(_FakeSession(rows), source="cian", region=50, batch_size=10)
|
||||
assert counters_50.selected == 1
|
||||
|
||||
counters_77 = mod.import_msk_raw(_FakeSession(rows), source="cian", region=77, batch_size=10)
|
||||
assert counters_77.selected == 0
|
||||
|
||||
|
||||
def test_cian_www_with_okrug_stays_moscow_only(captured: list[dict[str, Any]]) -> None:
|
||||
"""www.cian.ru + префикс округа — Москва (77), не область (50)."""
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _payload(
|
||||
source_id="www-1",
|
||||
source_url="https://www.cian.ru/sale/flat/330200428/",
|
||||
address="ЦАО, р-н Арбат, улица Арбат, 10",
|
||||
),
|
||||
}
|
||||
]
|
||||
counters_77 = mod.import_msk_raw(_FakeSession(rows), source="cian", region=77, batch_size=10)
|
||||
assert counters_77.selected == 1
|
||||
|
||||
counters_50 = mod.import_msk_raw(_FakeSession(rows), source="cian", region=50, batch_size=10)
|
||||
assert counters_50.selected == 0
|
||||
|
||||
|
||||
def test_yandex_oblast_region_50_is_selected(captured: list[dict[str, Any]]) -> None:
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _yandex(
|
||||
source_id="oblast-1",
|
||||
address="Россия, Московская область, Химки, Ивановская улица, 5",
|
||||
),
|
||||
}
|
||||
]
|
||||
counters_50 = mod.import_msk_raw(_FakeSession(rows), source="yandex", region=50, batch_size=10)
|
||||
assert counters_50.selected == 1
|
||||
|
||||
counters_77 = mod.import_msk_raw(_FakeSession(rows), source="yandex", region=77, batch_size=10)
|
||||
assert counters_77.selected == 0
|
||||
|
||||
|
||||
def test_domclick_oblast_region_50_is_selected(captured: list[dict[str, Any]]) -> None:
|
||||
"""Областной прогон сборщика (батч mo-serp-domclick-20260912) отбирается по region=50."""
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _payload(
|
||||
source="domclick",
|
||||
source_id="oblast-1",
|
||||
address="Московская область, Химки, проспект Мельникова, 33",
|
||||
),
|
||||
}
|
||||
]
|
||||
counters_50 = mod.import_msk_raw(
|
||||
_FakeSession(rows), source="domclick", region=50, batch_size=10
|
||||
)
|
||||
assert counters_50.selected == 1
|
||||
|
||||
counters_77 = mod.import_msk_raw(
|
||||
_FakeSession(rows), source="domclick", region=77, batch_size=10
|
||||
)
|
||||
assert counters_77.selected == 0
|
||||
|
||||
|
||||
def test_domclick_moscow_region_77_is_selected(captured: list[dict[str, Any]]) -> None:
|
||||
"""Московский прогон (батч msk-serp-domclick-20260912) отбирается по region=77."""
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _payload(
|
||||
source="domclick",
|
||||
source_id="moscow-1",
|
||||
address="Москва, Генерала Дорохова проспект, 49",
|
||||
),
|
||||
}
|
||||
]
|
||||
counters_77 = mod.import_msk_raw(
|
||||
_FakeSession(rows), source="domclick", region=77, batch_size=10
|
||||
)
|
||||
assert counters_77.selected == 1
|
||||
|
||||
counters_50 = mod.import_msk_raw(
|
||||
_FakeSession(rows), source="domclick", region=50, batch_size=10
|
||||
)
|
||||
assert counters_50.selected == 0
|
||||
|
||||
|
||||
def test_domclick_writer_gets_region_50_and_city_none(captured: list[dict[str, Any]]) -> None:
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _payload(
|
||||
source="domclick",
|
||||
source_id="oblast-2",
|
||||
address="Московская область, Химки, проспект Мельникова, 33",
|
||||
),
|
||||
}
|
||||
]
|
||||
mod.import_msk_raw(_FakeSession(rows), source="domclick", region=50, batch_size=10)
|
||||
assert captured[0]["region_code"] == 50
|
||||
assert captured[0]["city"] is None
|
||||
|
||||
|
||||
def test_domclick_mixed_batches_are_told_apart_by_address(captured: list[dict[str, Any]]) -> None:
|
||||
"""Вью отдаёт московский и областной прогоны вперемешку — региональный фильтр
|
||||
обязан развести их сам, курсор по `id` тут не помощник."""
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _payload(
|
||||
source="domclick",
|
||||
source_id="oblast-3",
|
||||
address="Московская область, Одинцовский городской округ, Звенигород, 3-й м-н, 28",
|
||||
),
|
||||
},
|
||||
{
|
||||
"id": 2,
|
||||
"payload": _payload(
|
||||
source="domclick",
|
||||
source_id="moscow-2",
|
||||
address="Москва, Генерала Дорохова проспект, 49",
|
||||
),
|
||||
},
|
||||
]
|
||||
counters = mod.import_msk_raw(_FakeSession(rows), source="domclick", region=50, batch_size=10)
|
||||
assert [lot.source_id for lot in captured[0]["lots"]] == ["oblast-3"]
|
||||
assert counters.selected == 1
|
||||
assert counters.skipped_not_target_region == 1
|
||||
assert counters.check(), "счётчики обязаны сходиться с прочитанным"
|
||||
|
||||
|
||||
def test_writer_gets_city_none_for_oblast(captured: list[dict[str, Any]]) -> None:
|
||||
rows = [
|
||||
{
|
||||
"id": 1,
|
||||
"payload": _payload(
|
||||
source_id="khimki-1",
|
||||
source_url="https://khimki.cian.ru/sale/flat/1/",
|
||||
address="городской округ Химки, Олимпийский проспект, 29",
|
||||
),
|
||||
}
|
||||
]
|
||||
mod.import_msk_raw(_FakeSession(rows), source="cian", region=50, batch_size=10)
|
||||
assert captured[0]["region_code"] == 50
|
||||
assert captured[0]["city"] is None
|
||||
|
||||
|
||||
def test_moscow_region_77_numbers_unchanged(captured: list[dict[str, Any]]) -> None:
|
||||
"""Анти-регресс: те же фикстуры, тот же region=77 → те же прежние числа."""
|
||||
counters = mod.import_msk_raw(_FakeSession(_rows()), batch_size=10, region=77)
|
||||
assert [lot.source_id for lot in captured[0]["lots"]] == ["1", "4"]
|
||||
assert counters.read == 5
|
||||
assert counters.selected == 2
|
||||
assert counters.skipped_not_target_region == 1
|
||||
assert counters.skipped_artifact == 1
|
||||
assert counters.skipped_invalid == 1
|
||||
assert captured[0]["region_code"] == 77
|
||||
assert captured[0]["city"] == "Москва"
|
||||
|
||||
|
||||
def test_cian_subdomain_ignores_port_and_case() -> None:
|
||||
"""Поддомен читается из `hostname`, а не из `netloc`: порт и регистр хоста
|
||||
не должны превращать московскую карточку в «не целевой регион», а областную
|
||||
— в московскую. Хост не `*.cian.ru` (включая голый `cian.ru` и похожий
|
||||
`fake-cian.ru`) остаётся None — консервативно, ложной области не даёт."""
|
||||
assert mod.cian_subdomain({"source_url": "https://WWW.CIAN.RU:443/sale/flat/1/"}) == "www"
|
||||
assert (
|
||||
mod.cian_subdomain({"source_url": "https://khimki.cian.ru:8443/sale/flat/1/"}) == "khimki"
|
||||
)
|
||||
assert mod.is_cian_oblast_payload({"source_url": "https://khimki.cian.ru:8443/x"}) is True
|
||||
assert mod.is_cian_oblast_payload({"source_url": "https://WWW.CIAN.RU:443/x"}) is False
|
||||
for bad in ("https://cian.ru/sale/flat/1/", "https://fake-cian.ru/x", "", None, 42):
|
||||
assert mod.cian_subdomain({"source_url": bad}) is None
|
||||
assert mod.cian_subdomain({}) is None
|
||||
assert mod.CITY_FILTERS["domclick"] is mod.is_moscow_domclick_address
|
||||
|
|
|
|||
|
|
@ -539,24 +539,16 @@ async def test_pull_sber_indices_asking_benchmark_logged(caplog: pytest.LogCaptu
|
|||
)
|
||||
|
||||
|
||||
def test_moscow_oblast_ref_area_feeds_the_estimator_under_the_same_name() -> None:
|
||||
"""Имя ряда у загрузчика и у эстиматора обязано совпадать буква в букву.
|
||||
def test_moscow_oblast_ref_area_is_loaded_but_not_yet_used_by_estimator() -> None:
|
||||
"""Область грузится заранее: ряд наполняется месяцами, задним числом не берётся.
|
||||
|
||||
Загрузчик завёл REF_AREA=50 раньше (#3498), когда карта эстиматора кода 50
|
||||
ещё не знала и область считалась по «России». 12.09.2026 ряд приехал на прод
|
||||
(real_estate_deals/«Вторичный», 116 месяцев 2017-01..2026-08), и код 50 попал
|
||||
в `_SBER_REGION_SERIES`. С этого момента расхождение имён перестаёт быть
|
||||
безобидным: эстиматор молча читал бы пустой ряд, а монитор свежести требовал
|
||||
бы ряд, которого загрузчик не пишет. Тест сцепляет обе стороны по имени.
|
||||
Одновременно проверяем, что заведение ряда НЕ включает область в оценку и НЕ
|
||||
поднимает тревогу монитора свежести: обе величины считаются от карты
|
||||
эстиматора (_SBER_REGION_SERIES), а не от карты загрузчика.
|
||||
"""
|
||||
from app.services.estimator import (
|
||||
SBER_MONITORED_REGIONS,
|
||||
SBER_REQUIRED_REGIONS,
|
||||
sber_region_series_name,
|
||||
)
|
||||
from app.services.estimator import SBER_MONITORED_REGIONS, SBER_REQUIRED_REGIONS
|
||||
from app.services.sber_index import SBER_REF_AREAS
|
||||
|
||||
assert SBER_REF_AREAS["50"] == "Московская область"
|
||||
assert sber_region_series_name(50) == SBER_REF_AREAS["50"]
|
||||
assert "Московская область" in SBER_REQUIRED_REGIONS
|
||||
assert "Московская область" in SBER_MONITORED_REGIONS
|
||||
assert "Московская область" not in SBER_REQUIRED_REGIONS
|
||||
assert "Московская область" not in SBER_MONITORED_REGIONS
|
||||
|
|
|
|||
|
|
@ -88,21 +88,6 @@ def test_series_names_agree_with_region_registry() -> None:
|
|||
assert regions_mod.REGIONS[code].name == name
|
||||
|
||||
|
||||
def test_resolver_maps_50_to_moscow_oblast_not_russia() -> None:
|
||||
"""Область получает СВОЙ ряд, а не общероссийский фолбэк.
|
||||
|
||||
Загрузчик научился тянуть REF_AREA=50 (#3498), и 12.09.2026 ряд приехал на
|
||||
прод: real_estate_deals/«Вторичный», 116 месяцев 2017-01..2026-08 — та же
|
||||
глубина, что у Москвы и обл.66. Пока кода 50 в карте не было, коридор
|
||||
области считался по «России», то есть ошибался на всё расхождение области
|
||||
со страной. Тест красный на прежней карте ПО ЗНАЧЕНИЮ: там вернулась бы
|
||||
«Россия».
|
||||
"""
|
||||
assert est.sber_region_series_name(50) == "Московская область"
|
||||
assert est.sber_region_series_name(50) != est.SBER_TIME_ADJUST_FALLBACK_REGION
|
||||
assert "Московская область" in est.SBER_REQUIRED_REGIONS
|
||||
|
||||
|
||||
def test_monitored_regions_cover_every_series_the_estimator_can_read() -> None:
|
||||
assert set(est.SBER_MONITORED_REGIONS) == set(est._SBER_REGION_SERIES.values()) | {
|
||||
est.SBER_TIME_ADJUST_FALLBACK_REGION
|
||||
|
|
@ -290,15 +275,8 @@ def test_monitor_verdict_for_sverdlovsk_unchanged(monkeypatch: pytest.MonkeyPatc
|
|||
|
||||
|
||||
def _without_moscow() -> _MonDB:
|
||||
"""Источник переименовал «Москва» → ряда с прежним именем больше нет.
|
||||
|
||||
Остальные обязательные ряды на месте — иначе тесты ниже считали бы пропажу
|
||||
Москвы вместе с чужими пропажами. Строятся от карты эстиматора, чтобы новый
|
||||
регион в ней не ронял эти тесты по счётчику (ровно так они и покраснели,
|
||||
когда в карту приехала область).
|
||||
"""
|
||||
present = {r: _JUN_2026 for r in est.SBER_MONITORED_REGIONS if r != "Москва"}
|
||||
return _MonDB(present)
|
||||
"""Источник переименовал «Москва» → ряда с прежним именем больше нет."""
|
||||
return _MonDB({"Свердловская область": _JUN_2026, "Россия": _JUN_2026})
|
||||
|
||||
|
||||
def test_missing_moscow_does_not_suppress_the_sverdlovsk_verdict(
|
||||
|
|
@ -374,7 +352,7 @@ def test_missing_fallback_series_does_not_fail_the_monitor(
|
|||
) -> None:
|
||||
"""«Россия» — фолбэк: сегодня по нему не считается ни одна сделка → не сбой."""
|
||||
calls = _patch_runs(monkeypatch)
|
||||
db = _MonDB({r: _JUN_2026 for r in est.SBER_REQUIRED_REGIONS})
|
||||
db = _MonDB({"Свердловская область": _JUN_2026, "Москва": _JUN_2026})
|
||||
out = mon.check_sber_freshness(db, run_id=4, params={}, now=_NOW) # type: ignore[arg-type]
|
||||
assert calls["failed"] is None
|
||||
assert out["regions_missing"] == 1
|
||||
|
|
@ -479,17 +457,15 @@ def test_duplicate_series_name_does_not_pin_regions_missing(
|
|||
def test_early_exit_fills_the_new_counters(monkeypatch: pytest.MonkeyPatch) -> None:
|
||||
"""КРАСНЫЙ ДО ПРАВКИ: в раннем выходе новые ключи отдавали нули.
|
||||
|
||||
Пропажа ВСЕХ обязательных рядов была неотличима от пропажи одного
|
||||
свердловского, а найденный ряд не попадал в age_days_max вовсе. Счётчик
|
||||
сверяем с длиной карты, а не с литералом: новый регион в ней — не повод
|
||||
этому тесту краснеть.
|
||||
Пропажа ДВУХ обязательных рядов была неотличима от пропажи одного свердловского,
|
||||
а найденный ряд не попадал в age_days_max вовсе.
|
||||
"""
|
||||
calls = _patch_runs(monkeypatch)
|
||||
db = _MonDB({est.SBER_TIME_ADJUST_FALLBACK_REGION: _JUN_2026})
|
||||
out = mon.check_sber_freshness(db, run_id=11, params={}, now=_NOW) # type: ignore[arg-type]
|
||||
assert calls["done"] is None
|
||||
assert calls["failed"] is not None
|
||||
assert out["regions_missing"] == len(est.SBER_REQUIRED_REGIONS)
|
||||
assert out["regions_missing"] == 2
|
||||
assert out["alert_regions_missing"] == 1 # ДО ПРАВКИ: 0
|
||||
assert out["age_days_max"] == 72 # ДО ПРАВКИ: 0 — найденный ряд был не виден
|
||||
# прежняя семантика раннего выхода не тронута
|
||||
|
|
@ -516,7 +492,9 @@ class _MonDBDriverFault(_MonDB):
|
|||
|
||||
def execute(self, stmt: Any, params: dict[str, Any] | None = None) -> _Result:
|
||||
if self._deactivated:
|
||||
raise PendingRollbackError("Can't reconnect until invalid transaction is rolled back")
|
||||
raise PendingRollbackError(
|
||||
"Can't reconnect until invalid transaction is rolled back"
|
||||
)
|
||||
params = params or {}
|
||||
if params.get("city") == self._broken:
|
||||
self._deactivated = True
|
||||
|
|
|
|||
|
|
@ -97,41 +97,6 @@ describe("витрина лэндинга v3 без данных", () => {
|
|||
expect(screen.getByText(/рассмотрено сделок: 4 000/)).toBeTruthy();
|
||||
});
|
||||
|
||||
/**
|
||||
* ДАТА ПРОГОНА — НА СТРАНИЦЕ, РЯДОМ СО СЧЁТЧИКАМИ (#3469).
|
||||
*
|
||||
* Счётчики («рассмотрено 200, показано 20») не стареют на вид, а строки под
|
||||
* ними стареют: на проде задачи не было в расписании, и витрина тринадцать
|
||||
* суток показывала прогон от 30.08 — неотличимо от вчерашнего. Проверяется
|
||||
* ПО ЗНАЧЕНИЮ: дата берётся из `computed_at` фикстуры, вписать её в разметку
|
||||
* руками и остаться зелёным нельзя — второй кейс отдаёт другую дату.
|
||||
*/
|
||||
it("«Точность»: под таблицей стоит дата пересчёта витрины, и она из данных", () => {
|
||||
const { unmount } = render(<AccuracyV3 stats={STATS} showcase={SHOWCASE} />);
|
||||
expect(screen.getByText(/Витрина пересчитана 29\.08\.2026/u)).toBeTruthy();
|
||||
unmount();
|
||||
|
||||
render(
|
||||
<AccuracyV3
|
||||
stats={STATS}
|
||||
showcase={{ ...SHOWCASE, computed_at: "2026-09-12T06:12:03+00:00" }}
|
||||
/>,
|
||||
);
|
||||
expect(screen.getByText(/Витрина пересчитана 12\.09\.2026/u)).toBeTruthy();
|
||||
});
|
||||
|
||||
/**
|
||||
* Даты нет — нет и предложения про неё: то же правило «нет величины — нет
|
||||
* подписи», что у всего блока. «Invalid Date» или «null» на публичной
|
||||
* странице хуже отсутствия даты, а «сегодня» на её месте — враньё.
|
||||
*/
|
||||
it("«Точность»: без computed_at подпись не выдумывает дату", () => {
|
||||
render(<AccuracyV3 stats={STATS} showcase={{ ...SHOWCASE, computed_at: null }} />);
|
||||
const note = screen.getByText(/рассмотрено сделок: 4 000/u);
|
||||
expect(note.textContent).not.toMatch(/Витрина пересчитана/u);
|
||||
expect(note.textContent).not.toMatch(/Invalid Date|null|undefined/u);
|
||||
});
|
||||
|
||||
/**
|
||||
* Снятая величина не должна остаться на экране «по инерции»: её плитку занял
|
||||
* свежий замер, и оговорка про уверенность без своей плитки объясняла бы
|
||||
|
|
@ -171,7 +136,7 @@ describe("витрина лэндинга v3 без данных", () => {
|
|||
* УТВЕРЖДЕНИЕ ПРО ПОЛОСУ ПРОВЕРЯЕТ САМО СЕБЯ ПО ПОКАЗАННЫМ СТРОКАМ.
|
||||
*
|
||||
* Границы стоят в коде фронта, строки приходят из БД от последнего прогона
|
||||
* задачи, а такт пересчёта — сутки (#3469). Между выкатом фронта и пересчётом
|
||||
* задачи, а задача в расписании не стоит. Между выкатом фронта и пересчётом
|
||||
* витрины на странице лежат СТАРЫЕ строки: на проде 12 из 20 вне полосы,
|
||||
* худшая +75,71 %. Утверждение «показана полоса −5…+20 %» и строка +75,7 %
|
||||
* под ним — хуже, чем отсутствие утверждения.
|
||||
|
|
|
|||
|
|
@ -30,11 +30,10 @@
|
|||
* обещала бы точность, которой никто не мерил.
|
||||
*
|
||||
* УТВЕРЖДЕНИЕ ПРО ПОЛОСУ САМОПРОВЕРЯЕМОЕ. Границы стоят в коде фронта, строки
|
||||
* приходят из БД от последнего прогона задачи, и прогон отстаёт от выката:
|
||||
* с #3469 задача стоит в расписании (суточный такт), но между деплоем фронта
|
||||
* и ближайшим ночным пересчётом окно всё равно есть. В нём страница утверждала
|
||||
* бы полосу над строками прежнего правила, а под утверждением стояла бы
|
||||
* строка +75,7 % (так на проде и было — 12 таких из 20).
|
||||
* приходят из БД от последнего прогона задачи, а задача в расписании не стоит
|
||||
* — её запускают руками. В окне «фронт выкачен, витрина не пересчитана»
|
||||
* страница утверждала бы полосу над строками прежнего правила, а под
|
||||
* утверждением стояла бы строка +75,7 % (на проде сейчас 12 таких из 20).
|
||||
* Поэтому обе подписи спрашивают сами строки (`allWithinBand` в `deal-view`):
|
||||
* не соответствуют — про полосу не говорим, называем то, что есть, а правило
|
||||
* прогона и так печатается рядом и приезжает из ТОГО ЖЕ прогона, что строки.
|
||||
|
|
@ -88,7 +87,6 @@ import {
|
|||
dealTitle,
|
||||
errPct,
|
||||
rub,
|
||||
runDate,
|
||||
shownSpread,
|
||||
} from "./deal-view";
|
||||
|
||||
|
|
@ -176,9 +174,6 @@ export function AccuracyV3({
|
|||
const deals = showcase?.deals ?? [];
|
||||
const showcaseStats = showcase?.stats ?? null;
|
||||
const spread = shownSpread(deals);
|
||||
// Дата прогона, давшего эти строки. Стоит в той же подписи, что и счётчики:
|
||||
// «рассмотрено 200, показано 20» не стареет на вид, а строки — стареют.
|
||||
const computedOn = runDate(showcase?.computed_at ?? null);
|
||||
|
||||
return (
|
||||
<section
|
||||
|
|
@ -276,26 +271,16 @@ export function AccuracyV3({
|
|||
(`rejection_rule`) приходит из того же прогона и стоит в этой же
|
||||
подписи — счётчики и правило порознь не показываются.
|
||||
*/}
|
||||
{/*
|
||||
ДАТА ПРОГОНА СТОИТ РЯДОМ СО СЧЁТЧИКАМИ (#3469). Счётчики описывают
|
||||
прогон, но не говорят, КОГДА он был, — и замороженная витрина
|
||||
выглядела ровно так же, как вчера пересчитанная. На проде это и
|
||||
случилось: задачи не было в расписании, и страница тринадцать
|
||||
суток показывала строки от 30.08 без единого признака возраста.
|
||||
Даты нет (ручка отдала null) — предложения тоже нет: подставлять
|
||||
на её место «сегодня» нельзя.
|
||||
*/}
|
||||
<p className={styles.accFootnote}>
|
||||
{showcaseStats
|
||||
? `${computedOn ? `Витрина пересчитана ${computedOn}. ` : ""}Показано ${count(showcaseStats.written)} строк из ${count(showcaseStats.eligible)} собранных прогоном, рассмотрено сделок: ${count(showcaseStats.considered)}. Район известен у ${count(showcaseStats.with_district)} из показанных. ${showcaseStats.rejection_rule}`
|
||||
? `Показано ${count(showcaseStats.written)} строк из ${count(showcaseStats.eligible)} собранных прогоном, рассмотрено сделок: ${count(showcaseStats.considered)}. Район известен у ${count(showcaseStats.with_district)} из показанных. ${showcaseStats.rejection_rule}`
|
||||
: "Подпись прогона не пришла — из чего отобраны строки, сказать нечем."}
|
||||
</p>
|
||||
{spread && (
|
||||
// УТВЕРЖДЕНИЕ ПРО ПОЛОСУ — САМОПРОВЕРЯЕМОЕ. Границы стоят в коде
|
||||
// фронта, а строки приходят из БД, из последнего прогона задачи;
|
||||
// такт пересчёта — сутки (#3469), то есть строки старше выката
|
||||
// фронта почти всегда. Между выкатом и пересчётом страница
|
||||
// утверждала бы полосу над
|
||||
// задача в расписании не стоит и запускается руками. Между
|
||||
// выкатом и пересчётом страница утверждала бы полосу над
|
||||
// строками, собранными до неё (на проде сейчас 12 из 20 вне
|
||||
// полосы, худшая +75,7 %) — утверждение и его опровержение в
|
||||
// одном экране. Поэтому про полосу говорим, только если ни одна
|
||||
|
|
|
|||
|
|
@ -29,24 +29,6 @@ export const count = (value: number): string => RUB.format(value);
|
|||
/** Отклонение прогноза от факта — со знаком: плюс = МЕРА назвала дороже. */
|
||||
export const errPct = (value: number): string => `${PCT.format(value)} %`;
|
||||
|
||||
/**
|
||||
* Дата пересчёта витрины — «30.08.2026» из `computed_at`.
|
||||
*
|
||||
* РАЗБОР СТРОКИ, А НЕ `new Date().toLocaleDateString()`: подпись рендерит
|
||||
* серверный компонент, и локальная дата там считалась бы по часовому поясу
|
||||
* КОНТЕЙНЕРА — то есть дата на странице зависела бы от того, где её собрали.
|
||||
* Дальше того же правила держится и формат: `landing-facts` печатает свои
|
||||
* даты замеров так же, разбором ISO.
|
||||
*
|
||||
* `null` на неразобранном входе — та же дисциплина, что у всей витрины: нет
|
||||
* величины, нет подписи. «Invalid Date» на публичной странице хуже её
|
||||
* отсутствия.
|
||||
*/
|
||||
export const runDate = (iso: string | null): string | null => {
|
||||
const m = iso === null ? null : /^(\d{4})-(\d{2})-(\d{2})/u.exec(iso);
|
||||
return m === null ? null : `${m[3]}.${m[2]}.${m[1]}`;
|
||||
};
|
||||
|
||||
/** «2-к, 52 м²» — всё, что про объект известно наверняка. */
|
||||
/**
|
||||
* Заголовок сделки. `rooms = 0` — это СТУДИЯ, а не «ноль комнат»: так её
|
||||
|
|
|
|||
|
|
@ -80,37 +80,18 @@ python .\collect.py --platform yandex --full --batch-id msk-serp-yandex-20260911
|
|||
|
||||
# 3) продолжить прерванный прогон по сохранённому плану коридоров
|
||||
python .\collect.py --full --resume --batch-id msk-serp-avito-20260908
|
||||
|
||||
# 4) DomClick по Московской области (--region — только для domclick)
|
||||
python .\collect.py --platform domclick --region 50 --full `
|
||||
--batch-id mo-serp-domclick-20260912-1200
|
||||
```
|
||||
|
||||
Без аргументов скрипт работает в режиме `--measure 100` и полный проход **не начинает**.
|
||||
Дефолт — `--platform avito --region 77` (Москва).
|
||||
Дефолт — `--platform avito`.
|
||||
|
||||
`--region {77,50}` переключает регион **только для `--platform domclick`**: у DomClick
|
||||
Москва и область — разные GUID листинга (`MSK_DOMCLICK_GUID` / `MO_DOMCLICK_GUID` в
|
||||
`collect.py`) и разные прогоны. У Авито/Циана/Яндекса единый скоуп «Москва и МО»
|
||||
собирается одним прогоном (`moskva_i_mo` / `region=-1` / `rgid=741964`) и делится на
|
||||
регионы уже при импорте в `listings` — отдельного прогона по области у них нет, и
|
||||
`--region 50` с любой площадкой кроме domclick падает `SystemExit` при разборе аргументов.
|
||||
Скрипт также сверяет GUID, зашитый в фактический `base_url` (параметр `address`), с
|
||||
GUID, ожидаемым для выбранного `--region` — расхождение (например, ручной `--base-url`
|
||||
с московским GUID при `--region 50`) останавливает прогон до первого запроса, а не
|
||||
заливает чужой регион под областной `batch_id`.
|
||||
|
||||
Ключи: `--platform {avito,cian,yandex,domclick}` (дефолт avito), `--region {77,50}`
|
||||
(дефолт 77, только domclick), `--delay` (пауза между загрузками,
|
||||
Ключи: `--platform {avito,cian,yandex}` (дефолт avito), `--delay` (пауза между загрузками,
|
||||
дефолт 8.0 с ±20 % джиттера — сознательно совпадает с прод-расписаниями
|
||||
`request_delay_sec` 7–10 с), `--batch-size` (карточек в одной заливке, дефолт 1000),
|
||||
`--target-count` (целевой размер коридора; дефолт зависит от площадки — 1500 у
|
||||
avito/cian, **500** у yandex, см. `PlatformAdapter.default_target`), `--base-url` (дефолт зависит
|
||||
от `--platform`/`--region`), `--batch-id` (дефолт `msk-serp-<platform>-<UTC>`, а при
|
||||
`--platform domclick --region 50` — `mo-serp-domclick-<UTC>`: платформа/регион в имени,
|
||||
чтобы прогоны разных площадок и регионов не затирали друг другу план/CSV — регион в
|
||||
таблице `msk_raw.domclick_cards` иначе не выражается, отдельной колонки под него нет),
|
||||
`--out-dir`,
|
||||
от `--platform`), `--batch-id` (дефолт `msk-serp-<platform>-<UTC>` — платформа в имени,
|
||||
чтобы avito- и cian-прогоны не затирали друг друга план/CSV), `--out-dir`,
|
||||
`--ssh-host/--container/--db-user/--db-name`.
|
||||
|
||||
`AVITO_CDP` (адрес CDP, дефолт `http://localhost:9222`) общий для обеих платформ —
|
||||
|
|
|
|||
|
|
@ -6,19 +6,9 @@
|
|||
(подключение по CDP), парсер — импорт из scraper-kit, заливка — поток в psql
|
||||
через ssh. Скрипт ничего не устанавливает и своего профиля не поднимает.
|
||||
|
||||
Платформа выбирается ключом --platform {avito,cian,yandex,domclick} (дефолт
|
||||
avito) — см. класс PlatformAdapter ниже. У каждой платформы свой потолок
|
||||
пагинации, свой билдер URL коридора и своя целевая таблица в msk_raw.
|
||||
|
||||
--region {77,50} (дефолт 77 — Москва) переключает регион сбора и работает
|
||||
ТОЛЬКО с --platform domclick: у DomClick Москва и область — разные GUID и
|
||||
разные прогоны. У Авито/Циана/Яндекса корпус Москва+МО собирается одним
|
||||
прогоном (moskva_i_mo / region=-1 / rgid Москва+МО) и делится на регионы уже
|
||||
при импорте, поэтому --region 50 с любой другой площадкой падает SystemExit.
|
||||
|
||||
Пример прогона по Московской области (DomClick, полный проход):
|
||||
python collect.py --platform domclick --region 50 --full \
|
||||
--batch-id mo-serp-domclick-20260912-1200
|
||||
Платформа выбирается ключом --platform {avito,cian,yandex} (дефолт avito) — см.
|
||||
класс PlatformAdapter ниже. У каждой платформы свой потолок пагинации, свой
|
||||
билдер URL коридора и своя целевая таблица в msk_raw.
|
||||
|
||||
Дефолтный режим — --measure 100 (замер): полный проход только по явному --full.
|
||||
"""
|
||||
|
|
@ -163,9 +153,7 @@ YANDEX_MAX_PAGES = 25
|
|||
# штатно «дорезает» до 1500 и каждый коридор уезжает в truncated.
|
||||
YANDEX_TARGET_COUNT = YANDEX_PAGE_SIZE * YANDEX_MAX_PAGES # 500
|
||||
|
||||
# DomClick: JSON BFF listing API, Москва + отдельно Московская область
|
||||
# (эпик #2989, трек 1). У DomClick, в отличие от Авито/Циана/Яндекса, Москва и
|
||||
# область — РАЗНЫЕ прогоны с разными GUID (--region), а не один общий скоуп.
|
||||
# DomClick: JSON BFF listing API, Москва (эпик #2989, трек 1).
|
||||
#
|
||||
# GUID Москвы проверен живым запросом 12.09: и region, и locality — один и тот
|
||||
# же 1d1463ae-c80f-4d19-9331-a1b68a85b553 (для сравнения ЕКБ —
|
||||
|
|
@ -174,74 +162,28 @@ YANDEX_TARGET_COUNT = YANDEX_PAGE_SIZE * YANDEX_MAX_PAGES # 500
|
|||
# листинга точно совпадает с сайтом.
|
||||
MSK_DOMCLICK_GUID = "1d1463ae-c80f-4d19-9331-a1b68a85b553"
|
||||
|
||||
# GUID Московской области проверен живым запросом 12.09: тот же listing-эндпойнт
|
||||
# с этим address отдаёт result.pagination.total = 17572, aids тоже не нужен.
|
||||
MO_DOMCLICK_GUID = "9930cc20-32c6-4f6f-a55e-cd67086c5171"
|
||||
|
||||
|
||||
def _domclick_base_url(guid: str) -> str:
|
||||
"""Base_url DomClick BFF listing API под конкретный GUID региона.
|
||||
|
||||
Обе региональные константы (MSK/MO) обязаны строиться этой функцией, а не
|
||||
двумя независимыми f-строками, — иначе расхождение параметров (limit,
|
||||
offset, sort) между Москвой и областью было бы легко внести незаметно.
|
||||
"""
|
||||
return (
|
||||
"https://bff-search-web.domclick.ru/api/offers/v1"
|
||||
f"?address={guid}&deal_type=sale&category=living&offer_type=flat"
|
||||
"&sort=qi&sort_dir=desc&limit=20&offset=0"
|
||||
)
|
||||
|
||||
|
||||
DEFAULT_DOMCLICK_BASE_URL = _domclick_base_url(MSK_DOMCLICK_GUID)
|
||||
MO_DOMCLICK_BASE_URL = _domclick_base_url(MO_DOMCLICK_GUID)
|
||||
|
||||
|
||||
def _domclick_extract_guid(base_url: str) -> str | None:
|
||||
"""GUID региона, зашитый в параметр address базового URL DomClick."""
|
||||
return dict(parse_qsl(urlsplit(base_url).query)).get("address")
|
||||
|
||||
DEFAULT_DOMCLICK_BASE_URL = (
|
||||
"https://bff-search-web.domclick.ru/api/offers/v1"
|
||||
f"?address={MSK_DOMCLICK_GUID}&deal_type=sale&category=living&offer_type=flat"
|
||||
"&sort=qi&sort_dir=desc&limit=20&offset=0"
|
||||
)
|
||||
|
||||
# Замерено живым запросом 12.09, не из документации: offset=1980 отдаёт полную
|
||||
# страницу (20 items), offset=2000 отвечает HTTP 400
|
||||
# {"statusCode":400,"error":"Bad Request"}. Одинаково и для Москвы, и для
|
||||
# области (проверено на обоих GUID) — значит жёсткий потолок пагинации общий:
|
||||
# {"statusCode":400,"error":"Bad Request"}. Значит жёсткий потолок пагинации —
|
||||
# 100 страниц по 20 штук = 2000 офферов на один набор фильтров.
|
||||
DOMCLICK_PAGE_SIZE = 20
|
||||
DOMCLICK_MAX_PAGES = 100
|
||||
|
||||
# bbox — единственный надёжный гео-гард для DomClick, отдельно для Москвы (с
|
||||
# ТиНАО) и для Московской области. offerRegionName использовать НЕЛЬЗЯ: часть
|
||||
# офферов Новой Москвы приходит с именами вида "г. Говорово", а не "Москва" —
|
||||
# гард по имени региона молча вырезал бы легитимные лоты. scraper._is_geo_ok()
|
||||
# кита сюда тоже не подходит: он захардкожен на offerRegionName ==
|
||||
# "Екатеринбург" и отбросил бы буквально всю выдачу обоих регионов.
|
||||
# bbox Москвы с ТиНАО — единственный надёжный гео-гард для DomClick.
|
||||
# offerRegionName использовать НЕЛЬЗЯ: часть офферов Новой Москвы приходит с
|
||||
# именами вида "г. Говорово", а не "Москва" — гард по имени региона молча
|
||||
# вырезал бы легитимные лоты. scraper._is_geo_ok() кита сюда тоже не подходит:
|
||||
# он захардкожен на offerRegionName == "Екатеринбург" и отбросил бы буквально
|
||||
# всю московскую выдачу.
|
||||
_MSK_LAT_MIN, _MSK_LAT_MAX = 55.14, 56.02
|
||||
_MSK_LON_MIN, _MSK_LON_MAX = 36.80, 37.97
|
||||
|
||||
# bbox Московской области — литерал, РАВНЫЙ bbox_region региона 50 в реестре
|
||||
# tradein-mvp/backend/app/services/regions.py (сослались на реестр, значение
|
||||
# впечатано сюда буквально: этот скрипт лежит вне пакета backend и не может
|
||||
# его импортировать). Московский bbox область не накрывает: Серпухов
|
||||
# (lat~54.9), Коломна (lon~39.4), Дубна (lat~56.7) все лежат вне _MSK_*.
|
||||
_MO_LAT_MIN, _MO_LAT_MAX = 54.20, 56.96
|
||||
_MO_LON_MIN, _MO_LON_MAX = 35.14, 40.21
|
||||
|
||||
_MSK_BBOX: tuple[float, float, float, float] = (
|
||||
_MSK_LAT_MIN, _MSK_LAT_MAX, _MSK_LON_MIN, _MSK_LON_MAX,
|
||||
)
|
||||
_MO_BBOX: tuple[float, float, float, float] = (
|
||||
_MO_LAT_MIN, _MO_LAT_MAX, _MO_LON_MIN, _MO_LON_MAX,
|
||||
)
|
||||
|
||||
# Активный гео-гард, который реально читает _domclick_parse_cards. Модульная
|
||||
# переменная, а НЕ аргумент функции: сигнатура parse_cards зафиксирована типом
|
||||
# PlatformAdapter.parse_cards (Callable[[Any, str], list[Any]]) и завязана на
|
||||
# него все остальные платформы, менять её ради одного DomClick нельзя. collect()
|
||||
# выставляет это значение один раз при старте прогона, по --region, до первого
|
||||
# запроса к сети.
|
||||
_DOMCLICK_BBOX: tuple[float, float, float, float] = _MSK_BBOX
|
||||
|
||||
PRICE_FLOOR = 500_000 # нижняя граница осмысленного коридора, ₽
|
||||
PRICE_PROBE_START = 8_000_000 # старт удвоения при поиске верхней границы
|
||||
PRICE_CEIL = 2_000_000_000
|
||||
|
|
@ -770,8 +712,8 @@ def _domclick_parse_cards(scraper: Any, html: str) -> list[Any]:
|
|||
lon = float(loc["lon"])
|
||||
except (KeyError, TypeError, ValueError):
|
||||
continue
|
||||
lat_min, lat_max, lon_min, lon_max = _DOMCLICK_BBOX
|
||||
if not (lat_min <= lat <= lat_max and lon_min <= lon <= lon_max):
|
||||
if not (_MSK_LAT_MIN <= lat <= _MSK_LAT_MAX
|
||||
and _MSK_LON_MIN <= lon <= _MSK_LON_MAX):
|
||||
continue
|
||||
lot = scraper._map_item(item)
|
||||
if lot is not None:
|
||||
|
|
@ -1469,31 +1411,6 @@ async def collect(args: argparse.Namespace) -> int:
|
|||
)
|
||||
base_url = plan.base_url if plan is not None else args.base_url
|
||||
|
||||
# Гвард региона DomClick — САМОЕ ВАЖНОЕ в этом прогоне. --base-url можно
|
||||
# передать вручную с любым GUID, а base_url резюме приходит из сохранённого
|
||||
# плана в обход --region вовсе; расхождение GUID и --region залило бы
|
||||
# Москву под областным batch_id (или наоборот) и отравило бы корпус.
|
||||
# Проверка стоит здесь намеренно: этой точки достигают все три источника
|
||||
# base_url — дефолтный (выставлен в parse_args по --region), переданный
|
||||
# вручную через --base-url и восстановленный из плана при --resume — уже
|
||||
# ПОСЛЕ сверки plan.base_url != args.base_url чуть выше, так что при
|
||||
# --resume расхождение платформы/URL с CLI отловится раньше и с более
|
||||
# точным сообщением.
|
||||
if args.platform == "domclick":
|
||||
expected_guid = MO_DOMCLICK_GUID if args.region == 50 else MSK_DOMCLICK_GUID
|
||||
actual_guid = _domclick_extract_guid(base_url)
|
||||
if actual_guid != expected_guid:
|
||||
raise SystemExit(
|
||||
f"--region {args.region} ожидает GUID {expected_guid!r} в base_url"
|
||||
f" (параметр address), а фактический base_url несёт GUID"
|
||||
f" {actual_guid!r}. Поправь --region либо --base-url — иначе"
|
||||
f" прогон зальёт чужой регион под batch_id={args.batch_id}."
|
||||
)
|
||||
global _DOMCLICK_BBOX
|
||||
_DOMCLICK_BBOX = _MO_BBOX if args.region == 50 else _MSK_BBOX
|
||||
print(f"DomClick: --region={args.region}, guid={expected_guid}, "
|
||||
f"bbox={_DOMCLICK_BBOX}", flush=True)
|
||||
|
||||
page_budget = None if args.full else args.measure
|
||||
mode = "FULL" if args.full else f"MEASURE<={page_budget}"
|
||||
print(f"Режим: {mode}; platform={args.platform}; batch_id={args.batch_id}; "
|
||||
|
|
@ -1606,11 +1523,8 @@ def parse_args(argv: list[str] | None = None) -> argparse.Namespace:
|
|||
)
|
||||
p.add_argument("--platform", choices=tuple(ADAPTERS), default="avito",
|
||||
help="площадка сбора (дефолт avito)")
|
||||
p.add_argument("--region", type=int, choices=(77, 50), default=77,
|
||||
help="регион сбора: 77 Москва (дефолт), 50 Московская область"
|
||||
" (поддерживается только --platform domclick)")
|
||||
p.add_argument("--base-url", default=None,
|
||||
help="базовый URL выдачи (дефолт зависит от --platform/--region)")
|
||||
help="базовый URL выдачи (дефолт зависит от --platform)")
|
||||
p.add_argument("--measure", type=int, default=100, metavar="N",
|
||||
help="режим замера: не больше N загрузок страниц (дефолт 100)")
|
||||
p.add_argument("--full", action="store_true",
|
||||
|
|
@ -1637,42 +1551,16 @@ def parse_args(argv: list[str] | None = None) -> argparse.Namespace:
|
|||
p.add_argument("--db-user", default="tradein")
|
||||
p.add_argument("--db-name", default="tradein")
|
||||
args = p.parse_args(argv)
|
||||
if args.region == 50 and args.platform != "domclick":
|
||||
p.error(
|
||||
"--region 50 поддерживается только для --platform domclick: корпус"
|
||||
" Авито/Циана/Яндекса по Москве и области собирается ОДНИМ прогоном"
|
||||
" (moskva_i_mo / region=-1 / rgid Москва+МО) и делится на регионы уже"
|
||||
" при импорте — отдельного областного прогона у этих площадок нет."
|
||||
)
|
||||
if args.base_url is None:
|
||||
if args.platform == "domclick" and args.region == 50:
|
||||
args.base_url = MO_DOMCLICK_BASE_URL
|
||||
else:
|
||||
args.base_url = ADAPTERS[args.platform].default_base_url
|
||||
args.base_url = ADAPTERS[args.platform].default_base_url
|
||||
if args.target_count is None:
|
||||
args.target_count = ADAPTERS[args.platform].default_target
|
||||
if args.batch_id is None:
|
||||
prefix = (
|
||||
"mo-serp-domclick" if (args.platform == "domclick" and args.region == 50)
|
||||
else f"msk-serp-{args.platform}"
|
||||
args.batch_id = (
|
||||
f"msk-serp-{args.platform}-" + datetime.now(timezone.utc).strftime("%Y%m%d-%H%M%S")
|
||||
)
|
||||
args.batch_id = prefix + "-" + datetime.now(timezone.utc).strftime("%Y%m%d-%H%M%S")
|
||||
if not _BATCH_ID_RE.match(args.batch_id):
|
||||
p.error("--batch-id: допустимы только символы [A-Za-z0-9._-]")
|
||||
# batch_id — ЕДИНСТВЕННАЯ метка региона в msk_raw.domclick_cards: колонки
|
||||
# региона там нет, партии потом разделяются по префиксу имени батча. Имя,
|
||||
# заданное руками вразрез с --region, сделало бы областную партию
|
||||
# неотличимой от московской уже после заливки, когда чинить поздно. Поэтому
|
||||
# префикс сверяется с регионом так же строго, как GUID в base_url.
|
||||
if args.platform == "domclick":
|
||||
want = "mo-serp-domclick" if args.region == 50 else "msk-serp-domclick"
|
||||
other = "msk-serp-domclick" if args.region == 50 else "mo-serp-domclick"
|
||||
if args.batch_id.startswith(other) or not args.batch_id.startswith(want):
|
||||
p.error(
|
||||
f"--batch-id должен начинаться с {want!r} при --region"
|
||||
f" {args.region}: имя батча — единственный признак региона в"
|
||||
f" msk_raw.domclick_cards, колонки региона там нет."
|
||||
)
|
||||
if args.measure < 1:
|
||||
p.error("--measure должен быть >= 1")
|
||||
return args
|
||||
|
|
|
|||
Loading…
Add table
Reference in a new issue