gendesign/backend/app/workers/tasks/connection_capacity_sync.py
Light1YT 641f0d56ed
All checks were successful
CI / changes (pull_request) Successful in 8s
CI / frontend-tests (pull_request) Successful in 1m9s
CI / openapi-codegen-check (pull_request) Successful in 2m1s
CI / backend-tests (pull_request) Successful in 14m39s
feat(site-finder): газ — свободная мощность ГРС + пометка ЕЭСК в §3 (#2119 Фаза B1)
Газовая вертикаль точек подключения:
- Миграция 181: gas_grs_capacity (ГРС с выходами; UNIQUE NULLS NOT DISTINCT
  на (grs_name_norm, output_name) — грабли #140).
- gazprom_grs_loader: bs4-парсер инлайн HTML-таблицы «техническая возможность»
  ГТЕ (~316 ГРС; гео-блок → RUN-ON-PROD): header-driven маппинг колонок,
  rowspan forward-fill имени (допущение col-0 задокументировано), числа через
  общий parse_reserve_number, SAVEPOINT per-row, unknown-колонки → raw jsonb.
- Celery sync_gas_grs_capacity + beat вт 05:00 MSK.
- Endpoint connection-capacity: gas.city_grs (городские ГРС Свердловск/
  Екатеринбург, агрегация по выходам) + gas.total_free_th_m3_h; graceful при
  отсутствии таблицы (schema-first окно). reserve_note у ПС ЕЭСК без
  опубликованного резерва: «Резерв — по запросу в АО «ЕЭСК» (город)».
- Схемы GasGrsRow/GasCapacityBlock/reserve_note аддитивны; api-types +31/-0.
- Фронт: блок «ГАЗ» в карточке резервов (по-ГРС «свободно X из Y тыс. м³/ч»,
  бейджи резерв/исчерпана, расшивка, N выходов, суммарная строка) + серая
  reserve_note-строка в попапе ЦП. Числа через toFiniteNumber.

57 backend-тестов зелёные; deep-review  APPROVE (2 minor-нота учтены).
2026-07-02 17:37:49 +05:00

119 lines
4.9 KiB
Python
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

"""Celery tasks: еженедельная синхронизация точек подключения со свободной
мощностью — электро (Россети WFS + xlsx-резервы) и вода (Водоканал docx). #2119.
Источники ГЕО-БЛОКИРУЮТ non-RU IP → таски выполняются НА ПРОДЕ (Celery worker
на VPS). Persistent breadcrumbs в nspd_geo_log (как utility/poi/noise sync).
Import-light: тяжёлые загрузчики импортируются лениво внутри тасков.
"""
import logging
from sqlalchemy import text
from app.workers.celery_app import celery_app
logger = logging.getLogger(__name__)
def _log_breadcrumb(stage: str, level: str, message: str) -> None:
"""Записать строку в nspd_geo_log (job_id=NULL) — диагностика без SSH."""
try:
from app.core.db import SessionLocal
db = SessionLocal()
try:
db.execute(
text(
"INSERT INTO nspd_geo_log (job_id, level, stage, message) "
"VALUES (NULL, :lvl, :stage, :msg)"
),
{"lvl": level, "stage": stage, "msg": message[:500]},
)
db.commit()
finally:
db.close()
except Exception as e:
logger.warning("connection_capacity breadcrumb failed: %s", e)
@celery_app.task(
name="tasks.connection_capacity_sync.sync_power_supply_centers",
queue="celery",
)
def sync_power_supply_centers() -> dict:
"""WFS центры питания + xlsx-резервы (ЦП + ТП/РП) → power_supply_centers / ТП-РП.
RUN-ON-PROD (гео-блок источников). Сначала WFS (координаты + напряжение +
индекс загрузки), затем резервы из xlsx-раскрытия. Каждый шаг graceful —
сбой резервов не откатывает загруженные WFS-точки.
"""
_log_breadcrumb("power_capacity_sync", "info", "task started")
result: dict = {}
try:
from app.services.site_finder.rosseti_wfs_loader import load_power_supply_centers
result["wfs"] = load_power_supply_centers()
except Exception as e:
logger.exception("sync_power_supply_centers: WFS failed: %s", e)
_log_breadcrumb("power_capacity_sync", "error", f"wfs {type(e).__name__}: {e}")
result["wfs"] = {"error": str(e)}
try:
from app.services.site_finder.rosseti_reserve_loader import load_all_reserves
result["reserves"] = load_all_reserves()
except Exception as e:
logger.exception("sync_power_supply_centers: reserves failed: %s", e)
_log_breadcrumb("power_capacity_sync", "error", f"reserves {type(e).__name__}: {e}")
result["reserves"] = {"error": str(e)}
logger.info("sync_power_supply_centers done: %s", result)
_log_breadcrumb("power_capacity_sync", "info", f"done: {result}")
return result
@celery_app.task(
name="tasks.connection_capacity_sync.sync_water_reserves",
queue="celery",
)
def sync_water_reserves() -> dict:
"""Резервы ЦСВ/ЦСК Водоканала ЕКБ (docx) → water_supply_reserves.
RUN-ON-PROD (гео-блок). Обе страницы (водоснабжение/водоотведение) graceful.
"""
_log_breadcrumb("water_capacity_sync", "info", "task started")
try:
from app.services.site_finder.vodokanal_reserve_loader import load_water_reserves
result = load_water_reserves()
logger.info("sync_water_reserves done: %s", result)
_log_breadcrumb("water_capacity_sync", "info", f"done: {result}")
return result
except Exception as e:
logger.exception("sync_water_reserves failed: %s", e)
_log_breadcrumb("water_capacity_sync", "error", f"{type(e).__name__}: {e}")
raise
@celery_app.task(
name="tasks.connection_capacity_sync.sync_gas_grs_capacity",
queue="celery",
)
def sync_gas_grs_capacity() -> dict:
"""Свободная мощность ГРС «Газпром трансгаз Екатеринбург» (HTML) → gas_grs_capacity.
RUN-ON-PROD (гео-блок источника). Инлайн HTML-таблица раскрытия ГТЕ → UPSERT
свободной мощности ГРС (по выходам). #2119 Фаза B1.
"""
_log_breadcrumb("gas_grs_sync", "info", "task started")
try:
from app.services.site_finder.gazprom_grs_loader import load_grs_capacity
result = load_grs_capacity()
logger.info("sync_gas_grs_capacity done: %s", result)
_log_breadcrumb("gas_grs_sync", "info", f"done: {result}")
return result
except Exception as e:
logger.exception("sync_gas_grs_capacity failed: %s", e)
_log_breadcrumb("gas_grs_sync", "error", f"{type(e).__name__}: {e}")
raise