Light1YT
f7c4d7a8c5
EPIC2 macro-ingest: региональный (Свердловская обл. ОКТМО 65 / ЕКБ) скрейпер Росстата в унифицированную macro_indicator (м.123). Зеркалит форму cbr_macro: pure-парсеры + тонкий httpx, Celery-таска с SAVEPOINT-per-row upsert (CAST not ::, ON CONFLICT по PK indicator_type/region/obs_date). ЕМИСС/fedstat.ru (SDMX) за WAF (hard-403 на всех путях из dev-IP) -> ИПЦ/доходы/ СМР-цены пока недоступны (документировано в коде). rosstat.gov.ru/opendata (стандарт 4.0) WAF-free -> приземляет демографию population_total (sverdl 4.32M / ekb 1.41M, §7.11). - services/scrapers/rosstat_emiss.py — fetch+parse open-data (registry->meta->data CSV) - workers/tasks/rosstat_macro_sync.py — Celery upsert (source=rosstat) - beat: rosstat-macro-sync-monthly; include в celery_app - site_finder/macro.py: population_total -> region-aware default sverdl (additive) - tests: 18 offline-тестов парсера + контракта таски Без миграции (вписано в существующую схему), без новых зависимостей. Refs #946. |
||
|---|---|---|
| .. | ||
| tasks | ||
| test_cbr_macro_sync.py | ||
| test_genplan_zones_sync.py | ||
| test_ird_harvest.py | ||
| test_krt_geometry_sync.py | ||
| test_nspd_geo.py | ||
| test_opportunity_harvest.py | ||
| test_planning_harvest.py | ||
| test_rosstat_macro_sync.py | ||
| test_scrape_cadastre.py | ||
| test_scrape_kn_catalog_objects.py | ||
| test_supply_layers_refresh.py | ||
| test_zone_regulation_refresh.py | ||