fix(ptica): «не продана» перестаёт означать «продана» (#2464) #2979
2 changed files with 146 additions and 12 deletions
|
|
@ -77,8 +77,16 @@ STATUS_RESERVED = "reserved"
|
||||||
|
|
||||||
# Паттерны для извлечения статуса (issue #1609).
|
# Паттерны для извлечения статуса (issue #1609).
|
||||||
# Все морфоварианты: продан/продана/продано, забронирован[аоы]?, реализован[аоы]?.
|
# Все морфоварианты: продан/продана/продано, забронирован[аоы]?, реализован[аоы]?.
|
||||||
|
#
|
||||||
|
# Группа `neg` (#2464): без неё отрицательные формы давали ОБРАТНЫЙ статус —
|
||||||
|
# «нереализована» содержит «реализована» и классифицировалась как sold,
|
||||||
|
# «не продана» → sold, «не забронирована» → reserved, «не в продаже» → free.
|
||||||
|
# `\s*` покрывает и слитную приставку («нереализована»), и раздельное «не
|
||||||
|
# продана»; `\b` перед «не» не даёт зацепиться за хвост другого слова («в цене
|
||||||
|
# продажи» — «не» внутри «цене» не на границе слова).
|
||||||
_STATUS_KW_RE = re.compile(
|
_STATUS_KW_RE = re.compile(
|
||||||
r"(в\s*продаже|свободн[аоы]?|free"
|
r"(?P<neg>\bне\s*)?"
|
||||||
|
r"(?P<kw>в\s*продаже|свободн[аоы]?|free"
|
||||||
r"|продан[аоы]?|реализован[аоы]?|sold"
|
r"|продан[аоы]?|реализован[аоы]?|sold"
|
||||||
r"|забронирован[аоы]?|бронь|reserved)",
|
r"|забронирован[аоы]?|бронь|reserved)",
|
||||||
re.IGNORECASE | re.UNICODE,
|
re.IGNORECASE | re.UNICODE,
|
||||||
|
|
@ -153,6 +161,26 @@ def _classify_status_kw(matched_text: str) -> str | None:
|
||||||
return None
|
return None
|
||||||
|
|
||||||
|
|
||||||
|
def _status_in_text(text_: str) -> str | None:
|
||||||
|
"""Первый НЕотрицаемый статус-токен в тексте, иначе None.
|
||||||
|
|
||||||
|
Отрицание не переворачивается в противоположный статус, а гасит токен:
|
||||||
|
«не забронирована» не означает ни sold, ни free, а «не продана» —
|
||||||
|
вывод, а не факт со страницы. Лучше отсутствие статуса, чем неверный.
|
||||||
|
|
||||||
|
Перебираем ВСЕ вхождения, а не только первое: блок «Квартира не продана.
|
||||||
|
Статус: в продаже» на первом совпадении дал бы None и был бы пропущен
|
||||||
|
целиком, хотя настоящий статус в нём есть.
|
||||||
|
"""
|
||||||
|
for m in _STATUS_KW_RE.finditer(text_):
|
||||||
|
if m.group("neg"):
|
||||||
|
continue
|
||||||
|
classified = _classify_status_kw(m.group("kw"))
|
||||||
|
if classified:
|
||||||
|
return classified
|
||||||
|
return None
|
||||||
|
|
||||||
|
|
||||||
# ── HTML fetching ─────────────────────────────────────────────────────────────
|
# ── HTML fetching ─────────────────────────────────────────────────────────────
|
||||||
|
|
||||||
|
|
||||||
|
|
@ -542,11 +570,9 @@ def parse_catalog_flat(html: str) -> dict[str, Any]:
|
||||||
status_from_badge: str | None = None
|
status_from_badge: str | None = None
|
||||||
for cls, block_text in blocks:
|
for cls, block_text in blocks:
|
||||||
if _STATUS_BADGE_CLS_RE.search(cls):
|
if _STATUS_BADGE_CLS_RE.search(cls):
|
||||||
m = _STATUS_KW_RE.search(block_text)
|
status_from_badge = _status_in_text(block_text)
|
||||||
if m:
|
if status_from_badge:
|
||||||
status_from_badge = _classify_status_kw(m.group(1))
|
break
|
||||||
if status_from_badge:
|
|
||||||
break
|
|
||||||
|
|
||||||
if status_from_badge:
|
if status_from_badge:
|
||||||
result["status"] = status_from_badge
|
result["status"] = status_from_badge
|
||||||
|
|
@ -555,9 +581,7 @@ def parse_catalog_flat(html: str) -> dict[str, Any]:
|
||||||
status_label_value = _find_text_near(blocks, r"^статус$")
|
status_label_value = _find_text_near(blocks, r"^статус$")
|
||||||
status_from_label: str | None = None
|
status_from_label: str | None = None
|
||||||
if status_label_value:
|
if status_label_value:
|
||||||
m2 = _STATUS_KW_RE.search(status_label_value)
|
status_from_label = _status_in_text(status_label_value)
|
||||||
if m2:
|
|
||||||
status_from_label = _classify_status_kw(m2.group(1))
|
|
||||||
|
|
||||||
if status_from_label:
|
if status_from_label:
|
||||||
result["status"] = status_from_label
|
result["status"] = status_from_label
|
||||||
|
|
@ -568,10 +592,9 @@ def parse_catalog_flat(html: str) -> dict[str, Any]:
|
||||||
free_candidate: bool = False
|
free_candidate: bool = False
|
||||||
sold_reserved_found: str | None = None
|
sold_reserved_found: str | None = None
|
||||||
for _cls, block_text in blocks:
|
for _cls, block_text in blocks:
|
||||||
m3 = _STATUS_KW_RE.search(block_text)
|
classified = _status_in_text(block_text)
|
||||||
if not m3:
|
if not classified:
|
||||||
continue
|
continue
|
||||||
classified = _classify_status_kw(m3.group(1))
|
|
||||||
if classified in (STATUS_SOLD, STATUS_RESERVED):
|
if classified in (STATUS_SOLD, STATUS_RESERVED):
|
||||||
sold_reserved_found = classified
|
sold_reserved_found = classified
|
||||||
break # точнее nav-текстов, дальше не ищем
|
break # точнее nav-текстов, дальше не ищем
|
||||||
|
|
|
||||||
111
backend/tests/services/scrapers/test_2464_status_negation.py
Normal file
111
backend/tests/services/scrapers/test_2464_status_negation.py
Normal file
|
|
@ -0,0 +1,111 @@
|
||||||
|
"""Отрицательные формы не дают ОБРАТНЫЙ статус продажи (#2464).
|
||||||
|
|
||||||
|
`_STATUS_KW_RE` искал ключевые слова без защиты от отрицания, поэтому русские
|
||||||
|
отрицательные формы классифицировались наоборот:
|
||||||
|
|
||||||
|
«нереализована» → содержит «реализована» → sold
|
||||||
|
«не продана» → содержит «продана» → sold
|
||||||
|
«не забронирована» → содержит «забронирована» → reserved
|
||||||
|
«не в продаже» → содержит «в продаже» → free
|
||||||
|
|
||||||
|
То есть свободная квартира могла попасть в базу проданной. Отрицание теперь
|
||||||
|
гасит токен, а не переворачивает его: «не забронирована» не значит ни sold, ни
|
||||||
|
free, а «не продана → free» — вывод, а не факт со страницы. Лучше отсутствие
|
||||||
|
статуса, чем неверный.
|
||||||
|
|
||||||
|
Тесты идут через `parse_catalog_flat` (полный путь разбора HTML), а не только
|
||||||
|
через хелпер: инвертированный статус — это то, что доехало бы до БД.
|
||||||
|
|
||||||
|
Текущий эффект на проде — НУЛЕВОЙ, и это проверено, а не предположено:
|
||||||
|
`catalog_updated_at` пуст у всех 983 088 строк `domrf_kn_flats`, таска
|
||||||
|
`scrape_kn_catalog_flats` закомментирована в beat_schedule.py (WAF-cooldown).
|
||||||
|
Правка предупредительная: при включении пути дефект инвертировал бы статусы молча.
|
||||||
|
"""
|
||||||
|
|
||||||
|
from __future__ import annotations
|
||||||
|
|
||||||
|
import pytest
|
||||||
|
|
||||||
|
from app.services.scrapers.domrf_catalog import (
|
||||||
|
STATUS_FREE,
|
||||||
|
STATUS_RESERVED,
|
||||||
|
STATUS_SOLD,
|
||||||
|
parse_catalog_flat,
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
|
def _html_with_badge(badge_text: str, nav_text: str = "") -> str:
|
||||||
|
"""Тот же каркас, что в test_domrf_catalog_parse.py: nav + статус-бейдж."""
|
||||||
|
return (
|
||||||
|
"<!doctype html><html><body>"
|
||||||
|
f'<nav><a href="/catalog">Все квартиры</a><span>{nav_text}</span></nav>'
|
||||||
|
f'<div class="status-badge">{badge_text}</div>'
|
||||||
|
"<p>Площадь 45 м²</p>"
|
||||||
|
"</body></html>"
|
||||||
|
)
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize(
|
||||||
|
"badge,было_бы",
|
||||||
|
[
|
||||||
|
("Нереализована", STATUS_SOLD),
|
||||||
|
("Не реализована", STATUS_SOLD),
|
||||||
|
("Не продана", STATUS_SOLD),
|
||||||
|
("Квартира не продана", STATUS_SOLD),
|
||||||
|
("Не забронирована", STATUS_RESERVED),
|
||||||
|
("Не в продаже", STATUS_FREE),
|
||||||
|
],
|
||||||
|
)
|
||||||
|
def test_negated_form_does_not_invert_status(badge: str, было_бы: str) -> None:
|
||||||
|
"""Головной: отрицание не должно давать статус, тем более противоположный.
|
||||||
|
|
||||||
|
На origin/main каждый случай возвращает `было_бы` — ровно обратное значение.
|
||||||
|
"""
|
||||||
|
result = parse_catalog_flat(_html_with_badge(badge))
|
||||||
|
got = result.get("status")
|
||||||
|
assert got != было_бы, (
|
||||||
|
f"«{badge}» классифицировано как {got!r} — отрицание перевёрнуто в свою "
|
||||||
|
"противоположность и уехало бы в domrf_kn_flats.status"
|
||||||
|
)
|
||||||
|
assert got is None, f"«{badge}» дало статус {got!r}; ожидали отсутствие статуса"
|
||||||
|
|
||||||
|
|
||||||
|
@pytest.mark.parametrize(
|
||||||
|
"badge,ожидаем",
|
||||||
|
[
|
||||||
|
("Продана", STATUS_SOLD),
|
||||||
|
("Продано", STATUS_SOLD),
|
||||||
|
("Реализована", STATUS_SOLD),
|
||||||
|
("Забронирована", STATUS_RESERVED),
|
||||||
|
("Бронь", STATUS_RESERVED),
|
||||||
|
("В продаже", STATUS_FREE),
|
||||||
|
("Свободна", STATUS_FREE),
|
||||||
|
],
|
||||||
|
)
|
||||||
|
def test_positive_forms_unchanged(badge: str, ожидаем: str) -> None:
|
||||||
|
"""Контроль от переусердствования: обычные формы распознаются как раньше.
|
||||||
|
|
||||||
|
Ловит «починку» через грубое гашение всего, что рядом со словом «не».
|
||||||
|
"""
|
||||||
|
result = parse_catalog_flat(_html_with_badge(badge))
|
||||||
|
assert result.get("status") == ожидаем, f"«{badge}» перестало распознаваться"
|
||||||
|
|
||||||
|
|
||||||
|
def test_negation_does_not_swallow_a_real_status_in_same_block() -> None:
|
||||||
|
"""Контроль: отрицание гасит СВОЙ токен, а не весь блок.
|
||||||
|
|
||||||
|
«Квартира не продана. Статус: в продаже» — настоящий статус в блоке есть.
|
||||||
|
Разбор по первому совпадению вернул бы None и потерял бы его.
|
||||||
|
"""
|
||||||
|
result = parse_catalog_flat(_html_with_badge("Квартира не продана. Статус: в продаже"))
|
||||||
|
assert (
|
||||||
|
result.get("status") == STATUS_FREE
|
||||||
|
), f"настоящий статус в блоке потерян: {result.get('status')!r}"
|
||||||
|
|
||||||
|
|
||||||
|
def test_ne_inside_another_word_is_not_a_negation() -> None:
|
||||||
|
"""Контроль границы слова: «не» внутри другого слова не считается отрицанием."""
|
||||||
|
result = parse_catalog_flat(_html_with_badge("Цене снижена, квартира продана"))
|
||||||
|
assert (
|
||||||
|
result.get("status") == STATUS_SOLD
|
||||||
|
), f"«не» в хвосте слова «Цене» съело настоящий статус: {result.get('status')!r}"
|
||||||
Loading…
Add table
Reference in a new issue