fix(ptica): соединение БД отпускается до похода за фотографией наружу (#2464-C) (#2928)
All checks were successful
Deploy / changes (push) Successful in 8s
Deploy / build-frontend (push) Has been skipped
Deploy / deploy-caddy (push) Has been skipped
Deploy / build-backend (push) Successful in 2m6s
Deploy / build-worker (push) Successful in 3m34s
Deploy / deploy (push) Successful in 1m21s
Deploy / deploy-status (push) Successful in 1s
Deploy / perimeter-smoke (push) Successful in 9s

This commit is contained in:
bot-backend 2026-08-19 11:18:00 +00:00
parent e266f29d65
commit c3ea0364e7
2 changed files with 134 additions and 0 deletions

View file

@ -85,6 +85,24 @@ def get_photo(
upstream = row["photo_url"]
photo_name = row["photo_name"]
# #2464-C: отпускаем соединение ДО любой медленной работы — внешнего фетча
# (до 8 с) и генерации миниатюры. SELECT выше открыл транзакцию (SQLAlchemy
# начинает её на первом запросе), и без этого она висела бы idle-in-transaction
# всё это время, занимая соединение пула.
#
# Почему это важно именно здесь: закешировано локально 1 889 фотографий из
# 165 208 (замер 19.08.2026), то есть 98.9% запросов идут «ленивым» путём с
# походом наружу. Пул дефолтный — `create_engine` в app/core/db.py без
# pool_size, значит 5 + 10 overflow = 15 соединений на весь бэкенд. Страница
# отчёта тянет картинки пачкой, и пятнадцать таких запросов занимают пул
# целиком, а за ними встают ВСЕ остальные ручки.
#
# `close()` не делает сессию непригодной: следующий `db.execute` ниже
# прозрачно возьмёт новое соединение и откроет свою транзакцию. Значения из
# `row` уже разложены по локальным переменным выше — после закрытия они
# остаются доступны.
db.close()
headers = {"Cache-Control": "public, max-age=604800, immutable"}
# ── size=thumb ──────────────────────────────────────────────────────────

View file

@ -0,0 +1,116 @@
"""#2464-C: сессия БД не должна держаться на время внешнего HTTP-фетча.
`GET /api/v1/photos/{obj}/{file}` берёт сессию через `Depends(get_db)`, делает
SELECT и (SQLAlchemy открывает транзакцию на первом запросе) ДЕРЖИТ соединение
пула всё время синхронного похода к ДОМ.РФ.
Цена на проде, замер 19.08.2026 по `domrf_kn_photos`:
всего фотографий 165 208
закешировано локально 1 889 (1.1%)
пойдут «ленивым» путём 163 319 (98.9%)
То есть почти каждый запрос картинки это удержание соединения на время
внешнего фетча (`_UPSTREAM_TIMEOUT` = 8 с, connect 4 с). Пул при этом
дефолтный: `create_engine(...)` в `app/core/db.py` без `pool_size`, то есть
5 + 10 overflow = 15 соединений на весь бэкенд. Страница отчёта тянет
несколько картинок разом пятнадцать таких запросов занимают пул целиком, и
за ними встают ВСЕ остальные ручки.
Хуже, чем просто занятое соединение: транзакция открыта и висит
idle-in-transaction, что мешает vacuum'у.
Тест проверяет ФАКТ отпускания соединения в момент фетча, а не наличие
`db.close()` в тексте иначе он бы фиксировал реализацию, а не свойство.
"""
from __future__ import annotations
from pathlib import Path
import pytest
from sqlalchemy import create_engine, text
from sqlalchemy.orm import Session
@pytest.fixture
def _session_with_photo_row(tmp_path: Path):
"""Настоящая сессия SQLAlchemy (SQLite) с одной строкой фотографии.
Настоящая, а не MagicMock: проверяется свойство сессии (`in_transaction`),
и на моке оно было бы выдумкой.
"""
engine = create_engine(f"sqlite:///{tmp_path / 'photos.db'}", future=True)
with engine.begin() as conn:
conn.execute(
text(
"CREATE TABLE domrf_kn_photos ("
" obj_id INTEGER, obj_file_id TEXT, local_path TEXT,"
" thumb_path TEXT, photo_url TEXT, photo_name TEXT, size_bytes INTEGER)"
)
)
conn.execute(
text(
"INSERT INTO domrf_kn_photos VALUES"
" (1, 'f1', NULL, NULL, 'https://upstream.example/p.jpg', 'p.jpg', 100)"
)
)
session = Session(engine, future=True)
yield session
session.close()
engine.dispose()
def test_connection_released_before_upstream_fetch(_session_with_photo_row, monkeypatch) -> None:
"""В момент похода наружу транзакция закрыта — соединение вернулось в пул.
На main: SELECT открыл транзакцию, она висит все 8 с фетча.
"""
from app.api.v1 import photos
seen: dict[str, bool] = {}
def _spy_fetch(url: str):
seen["in_transaction"] = _session_with_photo_row.in_transaction()
return None # не ходим наружу: ДОМ.РФ трогать нельзя
monkeypatch.setattr(photos, "_fetch_upstream", _spy_fetch)
resp = photos.get_photo(db=_session_with_photo_row, obj_id=1, file_id="f1", size="thumb")
assert seen.get("in_transaction") is False, (
"во время внешнего фетча сессия держит открытую транзакцию — "
"соединение пула занято, и при пуле в 15 штук страница отчёта его исчерпает"
)
# Поведение не изменилось: картинки локально нет → редирект на upstream.
assert resp.status_code == 302
def test_still_serves_cached_thumb(_session_with_photo_row, tmp_path: Path) -> None:
"""Контроль: закешированная миниатюра по-прежнему отдаётся с диска.
Зелёный с обеих сторон доказывает, что раннее закрытие сессии не сломало
быстрый путь (98.9% запросов идут не им, но именно он цель кеша).
"""
from app.api.v1 import photos
thumb = tmp_path / "t.webp"
thumb.write_bytes(b"webp")
_session_with_photo_row.execute(
text("UPDATE domrf_kn_photos SET thumb_path = :t"), {"t": str(thumb)}
)
_session_with_photo_row.commit()
resp = photos.get_photo(db=_session_with_photo_row, obj_id=1, file_id="f1", size="thumb")
assert getattr(resp, "path", None) == str(thumb)
def test_missing_row_still_404(_session_with_photo_row) -> None:
"""Контроль: незарегистрированная фотография по-прежнему 404, а не 500."""
from fastapi import HTTPException
from app.api.v1 import photos
with pytest.raises(HTTPException) as exc:
photos.get_photo(db=_session_with_photo_row, obj_id=999, file_id="nope", size="thumb")
assert exc.value.status_code == 404