fix(ptica): соединение БД отпускается до похода за фотографией наружу (#2464-C) (#2928)
All checks were successful
Deploy / changes (push) Successful in 8s
Deploy / build-frontend (push) Has been skipped
Deploy / deploy-caddy (push) Has been skipped
Deploy / build-backend (push) Successful in 2m6s
Deploy / build-worker (push) Successful in 3m34s
Deploy / deploy (push) Successful in 1m21s
Deploy / deploy-status (push) Successful in 1s
Deploy / perimeter-smoke (push) Successful in 9s
All checks were successful
Deploy / changes (push) Successful in 8s
Deploy / build-frontend (push) Has been skipped
Deploy / deploy-caddy (push) Has been skipped
Deploy / build-backend (push) Successful in 2m6s
Deploy / build-worker (push) Successful in 3m34s
Deploy / deploy (push) Successful in 1m21s
Deploy / deploy-status (push) Successful in 1s
Deploy / perimeter-smoke (push) Successful in 9s
This commit is contained in:
parent
e266f29d65
commit
c3ea0364e7
2 changed files with 134 additions and 0 deletions
|
|
@ -85,6 +85,24 @@ def get_photo(
|
|||
upstream = row["photo_url"]
|
||||
photo_name = row["photo_name"]
|
||||
|
||||
# #2464-C: отпускаем соединение ДО любой медленной работы — внешнего фетча
|
||||
# (до 8 с) и генерации миниатюры. SELECT выше открыл транзакцию (SQLAlchemy
|
||||
# начинает её на первом запросе), и без этого она висела бы idle-in-transaction
|
||||
# всё это время, занимая соединение пула.
|
||||
#
|
||||
# Почему это важно именно здесь: закешировано локально 1 889 фотографий из
|
||||
# 165 208 (замер 19.08.2026), то есть 98.9% запросов идут «ленивым» путём с
|
||||
# походом наружу. Пул дефолтный — `create_engine` в app/core/db.py без
|
||||
# pool_size, значит 5 + 10 overflow = 15 соединений на весь бэкенд. Страница
|
||||
# отчёта тянет картинки пачкой, и пятнадцать таких запросов занимают пул
|
||||
# целиком, а за ними встают ВСЕ остальные ручки.
|
||||
#
|
||||
# `close()` не делает сессию непригодной: следующий `db.execute` ниже
|
||||
# прозрачно возьмёт новое соединение и откроет свою транзакцию. Значения из
|
||||
# `row` уже разложены по локальным переменным выше — после закрытия они
|
||||
# остаются доступны.
|
||||
db.close()
|
||||
|
||||
headers = {"Cache-Control": "public, max-age=604800, immutable"}
|
||||
|
||||
# ── size=thumb ──────────────────────────────────────────────────────────
|
||||
|
|
|
|||
116
backend/tests/test_2464c_photos_session_release.py
Normal file
116
backend/tests/test_2464c_photos_session_release.py
Normal file
|
|
@ -0,0 +1,116 @@
|
|||
"""#2464-C: сессия БД не должна держаться на время внешнего HTTP-фетча.
|
||||
|
||||
`GET /api/v1/photos/{obj}/{file}` берёт сессию через `Depends(get_db)`, делает
|
||||
SELECT — и (SQLAlchemy открывает транзакцию на первом запросе) ДЕРЖИТ соединение
|
||||
пула всё время синхронного похода к ДОМ.РФ.
|
||||
|
||||
Цена на проде, замер 19.08.2026 по `domrf_kn_photos`:
|
||||
|
||||
всего фотографий 165 208
|
||||
закешировано локально 1 889 (1.1%)
|
||||
пойдут «ленивым» путём 163 319 (98.9%)
|
||||
|
||||
То есть почти каждый запрос картинки — это удержание соединения на время
|
||||
внешнего фетча (`_UPSTREAM_TIMEOUT` = 8 с, connect 4 с). Пул при этом
|
||||
дефолтный: `create_engine(...)` в `app/core/db.py` без `pool_size`, то есть
|
||||
5 + 10 overflow = 15 соединений на весь бэкенд. Страница отчёта тянет
|
||||
несколько картинок разом — пятнадцать таких запросов занимают пул целиком, и
|
||||
за ними встают ВСЕ остальные ручки.
|
||||
|
||||
Хуже, чем просто занятое соединение: транзакция открыта и висит
|
||||
idle-in-transaction, что мешает vacuum'у.
|
||||
|
||||
Тест проверяет ФАКТ отпускания соединения в момент фетча, а не наличие
|
||||
`db.close()` в тексте — иначе он бы фиксировал реализацию, а не свойство.
|
||||
"""
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
from pathlib import Path
|
||||
|
||||
import pytest
|
||||
from sqlalchemy import create_engine, text
|
||||
from sqlalchemy.orm import Session
|
||||
|
||||
|
||||
@pytest.fixture
|
||||
def _session_with_photo_row(tmp_path: Path):
|
||||
"""Настоящая сессия SQLAlchemy (SQLite) с одной строкой фотографии.
|
||||
|
||||
Настоящая, а не MagicMock: проверяется свойство сессии (`in_transaction`),
|
||||
и на моке оно было бы выдумкой.
|
||||
"""
|
||||
engine = create_engine(f"sqlite:///{tmp_path / 'photos.db'}", future=True)
|
||||
with engine.begin() as conn:
|
||||
conn.execute(
|
||||
text(
|
||||
"CREATE TABLE domrf_kn_photos ("
|
||||
" obj_id INTEGER, obj_file_id TEXT, local_path TEXT,"
|
||||
" thumb_path TEXT, photo_url TEXT, photo_name TEXT, size_bytes INTEGER)"
|
||||
)
|
||||
)
|
||||
conn.execute(
|
||||
text(
|
||||
"INSERT INTO domrf_kn_photos VALUES"
|
||||
" (1, 'f1', NULL, NULL, 'https://upstream.example/p.jpg', 'p.jpg', 100)"
|
||||
)
|
||||
)
|
||||
session = Session(engine, future=True)
|
||||
yield session
|
||||
session.close()
|
||||
engine.dispose()
|
||||
|
||||
|
||||
def test_connection_released_before_upstream_fetch(_session_with_photo_row, monkeypatch) -> None:
|
||||
"""В момент похода наружу транзакция закрыта — соединение вернулось в пул.
|
||||
|
||||
На main: SELECT открыл транзакцию, она висит все 8 с фетча.
|
||||
"""
|
||||
from app.api.v1 import photos
|
||||
|
||||
seen: dict[str, bool] = {}
|
||||
|
||||
def _spy_fetch(url: str):
|
||||
seen["in_transaction"] = _session_with_photo_row.in_transaction()
|
||||
return None # не ходим наружу: ДОМ.РФ трогать нельзя
|
||||
|
||||
monkeypatch.setattr(photos, "_fetch_upstream", _spy_fetch)
|
||||
|
||||
resp = photos.get_photo(db=_session_with_photo_row, obj_id=1, file_id="f1", size="thumb")
|
||||
|
||||
assert seen.get("in_transaction") is False, (
|
||||
"во время внешнего фетча сессия держит открытую транзакцию — "
|
||||
"соединение пула занято, и при пуле в 15 штук страница отчёта его исчерпает"
|
||||
)
|
||||
# Поведение не изменилось: картинки локально нет → редирект на upstream.
|
||||
assert resp.status_code == 302
|
||||
|
||||
|
||||
def test_still_serves_cached_thumb(_session_with_photo_row, tmp_path: Path) -> None:
|
||||
"""Контроль: закешированная миниатюра по-прежнему отдаётся с диска.
|
||||
|
||||
Зелёный с обеих сторон — доказывает, что раннее закрытие сессии не сломало
|
||||
быстрый путь (98.9% запросов идут не им, но именно он — цель кеша).
|
||||
"""
|
||||
from app.api.v1 import photos
|
||||
|
||||
thumb = tmp_path / "t.webp"
|
||||
thumb.write_bytes(b"webp")
|
||||
_session_with_photo_row.execute(
|
||||
text("UPDATE domrf_kn_photos SET thumb_path = :t"), {"t": str(thumb)}
|
||||
)
|
||||
_session_with_photo_row.commit()
|
||||
|
||||
resp = photos.get_photo(db=_session_with_photo_row, obj_id=1, file_id="f1", size="thumb")
|
||||
assert getattr(resp, "path", None) == str(thumb)
|
||||
|
||||
|
||||
def test_missing_row_still_404(_session_with_photo_row) -> None:
|
||||
"""Контроль: незарегистрированная фотография по-прежнему 404, а не 500."""
|
||||
from fastapi import HTTPException
|
||||
|
||||
from app.api.v1 import photos
|
||||
|
||||
with pytest.raises(HTTPException) as exc:
|
||||
photos.get_photo(db=_session_with_photo_row, obj_id=999, file_id="nope", size="thumb")
|
||||
assert exc.value.status_code == 404
|
||||
Loading…
Add table
Reference in a new issue