lekss361
bcb903cfa2
All checks were successful
Deploy Trade-In / changes (push) Successful in 12s
Deploy Trade-In / build-browser (push) Successful in 35s
Deploy Trade-In / build-frontend (push) Successful in 37s
Deploy Trade-In / test (push) Successful in 4m55s
Deploy Trade-In / build-backend (push) Successful in 29s
Deploy Trade-In / deploy (push) Successful in 1m12s
699 lines
42 KiB
YAML
699 lines
42 KiB
YAML
name: Deploy Trade-In
|
||
|
||
# Forgejo Actions — отдельный pipeline для подпроекта tradein-mvp/.
|
||
# Триггерится только на изменения внутри tradein-mvp/ (или этого workflow),
|
||
# не пересекается с основным deploy.yml.
|
||
on:
|
||
push:
|
||
branches: [main]
|
||
paths:
|
||
- "tradein-mvp/**"
|
||
- ".forgejo/workflows/deploy-tradein.yml"
|
||
workflow_dispatch:
|
||
|
||
concurrency:
|
||
group: deploy-tradein-prod
|
||
cancel-in-progress: false
|
||
|
||
env:
|
||
IMAGE_BACKEND: ghcr.io/lekss361/gendesign-tradein-backend
|
||
IMAGE_FRONTEND: ghcr.io/lekss361/gendesign-tradein-frontend
|
||
IMAGE_BROWSER: ghcr.io/lekss361/gendesign-tradein-browser
|
||
|
||
jobs:
|
||
changes:
|
||
runs-on: ubuntu-latest
|
||
outputs:
|
||
backend: ${{ steps.set-all.outputs.backend || steps.filter.outputs.backend }}
|
||
frontend: ${{ steps.set-all.outputs.frontend || steps.filter.outputs.frontend }}
|
||
browser: ${{ steps.set-all.outputs.browser || steps.filter.outputs.browser }}
|
||
infra: ${{ steps.set-all.outputs.infra || steps.filter.outputs.infra }}
|
||
scraper: ${{ steps.set-all.outputs.scraper || steps.filter.outputs.scraper }}
|
||
steps:
|
||
- uses: actions/checkout@v4
|
||
with:
|
||
fetch-depth: 0
|
||
|
||
# Resolve base SHA: read last-successfully-deployed SHA from the VPS host file.
|
||
# The file is written by the deploy job on every successful deploy.
|
||
# Fail-safe: if we cannot read the file, or the SHA is not an ancestor of HEAD,
|
||
# we leave DEPLOYED_SHA empty — the next step will then build everything.
|
||
- name: Resolve deployed base SHA
|
||
id: resolve-base
|
||
env:
|
||
DEPLOY_HOST: ${{ secrets.DEPLOY_HOST }}
|
||
DEPLOY_USER: ${{ secrets.DEPLOY_USER }}
|
||
DEPLOY_PORT: ${{ secrets.DEPLOY_PORT }}
|
||
DEPLOY_SSH_KEY: ${{ secrets.DEPLOY_SSH_KEY }}
|
||
run: |
|
||
# Write SSH key to a temp file
|
||
SSH_KEY_FILE=$(mktemp)
|
||
echo "$DEPLOY_SSH_KEY" > "$SSH_KEY_FILE"
|
||
chmod 600 "$SSH_KEY_FILE"
|
||
|
||
# Try to read the marker file from the VPS. Suppress errors — if host is
|
||
# unreachable or file missing, RAW_SHA will be empty.
|
||
RAW_SHA=$(ssh -i "$SSH_KEY_FILE" \
|
||
-o StrictHostKeyChecking=no \
|
||
-o ConnectTimeout=10 \
|
||
-p "${DEPLOY_PORT:-22}" \
|
||
"${DEPLOY_USER}@${DEPLOY_HOST}" \
|
||
"cat /opt/gendesign/.tradein-deployed-sha 2>/dev/null || true" \
|
||
2>/dev/null || true)
|
||
RAW_SHA=$(echo "$RAW_SHA" | tr -d '[:space:]')
|
||
|
||
rm -f "$SSH_KEY_FILE"
|
||
|
||
# Validate: non-empty, looks like a git SHA, and is an ancestor of HEAD.
|
||
DEPLOYED_SHA=""
|
||
if [ -n "$RAW_SHA" ] && echo "$RAW_SHA" | grep -qE '^[0-9a-f]{40}$'; then
|
||
if git merge-base --is-ancestor "$RAW_SHA" HEAD 2>/dev/null; then
|
||
DEPLOYED_SHA="$RAW_SHA"
|
||
echo "Resolved deployed base: $DEPLOYED_SHA"
|
||
else
|
||
echo "WARNING: stored SHA $RAW_SHA is not an ancestor of HEAD — falling back to build-all"
|
||
fi
|
||
else
|
||
echo "No valid deployed SHA found — falling back to build-all"
|
||
fi
|
||
|
||
echo "deployed_sha=$DEPLOYED_SHA" >> "$GITHUB_OUTPUT"
|
||
|
||
# FAIL-SAFE: if no valid base SHA, emit all=true and skip paths-filter.
|
||
# This covers: first run, post-force-push, VPS unreachable, corrupt marker.
|
||
# A spurious full build is always safer than a missed build.
|
||
- name: Build-all fallback (no base SHA)
|
||
id: set-all
|
||
if: steps.resolve-base.outputs.deployed_sha == ''
|
||
run: |
|
||
echo "No base SHA — enabling build-all"
|
||
echo "backend=true" >> "$GITHUB_OUTPUT"
|
||
echo "frontend=true" >> "$GITHUB_OUTPUT"
|
||
echo "browser=true" >> "$GITHUB_OUTPUT"
|
||
echo "infra=true" >> "$GITHUB_OUTPUT"
|
||
echo "scraper=true" >> "$GITHUB_OUTPUT"
|
||
|
||
# Cumulative diff: compare deployed SHA → HEAD so that a fast chain of merges
|
||
# (e.g. backend #1829 then frontend #1830) doesn't lose earlier changes.
|
||
- uses: dorny/paths-filter@v3
|
||
id: filter
|
||
if: steps.resolve-base.outputs.deployed_sha != ''
|
||
with:
|
||
base: ${{ steps.resolve-base.outputs.deployed_sha }}
|
||
filters: |
|
||
backend:
|
||
- 'tradein-mvp/backend/**'
|
||
# scraper-kit вкомпилирован в backend-образ (build context tradein-mvp/,
|
||
# scheduler_main импортирует пакет) — kit-only изменение обязано
|
||
# пересобрать образ, иначе деплой рестартует контейнеры на старом.
|
||
- 'tradein-mvp/packages/scraper-kit/**'
|
||
frontend:
|
||
- 'tradein-mvp/frontend/**'
|
||
browser:
|
||
- 'tradein-mvp/browser/**'
|
||
infra:
|
||
- 'tradein-mvp/docker-compose.prod.yml'
|
||
- 'tradein-mvp/deploy/**'
|
||
- '.forgejo/workflows/deploy-tradein.yml'
|
||
scraper:
|
||
- 'tradein-mvp/backend/app/services/scrapers/**'
|
||
- 'tradein-mvp/backend/app/services/scrape_pipeline.py'
|
||
- 'tradein-mvp/backend/app/services/scheduler.py'
|
||
- 'tradein-mvp/backend/app/scheduler_main.py'
|
||
- 'tradein-mvp/backend/app/tasks/**'
|
||
# #2188: scheduler исполняет matching/dedup при каждом scrape-тике —
|
||
# без этих путей scraper-контейнер оставался на старом коде
|
||
# (2026-07-02: fias-dedup доехал до tradein-backend, но не до
|
||
# tradein-scraper). После USE_KIT_SCHEDULER=true kit-код и есть
|
||
# scheduler — его правки тоже обязаны пересоздавать контейнер.
|
||
- 'tradein-mvp/backend/app/services/matching/**'
|
||
- 'tradein-mvp/backend/app/services/house_dedup_merge.py'
|
||
- 'tradein-mvp/packages/scraper-kit/**'
|
||
|
||
# Quality gate: pytest MUST pass before any image is built/deployed (#666).
|
||
# Runs the tradein-mvp/backend suite; a red test blocks build + deploy.
|
||
# Tests use mocks + a stub DATABASE_URL — no real Postgres/Redis needed.
|
||
# 1 pre-existing order-dependent test is deselected (see DESELECT note below).
|
||
test:
|
||
runs-on: ubuntu-latest
|
||
needs: changes
|
||
if: |
|
||
needs.changes.outputs.backend == 'true' ||
|
||
needs.changes.outputs.infra == 'true' ||
|
||
github.event_name == 'workflow_dispatch'
|
||
defaults:
|
||
run:
|
||
working-directory: ./tradein-mvp/backend
|
||
env:
|
||
# psycopg v3 requires a parseable URL at import time; never connected to.
|
||
DATABASE_URL: postgresql+psycopg://test:test@localhost:5432/test
|
||
steps:
|
||
- uses: actions/checkout@v4
|
||
|
||
- name: Install uv
|
||
# Официальный standalone-инсталлер: системный `pip install uv` на
|
||
# ubuntu-runner падает с PEP 668 externally-managed-environment (#666 CI).
|
||
run: |
|
||
curl -LsSf https://astral.sh/uv/install.sh | sh
|
||
echo "$HOME/.local/bin" >> "$GITHUB_PATH"
|
||
|
||
- name: Sync deps (incl. dev group — pytest)
|
||
# Workspace-лок tradein-mvp/uv.lock TRACKED (с воркспейса #2137; gitignored
|
||
# только старый backend/uv.lock) → --frozen детерминирован и зеркалит
|
||
# Dockerfile (uv sync --frozen --no-dev). Актуализировано в #2208.
|
||
run: uv sync --frozen
|
||
|
||
- name: Run pytest (tradein-mvp/backend)
|
||
# DESELECT (актуализировано 2026-07-02, #2208): test_search_cache_hit падает
|
||
# ТОЛЬКО в whole-suite ordering (401 vs 200; в изоляции проходит) — global-state
|
||
# leak из другого test-модуля, pre-existing. Второй исторический deselect
|
||
# (test_cian_valuation::test_cache_hit_returns_cached) убран — проходит в полном
|
||
# прогоне (проверено 2026-07-02: 2947 passed / 1 failed). Список обязан
|
||
# совпадать с backend-tests в ci-tradein.yml (pre-merge гейт).
|
||
run: |
|
||
uv run pytest -q \
|
||
--deselect "tests/test_search_api.py::test_search_cache_hit"
|
||
|
||
build-backend:
|
||
runs-on: ubuntu-latest
|
||
needs: [changes, test]
|
||
if: |
|
||
needs.changes.outputs.backend == 'true' ||
|
||
needs.changes.outputs.infra == 'true' ||
|
||
github.event_name == 'workflow_dispatch'
|
||
steps:
|
||
- uses: actions/checkout@v4
|
||
|
||
- name: Login to GHCR (shell-based — docker/login-action@v3 unreliable под Forgejo Actions)
|
||
env:
|
||
GHCR_PAT: ${{ secrets.GHCR_PAT }}
|
||
run: |
|
||
echo "$GHCR_PAT" | docker login ghcr.io -u lekss361 --password-stdin
|
||
|
||
- name: Set up Docker Buildx
|
||
uses: docker/setup-buildx-action@v3
|
||
|
||
- name: Build & push tradein-backend
|
||
uses: docker/build-push-action@v6
|
||
with:
|
||
# Context = tradein-mvp/ (uv workspace root): образу нужен packages/scraper-kit
|
||
# для editable install (#2137). Dockerfile — в backend/.
|
||
context: ./tradein-mvp
|
||
file: ./tradein-mvp/backend/Dockerfile
|
||
push: true
|
||
cache-from: type=registry,ref=${{ env.IMAGE_BACKEND }}:buildcache
|
||
cache-to: type=registry,ref=${{ env.IMAGE_BACKEND }}:buildcache,mode=max
|
||
tags: |
|
||
${{ env.IMAGE_BACKEND }}:latest
|
||
${{ env.IMAGE_BACKEND }}:${{ github.sha }}
|
||
|
||
build-frontend:
|
||
runs-on: ubuntu-latest
|
||
needs: changes
|
||
if: |
|
||
needs.changes.outputs.frontend == 'true' ||
|
||
needs.changes.outputs.infra == 'true' ||
|
||
github.event_name == 'workflow_dispatch'
|
||
steps:
|
||
- uses: actions/checkout@v4
|
||
|
||
- name: Login to GHCR (shell-based — docker/login-action@v3 unreliable под Forgejo Actions)
|
||
env:
|
||
GHCR_PAT: ${{ secrets.GHCR_PAT }}
|
||
run: |
|
||
echo "$GHCR_PAT" | docker login ghcr.io -u lekss361 --password-stdin
|
||
|
||
- name: Set up Docker Buildx
|
||
uses: docker/setup-buildx-action@v3
|
||
|
||
- name: Build & push tradein-frontend
|
||
uses: docker/build-push-action@v6
|
||
with:
|
||
context: ./tradein-mvp/frontend
|
||
push: true
|
||
# basePath=/trade-in baked-in во время build (Next.js)
|
||
# NB (#2205): НЕ передаём NEXT_PUBLIC_ENABLE_PREVIEW — preview-роут
|
||
# (/ui-preview/estimate, статичная demo-фикстура) собирается ТОЛЬКО в
|
||
# dev/CI (a11y/lighthouse). В прод-образе флаг не задан → страница
|
||
# уходит в notFound (404), не индексируется и не краулится.
|
||
build-args: |
|
||
NEXT_PUBLIC_BASE_PATH=/trade-in
|
||
NEXT_PUBLIC_API_BASE_URL=/trade-in
|
||
cache-from: type=registry,ref=${{ env.IMAGE_FRONTEND }}:buildcache
|
||
cache-to: type=registry,ref=${{ env.IMAGE_FRONTEND }}:buildcache,mode=max
|
||
tags: |
|
||
${{ env.IMAGE_FRONTEND }}:latest
|
||
${{ env.IMAGE_FRONTEND }}:${{ github.sha }}
|
||
|
||
build-browser:
|
||
runs-on: ubuntu-latest
|
||
needs: changes
|
||
# tradein-browser несёт camoufox + Firefox-build (#905). Триггерится на
|
||
# изменения browser/ или infra (compose ссылается на образ) или вручную.
|
||
if: |
|
||
needs.changes.outputs.browser == 'true' ||
|
||
needs.changes.outputs.infra == 'true' ||
|
||
github.event_name == 'workflow_dispatch'
|
||
steps:
|
||
- uses: actions/checkout@v4
|
||
|
||
- name: Login to GHCR (shell-based — docker/login-action@v3 unreliable под Forgejo Actions)
|
||
env:
|
||
GHCR_PAT: ${{ secrets.GHCR_PAT }}
|
||
run: |
|
||
echo "$GHCR_PAT" | docker login ghcr.io -u lekss361 --password-stdin
|
||
|
||
- name: Set up Docker Buildx
|
||
uses: docker/setup-buildx-action@v3
|
||
|
||
- name: Build & push tradein-browser
|
||
uses: docker/build-push-action@v6
|
||
with:
|
||
context: ./tradein-mvp/browser
|
||
push: true
|
||
cache-from: type=registry,ref=${{ env.IMAGE_BROWSER }}:buildcache
|
||
cache-to: type=registry,ref=${{ env.IMAGE_BROWSER }}:buildcache,mode=max
|
||
tags: |
|
||
${{ env.IMAGE_BROWSER }}:latest
|
||
${{ env.IMAGE_BROWSER }}:${{ github.sha }}
|
||
|
||
deploy:
|
||
runs-on: ubuntu-latest
|
||
needs: [changes, test, build-backend, build-frontend, build-browser]
|
||
# NB: a failed `test` skips build-backend (result='skipped', not 'failure'),
|
||
# so we must block deploy on test failure explicitly (#666 quality gate).
|
||
if: |
|
||
always() &&
|
||
!cancelled() &&
|
||
needs.test.result != 'failure' &&
|
||
needs.build-backend.result != 'failure' &&
|
||
needs.build-frontend.result != 'failure' &&
|
||
needs.build-browser.result != 'failure'
|
||
steps:
|
||
- name: Deploy via SSH
|
||
uses: appleboy/ssh-action@v1.0.3
|
||
env:
|
||
IMAGE_TAG: latest
|
||
GHCR_PAT: ${{ secrets.GHCR_PAT }}
|
||
# Phase 0: generic infra edits (compose / workflow / deploy/**) must NOT
|
||
# recreate the scraper and SIGKILL a running multi-hour job. Only genuine
|
||
# scraper-code paths (the `scraper` paths-filter already covers
|
||
# app/services/scrapers/**, scrape_pipeline.py, scheduler.py,
|
||
# scheduler_main.py, app/tasks/**) — or a manual workflow_dispatch —
|
||
# should trigger a scraper recreate. (infra term intentionally dropped.)
|
||
SCRAPER_CHANGED: ${{ needs.changes.outputs.scraper == 'true' || github.event_name == 'workflow_dispatch' }}
|
||
GITHUB_SHA: ${{ github.sha }}
|
||
with:
|
||
host: ${{ secrets.DEPLOY_HOST }}
|
||
username: ${{ secrets.DEPLOY_USER }}
|
||
key: ${{ secrets.DEPLOY_SSH_KEY }}
|
||
port: ${{ secrets.DEPLOY_PORT }}
|
||
envs: IMAGE_TAG,GHCR_PAT,SCRAPER_CHANGED,GITHUB_SHA
|
||
script: |
|
||
set -euo pipefail
|
||
cd /opt/gendesign
|
||
|
||
# repo уже clone'ен — origin = Forgejo. Подтягиваем последний main.
|
||
git fetch origin main
|
||
git reset --hard origin/main
|
||
|
||
cd tradein-mvp
|
||
|
||
# .env.runtime создаётся вручную при первом запуске (см. README-АДМИНУ.md).
|
||
# Здесь только подгружаем переменные для docker compose (POSTGRES_PASSWORD).
|
||
if [ ! -f .env.runtime ]; then
|
||
echo "ERROR: /opt/gendesign/tradein-mvp/.env.runtime отсутствует."
|
||
echo "Создай его вручную (см. tradein-mvp/README.md или DEPLOY.md)."
|
||
exit 1
|
||
fi
|
||
chmod 600 .env.runtime
|
||
set -a; source .env.runtime; set +a
|
||
|
||
# External network для Caddy (он в основном gendesign-стеке)
|
||
docker network inspect gendesign_shared >/dev/null 2>&1 \
|
||
|| docker network create gendesign_shared
|
||
|
||
# Re-login to GHCR (PAT может быть rotated)
|
||
echo "$GHCR_PAT" | docker login ghcr.io -u lekss361 --password-stdin
|
||
|
||
export IMAGE_TAG="$IMAGE_TAG"
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml pull
|
||
|
||
# ── Порядок деплоя (issue #2216): МИГРАЦИИ ДО НОВОГО app-кода ──────────
|
||
# Раньше backend/frontend/scraper поднимались ПЕРЕД миграциями: при сбое
|
||
# миграции новый код уже крутился на СТАРОЙ схеме (рассинхрон код↔схема).
|
||
# Теперь строго: (1) только postgres → (2) ждём готовности БД →
|
||
# (3) ВЕСЬ блок миграций → (4) app-контейнеры → (5) Caddy + health.
|
||
# ИНВАРИАНТ ПРИ СБОЕ МИГРАЦИИ: строгий gate делает exit 1 ДО подъёма
|
||
# нового кода → старые контейнеры продолжают работать на СТАРОМ коде +
|
||
# СТАРОЙ схеме (консистентная пара). Это и есть цель: никогда «новый
|
||
# код на старой схеме». Откат = просто ничего не поднимали.
|
||
|
||
# (1) Только БД — чтобы прогнать миграции до нового app-кода.
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml up -d --no-deps postgres
|
||
|
||
# (2) Ждём готовности postgres (pg_isready в цикле, НЕ тупой sleep).
|
||
echo "→ Ожидание готовности postgres..."
|
||
pg_ready=""
|
||
for i in $(seq 1 30); do
|
||
if docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
pg_isready -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein >/dev/null 2>&1; then
|
||
pg_ready="yes"; break
|
||
fi
|
||
sleep 2
|
||
done
|
||
if [ -z "$pg_ready" ]; then
|
||
echo "ERROR: postgres не стал ready за отведённое время — прерываю деплой."
|
||
echo " Новый app-код НЕ поднят; старые контейнеры не тронуты."
|
||
exit 1
|
||
fi
|
||
echo "→ postgres ready."
|
||
|
||
# (3) Применяем SQL миграции (если есть backend/data/sql/*.sql) — ДО app.
|
||
# Postgres init load *.sql из /docker-entrypoint-initdb.d ТОЛЬКО при первом
|
||
# старте volume. Здесь — для повторных миграций после первого запуска.
|
||
# Tracking через _schema_migrations (порт паттерна из deploy.yml):
|
||
# каждый .sql применяется РОВНО один раз, failed migration → exit 1
|
||
# (никаких swallowed errors). cwd = /opt/gendesign/tradein-mvp.
|
||
# NB: цикл берёт только *.sql — data/sql/_manifest_applied.txt (инвариант
|
||
# #2216) glob'ом не подхватывается.
|
||
|
||
# Pre-existence detection ДО CREATE TABLE: если таблицы ещё нет, это
|
||
# первый deploy после внедрения tracking на уже-наполненной prod-БД
|
||
# (миграции 001-076 живут в схеме). 7 из них (002/003/052/053/054/063/072)
|
||
# содержат INSERT-seed БЕЗ ON CONFLICT — повторный прогон под строгим
|
||
# ON_ERROR_STOP упал бы на PK violation. Поэтому: baseline (см. ниже).
|
||
migrations_table_existed=$(docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -tAc \
|
||
"SELECT to_regclass('public._schema_migrations') IS NOT NULL;" | tr -d '[:space:]')
|
||
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -v ON_ERROR_STOP=on -c "
|
||
CREATE TABLE IF NOT EXISTS _schema_migrations (
|
||
filename TEXT PRIMARY KEY,
|
||
applied_at TIMESTAMPTZ NOT NULL DEFAULT NOW()
|
||
);
|
||
"
|
||
|
||
if [ "$migrations_table_existed" != "t" ]; then
|
||
# BASELINE: таблицы не было → seed ВСЕ текущие миграции как applied
|
||
# БЕЗ их прогона. prod уже работает на этой схеме; помечаем её
|
||
# текущим состоянием, чтобы под строгий gate попадали только НОВЫЕ
|
||
# (077+) миграции. INSERT ... ON CONFLICT DO NOTHING — идемпотентно.
|
||
echo "→ _schema_migrations отсутствовала — baseline существующих миграций (без прогона)"
|
||
for sql_file in $(ls -1 backend/data/sql/*.sql 2>/dev/null | sort); do
|
||
fname=$(basename "$sql_file")
|
||
echo " baseline: $fname"
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -v ON_ERROR_STOP=on -c \
|
||
"INSERT INTO _schema_migrations (filename) VALUES ('$fname') ON CONFLICT DO NOTHING;"
|
||
done
|
||
echo "Baseline complete — existing schema marked as applied."
|
||
fi
|
||
|
||
for sql_file in $(ls -1 backend/data/sql/*.sql 2>/dev/null | sort); do
|
||
fname=$(basename "$sql_file")
|
||
applied=$(docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -tAc \
|
||
"SELECT COUNT(*) FROM _schema_migrations WHERE filename='$fname'" | tr -d '[:space:]')
|
||
if [ "$applied" = "0" ]; then
|
||
echo "→ Applying migration: $fname"
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -v ON_ERROR_STOP=on \
|
||
< "$sql_file" \
|
||
|| { echo "FAILED on migration: $fname"; exit 1; }
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -c \
|
||
"INSERT INTO _schema_migrations (filename) VALUES ('$fname') ON CONFLICT DO NOTHING;"
|
||
else
|
||
echo "✓ Already applied: $fname"
|
||
fi
|
||
done
|
||
echo "All migrations applied."
|
||
|
||
# Bootstrap gendesign_reader password from env (post-migration, #976).
|
||
# SQL migration 101_gendesign_reader_role.sql creates role passwordless;
|
||
# password lives only in /opt/gendesign/tradein-mvp/.env.runtime.
|
||
# .env.runtime already sourced above (set -a; source .env.runtime).
|
||
#
|
||
# ⚠️ psql variable substitution (:'pw') НЕ работает внутри -c
|
||
# (переменная доходит до сервера as literal → syntax error at ':').
|
||
# Решение: передаём SQL через stdin (< file), psql интерполирует
|
||
# :'pw' ВНЕ dollar-quoted блока. Детали: ops/db-bootstrap/set_gendesign_reader_password.sql.
|
||
if [ -n "${TRADEIN_READER_PASSWORD:-}" ]; then
|
||
echo "→ Applying gendesign_reader password from env"
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -v ON_ERROR_STOP=on \
|
||
-v "pw=${TRADEIN_READER_PASSWORD}" \
|
||
< ops/db-bootstrap/set_gendesign_reader_password.sql
|
||
else
|
||
echo "WARNING: TRADEIN_READER_PASSWORD not set in .env.runtime — gendesign_reader без пароля, ETL #976 не сможет подключиться"
|
||
fi
|
||
|
||
# (4) Теперь — новый app-код: схема уже актуальна.
|
||
#
|
||
# #1951: раньше scraper пересоздавался ВТОРОЙ отдельной командой `up -d`,
|
||
# уже ПОСЛЕ browser/backend/frontend. Если это происходило посреди
|
||
# in-flight sweep'а (avito/cian/rosreestr full-load), процесс убивался на
|
||
# лету, а осиротевшая scrape_runs-строка сидела status='running' с
|
||
# замёрзшим heartbeat до периодического 6h zombie-reaper'а — false "hang"
|
||
# investigation вместо честного deploy-артефакта (см. cian_full_load #404).
|
||
# Три меры ниже — все devops-only (shell в deploy-скрипте), БЕЗ правок
|
||
# Python в scraper-стартап-пути (scheduler_main.py / scraper-kit /
|
||
# app/services/scrapers — намеренно не тронуты, см. PR-описание):
|
||
#
|
||
# 1) Атомарный recreate — browser/backend/frontend[+scraper] поднимаются
|
||
# ОДНИМ `docker compose up -d` инвокейшном (список сервисов собирается
|
||
# заранее в $SERVICES), а не двумя последовательными командами.
|
||
# 2) Graceful drain — если scraper будет пересоздан, ждём (до 5 мин, poll
|
||
# каждые 10s) пока scrape_runs.status='running' не станет 0, ПРЕЖДЕ чем
|
||
# инициировать recreate. Таймаут не блокирует деплой навсегда —
|
||
# SIGTERM-drain (#1182 Phase 2/3a) + stop_grace_period 120s остаются
|
||
# финальной страховкой для того, что не успело дойти до checkpoint'а.
|
||
# 3) Startup-reap — сразу после recreate помечаем 'cancelled' любые
|
||
# 'running'-строки, чей heartbeat не обновлялся с МОМЕНТА (по часам
|
||
# самой БД — SELECT NOW(), без risk clock-skew раннера), взятого
|
||
# непосредственно перед stop. Такие строки заведомо осиротели ЭТИМ
|
||
# recreate'ом (старый контейнер физически не может писать heartbeat
|
||
# после своей остановки) — не ждём 6h периодического reap_zombies().
|
||
# 'cancelled' (не 'zombie') — честно отличает «убит деплоем» от
|
||
# «непонятно завис» (последнее по-прежнему ловит только 6h-reaper).
|
||
# Порог — по метке времени конкретного recreate, а не по фиксированному
|
||
# интервалу: не зависит от heartbeat-каденса разных источников и не
|
||
# рискует ложно отменить НЕ относящийся к этому recreate run (напр.
|
||
# admin-triggered scrape внутри backend, если backend в этом деплое
|
||
# не пересоздавался — его heartbeat продолжит расти после checkpoint'а).
|
||
# tgbot: тот же backend-образ (rebuild уже покрыт filters.backend —
|
||
# tradein-mvp/backend/** включает app/tgbot_main.py), никакого
|
||
# in-flight state вроде scrape_runs → пересоздаётся безусловно вместе
|
||
# с browser/backend/frontend, отдельного graceful-drain не требует.
|
||
SERVICES="browser backend frontend tgbot"
|
||
SCRAPER_STOP_TS=""
|
||
if [ "${SCRAPER_CHANGED:-true}" = "true" ]; then
|
||
echo "→ scraper paths changed — waiting for in-flight scrape_runs to drain (up to 5 min)"
|
||
drained=""
|
||
for i in $(seq 1 30); do
|
||
# NB: не сливать "psql не ответил" с "0 running" — иначе неудачный
|
||
# прогон психgl молча читается как «слито», и graceful drain
|
||
# становится no-op именно в момент проблем с БД во время деплоя.
|
||
running_count=""
|
||
psql_out="$(docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -tAc \
|
||
"SELECT COUNT(*) FROM scrape_runs WHERE status='running';" 2>/dev/null)" \
|
||
&& running_count="$(printf '%s' "$psql_out" | sed -e 's/^[[:space:]]*//' -e 's/[[:space:]]*$//')"
|
||
if [ -n "$running_count" ] && [ "$running_count" = "0" ]; then
|
||
drained="yes"; break
|
||
fi
|
||
if [ -z "$running_count" ]; then
|
||
echo " ...не удалось прочитать running_count (psql failed) — считаем как «ещё активен», жду 10s (попытка $i/30)"
|
||
else
|
||
echo " ...${running_count} активных run(ов) ещё бегут, жду 10s (попытка $i/30)"
|
||
fi
|
||
sleep 10
|
||
done
|
||
if [ -n "$drained" ]; then
|
||
echo "→ Активных run'ов нет — recreate scraper безопасен."
|
||
else
|
||
echo "WARNING: активные scrape_runs остались после 5 мин ожидания — recreate продолжится."
|
||
echo " SIGTERM-drain (#1182) + stop_grace_period 120s постараются сохранить checkpoint;"
|
||
echo " startup-reap ниже подчистит то, что не успеет."
|
||
fi
|
||
|
||
# Checkpoint по часам БД (не раннера) прямо перед recreate.
|
||
# NB: tr -d '[:space:]' сломан для timestamptz-литерала — убирает и
|
||
# внутренний пробел между датой и временем ("2026-07-04 06:43" →
|
||
# "2026-07-0406:43"), CAST(...AS timestamptz) на такое падает молча
|
||
# (см. WARNING-фолбэк ниже). sed убирает только leading/trailing.
|
||
SCRAPER_STOP_TS="$(docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -tAc "SELECT NOW();" 2>/dev/null | sed -e 's/^[[:space:]]*//' -e 's/[[:space:]]*$//')" || SCRAPER_STOP_TS=""
|
||
echo "→ scraper checkpoint ts (DB clock): ${SCRAPER_STOP_TS:-unknown}"
|
||
|
||
SERVICES="$SERVICES scraper"
|
||
else
|
||
echo "→ scraper unchanged — tradein-scraper left running (подхватит новый image при следующем своём рестарте)"
|
||
fi
|
||
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml up -d --no-deps $SERVICES
|
||
|
||
if [ "${SCRAPER_CHANGED:-true}" = "true" ] && [ -n "${SCRAPER_STOP_TS:-}" ]; then
|
||
echo "→ Startup-reap (#1951): помечаем orphaned running-строки, замороженные recreate'ом"
|
||
# NB: psql `-c` НЕ поддерживает `:'var'`-подстановку (переменная доходит до
|
||
# сервера как литерал → syntax error, см. комментарий выше про TRADEIN_READER_PASSWORD)
|
||
# — поэтому подставляем bash-значением напрямую. SCRAPER_STOP_TS сгенерирован
|
||
# самим Postgres (SELECT NOW()), не внешний ввод → безопасно.
|
||
docker compose -p gendesign-tradein -f docker-compose.prod.yml exec -T postgres \
|
||
psql -U "${TRADEIN_POSTGRES_USER:-tradein}" -d tradein -v ON_ERROR_STOP=on -c "
|
||
UPDATE scrape_runs
|
||
SET status = 'cancelled',
|
||
finished_at = NOW(),
|
||
error = 'deploy #1951: tradein-scraper recreated mid-run (startup-reap, checkpoint ${SCRAPER_STOP_TS})'
|
||
WHERE status = 'running'
|
||
AND heartbeat_at < CAST('${SCRAPER_STOP_TS}' AS timestamptz);
|
||
" || echo "WARNING: startup-reap query failed — orphaned runs (if any) fall back to the 6h zombie reaper"
|
||
fi
|
||
|
||
# (5) `docker restart tradein-backend` БОЛЬШЕ НЕ НУЖЕН (issue #2216).
|
||
# История (PR #493 / deploy 1156): backend раньше поднимался ПЕРЕД
|
||
# миграциями, его lifespan-hook (ensure_fdw_user_mapping) падал с
|
||
# "server gendesign_remote does not exist" — FOREIGN SERVER создаёт
|
||
# 060_postgres_fdw_extension.sql, ещё не прогнанная на тот момент.
|
||
# Требовался рестарт для повторной попытки хука. Теперь backend
|
||
# стартует на шаге (4), т.е. ПОСЛЕ применения миграций (шаг 3) →
|
||
# lifespan-hook гарантированно видит применённые миграции (FOREIGN
|
||
# SERVER gendesign_remote существует) уже с первого старта. Рестарт удалён.
|
||
|
||
# Caddy reload — основной Caddyfile содержит inline tradein routes
|
||
# (см. Caddyfile в корне репы). Reload, чтобы Caddy перечитал DNS
|
||
# tradein-backend / tradein-frontend (они в gendesign_shared network).
|
||
cd /opt/gendesign
|
||
docker compose -p gendesign -f docker-compose.prod.yml exec -T caddy \
|
||
caddy reload --config /etc/caddy/Caddyfile || true
|
||
|
||
# Health check — деплой ВАЛИТСЯ, если backend не поднялся (#2214).
|
||
# Раньше цикл после 30 неуспешных попыток молча продолжал скрипт и
|
||
# доходил до записи success-маркера → мёртвый backend помечался
|
||
# «задеплоено». Теперь: флаг healthy выставляется ТОЛЬКО при HTTP 200
|
||
# на /health; после цикла — hard exit 1, если флаг пуст. exit 1
|
||
# происходит ДО записи .tradein-deployed-sha (маркер пишется последним,
|
||
# ниже) → следующий прогон changes-job возьмёт корректную базу.
|
||
# NB set -e: curl стоит в условии `if` (exempt из errexit) — неуспешная
|
||
# попытка НЕ фатальна, а лишь провоцирует следующую итерацию цикла.
|
||
healthy=""
|
||
for i in $(seq 1 30); do
|
||
if docker compose -p gendesign-tradein -f /opt/gendesign/tradein-mvp/docker-compose.prod.yml \
|
||
exec -T backend curl -fsS http://localhost:8000/health >/dev/null 2>&1; then
|
||
healthy="yes"; break
|
||
fi
|
||
sleep 1
|
||
done
|
||
if [ -z "$healthy" ]; then
|
||
echo "ERROR: backend не ответил на /health за 30s — деплой FAILED"
|
||
exit 1
|
||
fi
|
||
echo "→ backend healthy на /health."
|
||
|
||
# Frontend health check — раньше проверялся ТОЛЬКО backend: сломанный
|
||
# фронт (500/белый экран после build, или контейнер упавший на старте)
|
||
# помечался успешным деплоем, отката не происходило (см. заголовок
|
||
# секции выше). Проверяем изнутри backend-контейнера — он в одной
|
||
# tradein-net сети с frontend, и curl там уже есть (в отличие от
|
||
# node:alpine рантайм-образа frontend, где нет ни curl, ни wget —
|
||
# добавлять их туда ради healthcheck не стали, backend достаточно).
|
||
# Путь ОБЯЗАН включать /trade-in: basePath запечён в prod-образ на
|
||
# build (NEXT_PUBLIC_BASE_PATH=/trade-in, см. build-frontend job) —
|
||
# голый "/" внутри Next вернёт 404, а не что-то живое. "/trade-in/"
|
||
# редиректит (307) на /trade-in/v2 — curl -f не считает 3xx ошибкой,
|
||
# так что это чистая liveness-проверка (процесс жив и роутит),
|
||
# без привязки к тому, что именно сейчас показывает витрина.
|
||
frontend_healthy=""
|
||
for i in $(seq 1 30); do
|
||
if docker compose -p gendesign-tradein -f /opt/gendesign/tradein-mvp/docker-compose.prod.yml \
|
||
exec -T backend curl -fsS http://frontend:3000/trade-in/ >/dev/null 2>&1; then
|
||
frontend_healthy="yes"; break
|
||
fi
|
||
sleep 1
|
||
done
|
||
if [ -z "$frontend_healthy" ]; then
|
||
echo "ERROR: frontend не ответил на /trade-in/ за 30s — деплой FAILED"
|
||
exit 1
|
||
fi
|
||
echo "→ frontend healthy на /trade-in/."
|
||
|
||
# Browser health check — /health в browser/server.py всегда 200, пока
|
||
# жив сам aiohttp-процесс (см. health_handler: "compose НЕ имеет
|
||
# healthcheck на browser, только depends_on: service_started" — до
|
||
# этой правки browser вообще не проверялся никаким деплой-шагом).
|
||
# Это liveness процесса, НЕ readiness camoufox-инстансов конкретных
|
||
# источников (те поднимаются лениво на первый /fetch) — но упавший
|
||
# при старте контейнер (например, битый образ) здесь ловится сразу,
|
||
# а не молча остаётся мёртвым до первого реального /fetch scraper'ом.
|
||
browser_healthy=""
|
||
for i in $(seq 1 30); do
|
||
if docker compose -p gendesign-tradein -f /opt/gendesign/tradein-mvp/docker-compose.prod.yml \
|
||
exec -T backend curl -fsS http://browser:3000/health >/dev/null 2>&1; then
|
||
browser_healthy="yes"; break
|
||
fi
|
||
sleep 1
|
||
done
|
||
if [ -z "$browser_healthy" ]; then
|
||
echo "ERROR: browser не ответил на /health за 30s — деплой FAILED"
|
||
exit 1
|
||
fi
|
||
echo "→ browser healthy на /health."
|
||
|
||
# tgbot/scraper — те же backend-образ и Dockerfile, но bare python-
|
||
# процессы БЕЗ ASGI/HTTP-сервера (см. комментарии в tgbot_main.py /
|
||
# scheduler_main.py: "здесь нет ASGI-приложения"), поэтому HTTP-
|
||
# healthcheck для них невозможен в принципе. Liveness проверяем по
|
||
# состоянию контейнера через docker inspect: упавший на старте
|
||
# процесс (например, ImportError в новом коде) restart-policy
|
||
# unless-stopped уводит в бесконечный crash-loop — раньше это НИКАК
|
||
# не блокировало деплой (маркер писался, даже если tgbot/scraper
|
||
# были мертвы). Двойная проверка (running → пауза → снова running)
|
||
# снижает шанс поймать контейнер ровно в момент between-restarts
|
||
# промежуточного "running" внутри crash-loop.
|
||
# tgbot пересоздаётся на КАЖДОМ деплое (безусловно в $SERVICES);
|
||
# scraper — только когда SCRAPER_CHANGED (см. блок выше) — поэтому
|
||
# проверяем только то, что реально входит в текущий $SERVICES.
|
||
for svc in tgbot scraper; do
|
||
case " $SERVICES " in
|
||
*" $svc "*) ;;
|
||
*) continue ;;
|
||
esac
|
||
container_ok=""
|
||
state="unknown"
|
||
for i in $(seq 1 15); do
|
||
state=$(docker inspect -f '{{.State.Status}}' "tradein-$svc" 2>/dev/null || echo "unknown")
|
||
if [ "$state" = "running" ]; then
|
||
container_ok="yes"; break
|
||
fi
|
||
sleep 1
|
||
done
|
||
if [ -n "$container_ok" ]; then
|
||
sleep 3
|
||
state=$(docker inspect -f '{{.State.Status}}' "tradein-$svc" 2>/dev/null || echo "unknown")
|
||
if [ "$state" != "running" ]; then
|
||
container_ok=""
|
||
fi
|
||
fi
|
||
if [ -z "$container_ok" ]; then
|
||
echo "ERROR: tradein-$svc не в стабильном состоянии running (state='$state') — деплой FAILED"
|
||
exit 1
|
||
fi
|
||
echo "→ tradein-$svc running."
|
||
done
|
||
|
||
# Cleanup старых образов
|
||
for repo in ghcr.io/lekss361/gendesign-tradein-backend \
|
||
ghcr.io/lekss361/gendesign-tradein-frontend; do
|
||
docker images "$repo" --format '{{.Repository}}:{{.Tag}}' \
|
||
| grep -v ':latest$' | tail -n +3 \
|
||
| xargs -r docker rmi 2>/dev/null || true
|
||
done
|
||
docker image prune -af || true
|
||
|
||
# Mark this SHA as successfully deployed.
|
||
# Written LAST — only after all of the above completed without error.
|
||
# The changes job reads this file on the next run to compute cumulative diff.
|
||
echo "$GITHUB_SHA" > /opt/gendesign/.tradein-deployed-sha
|
||
echo "→ Deployed SHA marker updated: $GITHUB_SHA"
|