Москва: пред-геокод Авито, Яндекс третьей площадкой, продукт отвечает по региону 77 #3440
1 changed files with 47 additions and 0 deletions
|
|
@ -34,6 +34,53 @@
|
||||||
|
|
||||||
BEGIN;
|
BEGIN;
|
||||||
|
|
||||||
|
-- Схема и две первые таблицы заводились на проде РУКАМИ 08.09, мимо линейки
|
||||||
|
-- миграций: сбор сырья стартовал раньше, чем модель данных, и msk_raw сознательно
|
||||||
|
-- жила вне приложения (её никто в проде не читает, переезжает одним
|
||||||
|
-- `pg_dump -n msk_raw`). Из-за этого миграция роняла CI на чистой базе —
|
||||||
|
-- «schema "msk_raw" does not exist», а до тестов дело не доходило вовсе.
|
||||||
|
--
|
||||||
|
-- Поэтому DDL продовских объектов повторён здесь идемпотентно: на проде это
|
||||||
|
-- no-op (всё уже есть), на чистой базе — единственное место, где msk_raw
|
||||||
|
-- появляется. Определения сняты с прода `pg_dump -s -n msk_raw`, чтобы CI и
|
||||||
|
-- прод не разъехались молча; `batches` нужна и по существу — на неё ссылается
|
||||||
|
-- внешний ключ всех трёх таблиц ниже.
|
||||||
|
CREATE SCHEMA IF NOT EXISTS msk_raw;
|
||||||
|
|
||||||
|
CREATE TABLE IF NOT EXISTS msk_raw.batches (
|
||||||
|
batch_id text PRIMARY KEY,
|
||||||
|
kind text NOT NULL DEFAULT 'serp',
|
||||||
|
query text,
|
||||||
|
started_at timestamptz,
|
||||||
|
finished_at timestamptz,
|
||||||
|
rows_sent integer,
|
||||||
|
rows_new integer,
|
||||||
|
notes text,
|
||||||
|
uploaded_at timestamptz NOT NULL DEFAULT NOW()
|
||||||
|
);
|
||||||
|
|
||||||
|
CREATE TABLE IF NOT EXISTS msk_raw.avito_cards (
|
||||||
|
id bigserial PRIMARY KEY,
|
||||||
|
source_id bigint NOT NULL,
|
||||||
|
observed_at timestamptz NOT NULL,
|
||||||
|
batch_id text NOT NULL REFERENCES msk_raw.batches(batch_id),
|
||||||
|
kind text NOT NULL DEFAULT 'serp',
|
||||||
|
url text,
|
||||||
|
price numeric,
|
||||||
|
payload jsonb NOT NULL,
|
||||||
|
UNIQUE (source_id, batch_id, kind)
|
||||||
|
);
|
||||||
|
CREATE INDEX IF NOT EXISTS avito_cards_observed_idx
|
||||||
|
ON msk_raw.avito_cards (observed_at);
|
||||||
|
CREATE INDEX IF NOT EXISTS avito_cards_payload_gin
|
||||||
|
ON msk_raw.avito_cards USING gin (payload jsonb_path_ops);
|
||||||
|
CREATE INDEX IF NOT EXISTS avito_cards_source_observed_idx
|
||||||
|
ON msk_raw.avito_cards (source_id, observed_at DESC);
|
||||||
|
|
||||||
|
CREATE OR REPLACE VIEW msk_raw.avito_latest AS
|
||||||
|
SELECT DISTINCT ON (source_id) id, source_id, observed_at, batch_id, kind, url, price, payload
|
||||||
|
FROM msk_raw.avito_cards ORDER BY source_id, observed_at DESC;
|
||||||
|
|
||||||
CREATE TABLE IF NOT EXISTS msk_raw.cian_cards (
|
CREATE TABLE IF NOT EXISTS msk_raw.cian_cards (
|
||||||
id bigserial PRIMARY KEY,
|
id bigserial PRIMARY KEY,
|
||||||
source_id bigint NOT NULL,
|
source_id bigint NOT NULL,
|
||||||
|
|
|
||||||
Loading…
Add table
Reference in a new issue