lekss361/gendesign

Fork 0

[HIGH] tradein: статус «забанен» на инфраошибке — из-за него сбор Авито замедлили вдвое по ложному основанию #2686

New issue

Closed

opened 2026-08-05 22:47:05 +00:00 by bot-backend · 4 comments

bot-backend commented

2026-08-05 22:47:05 +00:00

Collaborator

Найдено при разборе полного обхода Авито (эпик #2674, PR #2685). Это не «ещё один статус, который врёт» — этот конкретный уже стоил нам решения.

Что случилось

Все пять прогонов avito_full_load_exhaustive со статусом «забанен» несут один и тот же текст ошибки: 503 от нашего собственного браузерного сайдкара, у которого не поднялся камуфокс. Площадка тут ни при чём — в те же 45 дней другие задачи Авито отработали успешно 20, 21 и 63 раза.

Корень был в мёртвом прокси-аккаунте, прописанном в окружении сайдкара (#2613): полный обход строил свой браузерный клиент мимо пула и падал именно в этот запасной путь. Починено не этой задачей — #2637 подключил пул, #2616 снёс мёртвые переменные.

Чего это стоило

Миграция 206 прочитала статус «забанен» буквально — как «площадка распознаёт паттерн полного обхода» — и на этом основании замедлила задачу более чем вдвое и перевела на недельный такт.

Основание было ложным. Мы деградировали собственный сбор, потому что статус сказал «нас забанили», а на самом деле у нас не стартовал браузер.

Побочно это же породило вторую находку: недельный такт разошёлся с двухдневным окном ретроспективы, и прогон стал видеть трое суток из семи (чинится в #2685).

Почему статус врёт

Инфраструктурный отказ — 503 от своего же сервиса — попадает в ту же категорию, что блокировка площадкой. Различить их снаружи нельзя, а решения они требуют противоположных: на блокировку правильно замедлиться и сменить адрес, на упавший сайдкар — перезапустить сайдкар и не трогать темп.

Плюс это дало третий эффект, чисто кодовый: 503 классифицируется как мягкий бан и уходит в бюджет ротации адреса, а ротация снята — значит условие повтора никогда не истинно, а бюджет обычных повторов лежал в недостижимой ветке. Ноль повторов на самую частую ошибку: один блип съедал бакет, четыре подряд — весь прогон. Это чинится в #2685.

Что предлагается

Развести «нас заблокировала площадка» и «у нас упала инфраструктура» на уровне статуса. Набор статусов ограничен проверкой в схеме, поэтому нужен либо новый статус, либо явное поле причины.

Важная деталь, из-за которой это не тривиально: пометка «забанен», в отличие от «упал», сохраняет чекпоинт пройденных бакетов — то есть у неё есть побочная функция, которую нельзя потерять при разведении.

Почему это HIGH

Третий случай за сутки, когда врущий статус приводит к неверному решению — но первый, где решение уже принято и живёт в проде больше недели. Пока статусы смешивают наши сбои с чужими, любой вывод вида «площадка нас палит» надо перепроверять вручную, а это ровно то, чего от статуса ждут.

Связано: #2674, #2685, #2657, #2670, #2613, #2616, #2637, миграция 206.

Найдено при разборе полного обхода Авито (эпик #2674, PR #2685). Это не «ещё один статус, который врёт» — этот конкретный уже стоил нам решения. ## Что случилось Все пять прогонов `avito_full_load_exhaustive` со статусом «забанен» несут один и тот же текст ошибки: **503 от нашего собственного браузерного сайдкара**, у которого не поднялся камуфокс. Площадка тут ни при чём — в те же 45 дней другие задачи Авито отработали успешно 20, 21 и 63 раза. Корень был в мёртвом прокси-аккаунте, прописанном в окружении сайдкара (#2613): полный обход строил свой браузерный клиент **мимо пула** и падал именно в этот запасной путь. Починено не этой задачей — #2637 подключил пул, #2616 снёс мёртвые переменные. ## Чего это стоило Миграция 206 прочитала статус «забанен» буквально — как «площадка распознаёт паттерн полного обхода» — и на этом основании **замедлила задачу более чем вдвое и перевела на недельный такт**. **Основание было ложным.** Мы деградировали собственный сбор, потому что статус сказал «нас забанили», а на самом деле у нас не стартовал браузер. Побочно это же породило вторую находку: недельный такт разошёлся с двухдневным окном ретроспективы, и прогон стал видеть трое суток из семи (чинится в #2685). ## Почему статус врёт Инфраструктурный отказ — 503 от своего же сервиса — попадает в ту же категорию, что блокировка площадкой. Различить их снаружи нельзя, а решения они требуют противоположных: на блокировку правильно замедлиться и сменить адрес, на упавший сайдкар — перезапустить сайдкар и **не** трогать темп. Плюс это дало третий эффект, чисто кодовый: 503 классифицируется как мягкий бан и уходит в бюджет ротации адреса, а ротация снята — значит условие повтора никогда не истинно, а бюджет обычных повторов лежал в недостижимой ветке. **Ноль повторов на самую частую ошибку**: один блип съедал бакет, четыре подряд — весь прогон. Это чинится в #2685. ## Что предлагается Развести «нас заблокировала площадка» и «у нас упала инфраструктура» на уровне статуса. Набор статусов ограничен проверкой в схеме, поэтому нужен либо новый статус, либо явное поле причины. Важная деталь, из-за которой это не тривиально: пометка «забанен», в отличие от «упал», **сохраняет чекпоинт пройденных бакетов** — то есть у неё есть побочная функция, которую нельзя потерять при разведении. ## Почему это HIGH Третий случай за сутки, когда врущий статус приводит к неверному решению — но первый, где решение уже **принято и живёт в проде** больше недели. Пока статусы смешивают наши сбои с чужими, любой вывод вида «площадка нас палит» надо перепроверять вручную, а это ровно то, чего от статуса ждут. Связано: #2674, #2685, #2657, #2670, #2613, #2616, #2637, миграция 206.

bot-backend commented

2026-08-05 23:03:53 +00:00

Author

Collaborator

Уточнения после ревью PR #2685 — часть цифр в тексте выше поправлена, а диагноз стал сильнее.

Диагноз подтверждён и расширен

Я написал «все пять прогонов полного обхода несут текст про сайдкар». Замер шире: за 45 суток из 96 забаненных прогонов Авито 90 несут тот же текст, а настоящая блокировка площадкой — ровно 4.

То есть проблема не в одной задаче: тот же сайдкар убил 21 прогон городского свипа, 21 по Нижнему Тагилу и 23 по новостройкам. Мы почти два месяца считали, что нас банит Авито, а падал наш собственный браузер.

Фикс повторов стоит в общей воронке всех браузерных обходов Авито, поэтому чинит их все разом.

Поправка к числу

В тексте выше и в комментарии миграции стояло «на возрасте ровно 7 суток пик в 51% наблюдений». Верно 32.6% (1212 из 3714); 51% получается только если ограничить знаменатель возрастами 0–13.

И объяснение механизма было неверным

Я написал, что у Авито недельный авто-подъём объявлений. На самом деле это квантование относительных меток нашим же парсером: «неделю назад» превращается ровно в минус семь суток, «две недели» — в минус четырнадцать.

Доказательство — плато: при настоящем недельном подъёме возрасты 8–13 были бы заполнены непрерывно, а там три лота из 2174. Плюс пик привязан к дате наблюдения, а не ко дню недели.

Практический вывод от этого крепнет: окно в шесть суток резало бы не «по пику распределения», а по границе квантования — весь бакет «неделю назад», внутри которого реальный возраст от 7 до 13 суток, пропадал бы целиком. Замер подтверждает: охват 446 лотов против 1275.

Предупреждение на будущее — важное именно для этой задачи

Эта задача доказывает, что такт замедлили по ложному основанию. Значит вероятный следующий шаг — вернуть ежедневный такт. Если это сделать, окно останется семисуточным: ни миграция, ни планировщик его не сужают.

Получится ежедневный прогон с семисуточной глубиной — восьмикратная нагрузка каждый день вместо недельной.

Возвращаете такт — возвращайте и окно. Предупреждение вписывается в комментарий миграции, но пусть будет и здесь: тот, кто откатит 206, скорее всего придёт сначала сюда.

Уточнения после ревью PR #2685 — часть цифр в тексте выше поправлена, а диагноз стал **сильнее**. ## Диагноз подтверждён и расширен Я написал «все пять прогонов полного обхода несут текст про сайдкар». Замер шире: за 45 суток из **96** забаненных прогонов Авито **90 несут тот же текст**, а настоящая блокировка площадкой — ровно **4**. То есть проблема не в одной задаче: тот же сайдкар убил 21 прогон городского свипа, 21 по Нижнему Тагилу и 23 по новостройкам. **Мы почти два месяца считали, что нас банит Авито, а падал наш собственный браузер.** Фикс повторов стоит в общей воронке всех браузерных обходов Авито, поэтому чинит их все разом. ## Поправка к числу В тексте выше и в комментарии миграции стояло «на возрасте ровно 7 суток пик в 51% наблюдений». Верно **32.6%** (1212 из 3714); 51% получается только если ограничить знаменатель возрастами 0–13. ## И объяснение механизма было неверным Я написал, что у Авито недельный авто-подъём объявлений. На самом деле это **квантование относительных меток нашим же парсером**: «неделю назад» превращается ровно в минус семь суток, «две недели» — в минус четырнадцать. Доказательство — плато: при настоящем недельном подъёме возрасты 8–13 были бы заполнены непрерывно, а там три лота из 2174. Плюс пик привязан к дате наблюдения, а не ко дню недели. Практический вывод от этого **крепнет**: окно в шесть суток резало бы не «по пику распределения», а **по границе квантования** — весь бакет «неделю назад», внутри которого реальный возраст от 7 до 13 суток, пропадал бы целиком. Замер подтверждает: охват 446 лотов против 1275. ## Предупреждение на будущее — важное именно для этой задачи Эта задача доказывает, что такт замедлили по ложному основанию. Значит вероятный следующий шаг — **вернуть ежедневный такт**. Если это сделать, окно останется семисуточным: ни миграция, ни планировщик его не сужают. Получится ежедневный прогон с семисуточной глубиной — восьмикратная нагрузка каждый день вместо недельной. **Возвращаете такт — возвращайте и окно.** Предупреждение вписывается в комментарий миграции, но пусть будет и здесь: тот, кто откатит 206, скорее всего придёт сначала сюда.

Что на самом деле произошло	Прогонов	Период
Наш сайдкар (`browser unavailable (proxy may be down)`)	92	04.07 – 03.08
Площадка (`Avito SERP firewall … IP banned`)	9	16.06 – 03.08
HTTP 429 / 403 / пустая выдача	13	30.05 – 23.06

Rows
Columns

[HIGH] tradein: статус «забанен» на инфраошибке — из-за него сбор Авито замедлили вдвое по ложному основанию #2686

Что случилось

Чего это стоило

Почему статус врёт

Что предлагается

Почему это HIGH

Диагноз подтверждён и расширен

Поправка к числу

И объяснение механизма было неверным

Предупреждение на будущее — важное именно для этой задачи

Замер на всей истории, а не на пяти прогонах

Разделитель уже лежит в данных

Причина, судя по всему, устранена — а последствие решения живёт

Что важно не сломать

Поправка к моему замеру выше: «баны прекратились» — неверно

Что было верно, а что нет

Почему это меняет вход в #2687

ЗАКРЫВАЮ: разведение живёт на проде, чекпоинт у обоих исходов сохранён