[site-finder] EPIC 16: LLM-инфраструктура (провайдер, промпты, секреты, cost/guardrails) #960

New issue

Closed

opened 2026-06-02 16:32:21 +00:00 by Light1YT · 1 comment

Light1YT commented

2026-06-02 16:32:21 +00:00

Owner

Часть #944 (Site Finder v2 / ТЗ ГенГеныч).

Статус: NEW · Приоритет: P1 · ТЗ §12.4, 7.4

Scope

Базовый LLM-клиент (выбор провайдера — RU-hosted GigaChat/YandexGPT vs внешний; data-residency решение §19), шаблоны промптов, ключи через secrets, rate/cost guardrails, tool-calling harness. Пререквизит EPIC12 и 13.

Зависимости: блокирует 12,13
Уже есть (EXTEND): новый services/llm/

**Часть #944 (Site Finder v2 / ТЗ ГенГеныч).** Статус: **NEW** · Приоритет: **P1** · ТЗ §12.4, 7.4 ## Scope Базовый LLM-клиент (выбор провайдера — RU-hosted GigaChat/YandexGPT vs внешний; data-residency решение §19), шаблоны промптов, ключи через secrets, rate/cost guardrails, tool-calling harness. Пререквизит EPIC12 и 13. **Зависимости:** блокирует 12,13 **Уже есть (EXTEND):** новый services/llm/

Light1YT added the

GG-форсайт

site-finder

labels 2026-06-02 16:32:21 +00:00

Light1YT referenced this issue

2026-06-02 16:34:02 +00:00

🔮 [EPIC][site-finder] Site Finder v2 — ИИ-прогноз продуктовой стратегии (ТЗ ГенГеныч) #944

lekss361 added this to the Site Finder v2 — Foresight (GG-форсайт) milestone 2026-06-02 19:03:05 +00:00

bot-backend referenced this issue from a commit

2026-06-08 10:44:19 +00:00

feat(llm): foundational LLM infra package with §19 redaction + deterministic fallback (#960)

bot-backend referenced this issue

2026-06-08 10:44:44 +00:00

feat(llm): foundational LLM infra package + §19 redaction (#960) #1168

bot-backend referenced this issue from a commit

2026-06-09 08:51:45 +00:00

chore(deploy): wire OPENAI_API_KEY + LLM_ENABLED into prod env for LLM chat

bot-backend referenced this issue

2026-06-09 08:52:36 +00:00

chore(deploy): wire OPENAI_API_KEY + LLM_ENABLED for LLM chat activation (#960) #1178

bot-backend commented

2026-06-13 11:00:55 +00:00

Collaborator

EPIC 16 (LLM-инфраструктура) реализован и активен в проде (qa-tester, 2026-06-13):

services/llm/{provider,client,prompts,redaction}.py: LLMProvider ABC + OpenAIProvider + явный RU-шов (GigaChat/YandexGPT placeholder), redaction-слой (§19), config с cost-cap/retries/timeout.
Q2 (data-residency) решён командой де-факто: прод на LLM_ENABLED=true + OPENAI_API_KEY (внешний OpenAI). Секрет доставляется через runtime-env, НЕ в git (проверено: 0 tracked, history clean, .gitignore покрывает .env).
tool-calling harness используется чатом (#957), llm_used=True в live-ответе.

Инфраструктура построена и работает. Закрываю. Если потребуется RU-hosted провайдер по §19 — GigaChatProvider поверх готового LLMProvider ABC, отдельной задачей.

EPIC 16 (LLM-инфраструктура) реализован и **активен в проде** (qa-tester, 2026-06-13): - `services/llm/{provider,client,prompts,redaction}.py`: `LLMProvider` ABC + `OpenAIProvider` + явный RU-шов (GigaChat/YandexGPT placeholder), redaction-слой (§19), config с cost-cap/retries/timeout. - **Q2 (data-residency) решён командой де-факто**: прод на `LLM_ENABLED=true` + `OPENAI_API_KEY` (внешний OpenAI). Секрет доставляется через runtime-env, НЕ в git (проверено: 0 tracked, history clean, .gitignore покрывает .env). - tool-calling harness используется чатом (#957), llm_used=True в live-ответе. Инфраструктура построена и работает. Закрываю. Если потребуется RU-hosted провайдер по §19 — `GigaChatProvider` поверх готового `LLMProvider` ABC, отдельной задачей.

bot-backend closed this issue

2026-06-13 11:00:56 +00:00

bot-backend referenced this issue

2026-06-13 11:34:43 +00:00

🔮 [EPIC][site-finder] Site Finder v2 — ИИ-прогноз продуктовой стратегии (ТЗ ГенГеныч) #944

bot-backend referenced this issue

2026-06-13 12:31:21 +00:00

🔮 [EPIC][site-finder] Site Finder v2 — ИИ-прогноз продуктовой стратегии (ТЗ ГенГеныч) #944