Files
mdm-ordinis/docs/ops
Zimin A.N. bcedddef71 docs(ops): SLO/SLI definitions + error budget framework
7 SLI с конкретными порогами и justification:
- read-api availability (99.5% v1 target)
- read-api p99 latency < 500ms target / 1s alert
- writer 5xx error rate < 1%
- outbox publish lag (≤ 50 normal, alert > 100)
- outbox DLQ size = 0 strict
- outbox publish error rate ~0
- postgres availability (99.9% v1 target)

Error budget framework для 99.5% уровня (~216 мин/мес downtime).
Burn rate alerts — TODO.

Notification routing — TODO (Slack/Telegram per severity).

Что не покрывает v1: Grafana dashboards, distributed tracing, log
aggregation, capacity planning. См. observability stack roadmap для v2.
2026-05-05 20:32:37 +03:00
..

Ordinis НСИ ЦУОД — Operator Runbook

Карточки процедур для on-call инженера. Каждая карточка self-contained: можно открыть в момент инцидента и пройти по шагам без необходимости понимать всю архитектуру.

Indexed by symptom

Симптом Карточка
Spring Boot pod'ы залипли в Init:0/1 после reboot vault-unseal.md
Kafka pod не Running, либо vault-agent не достукивается kafka-restart.md
Метрика ordinis_outbox_dlq_size > 0 outbox-dlq.md
Pod в CrashLoopBackOff с liquibase ошибкой в логах db-migrations.md
API возвращает 401 на любые запросы См. §1 ниже
API возвращает 500 на конкретный endpoint См. §2 ниже
Admin UI не загружается (502/503) См. §3 ниже

1. 401 Unauthorized

Сейчас на staging ORDINIS_AUTH_REQUIRED=true. Anonymous = 401. Проверить:

# 1. Header передан?
curl -v -H "Authorization: Bearer $TOKEN" ... | grep -i authorization

# 2. JWT валиден?
echo $TOKEN | cut -d. -f2 | base64 -d 2>/dev/null | jq
# проверить exp, iss, realm_access.roles

# 3. Issuer правильный?
# должен быть https://auth.nstart.space/realms/nstart

Если JWT прошёл проверку, но 401 — backend логи:

kubectl logs -n ordinis-staging deploy/ordinis-app -c app --tail=50 \
  | grep -iE "jwt|invalid_token|expired"

Типичные причины:

  • Invalid signature — Keycloak ротировал ключи, но бэкенд кэширует старый. Restart pod.
  • Token expired — refresh token не сработал, юзер должен перелогиниться.
  • Issuer mismatch — JWT issued другим Keycloak realm'ом.

2. 500 Internal Server Error на endpoint

# Найти trace_id из ответа
curl -i ... | grep -i traceid
# либо UI показывает traceId в alert

# Найти полный stack trace
kubectl logs -n ordinis-staging deploy/ordinis-app -c app --tail=200 \
  | grep "<traceId>"

Типичные причины (в наших коммитах):

  • could not determine data type of parameter $N — Hibernate JPQL с IS NULL на nullable timestamp. Решение — sentinel value (см. fix audit search).
  • DataIntegrityViolationException dictionary_records_no_overlap — bitemporal exclusion constraint, период пересекается. Friendly 409 уже маппится — если 500 значит код-путь неуспел поймать.
  • JsonMappingException — payload поломан (фронт передал stale schema).

3. Admin UI не загружается / 502 / 503

kubectl get pods -n ordinis-staging | grep admin-ui
Status Причина
ImagePullBackOff Тег image не существует в registry. Проверь kubectl describe. Восстановить:
kubectl set image deployment/ordinis-admin-ui -n ordinis-staging ui=repo.nstart.cloud/terravault/ordinis-admin-ui:main
CrashLoopBackOff nginx config invalid либо resolver недоступен. См. logs.
Running 1/1, но 502 Upstream (writer/read-api) сам в дауне. Проверь те pod'ы.

4. Что-то ещё — где смотреть

  • Pod state: kubectl get pods -n ordinis-staging
  • Recent events: kubectl get events -n ordinis-staging --sort-by='.lastTimestamp' | tail -20
  • Resource usage: kubectl top pod -n ordinis-staging
  • Logs: kubectl logs -n ordinis-staging deploy/<name> -c app --tail=100
  • Liveness/readiness probes: kubectl describe pod -n ordinis-staging <pod>
  • Ingress: kubectl get ingress -n ordinis-staging
  • Helm release: helm history ordinis -n ordinis-staging

5. Эскалация

30 мин downtime, не понятно куда копать → tech lead (zimin.an@nstart.space).

6. Связанные ресурсы