Doc 07 · Guardrails
Risk / HSE / Governance
Реестр ключевых рисков, митигации, HSE-by-design и AI governance. Здесь логика построена не вокруг “списка опасностей”, а вокруг инженерной управляемости: что может сломать модель, как это блокируется и какие approval-гейты обязательны.
Key risks
5
основных класса риска в модели
Mitigation mode
Dual control
AI не обходит инженерные safety-барьеры
Governance
Model committee
Ops + AI + HSE совместно принимают решения
Traceability
Data -> Action
обязательная сквозная трассируемость
Карта Рисков
Risk registryМитигации
Countermeasures- Data contracts и автоматические проверки качества
- Сегментация сети, SOC и регулярные pentest
- Explainable AI, обучение инженеров и dual-control
- Локализация данных и гибридные deployment-модели
- Портируемая архитектура и стандартные интерфейсы
HSE-By-Design И AI Governance
Safety barriersH1
Permit to Work
Digital Permit to Work обязателен для полевых задач.
Safety barrier всегда выше automation convenience.
H2
Human approval
Критичные решения принимаются только через human approval.
AI не обходит safety-гейты.
G1
Model committee
Ops + AI + HSE совместно управляют модельными релизами.
Версионирование и policy по автономным действиям обязательны.
G2
Traceability
Данные -> модель -> рекомендация -> действие -> результат.
Каждое действие должно быть объяснимым и аудируемым.