Доверие встроено в архитектуру
Границы автономности, подтверждение человеком, журнал действий и безопасный handoff — часть продукта, а не документа после запуска.
Автономность имеет границы
Уровень контроля определяется риском действия, качеством доказательств и возможностью безопасного отката.
- 01Сигнал и контекст→
- 02Доказательная база→
- 03Класс риска→
- 04Действие или approval
Разрешено агентам
Искать, сопоставлять, готовить черновики и предлагать следующее действие.
Нужен человек
Финансовые, юридические и необратимые действия проходят approval gate.
Полный журнал
Основание, входные данные, решение и результат сохраняются для аудита.
Защита данных
Чувствительные поля минимизируются, маскируются или исключаются до передачи в агентный контур.
Проверка качества
Сценарии тестируются на эталонных наборах, исключениях и понятных критериях остановки.
Безопасный handoff
Низкая уверенность и исключения передаются человеку вместе с контекстом и основанием.
При проектировании используем NIST AI RMF и GenAI Profile, ISO/IEC 42001 и OWASP Top 10 for LLM Applications как ориентиры контроля. Упоминание не означает сертификацию.