Модель управления ИИ
Назначение
Документ описывает, как компания управляет инициативами с применением ИИ так, чтобы они приносили эффект, не создавали неконтролируемый риск и проходили понятный путь от идеи до эксплуатации.
Модель управления ИИ встроена в конвейер: проверки данных, безопасности, архитектуры, рисков и эффекта выполняются не отдельно от процесса, а в контрольных точках инициативы.
Основные идеи
- Управление начинается на этапе идеи. Если безопасность, данные и архитектура подключаются только перед запуском, конвейер превращается в фабрику поздних блокеров.
- Риск должен влиять на маршрут. Простая автоматизация и модель для клиентских решений требуют разного уровня контроля.
- Не всё решается комитетом. Простые проверки должны быть выражены правилами платформы, а спорные решения — выноситься на ответственных.
- След решения важен не меньше самого решения. Для аудита нужно понимать, кто допустил инициативу дальше, на основании каких данных и с каким риском.
- Эффект — часть управления. Инициатива без подтверждённого результата не должна считаться успешной только потому, что решение запущено.
Как это работает
Модель управления ИИ состоит из пяти контуров:
| Контур | Что контролирует | Где проявляется в конвейере |
|---|---|---|
| Решения | кто и почему двигает инициативу дальше | контрольные точки, история переходов, причины отклонения |
| Данные | источники, качество, доступ, конфиденциальность | оценка, деливери, заключения владельцев данных |
| Риски ИИ | качество результата, надёжность, воспроизводимость, человек в контуре | деливери, ожидание эффекта, поддержка |
| Архитектура | интеграции, эксплуатация, отказоустойчивость, наблюдаемость | деливери и запуск |
| Эффект | исходные показатели, методика расчёта, подтверждение результата | оценка и ожидание эффекта |
Связанные разделы: рамки принятия решений, управление данными, риски ИИ, архитектурное управление, подтверждение эффекта.
Классы инициатив по уровню контроля
Не все инициативы требуют одинаковой тяжести управления.
| Класс | Пример | Минимальный контроль |
|---|---|---|
| Низкий риск | внутренний помощник по поиску знаний без чувствительных данных | владелец, продукт, базовая проверка данных и эффекта |
| Средний риск | автоматизация внутреннего процесса с персональными данными | проверка доступа, безопасность, архитектура, план поддержки |
| Высокий риск | решение, влияющее на клиентов, деньги, риск, комплаенс или юридически значимые действия | расширенное согласование, независимая проверка, журнал решений, человек в контуре |
Уровень контроля должен определяться на этапе оценки и пересматриваться перед деливери.
Минимальные проверки по этапам
Новая
Проверяется:
- есть ли понятная бизнес-проблема;
- есть ли инициатор;
- можно ли сформулировать ожидаемый эффект;
- не является ли идея очевидным дублем.
Оценка
Проверяется:
- выбран ли подходящий продукт ИИ;
- есть ли доступные данные;
- есть ли предварительные ограничения безопасности;
- понятен ли владелец будущего эффекта;
- нужна ли расширенная проверка риска.
Деливери
Проверяется:
- выполнены ли требования продукта;
- согласованы ли данные и доступы;
- есть ли архитектурное решение;
- понятен ли режим эксплуатации;
- определён ли человек в контуре, если решение влияет на значимые действия.
Ожидает эффекта
Проверяется:
- наступила ли дата проверки;
- есть ли фактические данные;
- подтверждён ли эффект;
- не появились ли новые риски после запуска.
Поддержка
Проверяется:
- кто сопровождает решение;
- как отслеживается качество;
- когда решение пересматривается;
- что является условием остановки или отката.
Связь с платформой
Платформа поддерживает модель управления через:
- роли и права доступа;
- бизнес-воронку и деливери-треки;
- настраиваемые правила переходов;
- обязательные поля;
- проверку похожих инициатив;
- предварительную проверку безопасности;
- задачи и ответственных;
- аналитику рисковых инициатив;
- ИИ-помощника, который помогает собрать бриф, оценить эффект, подготовить документы и подсказать продвижение.
В зрелой настройке ИИ-помощник не должен обходить правила управления. Если агент создаёт инициативу, двигает этап или подбирает продукт, это действие должно подчиняться тем же правам, правилам и аудиту, что и действие пользователя.
Что считается хорошим управлением
Хорошее управление ИИ:
- ускоряет сильные инициативы;
- рано останавливает слабые;
- делает риски видимыми до деливери;
- не требует лишних согласований для низкого риска;
- фиксирует владельцев решений;
- связывает запуск с измеримым эффектом;
- оставляет понятный след для аудита.
Плохое управление ИИ:
- превращает каждую инициативу в комитет;
- требует документы без влияния на решение;
- блокирует деливери в последний момент;
- не различает низкий и высокий риск;
- не знает, какие инициативы реально дали эффект.