Как найти баланс между AI и человеком в управлении данными

Разбираемся, как компании, которые осознанно внедряют AI, решают, где можно положиться на алгоритмы, а где решение обязательно должен принимать человек

В 2025 году мировой уровень использования искусственного интеллекта в бизнесе вырос с 55 до 72%, а компании, системно внедряющие генеративный AI, фиксируют рост производительности на 35–40%. При этом, по данным Gartner, 85% AI-проектов не достигают целей - и причина чаще всего не в технологиях, а в качестве данных и отсутствии зрелых процессов Data Governance.

Этот парадокс отражает реальность: AI - не волшебная кнопка, а инструмент, который требует правильного применения. Опыт работы с MDM- и Data Governance-проектами показывает, что успех AI напрямую зависит от понимания, где ему можно доверить руль, а где требуется человеческий контроль.

Где AI уже приносит измеримую пользу

Алгоритмы отлично справляются с рутинными задачами, которые раньше отнимали сотни человеко-часов.

Обработка больших объемов данных. В MDM AI-помощник способен обрабатывать свыше 50 000 объектов в час, снижая трудозатраты в разы или даже на порядок. Система автоматически определяет категорию номенклатуры, выделяет атрибуты и показывает уровень уверенности в решении. Средняя точность для категорий, обученных на 200 примерах, превышает 90%.

Навигация по данным и метаданным. ИИ-ассистенты помогают искать нужные показатели, писать SQL-запросы и объяснять, откуда взялось то или иное поле в отчете. Это резко снижает барьер входа в Data Governance для бизнес-пользователей.

Сопоставление и дедупликация. Алгоритмы машинного обучения сопоставляют записи из разных источников, находят дубли и предлагают объединить записи, если это один и тот же объект. В финансовом секторе AI-скоринг сокращает просроченные платежи на 15% и увеличивает одобрения кредитов на 30%.

Автоматизация Data Governance. AI ускоряет наполнение каталогов данных, формирует глоссарий, размечает атрибуты и строит связи между объектами (Data Lineage).

Компании, системно применяющие такие инструменты, отмечают снижение операционных затрат.

Где AI пока несет риски

Применение AI опасно там, где ошибка влечет юридические, финансовые или репутационные последствия. При этом AI, как правило, не может «объяснить» свое решение.

Регуляторные решения. Центральный банк РФ через Положения 716-П и 483-П требует от банков прозрачности в управлении рисками и качеством данных. Модель, которая не может объяснить, почему клиент отнесен к высокому риску, создает проблемы при проверках.

Критические финансовые решения. Известен кейс, когда AI-система страховой компании занижала стоимость ремонта автомобилей в 80% случаев. Для страховой это стоило потерей доверия клиентов. Другая компания была вынужден заблокировать AI-инструмент для рекрутинга, который дискриминировал женщин.

Семантика и политика данных. Определение того, что считать «клиентом», «просрочкой» или «активным продуктом» - это управленческое и юридическое решение. Алгоритм может подсветить несоответствия, но не должен устанавливать политику​.

Как AI-driven компания проводит границу между AI и человеком

Зрелая компания не верит AI «на слово» - она выстраивает контур ответственности и контроля. Ключевой принцип здесь - human-in-the-loop (HITL, человек в цикле), когда человек остается в цепочке принятия решений.

• Разделение на «решения» и «подсказки». Там, где высокие риски, AI используется как ассистент: рекомендации, скоринг, предварительная разметка. Финальное решение остается за ответственным специалистом.
• Фокус на исключениях. Вместо проверки всех результатов AI-эксперт смотрит только спорные или сложные кейсы. Банки, например, проверяют не все транзакции, а только крупные или подозрительные - принцип 20/80 (закон Парето).
• Пороги уверенности. Для каждого AI-сценария задаются метрики: сопоставление с уверенностью выше 95% можно применять автоматически, ниже - только после ручной проверки.
• Прозрачность для клиентов. Фраза «AI подбирает, эксперт проверяет» становится дополнительным аргументом доверия, особенно в медицине и финтехе.
• Использование правок для обучения. Каждое исправление, сделанное человеком, возвращается в модель для дообучения - так система становится точнее с каждым циклом.

Какие задачи рано доверять AI

Есть три категории задач, где AI должен оставаться помощником, а не единственным исполнителем.

Ответственность перед регулятором. Финансовая, налоговая, страховая отчетность, расчет резервов, процедура KYC (Know Your Customer, знай своего клиента) — в таких процедурах AI может подсказать, но не должен единолично определять результат без регламентированного контроля.

Управленческие решения. Изменение бизнес-правил, лимитов, тарифов, запуск или остановка продуктов — AI может подготовить аналитику и сценарии, но не должен самостоятельно менять параметры.

Определение политик и настроек. Что считать «активным клиентом»? Какие данные критичны? Это решения, которые требуют согласования на уровне бизнеса и юристов, а не автоматического ответа от AI.

AI здесь полезен как радар — он может определять аномалии, находить паттерны, подбирать альтернативы. Но решение принимает человек, опираясь на предметную экспертизу, регуляторику и стратегию.

Типовые кейсы реализации AI в MDM

В MDM применяется система «управляемого AI» вокруг мастер-данных.

• AI для сопоставления и качества данных с контролем. Сопоставление номенклатуры, сопоставление по клиентам, очистка и стандартизация используют ML/AI-подходы. При этом бизнес-правила, пороги уверенности и сценарии автоприменения или ручной проверки определяются заказчиком.
• Уровень уверенности в каждом решении. Система присваивает категорию и показывает, насколько она уверена в результате. Если уверенность ниже порога, то пользователю предлагаются альтернативы на выбор.
• Работа в закрытом контуре. Машинное обучение выполняется в изолированной среде заказчика без возможности утечки данных — критически важно для предприятий с чувствительной информацией.
• Встроенные бизнес-процессы. Процессы на базе BPMN для согласования изменений, настроенные роли дата-стюардов обеспечивают, чтобы AI-предложения проходили по понятному маршруту утверждения, а не применялись бесконтрольно.

Типовые кейсы реализации AI в DG

В DG AI-ассистент используется как помощник в различных функциях управления метаданными.

• AI-ассистент для Data Governance. Через протокол MCP AI-ассистент получает доступ к структуре данных, справочникам и правилам. AI-ассистент помогает формировать глоссарий, помогает искать в исходных документах объекты для управления, ускоряет наполнение каталога данных.
• Диалог с данными. Бизнес-пользователи могут на естественном языке искать наборы данных, формулировать запросы, получать объяснения по показателям, т.е. без необходимости знаний в области SQL.
• Контроль критических действий. При использовании AI для ускорения работы по изменению критичных настроек, например, политик доступа, требуется явное действие пользователя в интерфейсе.
• Data Lineage и связи. AI автоматически вытаскивает метаданные из SQL/ETL/BI-систем и строит связи между объектами. При этом интерпретация и утверждение политик определяется владельцами данных.

Практики при внедрении AI

Несколько советов, которые помогают извлечь пользу из AI, не создавая новых рисков:

1. Начинайте с рутины. Первые AI-сценарии - там, где много повторяющейся работы и цена ошибки невысока: классификация, сопоставление, проверки качества.
2. Определите пороги. Для каждого сценария зафиксируйте, при каком уровне уверенности AI действует автоматически, а при каком - AI передает на проверку человеку.
3. Сохраняйте аудит. Все действия AI и пользовательские решения должны фиксироваться - это нужно и для разбора инцидентов, и для демонстрации регулятору.
4. Обучайте на правках. Каждое исправление пользователя - это данные для улучшения модели, т.е. дообучение должно быть постоянным.
5. Не автоматизируйте хаос. AI не исправит плохие процессы - AI их масштабирует. Сначала наведите порядок в данных и ролях, а потом уже подключайте AI-ассистентов.

AI в управлении данными - это не замена людей, а усиление их возможностей. Компании, которые понимают, где провести границу между автоматизацией и человеческим контролем, получают конкурентное преимущество. Те, кто пытается доверить AI все подряд, рискуют столкнуться с ошибками, которые обойдутся дороже любой экономии.

Источник: РБК