2025: Автономные цифровые процессы: Какие ошибки и побочные эффекты они порождают в российских компаниях - TA мнения
Современное ПО продолжает эволюционировать, обещая новые возможности, способные оказать глубокое влияние на развитие ИТ-отрасли. Одно из таких направлений — автономные цифровые процессы. Компании уже активно осваивают их, но автономность может порождать серьезные побочные эффекты. О них TAdviser поговорил с участниками рынка в мае 2025 года.
Не стоит путать автоматизацию и автономность. Они направлены на снижение ручного труда, но различаются по уровню самостоятельности. Автоматизация работает по жестким правилам в заданных рамках, выполняя рутинные процессы без участия человека. Автономность же предполагает адаптацию к неопределенным условиям и устранение сбоев без внешнего вмешательства. Автоматизированные системы эффективны в повторяющихся задачах, но их возможности ограничены. Автономные системы способны прогнозировать ошибки, адаптироваться к изменениям и со временем станут еще более независимыми.
При создании автономных бизнес-процессов используются такие инструменты, как BPM, RPA, Low-Code/No-Code, Process Mining, искусственный интеллект и др. Как рассказал TAdviser генеральный директор ZeBrains Рамиль Зайнеев, автономные процессы требуют структурированных данных, без которых ИИ и RPA — пустая трата денег. Компании должны сначала оцифровать процессы и создать единую базу данных. Также, по словам Зайнеева, механизмы валидации результатов ИИ обязательны, чтобы избежать «галлюцинаций» — ошибочных выводов, которые могут навредить бизнесу.Глава Минцифры Максут Шадаев на TAdviser SummIT 2025 — о новых рисках и мощных стимулах развития ИТ-отрасли 
При переходе на автономные процессы глава ZeBrains рекомендует компаниям инвестировать в цифровизацию и обучение, начинать с задач с низким риском и высоким ROI, следить за законодательством и сохранять человеческий контроль в чувствительных процессах. В 2025 году тренд на оптимизацию сделает автономные процессы усилением, а не заменой человека, при грамотной интеграции, добавил он.
В «Северстали» рекомендуют при реализации автономных процессов и внедрении ИИ уделить внимание качеству данных. Для построения работающей модели необходимо, чтобы данные собирались в цифровом виде с определенной частотой, были полными и достоверными. При этом важно изучить, что именно необходимо для построения модели на конкретном производстве, чтобы не тратить ресурсы и время на сбор бесполезных для ИИ данных и установку лишних датчиков, заявили в компании в разговоре с TAdviser.
В «Северстали» считают, что из возможных побочных эффектов применения ИИ – сотрудники могут настолько привыкнуть к работе по рекомендациям ИИ или к автоматическому управлению агрегатами с его помощью, что потеряют навык управлению вручную.
Бизнес-партнёр компании «Компьютерные технологии» Павел Карасев отметил, что автономные цифровые процессы являются мощным инструментом, который при неправильной настройке становится источником хаоса. К основным ошибкам эксперт отнес попытки автоматизировать «как есть», без пересмотра логики процесса, а также слепое доверие модели без промежуточного контроля. Это приводит к парадоксам: робот работает исправно, но по ошибочной схеме. Process Mining часто выявляет, что процессы на практике отличаются от регламентов, а RPA лишь «консервирует» эти ошибки. Чтобы избежать сбоев, важно: сначала — анализ и пересборка процесса, потом — автоматизация. И обязательно предусмотреть ручной контроль и возможность быстрого вмешательства на старте, добавил Карасев.
Менеджер по развитию бизнеса «К2Тех» Наиля Агаева перечислила основные ошибки, с которыми, по ее мнению, сталкиваются компании из-за неправильной работы автономных процессов:
- эффект домино — в автономной системе ошибка мгновенно тиражируется, в то время как в ручном режиме ошибку может быстро исправить человек;
- система усложняет жизнь сотрудникам — непродуманный интерфейс или плохо прописанный сценарий действий могут приводить к тому, что сотрудники перепроверяют результат за системой, делая двойную работу;
- проектирование системы по принципу Happy Path, когда учитывается только идеальный сценарий без возможных отклонений;
- требования к системе не соответствует действительности. Чтобы избежать ситуации `ожидание/реальность`, сбор требований и аудит процессов должен осуществляться опытными специалистами по проверенным методологиям, чтобы исключить неоднозначности и упущения;
- отсутствие резервного бюджета на доработки и оперативное исправление недочетов, которая ведет к дополнительным издержкам.
Гендиректор ИТ-компании Tehnobit Александр Пересичан отмечает, что автономный процесс внедряют без включения конечных пользователей и программы адаптации, но люди сопротивляются, создают «теневые» обходные операции, и выгода от автоматизации тает. Еще одна проблема — не соблюдаются регуляторные требования. Федеральные законы 233-ФЗ, ГОСТ Р 71657-2024 и будущие нормы по «ИИ высокого риска» требуют объяснимости решений. Если журналов нет, компанию могут оштрафовать или приостановить систему, пояснил Пересичан.
Также он обращает внимание на недооценку операционных рисков. В проект не закладывают страховку, систему журналирования и план аварийного переключения. Любой сбой приводит к простоям цехов и дополнительным страховкам, которые «съедают» часть экономии, добавил глава Tehnobit.
Как рассказала TAdviser директор департамента развития аналитики «Цепочки поставок и поддерживающие функции» X5 Tech (компания использует Process Mining для повышения производительности комплектации распределительных центров) Александра Кирик, возможный пессимистичный сценарий при использовании технологии Process Mining – это интерпретация и формирование выводов на некорректных, неполных данных. Поэтому в самом начале процесса важно уделить особое внимание их качеству и корректности сборки, подчеркнула она.
 | Для этого мы всегда привлекаем в качестве экспертов тех сотрудников, которые участвуют в анализируемом процессе. Только после того, как мы убедились, что данные полные и собраны корректно, мы можем делать дальнейшие выводы», - добавила Кирик. |  |
Старший управляющий директор, начальник управления аналитики по расходам и Process Mining «Сбера» Мария Гуртученко в разговоре с TAdviser привела список процессов, которым следует банк при разработке и внедрении автономных систем:
- определение цели внедрения инструмента, назначение руководителя проекта и KPI, расстановка приоритетов автоматизации;
- вовлечение сотрудников на ранних этапах – им объясняют, как автономные процессы упростят их работу;
- диагностика as-is процессов с помощью Process Mining, выявление неэффективных процессов;
- аудит источников данных
- внедрение ИИ-агентов - интеллектуальных систем, способных анализировать данные, принимать решения и адаптироваться к изменениям в реальном времени;
- пилотирование цифрового инструмента;
- мониторинг и непрерывное улучшение процессов.
По словам Гуртученко, такой комплексный подход позволил «Сберу» зафиксировать экономический эффект от внедрения Process Mining более чем в 21 млрд рублей.
В «МегаФоне» сообщили TAdviser, что автономные цифровые процессы действительно открывают большие возможности для повышения эффективности, но при их внедрении важно не терять контроль над контекстом и соответствием целям бизнеса, а не делать технологию ради технологии. Наиболее частые ошибки связаны с автоматизацией «хаоса» — когда процессы не оптимизируются, а лишь ускоряются. Если на входе есть ошибка, то система просто будет ее тиражировать. Чтобы этого избежать, необходимо поэтапно внедрять решения и на старте применять полуавтоматизированный подход, когда решения алгоритмов можно контролировать и валидировать человеком, отметили в телеком-компании.
Как сообщила TAdviser руководитель по оптимизации бизнес-процессов на базе YandexGPT Эльвира Морозова, при неправильном выстраивании автоматизированных процессов и некорректном применении цифровых решений могут возникнуть непредсказуемые побочные эффекты. Например, чрезмерная автоматизация без учёта специфики человеческого фактора может привести к ухудшению качества работы в тех областях, где требуется творческий подход и критическое мышление. Кроме того, ошибки в алгоритмах или недостаточная проработка процессов могут вызвать сбои в работе системы, что, в свою очередь, может привести к задержкам в выполнении задач, потере данных или даже финансовым потерям. Поэтому ИИ должен быть «экзоскелетом» или «вторым пилотом», но принимать финальное решение должен человек, подчеркнула Морозова.
Руководитель исследовательского центра «Сильный искусственный интеллект в промышленности» Университета ИТМО Александр Бухановский говорит, что внедрение современных технологий автоматического машинного обучения (AutoML) формально позволяет сократить сроки создания моделей ИИ более чем в 100 раз. Однако в реальных проектах получаются более скромные результаты — от 3 до 5 раз.
| | Поскольку теперь разработчик уже не валидирует сам себя по шагам в ходе ручного создания моделей, зато должен потратить дополнительное время на проверку и оценку автоматически созданной модели ИИ. Здесь главное — научиться правильно ставить критические вопросы к полученному результату, которые можно было бы проверить на основе априорных знаний или даже альтернативной системой ИИ. К сожалению, специалистов в этой области только сейчас начали готовить в РФ, — сказал Бухановский. | |
Как подчеркнул СЕО «Облакотека» Максим Захаренко, автономный процесс не означает, что про него нужно забывать, — напротив, он требует ещё больше внимания, особенно в первые месяцы (необходимо мониторить, подчищать данные, настраивать исключения. Чтобы избежать проблем, важно не просто внедрить, а заранее разобрать процесс по косточкам, привлечь тех, кто в нём реально работает, и обязательно построить нормальную систему обратной связи — чтобы ошибки не копились неделями, а устранялись на ходу, советует Захаренко.
