Управляйте не ИИ, а теми, кто с ним работает. Почему это важно

Разрыв в использовании ИИ все чаще проявляется внутри команд: одни пользователи умеют ставить задачу и проверять реализацию, другие используют модель как быстрый генератор черновиков и в итоге несут ошибки дальше по процессам. 

Во многом это связано с обучением и поддержкой: эксперты BCG рассказали, что доля сотрудников, позитивно относящихся к искусственному интеллекту, возрастает с 15% до 55% благодаря отзывчивому руководству. Поэтому управлять одним только доступом к технологии мало — нужно найти подход к людям, которые умеют с ней обращаться.

Рассказываем, что представляет собой новая зона ответственности руководителя и почему навыки специалистов теперь — часть инфраструктуры.

Почему контроль модели дает ложное чувство порядка

Во многих организациях управление нейросетями начинается с технических вопросов: что выбрать, где развернуть, кому выдать доступ и сколько это будет стоить. Эти вопросы важны, но они не закрывают главный слой риска: что человек делает с сгенерированным продуктом.

В момент составления ответа может и не быть проблем — они появляются, когда нужно его принять. Программист способен одобрить сгенерированный код, не понимая архитектурных последствий. Менеджер — отправить в систему внутренние данные без проверки контура.

В каждом из таких случаев сам инструмент, вероятно, действует корректно. Сбой возникает в процессе вокруг него.

Каким на самом деле должно быть управление ИИ

ИИ в компании не стоит рассматривать как отдельный инструмент — он должен быть частью производственного контура. Тогда фокус смещается с сервиса на среду, в которой с его помощью принимаются решения.

Эта таблица показывает главный сдвиг: управлять нужно цепочкой действий, а не «ИИ вообще».

Новая зона ответственности руководителя

Сейчас руководству мало знать, что команда просто использует искусственный интеллект — важно понимать, как именно она это делает. Один инженер может попросить нейросеть объяснить legacy-код, написать небольшой pull request и оценить, что получилось, по архитектурным правилам. Другой — сгенерировать большой фрагмент, принять подсказки пачкой и принести ревьюеру «готовый вариант». Инструмент один, риск разный.

В начале года компания METR опросила 349 технических специалистов. Медианный прирост отдачи они оценили в 1,4–2 раза, прирост скорости — в 3 раза. Однако при этом отмечали, что скорость может завышать реальную ценность, если приходится делать больше низкоприоритетных задач или тратить время на анализ выходных данных.

Отсюда — новый управленческий приоритет: мало считать только скорость, необходимо принимать во внимание качество выхода. Если код пишется быстрее, но другие этапы отнимают втрое больше времени, выгодой это не назовешь.

Навыки сотрудников становятся частью ИИ-инфраструктуры

Использование ИИ в пределах компании больше нельзя относить к личной инициативе — это неотъемлемая часть производственной системы.

Специалисту важно точно формулировать запрос, ограничивать контекст, изучать источники, распознавать галлюцинации и отличать черновой ответ от материала, готового к использованию, и не перекладывать ответственность на машину. Без этих навыков даже сильная технология превращается в генератор лишних операций.

Это особенно заметно в разработке. Нейросеть способна быстро написать тест, но надо понять, проверяет она поведение или повторяет реализацию. То же с рефакторингом: предложить его можно автоматически, а оценить соответствие архитектуре должен специалист.

Где чаще всего ломается управление людьми, работающими с ИИ

Проблемы редко начинаются с явного нарушения — чаще они связаны с выбором самого быстрого маршрута. Например, если внутри компании нет удобного сервиса, команда пойдет во внешний, а если нет четких правил, формирует свои.

Представители Microsoft, исследуя теневой ИИ, писали, что 51% сотрудников уже использует непроверенные инструменты каждую неделю. Среди причин опрошенные называли отсутствие одобренной рабочей альтернативы и тот факт, что внешние сервисы уже стали для них привычными.

Это не обычное нарушение дисциплины — налицо управленческий разрыв. И запрет сам по себе не решит проблему. Если официальный путь оказывается слишком медленным, найти обходной не сложно. Вопрос лишь в том, останется ли он контролируемым или уйдет в серую зону.

Чек-лист: на что обратить внимание перед масштабированием ИИ

Прежде чем масштабировать технологию, нужно убедиться, что контур вокруг нее в порядке. С этим поможет наш небольшой чек-лист:

• Описаны сценарии, где искусственный интеллект можно использовать свободно, а где есть жесткие рамки.
• Для каждого кейса обозначены показатели надежности: что считать хорошим кодом, ответом клиенту, тестом или документом.
• Ответственность остается у сотрудника. Машина выполняет задачу, однако итоговое решение не за ней.
• Есть правила использования данных: что можно передавать цифровому помощнику, а что остается внутри защищенного контура.
• Для критичных случаев настроено ревью: код, клиентские ответы, юридические формулировки, аналитические выводы, архитектурные решения.
• Прописаны внутренние инструкции: примеры хороших промптов, типовые ошибки, ограничения, правила итоговой проверки.
• Руководитель смотрит на возвраты после ревью, дефекты, переделки, качество документации и нагрузку на поддержку, а не только на скорость.
• Сотрудников обучают обращаться с ИИ как с младшим ассистентом: ставить задачу, давать контекст, выяснять, соответствует ли генерация требованиям, и отвечать за последствия.

Подведем итоги

Искусственный интеллект не делает команду зрелой автоматически. Он быстрее проявляет то, что уже есть в системе: качество процессов, культуру ревью, состояние документации и способность руководителей задавать понятные правила.

Поэтому в фокусе должно быть управление людьми и средой, в которой они работают с ИИ. Именно там появляется реальный эффект — или новый слой хаоса. Просто следить за доступом к инструменту недостаточно.