Что не стоит поручать нейросети: границы разумного

Владелец небольшой мастерской попросил нейросеть прикинуть, сколько вернуть клиенту за испорченный заказ. Ответ пришёл гладкий: расчёт, формулировки, ссылки на нормы. Через неделю клиент принёс претензию, и оказалось, что половина цифр в том ответе взята из воздуха. Нейросеть не пыталась обмануть. Она делала ровно то, чему её учили: собирала текст, который выглядит правильным. Поэтому разговор про то, что не стоит поручать нейросети, начинается не с ограничений сервиса, а с понимания, как он устроен.

Она предсказывает текст, а не проверяет факты

Языковая модель подбирает следующее слово так, чтобы оно подходило по смыслу и стилю. У неё нет доступа к вашим документам, складу, кассе и договорам, если вы сами их не положили. Нет и внутреннего счётчика, который говорит: «здесь я не уверена».

Отсюда простое следствие: там, где нужна точность и где ошибку кто-то понесёт деньгами или репутацией, ответ модели нужно проверять по первоисточнику. Там, где нужен черновик, формулировка, разбор чужих слов — она работает быстро и почти без риска.

Нейросеть — это не справочник и не эксперт. Это очень быстрый помощник с хорошим языком и без ответственности.

Деньги, налоги и юридические решения

Это первая зона, куда я бы не пускал модель без человека. Не потому, что она всегда ошибается, а потому, что цена ошибки несопоставима с экономией времени.

• Расчёты выплат, неустоек, возвратов. Модель может уверенно перепутать базу, ставку и период. Считать нужно в таблице, а не в чате.
• Налоговая отчётность. Здесь работают конкретные правила на конкретную дату. Общие рассуждения модели их не заменяют.
• Договоры и претензии. Черновик письма — пожалуйста. Финальную редакцию с обязательствами пусть смотрит юрист.
• Кадровые решения. Увольнение, перевод, дисциплинарка — процедура, где каждая формулировка имеет последствия.

Практический приём: если ответ модели может стать основанием для платежа или судебного спора, он идёт на проверку к человеку, который отвечает за это направление. Всегда, без исключений «в этот раз срочно».

Персональные данные клиентов

Паспортные данные, адреса, телефоны, медицинские сведения, номера карт. Отправляя их в сторонний сервис, вы передаёте их третьей стороне. По 152-ФЗ это обработка персональных данных, и у неё есть требования: основание, согласие, место хранения, срок.

Что делать вместо этого:

1. Обезличивать запросы. Вместо «Иванов Иван, тел. 8-9хх…, адрес…» — «клиент из Перми, заказ на 3 позиции».
2. Не вставлять в чат сканы документов и выписки целиком. Нужен разбор — выпишите только суть.
3. Хранить рабочие материалы там, где положено, а не в истории переписки с ботом.
4. Проверить, что у сервиса с хранением и обучением на ваших данных, если вы работаете с клиентскими массивами.

Это не формальность. Утечка через небрежный запрос выглядит так же плохо, как утечка через дырявый сайт, только объяснять клиентам сложнее.

Живые переговоры и конфликты

Модель хорошо пишет вежливые письма. Плохо чувствует момент, когда человеку нужно не письмо, а звонок. Если клиент раздражён, если речь о срыве сроков, если вопрос про деньги и доверие — шаблонный ответ только подогреет ситуацию.

Отдельно про извинения и признание ошибки. Автоматический текст «приносим извинения за доставленные неудобства» человек читает как отписку. Такие сообщения лучше писать самому, пусть коряво. Или звонить.

Разумная граница: модель готовит вам черновик и варианты формулировок, вы отправляете от себя и понимаете каждое слово, которое там стоит.

Оценка людей и «мягкие» решения

Собеседование, аттестация, выбор кандидата из двух похожих. Модель может разложить резюме по критериям, и это удобно как первый фильтр. Решение о человеке она принимать не должна.

Причины две. Первая: у неё нет контекста, который есть у вас — как этот человек вёл себя в прошлом сезоне, кто за него ручается, что с ним происходит в жизни. Вторая: она опирается на шаблоны, и в спорной ситуации легко выдаст уверенный вывод, который вы потом повторите как своё мнение.

Там, где ошибку никто не увидит

Самый неприятный класс задач — те, где результат выглядит нормально, но неверен, и проверить его некому.

• Перевод инструкции к оборудованию, по которому потом работают люди.
• Технические характеристики в карточке товара: размеры, материалы, совместимость.
• Медицинские и ветеринарные рекомендации.
• Любые расчёты нагрузок, дозировок, допусков.

Здесь работает правило: если у вас нет способа проверить ответ за разумное время, задачу модели не отдаём. Не из недоверия к технике, а потому, что проверка — часть работы, и без неё работа не сделана.

Что поручать можно, и это уже экономит часы

Границы очерчены, теперь про полезное. Нейросеть хорошо справляется там, где нужен объём и вариативность, а не абсолютная точность.

• Черновики ответов. Типовые вопросы клиентов: сроки, оплата, условия доставки. Вы правите и отправляете.
• Описания товаров и услуг. Пять вариантов на выбор, из них один доводится до нормального вида.
• Разбор и сжатие. Длинная переписка, протокол встречи, отзывы за месяц — короткая выжимка с темами и повторяющимися жалобами.
• Структура и план. План статьи, смета по позициям как черновик, чек-лист перед запуском.
• Тексты для внутренних задач. Инструкция для сотрудника, объявление, регламент — с вашей проверкой по фактам.
• Перевод и переписывание. Привести письмо в деловой вид, сократить, сменить тон.

Заметьте: почти везде в конце стоит человек с правом правки. Это и есть рабочая схема, а не компромисс. Скорость берём у машины, ответственность оставляем у себя.

Три вопроса перед тем, как отдать задачу

Простой тест, который экономит нервы. Задайте себе три вопроса по каждой задаче.

1. Что будет, если ответ окажется неверным? Если ущерб мелкий и поправимый — отдавайте смело.
2. Как я узнаю, что он неверный? Есть источник для сверки — работаем. Нет — сначала придумайте проверку.
3. Нужны ли для ответа чужие персональные данные? Если да — обезличьте запрос или не отправляйте его в сервис.

Три «да» в пользу безопасности — и задачу можно автоматизировать. Если хотя бы один ответ тревожный, оставьте её человеку. Это не отсталость, это управление риском.

Почему это важно именно на старте

Малый бизнес пробует нейросети без запаса прочности: нет юриста в штате, нет отдела качества, ошибку видно только по факту. Поэтому первые внедрения стоит строить вокруг рутины с низкой ценой ошибки: ответы, описания, черновики, выжимки. Когда появится привычка проверять и станет понятно, где модель стабильно попадает в задачу, диапазон можно расширять.

Если хочется пройти этот путь без месяцев экспериментов, у нас есть «Нейросмена» — набор готовых сценариев под задачи малого бизнеса и помощь с внедрением в ваш рабочий процесс. Начинаем с того, что у вас болит, и с честного разговора о том, что автоматизировать не нужно.

Читайте также: ИИ для производства на заказ: где он снимает рутину, а где вредит и ИИ для грузоперевозок: заявки, документы и контроль рейсов.