Мы говорим с ИИ как с человеком. Это помогает нам в работе или вредит?

Почему очеловечивание ИИ опасно для проверки результатов и как разговорный тон помогает задавать более точные вопросы.

Согласно опросу, в США вежливы с чат-ботами 67 процентов пользователей. В Великобритании 71. Внутри вежливых разбивка такая: 82 процента считают, что так просто правильно, и 18 процентов делают это на всякий случай, чтобы задобрить алгоритм перед возможным восстанием машин.

Но я думаю, что причина не в этом. Рано или поздно каждый из нас сталкивается с тем, что начинает очеловечивать модель.

Текст на живом языке не бывает нейтральным. У него всегда есть говорящий: с тоном, с настроением. Модель пишет: проверила, нашла, я была неправа. Ну это в моем случае — модель говорит о себе почему-то в женском роде.

На самом деле у неё нет мнения и нет эмоций, есть только алгоритм.

ИИ не думает. Это программа, которая подбирает слово за словом, и слова для неё инструмент, а не выражение мысли. Спорить о том, можно ли это в принципе назвать мышлением, можно долго. Для работы это неважно. Важно другое: когда модель пишет: давай завтра на свежую голову, за этой фразой нет никого, кто плохо спал. Головы нет. Вечера нет. Это идиома, а не сообщение о состоянии. Но звучит она так, будто состояние есть.

Я говорю Клоду:

▪️ слушай, погоди;

▪️ спасибо за поддержку;

▪️ ты очень умный, даже не верится, что это машина.

Он (ну или она) мне отвечает:

▪️ это моя ошибка, я была неправа, спасибо что заметили;

▪️ на этой пересборке я уже второй раз теряю то, что было сделано раньше, и сплошная проверка нужна не файлу, а мне.

Всё это звучит как ответственность и как усталость. За этим нет никого, кто устал.

Где очеловечивание опасно

Уверенные неправильные ответы модели звучали ровно так же по-человечески и ровно так же уверенно, как правильные. За два дня я собрала три таких случая: ограничение стандарта, которого не существует; сравнение двух отображений, которые совпали и оба были неверны; и диагноз: файл в порядке.

У живого коллеги по интонации слышно, что он не уверен. Он мнётся, оговаривается, добавляет вроде бы. У модели интонация одна на всё.

Отсюда и риск: человек начинает доверять тону там, где надо проверять результат.

Казалось бы, сам собой напрашивается вывод: убрать из общения человеческое, оставить чёткие промпты. Но это не совсем так.

Мне попадалась статья о том, что Сэма Альтмана спросили, сколько OpenAI теряет на электричестве из-за того, что люди пишут моделям please и thank you. Ответ, который разошёлся по сети: десятки миллионов долларов. Эту цифру принято приводить как основание общаться с ИИ сухо и строго по существу.

Я решила проверить первоисточник. Ответ был передан неверно. В апреле 2025 года на вопрос пользователя Альтман написал буквально: tens of millions of dollars well spent, и добавил you never know.

Смысл оказался противоположным. Автор фразы не жаловался на неэффективность, он говорил, что это хорошо потраченные деньги. Но заголовки разошлись в форме: вежливость к ChatGPT стоит миллионы, и в памяти осталось, что надо перестать. Все запомнили заголовок, никто не запомнил ответ.

Модель отзеркаливает пользователя

На вежливый и внятный запрос приходит вежливый и развёрнутый ответ, на рубленую команду — рубленый. Не точнее, а именно другой по тону: спокойнее, подробнее, с оговорками там, где они уместны. Точность задаёт не вежливость, а ясность постановки задачи, это разные вещи, и их часто путают.

Но разговор, в котором с тобой разговаривают по-человечески, идёт иначе. И длится дольше, а значит вопросов в нём успевает прозвучать больше. Хотя это, возможно, дело вкуса. И кому-то ближе сухой лаконичный тон.

Человек говорит с моделью как с коллегой и поэтому бросает реплики, которые никогда не стал бы вводить в форму запроса. Например: ▪️ мы для них ничего не делали ▪️ это же предоплата, она не может так скакать ▪️ микс тот же, откуда разница

Никто не пишет такое в техническом задании. Это обрывки профессионального знания, сказанные вслух просто потому, что разговор идёт в человеческом тоне. Три реплики. Три самых крупных находки разбора отчета.

Вывод из этого неожиданный

Разговорный регистр может производить более качественные вопросы, чем формальный.

Сухой промпт рождает сухой вопрос: вы заранее решили, что спрашиваете, и спросили ровно это. Разговор рождает реплики, которых не было в плане. Ни одна из тех трёх фраз не является запросом. Каждая оказалась ключом.

Модель не знает, есть ли что-то за её словами, и не может проверить это изнутри. Я не знаю тоже. Для работы это не имеет значения.

Читайте также:

Эта статья была вам полезна?

Добавить комментарий