Регулярные разговоры с искусственным интеллектом могут постепенно складываться в подробный портрет пользователя: от профессии и интересов до финансовых ограничений, повседневных привычек и особенностей принятия решений. При этом часть выводов система способна сделать не из прямых признаний, а из формулировок вопросов и реакций на ответы. Однако чем точнее ИИ подстраивается под собеседника, тем важнее помнить: персонализированный ответ не обязательно оказывается верным.

Об этом RT рассказал Юрий Силаев, заведующий Лабораторией доверенного искусственного интеллекта РТУ МИРЭА.

Что ИИ может понять из обычной переписки

По словам эксперта, примерно за месяц регулярного общения система потенциально может накопить достаточно контекста, чтобы предполагать, чем занимается человек, насколько хорошо он разбирается в определенных темах, что его интересует и какие у него повседневные ограничения. Из переписки также могут складываться предположения о распорядке дня, наличии детей, финансовых возможностях и проблемах, которые особенно беспокоят пользователя.

Значение имеют не только сами вопросы, но и то, как человек реагирует на ответы. По этим сигналам ИИ может предполагать, какие аргументы кажутся собеседнику убедительными, в чем он склонен сомневаться и когда ищет подтверждения уже сформировавшейся позиции.

Это не означает, что система достоверно знает все перечисленное. Речь идет о выводах на основе доступного контекста, которые могут быть как точными, так и ошибочными. Но даже приблизительные предположения способны влиять на то, как ИИ формулирует последующие ответы.

Персонализация делает общение удобнее — и убедительнее

У такой адаптации есть очевидные преимущества. Школьнику можно объяснить сложную тему простыми словами, специалисту — не тратить время на знакомые основы, а человеку, который долго обсуждает одну проблему, не приходится каждый раз заново описывать обстоятельства.

Система может также подстраивать объяснения под привычный стиль восприятия: одному пользователю удобнее работать с цифрами, другому — с примерами, третьему — с подробными аргументами и ссылками.

Но здесь возникает важный риск. Если ИИ учитывает предпочтения человека, его ответы могут звучать все более убедительно именно для этого собеседника. Это легко принять за свидетельство того, что система лучше разобралась в ситуации и поэтому дает более точный совет.

«Убедительность ответа не гарантирует его достоверность», — подчеркивает Силаев.

Проблема может усугубляться, если пользователь постоянно описывает ситуацию только со своей стороны. В таком случае ИИ рискует опираться на неполную картину и невольно укреплять уже существующие убеждения собеседника, вместо того чтобы помочь ему увидеть альтернативные объяснения.

Как проверить, учитывает ли ИИ прошлые разговоры

Силаев предлагает простой способ оценить влияние накопленного контекста. Можно задать значимый вопрос в привычном диалоге, а затем сформулировать его заново в новом чате, не предоставляя предысторию. Если ответы заметно отличаются, стоит разобраться, какие сведения или предположения могли повлиять на первоначальный ответ.

Еще один вариант — прямо попросить ИИ перечислить, что ему известно о пользователе, и отдельно назвать предположения, которые могли повлиять на формулировку ответа.

Такой эксперимент не позволяет увидеть весь внутренний процесс работы модели и не гарантирует, что она точно раскроет использованный контекст. Но он может помочь обнаружить часть персональных сведений и допущений, на которых строится ответ.

Новый чат не всегда означает отсутствие памяти

По словам эксперта, полезно время от времени проверять настройки конкретного ИИ-сервиса: какую информацию он сохраняет между разговорами и какие функции памяти включены.

У разных платформ механизмы хранения и использования контекста различаются. Поэтому нельзя автоматически считать, что новый чат полностью обнуляет предыдущий опыт общения. При этом наличие персонализированных ответов само по себе еще не доказывает, что сервис сохранил конкретные сведения: на результат могут влиять и другие доступные ему данные или инструкции.

Главное правило, по мнению Силаева, — не путать удобство общения с надежностью советов. Если речь идет о здоровье, деньгах, праве, работе или другом серьезном решении, особенно важно проверять факты по независимым источникам, даже когда ответ ИИ кажется удивительно точным и полностью соответствует ожиданиям.

Чем лучше система подстраивается под человека, тем комфортнее может становиться общение. Но способность угадать предпочтения собеседника и способность правильно оценить ситуацию — разные вещи.