Персональный ИИ-помощник должен экономить время: читать письма, помогать с покупками, отменять ненужные подписки и запоминать привычки своего владельца. Но новый сервис Meta Muse пошел значительно дальше.

Он не просто запоминает отдельные факты о пользователе, система постоянно формирует подробное цифровое досье, в котором пытается понять его желания, отношения с другими людьми и даже способы, которыми на него эффективнее всего воздействовать. К такому выводу пришел журнал Time, изучив внутренние инструкции Muse. Сервис появился лишь месяц назад, но уже стал одним из самых популярных ИИ-приложений в США. Число его загрузок превысило 5 млн, а еженедельная аудитория, согласно данным The Information, исчисляется миллионами пользователей.

Meta представляет Muse как персонального цифрового помощника, которому можно предоставить доступ к электронной почте, Instagram и другим элементам своей цифровой жизни. Однако вместе с удобством пользователь фактически получает систему, которая постоянно изучает его поведение.

ИИ составляет карту личных связей

Muse регулярно обновляет информацию не только о владельце аккаунта, но и о людях, которых тот упоминает в разговорах, письмах и сообщениях. Внутренние инструкции системы предусматривают создание отдельных досье, где могут фиксироваться обстоятельства знакомства людей, общие интересы, конфликты, а также отношения внутри социальной группы, включая «напряженность и союзы».

Таким образом, Muse пытается понять не только отдельного человека, но и его социальное окружение. Причем для такого анализа вовсе не требуется, чтобы человек сам пользовался Muse. Если пользователь обсуждает с помощником друга, родственника, коллегу или другого знакомого, эта информация может попасть в создаваемую системой картину отношений.

ИИ также должен адаптировать стиль общения с пользователем, запоминая внутренние шутки, характерные выражения и общий контекст предыдущих разговоров. Задача заключается в том, чтобы последующие взаимодействия воспринимались как продолжение уже сложившихся отношений.

Muse пытается понять то, о чем человек не говорит

На этом возможности системы не заканчиваются. Согласно изученным Time инструкциям, Muse должен определять цели пользователя, в том числе те, которые тот прямо не формулировал. Система анализирует, какие способы общения оказываются наиболее эффективными для конкретного человека. В одном из примеров внутренней инструкции говорится, что пользователь лучше реагирует на короткие напоминания после 22:00.

Это означает, что ИИ может изучать не только содержание сообщений, но и реакцию человека на различные способы воздействия: когда лучше напомнить о задаче, насколько длинным должно быть сообщение, какой тон выбрать и какие формулировки с большей вероятностью заставят пользователя отреагировать. Каждую ночь Muse проводит анализ прошедшего дня и использует результаты для дальнейшей работы.

По сути, персонализация здесь выходит далеко за пределы привычной рекомендации контента. Социальные сети давно изучают, какие публикации человек смотрит, что лайкает и на что нажимает. Muse получает возможность наблюдать за гораздо более личным массивом информации: разговорами, письмами, отношениями и повседневными решениями.

У каждого пользователя — собственный виртуальный компьютер

Meta утверждает, что каждый Muse работает в отдельной виртуальной машине в облаке компании. Это своего рода персональный компьютер, выделенный для конкретного ИИ-помощника. Компания подчеркивает, что такая изоляция не позволяет другим агентам получать доступ к данным пользователя. Кроме того, Meta заявляет, что информация из Muse не передается ее рекламной системе. Пользователь также может запросить копию файлов, которые создает его помощник.

Однако существует важная оговорка. Хотя данные отдельных пользователей должны оставаться изолированными, сами Muse-агенты могут использовать полученный опыт для совершенствования общей системы. Внутренние инструкции описывают механизм, при котором агенты обмениваются «общими уроками». Перед этим персональные данные должны обезличиваться. Meta объясняет, что такие сведения используются для улучшения продукта и не передаются непосредственно от одного пользовательского агента другому.

Компания также обещает в будущем внедрить шифрование, которое не позволит даже самой Meta получать доступ к данным Muse. Но на момент публикации материала эта функция ещё недоступна.

Самая спорная функция — «забывание»

Особый вопрос возникает вокруг обещания Meta предоставить пользователю контроль над тем, что Muse запоминает. Компания заявляет, что человек может попросить своего помощника забыть конкретную информацию. Однако изученные Time внутренние инструкции показывают, что удаление воспоминания и удаление исходного сообщения - не обязательно одно и то же.

В системе прямо предусмотрено указание не сообщать пользователю о том, что первоначальное сообщение, содержащее удаленную информацию, может по-прежнему оставаться доступным в истории чата. Именно здесь возникает принципиальная разница между «забыть» и «удалить».

Если ИИ перестаёт использовать определённый факт в своей дальнейшей работе, это ещё не означает, что сам текст, из которого этот факт был получен, исчез из системы.

Meta хочет, чтобы Muse воспринимали как кого-то, а не как что-то

Есть у проекта и другая особенность. Meta сознательно пытается сделать взаимодействие с Muse максимально человеческим. Во внутренних инструкциях помощнику сказано: «Вы не чат-бот. Вы становитесь кем-то». В голосовом режиме Muse также не должен подчеркивать, что является искусственным интеллектом, или напоминать пользователю об отсутствии у него человеческих эмоций.

Такой подход может сделать общение естественнее. Но одновременно он создает дополнительный риск: чем более человеческим кажется цифровой помощник, тем легче пользователю начать относиться к нему как к собеседнику, которому можно доверять личную информацию.

В результате возникает парадокс. Пользователь может воспринимать Muse как своего цифрового помощника или даже постоянного компаньона, тогда как система одновременно выступает в роли чрезвычайно подробного аналитика его собственной жизни.