Чем больше повседневных задач люди поручают ИИ-агентам, тем выше риск утратить навыки, которые перестают использоваться. Об этом предупредил инженер Anthropic Адди Османи. По его мнению, автоматизация работы не должна превращаться в отказ от самостоятельного мышления: даже если ИИ способен выполнять задачи лучше человека, ответственность за результат все равно остается на людях.

Османи не призывает отказываться от ИИ-инструментов, в том числе при разработке программного обеспечения. Он считает, что проблема возникает тогда, когда человек перестает проверять результаты работы алгоритмов, разбираться в их решениях и самостоятельно формулировать идеи, рассказывает TechRadar.

Как возникает «когнитивный долг»

Османи признается, что в его собственной повседневной работе стало гораздо меньше ситуаций, требующих критического мышления: многие процессы теперь проходят через ИИ-агентов. По его словам, навыки, которыми человек перестает пользоваться, постепенно исчезают — причем, возможно, быстрее, чем можно ожидать.

Инженер описывает этот процесс как постепенное накопление «когнитивного долга». Сначала человек внимательно читает ответ ИИ и проверяет его. Затем, поскольку предыдущий результат оказался хорошим, следующую рекомендацию он изучает уже менее тщательно. Со временем достаточно бегло просматривать общую структуру ответа, не вникая в детали.

В итоге пользователь может столкнуться с ситуацией, когда не способен объяснить отдельную строку кода или принятое техническое решение — даже при помощи того же ИИ-агента, который подготовил результат.

Опасность заключается не в единичной ошибке алгоритма, а в постепенном изменении привычек человека. Чем больше решений принимается автоматически, тем меньше возможностей остается для самостоятельной практики.

Почему нельзя полностью передавать ответственность ИИ

Один из аргументов сторонников повсеместной автоматизации заключается в том, что нет смысла сохранять навыки, которые ИИ в будущем сможет выполнять лучше человека. Османи не согласен с таким подходом.

Даже если значительную часть работы выполнил искусственный интеллект, человеку все равно придется отвечать за результат. Это особенно важно в программировании и других областях, где ошибки могут затронуть пользователей, инфраструктуру или бизнес-процессы.

Поэтому, считает инженер, необходимо сохранять человеческое участие в принятии решений. Передавать ИИ отдельные операции вполне допустимо, но человек должен понимать, что именно делает система, почему она выбрала тот или иной вариант и насколько обоснован ее результат.

Иными словами, автоматизация не должна превращаться в слепое доверие к алгоритму.

Как сохранить навыки в эпоху ИИ-агентов

Османи предлагает несколько способов избежать того, что он называет «интеллектуальной капитуляцией»:

· Регулярно практиковать основные навыки. Если ИИ пишет код, анализирует информацию или решает задачи вместо человека, важно время от времени выполнять такую работу самостоятельно.

· Сначала формулировать собственные идеи. Прежде чем обращаться к ИИ, полезно самому определить проблему, продумать возможное решение и только потом сравнить его с предложением модели.

· Внимательно изучать результаты. Не ограничиваться просмотром итогового ответа, а разбираться в его содержании, структуре и деталях.

· Понимать решения ИИ. Если агент выбрал определенный подход, пользователь должен быть способен объяснить, почему этот вариант был использован и какие у него есть ограничения.

Османи подчеркивает, что некоторые навыки действительно могут постепенно исчезнуть по мере развития технологий. Вопрос в том, какие из них человек готов сознательно передать машинам, а какие считает необходимыми для себя.

Главная мысль инженера не в том, что ИИ делает людей менее умными сам по себе. Риск возникает, когда удобство автоматизации вытесняет практику самостоятельного мышления. И чем больше решений человек доверяет агентам, тем важнее не терять способность оценивать их работу и отвечать за последствия.