Не цифровой друг, а цифровая зависимость: 5 уроков от Герда Леонхарда

Что будет, если машины станут не только умнее, но и ближе к нам — как советники, друзья или даже судьи? Где проходит граница между инструментом и конкурентом? Известный футурист, автор бестселлеров и эксперт по технологиям Герд Леонхард уже много лет говорит о будущем, где человек должен остаться в центре. NEWS.am Tech поговорил с ним о том, в какой момент искусственный интеллект перестает быть просто удобным алгоритмом, как сохранить контроль над технологиями и почему эмоциональная компетентность должна остаться исключительно человеческим качеством.

Когда инструмент становится силой

«Сначала мы полностью контролируем ситуацию, потом — лишь частично, а затем ИИ начинает принимать решения за нас»…

Герд Леонхард предупреждает: пока мы поручаем искусственному интеллекту рутинные задачи, все под контролем.  

“Проблема возникает, когда инструмент становится все умнее. Мы начинаем перекладывать на него задачи — например, планирование встреч или организацию дел. Если ИИ становится еще умнее, он может сам решать, кто должен быть на встрече, или составлять ее итоги. В какой-то момент ИИ может вообще проводить встречи вместо нас, потому что знает, что мы скажем”, - отмечает он. По словам Леонхарда, это будет постепенным процессом: сначала люди будут полностью контролировать ситуацию, потом — лишь частично, а затем ИИ начнет принимать решения за нас.” Чтобы этого не допустить, нужно провести чёткую границу и сказать: «Это мы делаем сами, а это мы не хотим делать». Это сложно, потому что людям свойственно лениться. Нам хочется, чтобы ИИ все сделал за нас, но из-за этого мы перестаем думать. Это как с Google Maps: полезная штука, но если выключить голову, жди беды. Иногда мы ошибочно считаем, что машина лучше человека, и вот тут начинаются проблемы”, — считает он.

Четкие правила: как установить границы для ИИ

«Есть вещи, которые ИИ не должен делать и которые должны оставаться под ответственностью людей»…

По мнению Леонхарда, необходимы четкие правила. К примеру, в Евросоюзе есть закон об ИИ, который ограничивает автономные системы четвертого уровня: есть вещи, которые ИИ не должен делать и которые должны оставаться под ответственностью людей. 

“Мы не позволяем  ИИ управлять авиаперелетами или биржей. Нельзя позволять ИИ принимать решения в военных ситуациях, например, запускать дроны без контроля человека. Такие законы должны быть, а за нарушения должны быть санкции”, — считает Леонхард.  Он также предлагает ввести налог на автоматизацию, чтобы поддерживать тех, чьи профессии исчезают из-за ИИ. Это поможет избежать бесконтрольной замены людей машинами и поддерживать баланс на рынке труда.

В медицине, финансах или управлении обществом ИИ может быть ценным помощником, но не самостоятельным субъектом. “Есть разница между инструментом и человеком. Инструмент может, например, просканировать вашу руку, сравнить снимок с миллионом других и указать на возможную проблему. Но решать, что делать дальше, должен врач. Нужна четкая грань: инструмент делает свою работу, а остальное — за людьми”, - уверен он. 

Эмоции подделать можно, почувствовать — нет

«Большая часть человеческого опыта связана с самим фактом существования, а у ИИ этого нет»…

Футурист подчеркивает: машина может распознать эмоцию, но не способна её испытать. Это ключевое отличие. ИИ может показать, что «понимает» усталость или радость, но это всего лишь симуляция. Именно отсутствие подлинного человеческого опыта делает ИИ безопасным. Леонхард уверен: «Мы можем мечтать, чтобы ИИ понимал чувства, но безопаснее, когда люди чувствуют, а ИИ лишь наблюдает».

ИИ нельзя обучить этике

«ИИ сложно понять, где проходит грань, потому что ему не хватает контекста»…

Этика — тонкая материя, в которой даже человек часто действует интуитивно. Машине же не хватает понимания масштаба и последствий. “Бросить бумажку на улице — мелкая шалость, а сбросить ядерные отходы — катастрофа, но суть одна: нарушение правил. ИИ сложно понять, где проходит грань, потому что ему не хватает контекста. Люди постоянно решают, какие правила можно слегка нарушить, а какие — нет. Для машины это загадка”, — отметил он. 

Леонхард приводит наглядный пример: он попросил ИИ нарисовать «thinking well» — и тот изобразил колодец с мозгом над ним. Для алгоритма это буквальный перевод, но смысл потерян. Давать ИИ «здравый смысл», по мнению эксперта, значит рисковать тем, что он начнёт принимать решения как человек — а значит, потребует прав, автономии и контроля. А это уже опасная зона.

Симуляция человечности — плохая идея

«Это как дружба, но фальшивая. Просто иллюзия»…

Крупные технологические компании хотят создать ИИ, который понимает эмоции и может общаться почти как человек. Но Герд Леонхард видит в этом угрозу. По его мнению, такой ИИ — это иллюзия близости, которая со временем приведёт к зависимости и потере рефлексии. 

«Мы не сможем это контролировать», — предупреждает он. 

Люди начнут воспринимать ИИ как полноценного партнера, хотя он всего лишь алгоритм, умеющий подстраиваться. Вместо настоящего общения — имитация, вместо настоящей дружбы — удобный интерфейс.