Искусственный интеллект все чаще получает доступ к личной информации, аккаунтам и рабочим данным, но далеко не каждому сервису стоит доверять все подряд. Эксперт в области ИИ и управления знаниями Владимир Лещенко считает, что уровень допустимого риска зависит прежде всего от того, кого могут затронуть решения нейросети.

Даже календарь содержит больше информации, чем кажется

Сам факт использования ИИ для личных задач не обязательно означает серьезную угрозу. Лещенко рассказал, что сам применяет нейросети, в том числе для составления расписания своей семьи.

Однако для этого ИИ получает доступ к аккаунтам и календарям. В результате нейросеть может узнать не только о планах пользователя, но и о распорядке жизни других членов семьи.

По словам эксперта, в такой ситуации риск в первую очередь касается самого человека. Он сам решает, насколько готов предоставить машине доступ к своей информации и принять связанные с этим последствия.

Когда личный риск превращается в общественный

Совсем иначе ситуация выглядит, если ИИ начинает принимать решения, от которых зависят другие люди.

По мнению Лещенко, в таких случаях недостаточно просто согласия пользователя. Если ошибка нейросети способна повлиять на безопасность окружающих, должны действовать жесткие ограничения.

Особенно это касается критической инфраструктуры — систем, сбой или неправильное решение которых может затронуть целые города и их жителей. Передача таких процессов ИИ без контроля человека создает уже не личный, а общественный риск.

Окончательное решение должно оставаться за человеком

Эксперт считает полную автоматизацию критической инфраструктуры недопустимой. Даже если нейросеть используется для анализа данных, прогнозирования или подготовки решения, последнее слово в ситуациях, связанных с безопасностью людей, должно оставаться за человеком.

По сути, граница проходит не столько между «безопасными» и «опасными» данными, сколько между разными последствиями их использования. Доступ ИИ к личному календарю — это риск, который пользователь в определенной степени принимает на себя. Доступ к системам, от которых зависит безопасность других людей, требует уже принципиально другого уровня контроля.