Три главных угрозы ИИ: Предупреждение эксперта по информационной безопасности

С развитием искусственного интеллекта миллионы людей ежедневно используют чат-боты для решения самых разных задач — от написания текстов до планирования путешествий. Однако далеко не все осознают связанные с этим риски. Владелец продукта по безопасности ИИ компании UserGate Светлана Газизова в интервью «Газете.Ru» выделила три основные угрозы, с которыми сталкиваются российские пользователи.

1. Дезинформация и слепое доверие к ответам ИИ

Одна из самых распространённых опасностей — это чрезмерное доверие информации, которую генерируют нейросети. ИИ может уверенно выдавать неточные или устаревшие данные, поскольку опирается на разные источники без их должной проверки.

Газизова привела реальный пример: «Пример: семья планировала зарубежный отпуск и уточнила у нейросети визовые требования. ИИ уверенно ответил, что виза не нужна. Были куплены билеты и забронирован отель, однако в аэропорту пассажирам отказали в посадке из-за отсутствия документов. Итог — финансовый урон и сорванный отдых».

Эксперт рекомендует всегда перепроверять критически важную информацию на официальных источниках. Например, при запросе о визах стоит указывать в промпте использовать данные именно с сайта посольства или консульства.

2. Утечки конфиденциальных данных

Вторая серьёзная угроза — передача личной и корпоративной информации чат-ботам. Многие пользователи без раздумий загружают в ИИ чувствительные данные, не задумываясь о том, как они могут быть использованы дальше.

«Уже зафиксированы случаи утечек, к которым привел доступ ИИ к корпоративным и личным данным. Категорически нельзя загружать в чат-боты сканы паспортов, финансовые документы или любую чувствительную информацию», — подчеркнула Светлана Газизова.

По её словам, загруженные данные могут использоваться для дообучения моделей или в некоторых случаях становиться доступными третьим лицам.

3. Опасный контент для несовершеннолетних

Особое внимание эксперт уделила безопасности детей. Несовершеннолетние пользователи через языковые модели могут легко получить доступ к информации, которая не предназначена для их возраста: сведения о запрещённых веществах, способах деструктивного поведения и другом вредном контенте.

На фоне этого регуляторы в разных странах ужесточают контроль над ИИ-сервисами и вводят дополнительные ограничения для защиты детей.

Почему это важно именно сейчас

По словам Газизовой, десятки миллионов россиян активно используют чат-боты с ИИ, но базовая цифровая гигиена при работе с ними пока остаётся на низком уровне. Эксперты рекомендуют относиться к ИИ как к полезному, но не всегда надёжному помощнику, который требует обязательной проверки фактов и осторожности с данными.

Вкратце

ИБ-эксперт Светлана Газизова назвала три главных риска использования ИИ для россиян: распространение дезинформации из-за слепого доверия, утечки конфиденциальных данных и доступ детей к нежелательному контенту. Специалист предупреждает, что нельзя полагаться на ИИ в важных вопросах без перепроверки, загружать в чат-боты личные документы и оставлять детей без контроля. Соблюдение простых правил цифровой безопасности поможет избежать серьёзных проблем.

Следите за NEWS.am Tech на Facebook и Twitter