Какую опасность могут представлять чат-боты вроде ChatGPT?

Интеллектуальные чат-боты, такие как популярный сегодня ChatGPT, открывают перед нами множество новых возможностей, помогая автоматизировать многие задачи и экономить немало времени. Однако, как считает заместитель генерального директора «Группы Т1» по технологическому развитию Антон Якимов, новые возможности эти чат-боты открывают также перед киберпреступниками.

По его словам, чат-боты могут «помогать» преступниками извлекать нужную им информацию из любых данных, а также анализировать ее.

«Проблема и опасность ChatGPT заключается в том, что чат-бот может без труда предоставить информацию о том, как создать вредоносный код, вирус или программу», — отметил специалист в беседе с «Лентой.ру».

Он добавил, что технология нейросетей, лежащих в основе подобных чат-ботов, упростила киберпреступникам процесс идентификации своих жертв и дальнейшую кражу их персональных данных. В результате, мошенники модифицируют свои атаки при помощи искусственного интеллекта, что осложняет их предотвращение и противодействие угрозам. 

Сам ChatGPT в беседе с NEWS.am Tech отметил, что киберпреступники и правда потенциально могут использовать предоставленную им или любой другой языковой моделью информацию в своих целях.

«Важно помнить, что модели ИИ — это всего лишь инструменты, и, как любые другие инструменты, их можно использовать в хороших или плохих целях в зависимости от намерений пользователя. При этом разработчики и исследователи постоянно работают над улучшением мер безопасности и разработкой этических принципов для технологии ИИ.

Пользователям важно знать о потенциальных рисках и принимать необходимые меры предосторожности для защиты своей информации и данных», — отметил чат-бот.