Как и когда искусственный интеллект может уничтожить человечество?

По мере развития технологического сектора ведущих стран мира искусственный интеллект может начать представлять угрозу для человечества. Об этом рассказывается в статье, опубликованном в издании The New York Times. По мнению специалистов, слишком большая автономность систем с ИИ и их подключение к жизненно важной инфраструктуре, такой как электрические сети, фондовые рынки и вооружение, могут привести к непредсказуемым последствиям.

По мнению профессора Йошуа Бенжио, научного сотрудника Монреальского университета, сегодняшние системы ИИ не представляют экзистенциального риска, однако сложно предсказать, какой момент станет критическим и приведет к катастрофе.

«Сегодняшние системы и близко не представляют экзистенциальный риск. Но через один, два, пять лет? Слишком много неопределенности. Вот в чем проблема. Нет уверенности, что мы осознаем этот момент, когда мы будем на грани катастрофы», — отметил профессор.

Компании могут предоставить системам с ИИ все больше и больше автономии и подключать их к жизненно важной инфраструктуре, включая электрические сети, фондовые рынки и вооружению. Именно решение перейти эту черту и может вызвать проблемы, считают специалисты.

«В какой-то момент станет ясно, что большая машина, управляющая обществом и экономикой, на самом деле не находится под контролем человека и не может быть отключена, как не может быть отключен S&P 500», — отметил космолог из Калифорнийского университета в Санта-Крузе Энтони Агирре.

По словам специалистов, пока системы с ИИ склонны «застревать в бесконечных петлях» из повторяющихся данных, но со временем, если эти программы будут доработаны, эти ограничения могут быть устранены.

«Поскольку ИИ-системы учатся на большем количестве данных, чем способны понять даже их создатели, эти системы уже демонстрируют неожиданное поведение. Некоторые эксперты опасаются, что по мере того, как исследователи делают эти системы более мощными, обучая их на все больших объемах данных, они могут приобрести больше вредных и даже опасных привычек», — заключил автор материала.