Около 100 именитых экспертов и высокопоставленных гостей участвуют в первом саммите по безопасному использованию искусственного интеллекта (ИИ), который проходит 1-2 ноября на территории усадьбы Блетчли-парк в графстве Бакингемшир недалеко от Лондона. Цель мероприятия — понять, какие риски несет с собой ИИ и как этими рисками можно управлять.

В числе участников саммита — вице-президент США Камала Харрис, глава Еврокомиссии Урсула фон дер Ляйен, генеральный секретарь ООН Антониу Гутерриш, владелец SpaceX, Tesla и социальной сети X (ранее Twitter) Илон Маск, президент компании Microsoft Брэд Смит, глава Google DeepMind Демис Хассабис, а также генеральный директор компании Open AI, разработавшей популярный чат-бот ChatGPT, Сэм Альтман. 

Место для проведения саммита выбрано было не случайно: в Блетчли-парке в годы Второй мировой войны размещался центр дешифровки, и именно здесь команде Алана Тьюринга удалось раскрыть тайну кода «Энигма», который использовали немецкие шифровальные машины.

ИИ может создать биологическое оружие и всех нас погубить?

Искусственный интеллект может создать биологическое оружие, которое поставит под угрозу жизни миллионов людей. Такое мнение в ходе саммита выразила вице-президент США Камала Харрис.

«ИИ способен принести не только пользу, но и огромный вред: от кибератак с использованием ИИ, масштабы которых превосходят все, что мы видели ранее, до биооружия, созданного ИИ, которое может поставить под угрозу жизни миллионов людей. Эти угрозы часто называют экзистенциальными угрозами ИИ, поскольку они могут поставить под угрозу само существование человечества», — сказала она.

По ее словам, эти угрозы масштабны и требуют «действий на глобальном уровне», направленных на анализ и устранения всех рисков со стороны ИИ — и для человечества в целом, и для отдельных людей, и для уязвимых групп населения.

США, похоже, и правда обеспокоены возможными рисками, связанными с ИИ. Недавно президент Джо Байден подписал указ, по которому разработчики серьезных ИИ-моделей обязаны делиться с американскими властями результатами тестирования по безопасности.

Развитие ИИ не должно опережать его регулирования

Технологии ИИ не должны развиваться быстрее, чем разрабатываются правила их регулирования. Такое мнение в ходе саммита выразил индийский государственный министр электроники и информационных технологий Раджив Чандрасекар.

«За последние 10-15 лет мы узнали, что, разрешая технологиям опережать их регулирование, мы сами себя подставляем под токсичность и дезинформацию, которая распространяется через социальные сети в интернете. Мы считаем, что цифровые платформы должны быть подотчетны закону и обеспечивать безопасность их пользователей», — отметил он.

По его словам, ИИ открывает перед человечеством множество новых возможностей, но у столь стремительно развивающихся технологий есть и обратная сторона

«На ИИ мы должны смотреть через призму открытости, безопасности, доверия и ответственности. Мы считаем, что в будущем ИИ должен использоваться только на благо и процветание граждан всех стран», — сказал Чандрасекар.

Апокалипсис по Маску

Саммит на такую тему не мог бы пройти без присутствия Илона Маска. Накануне мероприятия он в очередной раз выступил с предупреждением, что ИИ может привести к вымиранию человечества. Эту же мысль он озвучил и в ходе саммита.

По его словам, ИИ представляет собой одну из самых серьезных угроз для человечества, самый настоящий «экзистенциальный риск».

«Впервые мы сталкиваемся с ситуацией, когда у нас есть нечто, что будет намного умнее самого умного человека. Неясно, сможем ли мы контролировать это, но я думаю, что нужно стремиться направить [технологию] в выгодном человечеству направлении», — сказал Маск.

В прошлом Маск неоднократно касался темы рисков, связанных с развитием ИИ.

«Есть некоторая вероятность, выше нуля, что ИИ убьет нас всех», — говорил он.

Маск также был в числе исследователей и бизнесменов в сфере искусственного интеллекта, потребовавших приостановить разработку нейросетей, более мощных, чем GPT-4.

Следует, однако, отметить, что в апреле Маск зарегистрировал компанию под названием X.AI, которая, по его словам, будет разработать собственный чат-бот с ИИ под названием TruthGPT в качестве альтернативы «предвзятому» ChatGPT.

Более реальные риски есть уже сегодня

В ходе саммита прозвучало немало более спокойных и сдержанных высказываний: так, многие специалисты отметили, что следует воздержаться от спекуляций на тему маловероятных угроз в будущем и сосредоточить внимание на потенциальных рисках, которые искусственный интеллект несет уже сегодня. Например, ИИ уже сейчас представляет вполне реальную угрозу для некоторых профессий. Кроме того, в процессе обучения он и правда может стать предвзятым.

Как отметила министр цифровых технологий Великобритании Мишель Донелан, мировые лидеры должны вместе работать над «ответом на социально-технический вызов, который выходит за рамки национальных границ». По ее словам, модели на основе ИИ «могут освободить людей от утомительной работы и расширить креативные возможности», но его можно использовать и в злых целях — для подрыва общественного доверия и так далее.

Напомним, что в ходе саммита 28 стран приняли Декларацию Блетчли, посвященную безопасному применению ИИ.