Искусственный интеллект в ближайшем будущем может достичь уровня, позволяющего ему самостоятельно решать сложные биологические задачи. Это откроет новые возможности для разработки лекарств и медицинских исследований, но одновременно создаст серьезные угрозы биологической безопасности, вплоть до разработки биологического оружия и возникновения новых пандемий. Об этом заявил главный научный сотрудник Tencent Holdings Винсент Яо в ходе научного симпозиума, организованного Академией наук Гонконга и фондом Future Science Prize.

По оценке Яо, возможности передовых моделей искусственного интеллекта в области кибербезопасности уже приближаются к порогу, за которым их можно использовать для нанесения реального ущерба. Аналогичный рубеж вскоре будет достигнут и в биологии. «Кибервозможности моделей, а вскоре и их биологические возможности достигнут уровня, при котором причинение вреда станет вполне реальным», - предупредил он.

Яо призвал разработчиков, в том числе китайские компании, выпускающие модели с открытыми весами, ответственно подходить к вопросам безопасности. По его словам, технологический прогресс в этой области требует особенно тщательной оценки потенциальных последствий.

Развитие искусственного интеллекта в биологии рассматривается как следующий крупный этап после стремительного продвижения моделей в программировании. Последнее уже существенно изменило сферу глобальной кибербезопасности. При этом биологические возможности ИИ, как и кибервозможности, имеют двойное назначение: они могут использоваться как для защиты, так и для атак. Однако применительно к биологии разделить эти две стороны, по мнению экспертов, может оказаться значительно сложнее.

Tencent разрабатывает автономные научные лаборатории

Компания Tencent активно изучает возможности применения ИИ для автоматизации научных исследований. Выступая перед аудиторией, состоявшей преимущественно из студентов компьютерных наук, Яо рассказал о планах компании по созданию автономных научных лабораторий, в которых искусственный интеллект сможет самостоятельно проводить сложные эксперименты на всех этапах. В качестве одного из примеров он назвал обратное сворачивание белков (inverse protein folding).

По словам Яо, технические препятствия на этом пути в конечном итоге будут преодолены — вопрос заключается лишь во времени. Гораздо более серьезные трудности, считает он, связаны с общественными и организационными аспектами внедрения подобных технологий.

Одним из наиболее перспективных направлений применения ИИ в биологии остается разработка лекарственных препаратов. Технология может ускорить поиск новых соединений и создание методов лечения. Однако те же инструменты способны предоставить злоумышленникам дополнительные возможности для разработки опасных биологических агентов.

Tencent заявляет об ограничении опасных возможностей своих моделей

Предупреждение Яо прозвучало на фоне выпуска новой флагманской модели компании Hy4. По данным аналитической организации Artificial Analysis, представившей сравнительную оценку моделей, Hy4 заняла второе место среди разработанных в Китае систем.

В Tencent заявили, что при обучении модели отфильтровали данные, связанные с возможностями кибервзлома, сохранив при этом функции, необходимые для киберзащиты. Биологические возможности Hy4, по оценке компании, пока остаются значительно ниже установленного порога высокого риска: модель еще не способна превращать фундаментальные биологические знания в конкретные практические протоколы.

Тем не менее Яо призвал отрасль не недооценивать потенциальные угрозы. Он отметил, что разрыв между китайскими и американскими моделями искусственного интеллекта невелик, а значит, вопросы безопасности актуальны для всех ведущих разработчиков.

Перед выпуском новых моделей, подчеркнул он, необходимо проводить тщательную оценку их возможностей. Tencent сотрудничает с собственными подразделениями, специализирующимися на безопасности, однако эта работа еще далека от завершения.