Anthropic запускает программу защиты критической инфраструктуры, в рамках которой компании, отвечающие за безопасность энергетических сетей, водоканалов и других важных объектов, получат доступ к передовым моделям искусственного интеллекта и помощи инженеров. Инициатива призвана помочь выявлять и устранять уязвимости в системах, которые зачастую сложно защищать из-за их возраста и технической сложности, сообщает Axios.

ИИ поможет искать уязвимости в критической инфраструктуре

Новая программа Critical Infrastructure Defense Program объединит Anthropic с компаниями, которые уже занимаются кибербезопасностью критически важных систем. Среди партнеров — Accenture, Booz Allen Hamilton, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC и Rockwell Automation.

Anthropic предоставит участникам доступ к своим передовым ИИ-моделям, инженеров для работы на местах и исследования угроз. С помощью этих ресурсов партнеры смогут обнаруживать уязвимости в системах своих клиентов и помогать устранять их. По словам компании, некоторые участники уже используют Claude для поиска и исправления проблем безопасности.

Необходимость в таких мерах связана с тем, что развитие ИИ может ускорить и удешевить проведение кибератак. При этом операторы критической инфраструктуры продолжают работать со сложными, в том числе устаревшими, системами, которые трудно защищать и обновлять.

Для проектов с открытым кодом запустят бесплатное ИИ-сканирование

Параллельно Anthropic представит OSS Scanner — бесплатный сервис на базе ИИ для поиска уязвимостей в проектах с открытым исходным кодом.

Claude будет периодически проверять участвующие в программе проекты и формировать автоматические отчеты. В них будут описываться обнаруженные уязвимости, возможные способы их эксплуатации и предлагаемые исправления.

Однако результаты не будут проходить проверку человеком перед отправкой разработчикам. Это означает, что среди рекомендаций могут оказаться неточные или ошибочные выводы. Разработчикам придется самостоятельно оценивать находки, прежде чем вносить изменения в код.

После Project Glasswing Anthropic делает ставку на защитников

Новая инициатива продолжает работу Anthropic над Project Glasswing — проектом, в рамках которого проверенные организации получили доступ к наиболее мощным моделям компании для выявления проблем безопасности.

По оценке Anthropic, этот опыт показал, насколько быстро ИИ способен обнаруживать уязвимости. Одновременно он выявил другую проблему: найти потенциальную дыру в защите недостаточно. Необходимо проверить, действительно ли она существует, определить степень риска и безопасно устранить ее.

Anthropic — не единственный разработчик, который пытается использовать передовые модели для киберзащиты. Подобные возможности интересуют и другие ИИ-компании на фоне того, что хакеры также получают доступ к инструментам, способным автоматизировать поиск уязвимостей и другие этапы атак.

Главный вопрос — как исправлять уязвимости без риска для инфраструктуры

Даже если ИИ обнаружит проблему и предложит способ ее устранения, внедрить исправление в критически важную систему может быть непросто. Ошибка при обновлении программного обеспечения или проверке изменений способна нарушить работу объекта, от которого зависят целые города или отрасли.

Anthropic пока не объяснила, как участники программы смогут тестировать и внедрять исправления, не подвергая риску работу коммунальных и энергетических систем. Неясно и то, получат ли партнеры бесплатный доступ к моделям или им придется самостоятельно оплачивать вычислительные ресурсы.

Таким образом, программа должна помочь специалистам быстрее находить слабые места в цифровой защите, но ее практическая эффективность будет зависеть не только от возможностей ИИ. Не менее важны проверка результатов, безопасное внедрение исправлений и ресурсы, необходимые для этой работы.