Сегодня искусственный интеллект активно внедряют в управление критической инфраструктурой: от путепроводов и энергосетей до магистральных трубопроводов и авиации. Но так ли безупречен ИИ, когда речь идет о безопасности миллионов людей? Профессор Паскуале Дапонте в своем докладе о мониторинге инфраструктуры доказывает: главная угроза кроется не в самом ИИ, а в том, чем мы его «кормим». 

Иллюзия цифрового двойника

В современной инженерии принято полагаться на концепцию «цифровых двойников» - виртуальных 3D-моделей реальных объектов, которые в режиме реального времени отображают их физическое состояние. Классическим примером, по словам профессора,  служат системы контроля Моста имени 25 апреля в Лиссабоне, где сотни датчиков непрерывно фиксируют нагрузку, вибрации и натяжение элементов. Данные стекаются в единый центр, а алгоритмы искусственного интеллекта ищут в них отклонения, позволяющие заметить усталость металла задолго до появления видимых повреждений.

Однако Паскуале Дапонте обращает внимание на ключевое звено этой цепи, где чаще всего происходит сбой. Ученый напоминает о базовом процессе распространения погрешности: прежде чем данные попадут в нейросеть, они проходят через физический преобразователь, первичную обработку сигнала, цифровизацию, синхронизацию и калибровку. Если на любом из этих начальных этапов возникает искажение — например, датчик сдвинулся, потерял калибровку или его показатели рассинхронизировались по времени с соседними приборами, — вся последующая аналитика становится бессмысленной.

Искусственный интеллект, как подчеркивает профессор, не способен восстановить ту информацию, которая никогда не была правильно измерена, синхронизирована или откалибрована. В результате возникает ситуация, когда математически безупречная ИИ-модель обрабатывает недостоверные исходные данные и выдает внешне убедительный, но фатально ошибочный вывод.

Возврат к законам физики

Чтобы преодолеть эту уязвимость, Дапонте предлагает отказаться от использования ИИ как «черного ящика», который просто ищет статистические корреляции в массивах цифр. В критических системах такой подход слишком опасен, поэтому ученый настаивает на переходе к гибридным моделям -  Physics-informed AI,  так называемому ИИ, основанному на физике 

Логика заключается в том, чтобы интегрировать в математическую модель нейросети фундаментальные законы природы: уравнения динамического равновесия конструкций, законы сохранения энергии и формулы сопротивления материалов. Когда алгоритм обучен с учетом физической модели конкретного моста или трубопровода, он получает способность верифицировать входящий поток. Если датчик начинает передавать значения, которые физически невозможны для данной конструкции при текущих условиях, гибридная система моментально распознает ошибку самого прибора, а не трактует ее как аварийную ситуацию на объекте.

Почему «красная кнопка» остаётся у человека

Логическим продолжением этой цепочки становится вопрос об автономии принятия решений. Дапонте разделяет задачу аналитики на два принципиально разных этапа: диагностику и прогностику. Диагностический модуль ИИ способен локализовать уже возникшую аномалию и определить место неисправности. Прогностический модуль шагает дальше и вычисляет остаточный ресурс системы, отвечая на вопросы вида: «Сколько еще часов сможет пролетать самолет с данной микротрещиной?» или «Сколько дней проработает трубопровод при текущем уровне коррозии?».

При этом Паскуале Дапонте категорически возражает против того, чтобы передавать алгоритмам право на автоматические исполнительные действия. Системы мониторинга могут автоматически меняют статус безопасности с зеленого на оранжевый или красный, предупреждая о рисках, но финальная верификация и принятие ключевых решений обязаны оставаться за человеком. Профессор объясняет это тем, что цена ложноположительного срабатывания в критической инфраструктуре невероятно высока: автоматическая остановка магистрального газопровода или перекрытие ключевой транспортной артерии из-за сбоя в алгоритме влечет за собой огромный экономический и социальный ущерб.

Перенос интеллекта на периферию

Для минимизации подобных рисков Дапонте описывает необходимую эволюцию самой архитектуры сбора данных. Вместо того чтобы отправлять колоссальные объемы сырой информации с каждого сенсора в центральное облако, современная система должна использовать концепцию краевых вычислений.

По мнению профессора, первичная очистка сигнала от шумов, компенсация помех, проверка качества данных и базовое детекция аномалий должны происходить непосредственно на самом датчике или в локальном контроллере рядом с ним. Это не только разгружает каналы связи, но и обеспечивает непрерывность мониторинга даже при полной потере внешней сети. Облачные же мощности Дапонте предлагает оставить исключительно для тяжелых задач: глобального обучения моделей, ведения исторического анализа и синхронизации цифрового двойника.

Подводя итог своему докладу, Дапонте очерчивает главный вектор развития отрасли. Искусственный интеллект способен стать мощнейшим инструментом в руках инженеров, но его надежность прямым образом ограничена качеством работы физических сенсоров. Будущее безопасности инфраструктуры зависит не от абстрактной мощности алгоритмов, а от нашей способности обеспечить метрологическую точность на самом первом метре передачи данных.