Роль и перспективы ИИ в укреплении безопасности ядерных объектов
Написание научных статей, создание картин, автоматизация рутинных задач, обработка больших объемов данных, прогнозирование и решение сложных задач – все это уже с успехом делают с помощью искусственного интеллекта (ИИ). Робот-гуманоид София, созданная на основе искусственного интеллекта, обучается, шутит и дает интервью, в которых выражает желание иметь семью, как у людей. Овладеть ИИ стремятся технологические компании во всем мире, поэтому инвестиции в исследования ИИ в 2023-м составили $21,3 млрд.
Искусственный интеллект – организованная совокупность информационных технологий, с применением которой возможно выполнять сложные комплексные задачи путем использования системы научных методов исследований и алгоритмов обработки информации, полученной или самостоятельно созданной во время работы, а также создавать и использовать собственные базы знаний, модели принятия решений, алгоритмы работы с информацией и определять способы достижения поставленных задач.
По способу работы ИИ похож на работу головного мозга. Это математический аппарат с электронной частью, который может работать с информацией как человек. В идеальном варианте он может мыслить, учиться и синтезировать новую информацию.
Безграничные возможности, скорость и способность объединяться и синхронизироваться несет определенные угрозы для людей со стороны ИИ. «Человек, который управляет искусственным интеллектом, исходя из личных мотивов, может навредить большому кругу своих собратьев. Так было с атомной бомбой – ее не смогли же запретить. И мы все вроде бы знаем, что это плохо, но она есть», – отметил Алексей Резниченко, основатель и руководитель сети Центров робототехники „Ботеон“.
Законодательная база для регулирования искусственного интеллекта
В конце 2020 года Кабинет Министров согласовал Концепцию развития искусственного интеллекта в Украине. Наше государство стремится значительно увеличить количество квалифицированных специалистов в области ИИ, повысить качество научных исследований в этой сфере, а также распространить среди населения навыки компетентного использования искусственного интеллекта.
От правильного использования ИИ выигрывают все: автоматизация процессов увеличивает производительность, повышается качество административных услуг, предоставляемых гражданам и бизнесу, уменьшается коррупционное влияние.
Страны Европы видят в ИИ серьезные угрозы, поэтому в Европейском союзе в августе 2024 года вступил в силу Закон о всестороннем регулировании искусственного интеллекта (Artificial Intelligence Act), призванный гарантировать защиту основных прав людей в отношении ИИ.
Отныне чатботы должны четко сообщать пользователям о том, что те взаимодействуют с ИИ. Определенный контент, созданный с помощью нейронной сети, включая дипфейки, должен быть обозначен специальной маркировкой. То же самое и о системе биометрической категоризации или распознавания эмоций – человека должны проинформировать, что с ним в этот момент взаимодействует ИИ.
Высокий уровень угроз несут системы ИИ, которые используют для рекрутинга, оценки права на получение кредита или для управления автономными роботами. Такие системы ИИ должны соответствовать требованиям системы снижения рисков и иметь четкую информацию для пользователей.
Этот закон, в частности, запрещает приложения, которые могут манипулировать поведением людей: игры с голосовыми помощниками, поощряющие опасное поведение несовершеннолетних и тому подобное. Кроме того, будет запрещено использование некоторых биометрических систем, например, системы распознавания эмоций на рабочем месте или дистанционное биометрическое распознавание в реальном времени для правоохранительных целей. Такие системы ИИ считаются серьезной угрозой основным правам людей.
Большинство правил закона об ИИ начнут применять со 2 августа 2026 года. Однако запреты систем ИИ, манипулирующих людьми, будут применять уже через полгода.
Потенциальные возможности ИИ в ядерной отрасли
Методы и алгоритмы ИИ используются для совершенствования и оптимизации различных аспектов ядерных технологий. В частности для эксплуатации ядерных реакторов, обнаружения радиации, анализа ядерных материалов, обращения с радиоактивными отходами и т.д. Используя способность ИИ к распознаванию, сложному анализу данных и принятию решений, есть возможность качественно улучшить ядерный сектор путем повышения эффективности, безопасности и устойчивости.
Системы прогнозируемого обслуживания на основе ИИ могут отслеживать состояние оборудования и прогнозировать сбои, снижая вероятность аварий и незапланированных отключений. Роботизированные алгоритмы обучения также могут помочь в обнаружении аномалий в режиме реального времени, помогая операторам быстро обнаруживать опасность и соответствующим образом реагировать на нее.
Исследователи из Аргонской национальной лаборатории описали, как операторы атомных электростанций (АЭС) могут получить выгоду от диагностической информации, отфильтрованной через большую модель ИИ GPT-4.
Эта модель ИИ сравнивает данные от АЭС в реальном времени с ожидаемым нормальным поведением в моделях на основе физики, чтобы выявить неисправности. В случае несоответствия система обеспечивает вероятностное распределение неисправностей.
Система была испытана в Аргонском центре инженерных испытаний механизмов (Argonne’s Mechanisms Engineering Test Loop Facility), где она диагностировала неисправный датчик в неядерном жидком натриевом испытательном центре и объяснила проблему операторам.
Министерство энергетики США выпустило отчет о потенциале ИИ для поддержки роста чистой энергии в Америке, а также перспективные направления исследований по ИИ для ядерной энергетики.
ИИ будет способствовать соблюдению требований нормативного законодательства, автоматизируя анализ данных и отчетность, гарантируя, что операции соответствуют стандартам безопасности и защиты окружающей среды.
Ядерная энергетика имеет потенциал для обеспечения значительной части мировых потребностей в чистой энергии. Оптимизируя работу реактора и использование топлива с помощью ИИ, можно повысить эффективность атомных электростанций, что приведет к увеличению производства энергии и уменьшению отходов.
Также ИИ способен более точно моделировать поведение отходов и их разложение, помогая в разработке более безопасных методов утилизации. Роботизированные алгоритмы обучения могут помочь в определении потенциальных мест для хранилищ ядерных отходов на основе геологических и экологических факторов.
Британская компания по искусственному интеллекту «Faculty», которая сотрудничает с «Veolia Nuclear Solutions» в области сортировки радиоактивных отходов, реализует проект стоимостью 7,5 миллионов долларов США. Используя ИИ и программы машинного обучения, радиоактивные отходы смогут быстрее сортировать, а управление ими станет более безопасным благодаря программам исследований и разработок между правительством и промышленностью.
И наконец обнаружена способность ИИ контролировать ядерный синтез путем анализа огромных объемов данных, полученных во время экспериментов по термоядерному синтезу, помогая исследователям понять сложную динамику плазмы и разработать более эффективные термоядерные реакторы.
Шаги МАГАТЭ для изучения возможностей искусственного интеллекта
Благодаря быстрому прогрессу в вычислительных ресурсах и инструментах анализа данных, ядерная промышленность уже начала использовать ИИ, чтобы оптимизировать эксплуатацию и техническое обслуживание атомных электростанций. ИИ также поддерживает разработку передовых технологий ядерной энергетики, таких как малые модульные реакторы (ММР).
МАГАТЭ определило Центр науки информации в Университете Пердью в США первым центром сотрудничества МАГАТЭ для поддержки деятельности Агентства по внедрению искусственного интеллекта в ядерной энергетике, включая проектирование реакторов, эксплуатацию станций, а также обучение и образование.
Пятилетнее соглашение Центра сотрудничества будет способствовать программной деятельности МАГАТЭ и обмену знаниями в области ИИ для ядерной энергетики. Речь идет об инициативах сравнительных учений по развитию доверия и принятия технологии ИИ для ядерной энергетики, создании «сравнительного центра» для координации и управления данными, а также других мероприятиях, связанных с разработкой и оценкой технологий ИИ в сотрудничестве с государствами-членами МАГАТЭ.
Соглашение о Центре сотрудничества является частью работы МАГАТЭ по поддержке стран, заинтересованных в использовании ИИ для ядерной науки и технологий. Международная сеть МАГАТЭ по инновациям для поддержки действующих атомных электростанций изучает нормативные и технические аспекты развертывания ИИ. Сейчас продолжается несколько скоординированных исследовательских проектов, один из которых связан с использованием ИИ в ММР.
Соглашение было заключено после того, как Агентство недавно определило Центр плазменной науки и синтеза Массачусетского технологического института как первый центр сотрудничества, сосредоточенный на ускорении исследований термоядерного синтеза, с акцентом на применении ИИ для продвижения инициативы МАГАТЭ AI for Fusion.
Чтобы способствовать мирному использованию ядерных технологий, МАГАТЭ сотрудничает с соответствующими учреждениями во всем мире. Через сеть центров сотрудничества эти организации в государствах-членах могут помогать МАГАТЭ, проводя оригинальные исследования и разработки, а также обучение, связанное с ядерной наукой, технологиями и их безопасным и надежным применением.
Опасности использования ИИ
Алгоритмы искусственного интеллекта требуют огромных объемов данных для обучения и точных прогнозов. Однако в ядерном секторе конфиденциальная информация о конструкции, эксплуатации и мерах безопасности реакторов должна быть защищена от злоумышленников, которые стремятся использовать уязвимые места для кражи конфиденциальной информации, саботажа или несанкционированного доступа к ядерным объектам.
Обеспечение эффективной коммуникации между людьми и ИИ имеет важное значение для предотвращения недоразумений и ошибок. Внедрение ИИ в ядерный сектор требует от операциониста ориентирования в сложных нормативно-правовых рамках. Системы ИИ могут непреднамеренно изучать предубеждения, присутствующие в учебных данных, что потенциально может привести к искаженным результатам. Из-за широкой распространенности предубеждений или многочисленных неточностей, решения, которые будет предлагать ИИ, могут иметь серьезные последствия для безопасности и окружающей среды. Именно поэтому требуется влияние специалиста и его руководящая роль в принятии решений. Ведь кто будет нести ответственность в случае критической ошибки системы ИИ и причинения случайной катастрофы? Насколько прозрачны процессы принятия решений алгоритмами ИИ в ядерных операциях с высокими ставками? Тогда такие решения приведут к усилению глобальной нестабильности и потенциальной гонки вооружений.
Идеальная комбинация: мозг человека и искусственный интеллект
Когда оператор использует данные, полученные с помощью ИИ, это называется человеко-машинным взаимодействием («ЧМИ»). Именно такой способ работы с ИИ является типичным на АЭС, поскольку операторы получают собранные данные от датчиков или устройств и принимают решения на основе этих данных, что делает их очень важной составляющей в ядерной энергетике. Хорошо отлаженный ЧМИ в помещении блочного щита управления (БЩУ) может помочь уменьшить количество ошибок оператора и обеспечить безопасную работу АЭС. На сегодня на АЭС используются простые графические интерфейсы, которые устарели, а разработка новых устройств не ведется.
Человеческий фактор всегда играет решающую роль в ЧМИ и для того, чтобы уменьшить количество человеческих ошибок, а также повысить надежность АЭС, исследователи предлагают методы ИИ. В частности применять виртуальный пульт управления, чтобы имитировать реальную ситуацию, и использовать ИИ для отработки содержания текста в приказах, чтобы уменьшить количество ошибок.
Также предлагают применять для оценивания трехмерное вычислительное моделирование на основе виртуальной реальности. Исследования показывают, что диджитализация БЩУ, включая ЧМИ, имеет как положительное, так и отрицательное влияние на надежность работы человека-оператора. Основными проблемами при этом являются увеличение сложности системы и рабочей нагрузки, которые можно упростить с помощью технологий ИИ.
Международное партнерство может способствовать обмену данными и передовым опытом, обеспечивая ответственное и безопасное развитие ядерного ИИ. Важно обеспечить строгое регулирование, надзор и ответственное использование ИИ в ядерной сфере. Исследователи и заинтересованные стороны должны работать вместе, чтобы решить проблемы и уменьшить риски, связанные с этой технологией. Вот несколько потенциальных путей для будущих разработок с помощью ИИ:
- разработка более эффективных и безопасных конструкций ядерных реакторов, в частности малых модульных реакторов и реакторов на расплавленных солях, благодаря быстрому моделированию и оптимизации алгоритмов ИИ;
- системы ИИ могут автономно управлять работой реактора, техническим обслуживанием и протоколами безопасности, минимизируя человеческое вмешательство и потенциальные ошибки.
Человечество стремительно приближает будущее ядерного искусственного интеллекта, но нужно помнить о предоставлении приоритета безопасности, сотрудничества и этической ответственности. Только сбалансированный подход позволит использовать полный потенциал ИИ для улучшения и развития ядерной отрасли.
Редакция вебсайта Uatom.org