Роль і перспективи ШІ у зміцненні безпеки ядерних об’єктів
Написання наукових статей, створення картин, автоматизація рутинних завдань, обробка великих обсягів даних, прогнозування та розв’язання складних задач – все це вже з успіхом роблять за допомогою штучного інтелекту (ШІ). Робот-гуманоїд Софія, створена на основі штучного інтелекту, навчається, жартує і дає інтерв’ю, в яких висловлює бажання мати родину, як у людей. Опанувати ШІ прагнуть технологічні компанії у всьому світі, тому інвестиції в дослідження ШІ у 2023-му склали $21,3 млрд.
Штучний інтелект – організована сукупність інформаційних технологій, із застосуванням якої можливо виконувати складні комплексні завдання шляхом використання системи наукових методів досліджень і алгоритмів обробки інформації, отриманої або самостійно створеної під час роботи, а також створювати та використовувати власні бази знань, моделі прийняття рішень, алгоритми роботи з інформацією та визначати способи досягнення поставлених завдань.
За способом роботи ШІ схожий на роботу головного мозку. Це математичний апарат з електронною частиною, який може працювати з інформацією як людина. В ідеальному варіанті він може мислити, навчатись та синтезувати нову інформацію.
Безмежні можливості, швидкість і здатність об’єднуватися та синхронізуватися несе певні загрози для людей з боку ШІ. «Людина, яка керує штучним інтелектом, виходячи з особистих мотивів, може зашкодити великому колу своїх побратимів. Так було з атомною бомбою – її не змогли ж заборонити. І ми всі начебто знаємо, що це погано, але вона є», – зазначив Олексій Резніченко, засновник та керівник мережі Центрів робототехніки «Ботеон».
Законодавча база для регулювання штучного інтелекту
Наприкінці 2020 року Кабінет Міністрів погодив Концепцію розвитку штучного інтелекту в Україні. Наша держава прагне значно збільшити кількість кваліфікованих спеціалістів у галузі ШІ, підвищити якість наукових досліджень у цій сфері, а також поширити серед населення навички компетентного використання штучного інтелекту.
Від правильного використання ШІ виграють усі: автоматизація процесів збільшує продуктивність, підвищується якість адміністративних послуг, які надаються громадянам та бізнесу, зменшується корупційний вплив.
Країни Європи вбачають в ШІ серйозні загрози, тому в Європейському союзі в серпні 2024 набув чинності Закон про всебічне регулювання штучного інтелекту (Artificial Intelligence Act), покликаний гарантувати захист основних прав людей щодо ШІ.
Відтепер чатботи повинні чітко повідомляти користувачів про те, що ті взаємодіють із ШІ. Певний контент, створений за допомогою нейронної мережі, включно з дипфейками, має бути позначений спеціальним маркуванням. Те ж саме і про систему біометричної категоризації або розпізнавання емоцій – людину мають поінформувати, що з нею в цю мить взаємодіє ШІ.
Високий рівень загроз несуть системи ШІ, які використовують для рекрутингу, оцінки права на отримання кредиту або для управління автономними роботами. Такі системи ШІ повинні відповідати вимогам системи зниження ризиків та мати чітку інформацію для користувачів.
Цей закон, зокрема, забороняє застосунки, що можуть маніпулювати поведінкою людей: ігри з голосовими помічниками, що заохочують небезпечну поведінку неповнолітніх тощо. Крім того, буде заборонено використання деяких біометричних систем, наприклад, системи розпізнавання емоцій на робочому місці або дистанційне біометричне розпізнавання в реальному часі для правоохоронних цілей. Такі системи ШІ вважаються серйозною загрозою основним правам людей.
Більшість правил закону про ШІ почнуть застосовувати з 2 серпня 2026 року. Однак заборони систем ШІ, що маніпулюють людьми, застосовуватимуть уже за пів року.
Потенційні можливості ШІ в ядерній галузі
Методи і алгоритми ШІ використовуються для вдосконалення та оптимізації різних аспектів ядерних технологій. Зокрема для експлуатації ядерних реакторів, виявлення радіації, аналізу ядерних матеріалів, поводження з радіоактивними відходами тощо. Використовуючи здатність ШІ до розпізнавання, складного аналізу даних і ухвалення рішень, є можливість якісно поліпшити ядерний сектор шляхом підвищення ефективності, безпеки та стійкості.
Системи прогнозованого обслуговування на основі ШІ можуть відстежувати стан обладнання та прогнозувати збої, знижуючи ймовірність аварій та незапланованих відключень. Роботизовані алгоритми навчання також можуть допомогти у виявленні аномалій у режимі реального часу, допомагаючи операторам швидко виявляти небезпеку та відповідним чином реагувати на неї.
Дослідники з Аргонської національної лабораторії описали, як оператори атомних електростанцій (АЕС) можуть отримати вигоду від діагностичної інформації, відфільтрованої через велику модель ШІ GPT-4.
Ця модель ШІ порівнює дані від АЕС в реальному часі з очікуваною нормальною поведінкою в моделях на основі фізики, щоб виявити несправності. У разі невідповідності система забезпечує ймовірнісний розподіл несправностей.
Систему було випробувано в Аргонському центрі інженерних випробувань механізмів (Argonne’s Mechanisms Engineering Test Loop Facility), де вона діагностувала несправний датчик у неядерному рідкому натрієвому випробувальному центрі та пояснила проблему операторам.
Міністерство енергетики США випустило звіт про потенціал ШІ для підтримки зростання чистої енергії в Америці, а також перспективні напрямки досліджень щодо ШІ для ядерної енергетики.
ШІ сприятиме дотриманню вимог нормативного законодавства, автоматизуючи аналіз даних і звітність, гарантуючи, що операції відповідають стандартам безпеки та захисту навколишнього середовища.
Ядерна енергетика має потенціал для забезпечення значної частини світових потреб у чистій енергії. Оптимізуючи роботу реактора та використання палива за допомогою ШІ, можна підвищити ефективність атомних електростанцій, що призведе до збільшення виробництва енергії та зменшення відходів.
Також ШІ здатен більш точно моделювати поведінку відходів і їх розкладання, допомагаючи в розробці безпечніших методів утилізації. Роботизовані алгоритми навчання можуть допомогти у визначенні потенційних місць для сховищ ядерних відходів на основі геологічних та екологічних факторів.
Британська компанія зі штучного інтелекту «Faculty», яка співпрацює з «Veolia Nuclear Solutions» в галузі сортування радіоактивних відходів реалізує проєкт вартістю 7,5 мільйонів доларів США. Використовуючи ШІ та програми машинного навчання, радіоактивні відходи зможуть швидше сортувати, а управління ними стане більш безпечним завдяки програмам досліджень та розробок між урядом та промисловістю.
І нарешті виявлена здатність ШІ контролювати ядерний синтез шляхом аналізу величезних обсягів даних, отриманих під час експериментів з термоядерного синтезу, допомагаючи дослідникам зрозуміти складну динаміку плазми та розробити більш ефективні термоядерні реактори.
Кроки МАГАТЕ для вивчення можливостей штучного інтелекту
Завдяки швидкому прогресу в обчислювальних ресурсах та інструментах аналізу даних, ядерна промисловість вже почала використовувати ШІ, щоб оптимізувати експлуатацію та технічне обслуговування атомних електростанцій. ШІ також підтримує розробку передових технологій ядерної енергетики, таких як малі модульні реактори (ММР).
МАГАТЕ визначило Центр науки інформації в Університеті Пердью в США першим центром співпраці МАГАТЕ для підтримки діяльності Агентства щодо впровадження штучного інтелекту у ядерній енергетиці, включаючи проєктування реакторів, експлуатацію станцій, а також навчання та освіту.
П’ятирічна угода Центру співпраці сприятиме програмній діяльності МАГАТЕ та обміну знаннями у галузі ШІ для ядерної енергетики. Йдеться про ініціативи порівняльних навчань з розвитку довіри та прийняття технології ШІ для ядерної енергетики, створення «порівняльного центру» для координації та управління даними, а також інші заходи, пов’язані з розробкою та оцінкою технологій ШІ у співпраці з державами-членами МАГАТЕ.
Угода про Центр співпраці є частиною роботи МАГАТЕ щодо підтримки країн, зацікавлених у використанні ШІ для ядерної науки та технологій. Міжнародна мережа МАГАТЕ з інновацій для підтримки діючих атомних електростанцій вивчає нормативні та технічні аспекти розгортання ШІ. Наразі триває кілька скоординованих дослідницьких проєктів, один з яких пов’язаний з використанням ШІ в ММР.
Угода була укладена після того, як Агентство нещодавно визначило Центр плазмової науки та синтезу Массачусетського технологічного інституту як перший центр співпраці, зосереджений на прискоренні досліджень термоядерного синтезу, з акцентом на застосуванні ШІ для просування ініціативи МАГАТЕ AI for Fusion.
Щоб сприяти мирному використанню ядерних технологій, МАГАТЕ співпрацює з відповідними установами у всьому світі. Через мережу центрів співробітництва ці організації в державах-членах можуть допомагати МАГАТЕ, проводячи оригінальні дослідження та розробки, а також навчання, пов’язане з ядерною наукою, технологіями та їх безпечним і надійним застосуванням.
Небезпеки використання ШІ
Алгоритми штучного інтелекту вимагають величезних обсягів даних для навчання та точних прогнозів. Однак у ядерному секторі конфіденційна інформація про конструкцію, експлуатацію та заходи безпеки реакторів має бути захищена від зловмисників, які прагнуть використати вразливі місця задля крадіжки конфіденційної інформації, саботажу або несанкціонованого доступу до ядерних об’єктів.
Забезпечення ефективної комунікації між людьми та ШІ має важливе значення для запобігання непорозумінням та помилкам. Впровадження ШІ в ядерний сектор вимагає від операціоніста орієнтування в складних нормативно-правових рамках. Системи ШІ можуть ненавмисно вивчати упередження, присутні в навчальних даних, що потенційно може призвести до спотворених результатів. Через широку розповсюдженість упереджень або численні неточності, рішення, які пропонуватиме ШІ, можуть мати серйозні наслідки для безпеки та навколишнього середовища. Саме тому потрібен вплив фахівця і його керівна роль в ухваленні рішень. Адже хто нестиме відповідальність у разі критичної помилки системи ШІ і спричинення випадкової катастрофи? На скільки прозорими є процеси прийняття рішень алгоритмами ШІ в ядерних операціях з високими ставками? Тоді такі рішення призведуть до посилення глобальної нестабільності та потенційної гонки озброєнь.
Ідеальна комбінація: мозок людини та штучний інтелект
Коли оператор використовує дані, отримані за допомогою ШІ, це називається людино-машинною взаємодією (ЛМВ). Саме такий спосіб роботи з ШІ є типовим на АЕС, оскільки оператори отримують зібрані дані від датчиків або пристроїв і ухвалюють рішення на основі цих даних, що робить їх дуже важливою складовою в ядерній енергетиці. Добре налагоджена ЛМВ в приміщенні блочного щита управління (БЩУ) може допомогти зменшити кількість помилок оператора і забезпечити безпечну роботу АЕС. На сьогодні на АЕС використовуються прості графічні інтерфейси, які застаріли, а розробка нових пристроїв не ведеться.
Людський фактор завжди відіграє вирішальну роль у ЛМВ і для того, щоб зменшити кількість людських помилок, а також підвищити надійність АЕС, дослідники пропонують методи ШІ. Зокрема застосовувати віртуальний пульт управління, щоб імітувати реальну ситуацію, і використовувати ШІ для відпрацювання змісту тексту в наказах, щоб зменшити кількість помилок.
Також пропонують застосовувати для оцінювання тривимірне обчислювальне моделювання на основі віртуальної реальності. Дослідження показують, що діджиталізація БЩУ, включаючи ЛМВ, має як позитивний, так і негативний вплив на надійність роботи людини-оператора. Основними проблемами при цьому є збільшення складності системи та робочого навантаження, які можна спростити за допомогою технологій ШІ.
Міжнародне партнерство може сприяти обміну даними та передовим досвідом, забезпечуючи відповідальний та безпечний розвиток ядерного ШІ. Важливо забезпечити суворе регулювання, нагляд і відповідальне використання ШІ в ядерній сфері. Дослідники та зацікавлені сторони повинні працювати разом, щоб розв’язати проблеми та зменшити ризики, пов’язані з цією технологією. Ось кілька потенційних шляхів для майбутніх розробок за допомогою ШІ:
- розробка більш ефективних і безпечних конструкцій ядерних реакторів, зокрема малих модульних реакторів та реакторів на розплавлених солях, завдяки швидкому моделюванню та оптимізації алгоритмів ШІ;
- системи ШІ можуть автономно керувати роботою реактора, технічним обслуговуванням та протоколами безпеки, мінімізуючи людське втручання та потенційні помилки.
Людство стрімко наближає майбутнє ядерного штучного інтелекту, але потрібно пам’ятати про надання пріоритету безпеці, співпраці та етичній відповідальності. Тільки збалансований підхід дозволить використання повного потенціалу ШІ для покращення та розвитку ядерної галузі.
Редакція вебсайту Uatom.org