Як влучно зазначила Президент Європейської комісії Урсула фон дер Ляєн, потенційні переваги штучного інтелекту (ШІ) для громадян і економіки величезні. Однак прискорення можливостей штучного інтелекту також несе нові виклики.
У намаганні напрацювати конкретні методики та способи боротьби або принаймні ефективного реагування на такі виклики, держави в різних частинах світу розробляють стандарти, визначають напрямки й обґрунтовані межі правового регулювання процесів розробки та імплементації штучного інтелекту в усі сфери життя. Саме загальні стратегії та концепції, погоджені на міжнародному та/або загальноєвропейському рівнях, в подальшому мають стати змістовним підґрунтям для розробки нормативно-правових актів у сфері застосування ШІ у національному законодавстві.
Черговим прикладом врегулювання на глобальному рівні окремих питань використання ШІ стало, зокрема, прийняття під час Хіросімського процесу зі штучного інтелекту (The G7 Hiroshima Artificial Intelligence Process) Міжнародних керівних принципів для організацій з розробки передових систем ШІ (The International Guiding Principles for Organizations Developing Advanced AI Systems) (далі – Керівні принципи) і Кодексу поведінки для організацій з розробки передових систем ШІ (The International Code of Conduct for Organizations Developing Advanced AI Systems) (далі – Кодекс поведінки), що були опубліковані 30 жовтня 2023 року.
І хоча положення, викладені в цих актах, не забезпечуються силою правового примусу та є добровільними, однак вони виражають загальні наміри та бачення країн G7 та Європейського Союзу щодо напрямків подальшого всебічного, в тому числі правового, розвитку регулювання сфери ШІ. Ба більше, із заяв ЄС вбачається, що зміст розроблених Керівних принципів і Кодексу поведінки узгоджується з юридично обов’язковими правилами, що потенційно будуть міститься в тексті Закону про штучний інтелект (Artificial Intelligence Act), який наразі розробляється в ЄС.
Опубліковані Керівні принципи та Кодекс поведінки ґрунтуються на принципах, що містяться в ухваленій Радою ОЕСР 22 травня 2019 року Рекомендації щодо штучного інтелекту (The Recommendation on Artificial Intelligence), яка фактично стала першим міжурядовим стандартом щодо ШІ. Метою прийняття додаткових стандартів за результатами Хіросімського процесу зі штучного інтелекту стала потреба скористатися перевагами та подолати ризики і виклики, пов’язані з нещодавніми розробками передових систем штучного інтелекту.
Одинадцять розроблених стандартів регулювання ШІ
Загалом з тексту Керівних принципів та Кодексу поведінки вбачається, що вони просувають ідею застосування при розробці, розгортанні, використанні ШІ, зокрема саме передових систем ШІ, одинадцяти базових принципів та заходів, а саме:
1) використання в процесі розробки передових систем ШІ різноманітних заходів внутрішнього та незалежного зовнішнього тестування з метою виявлення, оцінки та зменшення ризиків протягом усього життєвого циклу ШІ;
2) виявлення та пом’якшення вразливостей, а також інцидентів та схем нецільового використання після розгортання, включаючи розміщення на ринку;
3) публічне повідомлення про можливості, обмеження та сфери належного і неналежного використання передових систем ШІ для забезпечення достатньої прозорості;
4) обмін інформацією та звітування про інциденти серед організацій, що розробляють передові системи ШІ, включаючи представників промисловості, уряди, громадянське суспільство та наукові кола;
5) розробка, впровадження та розкриття політик управління ШІ та організаційних механізмів для реалізації цих політик відповідно до підходу, що ґрунтується на оцінці ризиків;
6) інвестування і впровадження надійних засобів контролю безпеки, включаючи фізичну безпеку, кібербезпеку та засоби захисту від внутрішніх загроз протягом усього життєвого циклу ШІ;
7) розробка та впровадження надійних механізмів автентифікації та підтвердження походження контенту, що дозволяють користувачам ідентифікувати контент, створений ШІ;
8) пріоритетність досліджень щодо зменшення ризиків для суспільства, безпеки та захисту, а також пріоритетність інвестиції в ефективні способи пом’якшення наслідків;
9) пріоритетність розробки передових систем ШІ для вирішення глобальних проблем людства;
10) розробка міжнародних технічних стандартів;
11) впровадження належних процедур введення даних і захисту персональних даних та інтелектуальної власності.
Вищенаведений перелік стандартів та заходів є невичерпним, адже, як зазначено в преамбулі Кодексу поведінки та Керівних принципів, вони є «живим документом», що продовжують обговорюватись і розроблятись.
Застосування стандартів регулювання ШІ
Аналіз засад та заходів, наведених в Керівних принципах та Кодексі поведінки, свідчить, що в їх основі лежить насамперед ризикоорієнтований підхід. Так, загальна ідея полягає в тому, що зусилля основних «дійових осіб», які беруть участь в розробці, впровадженні, виведенні на ринок систем ШІ, мають супроводжуватись перманентним дослідженням, попередженням, встановленням, усвідомленням та, як наслідок, реагуванням на ризики, пов’язані із такими системами ШІ.
Заходи з тестування з метою виявлення ризиків та пом’якшення негативних наслідків повинні бути спрямовані, зокрема, на забезпечення надійності, безпеки та захищеності систем ШІ протягом усього їхнього життєвого циклу. Задля досягнення відповідної мети розробники повинні забезпечити відстежуваність наборів даних, процесів і рішень, прийнятих під час розробки системи, зокрема, шляхом документування та регулярного оновлення технічної документації.
Тестування повинно відбуватися в захищеному середовищі і проводитися в декількох контрольних точках протягом життєвого циклу ШІ, зокрема перед розгортанням і розміщенням на ринку, для виявлення як випадкових, так і навмисних ризиків і вразливостей.
Розробляючи та впроваджуючи заходи з тестування, організації з розробки систем ШІ зобов’язуються приділяти особливу увагу наступним ризикам:
– хімічні, біологічні, радіологічні та ядерні ризики, а саме способи, якими передові системи ШІ можуть знизити бар’єри для входу, в тому числі для недержавних суб’єктів, з метою розробки, придбання або використання зброї;
– атакувальні кіберспроможності, наприклад, способи, якими системи ШІ можуть сприяти виявленню або використанню вразливостей;
– ризики для здоров’я та/або безпеки, в тому числі наслідки взаємодії систем та використання інструментів, включаючи здатність контролювати фізичні системи та втручатися в критично важливу інфраструктуру;
– ризики, пов’язані з «самовідтворенням» моделей ШІ, тобто створенням копій самих себе або навчання інших моделей;
– соціальні ризики, зокрема ризики спричинення шкідливих упереджень і дискримінації окремих осіб чи спільнот, порушення чинних правових норм, у тому числі про конфіденційність і захист даних;
– загрози демократичним цінностям і правам людини, зокрема сприяння дезінформації або порушення недоторканності приватного життя;
– ризик того, що певна подія може призвести до ланцюгової реакції зі значними негативними наслідками, які можуть вплинути на ціле місто, сферу діяльності або громаду.
Впровадження зобов’язань щодо відстежування вищенаведених ризиків, зокрема, для організацій з розробки передових систем ШІ обумовлене необхідністю окреслення чітких рамок для створення та використання передових систем ШІ в повсякденному житті людства. Адже можливість застосування комп’ютерних технологій для генерування результатів на умовах заданого набору визначених людиною цілей, що фактично забезпечується системами ШІ, в будь-якому випадку пов’язана із впливом на середовище, в рамках якого відбувається або взаємодія користувачів, або впровадження отриманих результатів. Водночас з огляду на сфери, в яких планується та/або можливе використання передових систем ШІ, такий вплив може спричинити незворотні наслідки для суспільства, основоположних цінностей, прав та свобод та/або будь-які інші прояви незворотної трансформації сучасного світопорядку. Відтак обґрунтовано питання виявлення, попередження та адекватного реагування на усі виклики та ризики, з якими пов’язано застосування систем ШІ, є найбільш пріоритетними на порядку денному.
Оскільки моніторинг різного роду вразливостей, інцидентів, зловживань, ризиків, пов’язаних із системами ШІ, та забезпечення вжиття ефективних заходів реагування з метою пом’якшення негативного впливу має відбуватись протягом усього життєвого циклу ШІ, розробникам рекомендується заохочувати можливості для виявлення та повідомлення про проблеми та вразливості систем ШІ третіми сторонами та користувачами вже після розгортання систем ШІ. Таке заохочення може бути організовано, наприклад, за допомогою систем винагород, конкурсів або призів за відповідальне розкриття вразливостей.
Задля організації ефективного відстеження вразливостей систем ШІ необхідне створення відповідного середовища, а саме розробка та ведення документації про виявлені ризики та вразливості, імплементація механізмів для відповідального повідомлення про вразливості доступних для широкого кола зацікавлених сторін.
Забезпечення достатньої прозорості відомостей про можливості, обмеження та сфери належного і неналежного використання передових систем ШІ має здійснюватися шляхом публікації звітів організаціями-розробниками про прозорість, що містять значущу інформацію про всі нові значні випуски передових систем ШІ.
Крім того, необхідно розвивати всебічну співпрацю між організаціями протягом усього життєвого циклу ШІ, яка передбачатиме обмін релевантною інформацією про можливості, обмеження та ризики використання передових систем ШІ, доведення такої інформації до громадськості з метою підвищення рівня безпеки, захисту та надійності передових систем ШІ, а також звітування відповідними державними органами, у разі необхідності.
З огляду на те, що взаємодія з ШІ має свою специфіку, пропонується за наявності технічної можливості запроваджувати та використовувати механізми автентифікації та ідентифікації походження вмісту, створеного за допомогою систем ШІ, зокрема водяні знаки, маркування, які допомагають користувачам відрізняти контент, створений штучним інтелектом, від інших різновидів контенту, а також застереження користувачів про те, що в конкретному випадку вони взаємодіють із системою ШІ.
Замість висновків
Передбачається, що дотримання сукупності вищезгаданих стандартів при розробці та подальшому використанні систем ШІ убезпечить людство від незворотних наслідків та сприятиме ефективному використанню комп’ютерних технологій для вирішення нагальних проблем та отримання глобальної вигоди від нейромережі.
Водночас аналіз змісту розроблених стандартів безумовно свідчить про їхній узагальнений характер, що обумовлює потребу в подальших кроках з метою створення як на міжнародному, так і на національних рівнях окремих держав спеціальних норм, в тому числі імперативного характеру, та розробки дієвих алгоритмів, що забезпечували б імплементацію запропонованих на Хіросімському процесі з ШІ концепцій з безпечної взаємодії з нейромережею в практичній діяльності з розробки систем ШІ та їх подальшого використання.
Ксенія Ракитянська, юристка AC Crowe Ukraine
