Джерело: LIGA:ZAKON
Системи штучного інтелекту (ШІ) стрімко увірвалися у життя бізнесу та звичайних людей, змінюючи не тільки робочі процеси, але і повсякденні звички. Якщо раніше люди обмежувалися питанням «чи не замінить їх штучний інтелект», то зараз всі висловлюють набагато глибші занепокоєння. Це активізує спроби держави врегулювати відносини з використання ШІ.
Незважаючи на відсутність єдиного нормативного акту, який би регулював відносини з використання ШІ, Україна вважається однією з провідних країн Східної Європи в цьому питанні. Це зумовлено, зокрема, наявністю Концепції розвитку штучного інтелекту в Україні (далі - Концепція) та Плану заходів з її реалізації. Окрім цього, у жовтні 2023 року Міністерством цифрової трансформації України було презентовано Дорожню карту з регулювання штучного інтелекту в Україні (далі - Дорожня карта). Наявність документів стратегічного характеру на національному рівні була відзначена такими міжнародними рейтингами як Government AI Readiness Index, завдяки чому Україна посіла 60 місце серед 193 проаналізованих країн у 2023 році. Країни оцінювалися за критеріями таких категорій:
За результатами оцінювання урядової складової Україна здобула більше балів, ніж Болгарія, Словаччина, Ізраїль, Швейцарія, які загалом посіли вище місце в рейтингу. Такі показники свідчать про те, що Україна має значний потенціал і перебуває на правильному шляху розвитку в цій сфері.
Повертаючись до Концепції розвитку штучного інтелекту, варто відзначити, що вона визначає дев’ять пріоритетних сфер для реалізації ШІ: освіта і професійне навчання, наука, економіка, кібербезпека, інформаційна безпека, оборона, публічне управління, правове регулювання та етика, правосуддя. Щодо кожної сфери наводиться перелік завдань, спрямованих на досягнення мети концепції. Незважаючи на те, що документ був схвалений наприкінці 2020 року, визначені ним пріоритетні сфери й завдання залишаються актуальними й наразі. Загалом реалізація Концепції передбачається на період до 2030 року.
Заслуговує на увагу bottom-up-підхід до регулювання ШІ в Україні, який зазначається у Дорожній карті. На відміну від top-down-підходу характерною рисою обраного варіанту є першочергове залучення учасників нижчого рівня (громадян, бізнесу) до побудови системи управління і прийняття відповідних рішень у заданій сфері. Тобто, регулювання створюється на базі отриманого досвіду даних суб’єктів, а не «спускається» від законодавця. На перспективу застосування такого підходу сприятиме побудові системи регулювання, яка враховуватиме національні та культурні особливості українського бізнесу.
Реалізація bottom-up-підходу планується у два етапи. Перший етап спрямований на набуття практичного досвіду, оцінку ризиків, підвищення обізнаності громадян у цій сфері. Другий – запровадження нормативного регулювання, зокрема імплементація положень Регламенту ЄС про регулювання штучного інтелекту (далі - Акт про штучний інтелект) в українське законодавство. Водночас, інтеграція європейського законодавства має відбуватися поступово, органічно поєднуючись з національними нормами, які будуть розроблені. Згідно з Дорожньою картою, така інтеграція планується до 2027 року.
Хоча використання технології ШІ розпочалося ще в 1980-х роках, врегулювання цих відносин саме на нормативно-правовому рівні наразі перебуває в активній фазі. У квітні 2021 року Європейська комісія висунула пропозицію щодо Регламенту про встановлення гармонізованих правил щодо штучного інтелекту (Акту про штучний інтелект), основною метою якого було б забезпечення захисту громадян від потенційної шкоди нової технології. Після тривалих обговорень і доопрацювань у березні цього року Акт про штучний інтелект був схвалений Європейським парламентом, а у травні – Радою ЄС.
В основі регламенту - ризик-орієнтований підхід, відповідно до якого, чим вищий потенційний ризик заподіяння шкоди суспільству, тим суворіші правила і вимоги до суб’єктів (розробників, впроваджувачів, імпортерів, розповсюджувачів систем ШІ). Умовно системи штучного інтелекту можна поділити на три категорії:
Системи ШІ з обмеженим ризиком є під дією стандартних зобов’язань щодо дотримання прозорості. Так, наприклад, системи генеративного ШІ (Generative AI), які за загальним правилом відносяться до даної категорії, мають відповідати вимогам прозорості та нормам законодавства ЄС про авторське право (наявність позначення, що контент створено штучним інтелектом, запобігання створення незаконного контенту тощо).
До систем ШІ з високим ризиком висуваються додаткові вимоги щодо системи управління ризиками, якості наборів даних, на базі яких відбувається навчання моделей, наявності належної технічної документації тощо.
Насамкінець регламент забороняє використання систем з неприйнятним ризиком для прав людини. Це, наприклад, системи, які маніпулюють людьми або використовують їхні вразливі місця, що призводить до фізичної чи психологічної шкоди, системи «соціального скорингу», системи, які здійснюють біометричну ідентифікацію в реальному часі в загальнодоступних місцях для цілей правоохоронних органів.
Аналогічно Загальному регламенту про захист даних (GDPR) дія Акту про ШІ поширюється не лише на організації в межах ЄС, але й на розробників, впроваджувачів, імпортерів і розповсюджувачів систем ШІ за межами ЄС, якщо результати діяльності їхніх систем призначені для використання або використовуються в ЄС. Тобто, на відміну від GDPR, Акт про ШІ має не просто екстериторіальну дію, але й може поширюватися на суб’єктів, навіть якщо вони не мали намір провадити діяльність або таргетувати аудиторію в ЄС.
У разі невідповідності нормам Акту про ШІ до порушників можуть бути застосовані наступні заходи відповідальності:
При визначенні суми штрафу мають бути дотримані принципи ефективності, пропорційності та переконливості санкцій. При цьому до стартапів, малих і середніх підприємств (SMEs), штрафи застосовуються пропорційно (сума або відсоток від обороту, залежно від того, яка сума менша).
Очікується, що Акт про ШІ має набути чинності у найближчі дні (через 20 днів після публікації в Офіційному журналі ЄС). Його положення у повному обсязі будуть застосовуватися через 24 місяці після набуття чинності, але деякі частини почнуть діяти раніше, зокрема:
Водночас, системи високого ризику матимуть більше часу для адаптації, оскільки зобов’язання щодо них почнуть застосовуватися через 36 місяців після набуття чинності.
Тож провідні компанії вже активно вивчають майбутні нововведення і готуються до їхнього впровадження. Як показала практика Загального регламенту про захист даних (GDPR), 2-3 роки – це не настільки довго, як здається спочатку.
Окрім довгоочікуваного Акту про ШІ, у травні 2024 року Рада Європи схвалила Рамкову конвенцію про штучний інтелект і права людини, демократію та верховенство права (далі - Конвенція), яка є першою міжнародною юридично зобов’язуючою угодою у цій сфері.
Конвенція передбачає заснований на оцінці ризиків підхід до проєктування, розробки, використання та виведення з експлуатації систем ШІ. Це потребує ретельного розгляду будь-яких потенційних негативних наслідків використання таких систем. Документ визначає загальні зобов’язання, принципи щодо діяльності протягом життєвого циклу систем ШІ, засоби правового захисту, порядок оцінки та мінімізації ризиків і несприятливих впливів, порядок діяльності Конференції сторін (органу, відповідального за забезпечення ефективного виконання Конвенції, до складу якого входять представники учасників Конвенції) та її повноваження, обов’язки щодо звітності та міжнародної співпраці тощо.
Окрім цього, Конвенція покладає на її учасників обов’язок забезпечити функціонування незалежного механізму для нагляду за дотриманням положень Конвенції.
Конвенція охоплює використання систем ШІ у державному і в приватному секторах. Для приватного сектору передбачається два можливих способи дотримання її принципів і зобов’язань: сторони можуть обрати пряме зобов’язання відповідних положень Конвенції або, як альтернативу, вжити інших заходів для дотримання положень угоди, повністю дотримуючись своїх міжнародних зобов’язань щодо прав людини, демократії та верховенства права.
Сфера дії цієї Конвенції охоплює діяльність у рамках життєвого циклу систем ШІ, які потенційно можуть втручатися в права людини, демократію та верховенство права. При цьому, за певних умов, Конвенція не застосовується до науково-дослідницької діяльності, щодо систем ШІ, які ще не надані для використання, та щодо діяльності, пов’язаної із захистом національної безпеки країни-сторони Конвенції. Окремо зазначається, що питання, які стосуються національної оборони, не підпадають під дію цієї Конвенції.
Конвенція буде відкрита для підписання у Вільнюсі (Литва) 5 вересня для усіх бажаючих країн.
Допоки в ЄС всі зусилля спрямовані на нормативне врегулювання ШІ, в Україні вже з’являється перша судова практика щодо його використання. Так, Ухвалою Верховного Суду у справі № 925/200/22 від 8 лютого 2024 року були визнані зловживанням процесуальними правами дії представника з подання заяви про роз’яснення постанови суду касаційної інстанції, в обґрунтовані якої була покладена «позиція» системи штучного інтелекту ChatGPT. Варто зазначити, шо судом оцінювалися дії заявника у сукупності, однак це не впливає на аргументацію і висновки суду в частині використання ChatGPT.
З обставин справи вбачається, що заявник просив «з метою правильного застосування норм права у спірних правовідносин роз`яснити термін «добровільного зобов`язання» сформованого Верховним Судом, обґрунтовуючи рішення в частині відмови у застосуванні способу захисту заявленому позивачем». В обґрунтуванні цієї необхідності заявник цитував норми цивільного кодексу, положення підручнику з цивільного права, а також зміст терміну «добровільне зобов`язання», що надав ChatGPT. Такі дії заявника були визнані судом зловживанням процесуальними правами, оскільки результати ChatGPT, який не визнається джерелом достовірної науково доведеної інформації, були фактично поставлені на противагу судовим висновкам. «У такий спосіб заявник поставив під сумнів суддівський розсуд та судове тлумачення цього питання у рішенні, що набуло статусу остаточного, чим знехтував авторитетом судової влади», – зазначається в судовому рішенні. Дана ухвала також містить багато цікавих висновків щодо використання систем ШІ у сфері судочинства, необхідності розробки єдиних принципів і правил їхнього використання, поваги до судового процесу та етичної поведінки його учасників.
Водночас, заслуговує на увагу Окрема думка судді Ганни Вронської в рамках цієї справи, яка вважає, що «посилання на відповіді, згенеровані ШІ ChatGPT, з метою обґрунтування своєї позиції, зважаючи зміст заяви, наведені в ній доводи та аргументи, Заявник не виявив неповагу до Суду та не поставив під сумнів його висновки, навпаки – прагнув з`ясувати та уточнити окремі висновки з питань, щодо яких висловився Верховний Суд. У заяві відсутні будь-які принизливі, образливі чи інші негативні висловлювання, відверта демонстрація неповаги до Суду тощо».
Незважаючи на війну, що триває, та інші обставини, Україна має всі умови для побудови ефективної системи регулювання відносин з використання ШІ, яка буде відповідати кращим світовим практикам і європейському законодавству. Наразі зусилля держави мають бути спрямовані на нарощення практичного досвіду з використання систем ШІ, який надалі буде основою для нормативного регулювання.
Аліна Січкар, старша юристка, KPMG в Україні
