Зміст "Настанов для AI-підприємців" від Міністерства економіки, торгівлі та промисловості, пояснений адвокатом

У 2024 році (2024年) Міністерство економіки, торгівлі та промисловості Японії розробило “Рекомендації для операторів AI (версія 1.0)[ja]“, які є важливим орієнтиром для визначення напрямків AI-говернансу, що мають бути реалізовані компаніями. Ці рекомендації були створені на тлі швидкого розвитку технологій штучного інтелекту та важливості управління ризиками та етичними викликами їх соціального впровадження для компаній та суспільства в цілому. Вони спрямовані на належне використання AI та підвищення суспільної довіри, визначаючи ролі для кожного суб’єкта без юридично обов’язкової сили, зосереджуючись на ризик-орієнтованому підході та узгодженості з міжнародними системами.

Однією з особливостей цих рекомендацій є використання концепції “агільного говернансу”, яка не базується на незмінних правилах, але дозволяє гнучко реагувати на зміни у середовищі. Це механізм, який дозволяє компаніям зменшувати ризики та забезпечувати стале розвиток технологій шляхом безперервного проходження через цикли аналізу середовища та ризиків, встановлення цілей, експлуатації та оцінки, з якими вони стикаються під час розробки, надання та використання AI. Крім того, співпраця між різними суб’єктами, належний обіг даних та активна участь керівництва підкреслюються як стовпи, що підтримують ефективний говернанс.

Опублікування Міністерством економіки, торгівлі та промисловості Японії «Настанов для AI-підприємців» та їх контекст

У квітні 2024 року Міністерство економіки, торгівлі та промисловості Японії розробило та опублікувало «Настанов для AI-підприємців (версія 1.0)[ja]». Ці настанови позиціонуються як неюридично обов’язкові вказівки, які мають на меті підтримати розвиток та соціальну імплементацію технологій штучного інтелекту. Вони не накладають обов’язків, як це робить закон, а надають основні концепції, принципи та рекомендації, які можуть слугувати підприємцям в якості довідника для практичного застосування. Настанови складаються з основної частини, що містить концепції та принципи, та додатку, який демонструє конкретні методи практичного застосування.

Підхід, заснований на принципах “людиноцентричного суспільства AI” в Японії

«Керівництво для операторів AI» базується на принципах “людиноцентричного суспільства AI”, які були представлені в березні 2019 року (Рейва 1). Ці принципи проголошують основну ідею: “Люди не повинні бути використані AI, а повинні використовувати AI”. Конкретно це означає, що AI має використовуватися під контролем людини як засіб для розширення людських можливостей, і ми повинні уникати ситуацій, коли люди стають маніпульованими через надмірну залежність від AI.

Крім того, AI не повинен обмежуватися лише заміною людської праці, а має служити як високоякісний та зручний інструмент, що розширює людську креативність та здібності. Тому, при використанні AI, користувачі повинні самостійно вирішувати, як його застосовувати, та нести відповідальність за ці рішення.

Інтеграція та перегляд минулих вказівок

Ці вказівки були розроблені шляхом інтеграції та перегляду трьох основних попередніх вказівок.

• 「AI розробка вказівок」(2017 рік (Heisei 29)): пояснює основні принципи та ключові моменти у розробці AI.
• 「AI використання вказівок」(2019 рік (Reiwa 1)): представляє основні принципи використання AI та їх пояснення.
• 「Вказівки управління для практичного застосування AI принципів」(2021 рік (Reiwa 3)): пропонує конкретні цілі дій та приклади практичного застосування для сприяння соціальній імплементації.

Вони використовувалися як настанови, яких повинні дотримуватися оператори AI. У нових «Вказівках для операторів AI», вони були інтегровані та оновлені, враховуючи міжнародні тенденції та появу нових технологій.

Процес розробки та історія публікації

Проект “Керівництва для операторів AI” був вперше представлений на засіданні Ради зі стратегії AI при Кабінеті Міністрів Японії (7-е засідання), яке відбулося 21 грудня 2023 року. Після цього, 19 січня 2024 року, документ був офіційно опублікований Міністерством внутрішніх справ та комунікацій та Міністерством економіки, торгівлі та промисловості, а з наступного дня, 20 січня, по 19 лютого, було проведено збір публічних коментарів. Після процедури збору думок, 19 квітня того ж року було завершено та опубліковано “Керівництво для операторів AI (версія 1.0)”.

Значення гайдлайнів

На відміну від ЄС, де було прийнято закон про регулювання штучного інтелекту як так званий “жорсткий закон”, японські “Гайдлайни для AI-підприємців” є так званим “м’яким законом” і не мають юридичної обов’язковості, але вони вказують на основні принципи та рекомендації для дій, яких мають дотримуватися AI-підприємці. У контексті стрімкого розвитку AI-технологій, ці гайдлайни є важливим кроком для сприяння належного використання у суспільстві та побудови надійного AI-суспільства в Японії. Від підприємців вимагається використовувати ці гайдлайни як орієнтир для розробки власних політик у сфері розробки та використання AI.

Основні принципи “Настанов для AI-підприємців” в Японії

“Настанови для AI-підприємців” в Японії структуровані навколо трьох основних принципів, які сприяють розвитку технологій штучного інтелекту (AI) та їх належному впровадженню у суспільство.

Підтримка самостійних зусиль підприємців

Настанови для AI-підприємців пропонують напрямки заходів, які компанії повинні вживати, виходячи з “ризик-орієнтованого підходу”, який змінює заходи в залежності від розміру та ймовірності ризиків. Цей підхід рекомендує гнучкі заходи, що відповідають змісту та ступеню ризиків, виходячи з припущення, що ризики можуть суттєво відрізнятися в залежності від випадку використання та характеристик AI-моделі. Особливо важливо ретельно оцінювати природу ризиків, оскільки вони не завжди відповідають розміру компанії.

Щодо високоризикових типів, слід розглядати законодавче регулювання, тоді як для низькоризикових типів можна використовувати такі гнучкі методи регулювання, як приватна сертифікація або самостійне декларування. Такий підхід дозволяє уникнути надмірного регулювання та забезпечити ефективне управління ризиками.

Узгодження з міжнародними дискусіями

Ринок AI-технологій перетинає кордони, тому для збереження міжнародної конкурентоспроможності японських компаній важливо забезпечити відповідність зарубіжним системам та принципам. Основні ідеї та принципи цих настанов базуються на міжнародних рекомендаціях, таких як принципи AI від ОЕСР, а в додатках також вказано відповідність з настановами інших країн.

З огляду на те, що AI-моделі та сервіси, включаючи базові моделі, є частиною ринку, що перетинає кордони, забезпечення взаємодії з закордонними системами є важливим для глобальної активності японських компаній. Крім того, при встановленні будь-яких правил слід уникати ситуацій, коли тільки японські компанії несуть велике навантаження, що знижує їх конкурентоспроможність, і забезпечити, щоб система була ефективною для зарубіжних компаній, забезпечуючи рівні умови для всіх учасників ринку.

Зрозумілість для читача

Настанови для AI-підприємців наголошують на зрозумілості для читача. Особливо важливим є те, що вони розрізняють ризики та політику реагування для різних суб’єктів, таких як “розробники AI”, “постачальники AI” та “користувачі AI”.

“Багатосторонні зацікавлені сторони” та “Живий документ”

Крім того, до особливостей настанов для AI-підприємців належить застосування концепцій “багатосторонніх зацікавлених сторін” та “живого документа”. Це означає, що настанови розробляються з акцентом на ефективність та справедливість шляхом обговорення з багатьма зацікавленими сторонами, включаючи освітні та науково-дослідні установи, громадянське суспільство, включаючи споживачів, та приватні компанії. Також, відповідно до ідеї адаптивного управління, настанови планується регулярно оновлювати, щоб вони залишалися “живим документом”, спрямованим на постійне вдосконалення AI-губернансу.

Розподіл суб’єктів та сфера застосування “Настанов для AI-підприємців” в Японії

Однією з ключових особливостей “Настанов для AI-підприємців” є чітке розмежування суб’єктів, на яких поширюється дія цих настанов, залежно від їхніх характеристик, та визначення конкретних завдань, які вони повинні виконувати. У цих настановах розрізняють такі суб’єкти, як “розробники AI”, “постачальники AI” та “користувачі AI”, в той час як “суб’єкти, що використовують поза сферою бізнесу” та “постачальники даних” не входять до кола застосування цих правил.

Ролі та обов’язки розробників, постачальників та користувачів AI

Розробники AI в Японії відповідають за попередню обробку даних для AI, навчання та розробку процесів. Це включає в себе дії, такі як попередня обробка зібраних даних для навчання, створення моделей AI та перевірка їх корисності через тестування. Оскільки ці процеси є основою для забезпечення продуктивності та надійності AI, від розробників вимагається належне поводження з даними та створення високоякісних моделей.

Постачальники AI займаються впровадженням та наданням AI-систем. Вони інтегрують моделі AI у наявні або нові системи, забезпечують їх взаємодію з іншими системами та надають їх користувачам. Крім того, вони можуть здійснювати заходи щодо підвищення обізнаності про правильне використання AI-систем та надавати підтримку в їх експлуатації, а також безпосередньо управляти та надавати AI-сервіси. Таким чином, вони допомагають користувачам безпечно та ефективно використовувати AI-системи.

Користувачі AI – це суб’єкти, які використовують AI-системи та сервіси. Вони використовують AI-системи належним чином, керуючись рекомендаціями постачальників, та отримують від цього користь. Водночас вони несуть відповідальність за забезпечення використання AI-систем відповідно до їхнього призначення. Таким чином, дії користувачів впливають на соціальну прийнятність та надійність AI-систем.

Суб’єкти, на яких не поширюється дія настанов

У противагу цьому, “постачальники даних” та “суб’єкти, що використовують поза сферою бізнесу”, не входять до кола застосування цих настанов. Постачальники даних забезпечують навчальні дані для AI і можуть включати в себе не тільки певні юридичні особи чи індивідуальних осіб, але й системи чи сенсори, які надають дані. З іншого боку, суб’єкти, що використовують поза сферою бізнесу, отримують користь від AI-систем чи сервісів поза межами бізнес-активностей і можуть піддаватися впливу рішень, прийнятих за допомогою AI.

Наприклад, у випадку AI-сервісів, що використовують дані шукачів роботи, “розробники AI” створюють AI-модель, “постачальники AI” надають сервіс, а компанії, які використовують цей сервіс, є “користувачами AI”. Водночас, колишні шукачі роботи виступають як “постачальники даних”, а кандидати, які піддаються оцінці за допомогою сервісу, є “суб’єктами, що використовують поза сферою бізнесу”.

Загальні принципи “Настанов для операторів ШІ” в Японії

У “Настановах для операторів ШІ” в Японії визначено десять загальних принципів, яких повинні дотримуватися всі суб’єкти незалежно від їхніх характеристик. Ці принципи поділяються на питання, які суб’єкти повинні вирішувати самостійно, та на ті, що вимагають співпраці з суспільством, і вони визначають рамки управління ШІ.

Сім пунктів, над якими мають працювати суб’єкти самостійно

1. Людиноцентризм: При використанні ШІ необхідно поважати людську гідність, розуміти точність та обмеження результатів і не використовувати їх з неприпустимою метою. Також важливо уникати використання ШІ, яке може спотворювати інформацію та цінності, обмежуючи вибір, як у випадку з фільтр-бульбашками.
2. Безпека: Необхідно проводити аналіз ризиків та вживати відповідних заходів, щоб управляти ШІ-системами так, щоб вони не відхилялися від своїх первісних цілей. Забезпечення точності даних та прозорості, а також належне оновлення моделей ШІ також є важливими.
3. Справедливість: Необхідно прагнути до того, щоб результати ШІ не сприяли упередженості чи дискримінації. Важливо забезпечити втручання людського судження у рішення ШІ та враховувати потенційні упередження.
4. Захист приватності: Необхідно дотримуватися міжнародних стандартів захисту особистих даних та міжнародних настанов та норм щодо приватності. Також важливо забезпечити взаємодію при транскордонному перенесенні особистих даних.
5. Забезпечення безпеки: Необхідно підтримувати конфіденційність, цілісність та доступність ШІ-систем, вживаючи розумні заходи на основі технічного рівня. Також потрібно бути готовим до зовнішніх атак та реагувати на найновіші ризики.
6. Прозорість: Необхідно забезпечити можливість перевірки процесу навчання та висновків ШІ-системи та за потреби надавати пояснення. Однак не вимагається розкриття алгоритмів чи вихідного коду, а приватність та комерційні таємниці поважаються.
7. Відповідальність: У разі помилок у виходах ШІ необхідно приймати зауваження та проводити об’єктивний моніторинг. Очікується, що буде розроблено політику взаємодії зі стейкхолдерами та регулярно звітувати про прогрес.

Три пункти, над якими мають працювати у співпраці з суспільством

1. Освіта та грамотність: Необхідно проводити освіту для забезпечення достатньої грамотності у сфері ШІ для всіх, хто працює з ШІ, та просувати інформування стейкхолдерів про особливості та ризики ШІ.
2. Забезпечення чесної конкуренції: Необхідно створити умови, за яких нові бізнеси та послуги, що використовують ШІ, можуть конкурувати справедливо, прагнучи до сталого економічного зростання та вирішення соціальних проблем.
3. Інновації: Необхідно сприяти міжнародній різноманітності та співпраці між наукою, промисловістю та урядом, забезпечуючи взаємопідключення ШІ-систем. У випадку наявності стандартних специфікацій, рекомендується їх дотримання.

Важливість та методи практики “агільного управління” в Японії

“Настанови для AI-підприємців” підкреслюють, що при створенні AI-управління необхідно відмовитися від уніфікованого підходу та забезпечити гнучкість, відповідну до розміру та сфери діяльності кожної компанії. Замість того, щоб сліпо копіювати практики інших, від керівництва до рядових співробітників вимагається експериментувати та розробляти правила, які найкраще підходять для їхньої власної компанії. Ключовим елементом у цьому процесі є практика “агільного управління”.

Що таке агільне управління

Агільне управління – це підхід, який не передбачає встановлення жорстких правил заздалегідь, а замість цього передбачає неперервне виконання наступного циклу для гнучкої відповіді на зміни зовнішнього середовища та ризиків:

• Аналіз середовища та ризиків: точне розуміння зовнішнього середовища та технічних ризиків.
• Встановлення цілей: визначення відповідних цілей, заснованих на поточному стані.
• Дизайн системи: розробка ефективної AI-системи для досягнення поставлених цілей.
• Експлуатація: реальне використання розробленої системи та перевірка результатів.
• Оцінка: регулярна оцінка результатів експлуатації та внесення необхідних коректив.

Постійне виконання такого циклу дозволяє швидко та ефективно реагувати на стрімкі зміни в технологічному середовищі та ринкових тенденціях.

Три стовпи, що підтримують агільне управління

“Агільне управління” вказує на необхідність еволюції управління відповідно до прогресу AI-технологій. Компаніям потрібно гнучко реагувати на свою бізнес-модель та середовище діяльності, а також забезпечувати єдність дій від керівництва до рядових співробітників. Крім того, встановлення співпраці між суб’єктами та міжнародного управління ризиками може зробити AI-управління більш ефективним. У цьому контексті можна виділити наступні ключові елементи:

• Забезпечення співпраці між різними суб’єктами: оскільки AI-технології залучають багато сторін з точки зору ціннісних ланцюгів та ланцюгів ризиків, важливо чітко визначити ролі та відповідальність кожного та забезпечити їх співпрацю. Це дозволяє ефективно управляти ризиками на кожному етапі розробки, надання та використання AI-систем.
• Забезпечення належного обігу даних: для реалізації AI-управління необхідний належний обіг даних. Особливо при розгляді використання даних у різних країнах, необхідно підтримувати прозорість та безпеку даних, враховуючи регулювання та вимоги до управління ризиками кожної країни.
• Зобов’язання керівництва: для ефективного AI-управління необхідна активна участь керівництва. Це включає розробку стратегії управління, створення організаційної структури на рівні всієї компанії та проникнення цих принципів у корпоративну культуру. Зобов’язання керівництва є рушійною силою для досягнення спільної мети всією організацією.

Детальніше про AI-управління, яке компанії повинні створювати згідно з “Настановами для AI-підприємців”, ви можете прочитати в наступній статті.

Пов’язана стаття: Яким має бути AI-управління, яке компанії повинні впроваджувати? Роз’яснення ключових моментів на основі “Настанов для AI-підприємців”[ja]

Інформація про заходи, що їх пропонує наша юридична фірма

Юридична фірма “Моноліт” має багатий досвід у сфері ІТ, зокрема у питаннях, що стосуються інтернету та права. Ми спеціалізуємося на наданні унікальних та ефективних юридичних послуг.

Бізнес, пов’язаний зі штучним інтелектом (AI), супроводжується численними юридичними ризиками, і підтримка адвокатів, які спеціалізуються на правових питаннях AI, є надзвичайно важливою. Наша фірма пропонує висококваліфіковану юридичну підтримку у сфері AI, включаючи ChatGPT, завдяки команді адвокатів, які розбираються в AI, та інженерів. Ми забезпечуємо складання договорів, аналіз законності бізнес-моделей, захист інтелектуальної власності, а також вирішення питань, пов’язаних з приватністю. Детальніше про це читайте у наведеній нижче статті.

Сфери діяльності юридичної фірми “Моноліт”: Юридичні послуги в сфері AI (включаючи ChatGPT тощо)[ja]