Aktualny stan praw regulujących sztuczną inteligencję - porównanie Japonii i Unii Europejskiej oraz kluczowe punkty strategii

Generatywne AI, takie jak ChatGPT, stało się dużym fenomenem. Teraz, gdy generatywne AI jest wdrażane również w scenie biznesowej, mówi się o nim jako o iskrze rozpoczynającej „czwartą falę boomu na AI”. W związku z tym na całym świecie postępuje również praca nad opracowaniem prawnych ram regulujących AI.

W niniejszym artykule omówimy prawa dotyczące AI, w tym odpowiednie postępowanie z poufnymi informacjami, takimi jak prawa własności intelektualnej i dane osobowe.

Definicja i historia AI (sztucznej inteligencji)

AI (artificial intelligence), czyli sztuczna inteligencja, nie posiada w prawie ścisłej definicji, a istnieje wiele różnych jej określeń. Poniżej przedstawiamy kilka przykładów.

AI określa się jako różnorodne technologie, oprogramowanie, systemy komputerowe i algorytmy, które odtwarzają ludzkie zdolności intelektualne na komputerze.

Wśród specjalistycznych AI wyróżnia się między innymi:

• Przetwarzanie języka naturalnego (tłumaczenie maszynowe, analiza składniowa, analiza morfologiczna, RNN itp.)
• Systemy ekspertowe imitujące wnioskowanie i ocenę specjalistów
• Rozpoznawanie obrazów i dźwięków poprzez wykrywanie i ekstrakcję określonych wzorców z danych

Dziedzina AI jest badana nieprzerwanie od lat 50. XX wieku, czyli od zarania ery komputerów. Pierwszy boom na AI miał miejsce do lat 70. i skupiał się na badaniach „poszukiwania i wnioskowania”, drugi boom w latach 80. przyniósł badania nad „reprezentacją wiedzy”, co doprowadziło do powstania systemów ekspertowych i wywołało dwa przełomy w tej dziedzinie.

Od 2000 roku, z pojawieniem się Big Data i od 2012 roku, kiedy to zadebiutował Alexnet, rozpoznawanie obrazów za pomocą głębokiego uczenia (deep learning) zyskało globalne uznanie, co przyspieszyło badania i doprowadziło do trzeciego boomu na AI.

W latach 2016-2017 pojawiły się AI wykorzystujące głębokie uczenie (deep learning) i uczenie ze wzmocnieniem (Q-learning, metody gradientu strategii), co zainicjowało trzeci boom na AI.

Główną rewolucją trzeciego boomu na AI jest przetwarzanie języka naturalnego i przetwarzanie obrazów za pomocą sensorów, co jest szczególnie widoczne w obszarze wizualnym, ale ma również duży wpływ na rozwój technologii, socjologię, etykę i ekonomię.

30 listopada 2022 roku, OpenAI wprowadziło na rynek ChatGPT, generatywną AI do przetwarzania języka naturalnego, która zyskała uwagę jako narzędzie wszechstronne, co przyczyniło się do rozwoju biznesu generatywnych AI. Niektórzy nazywają to zjawisko czwartym boomem na AI.

Biznesowe scenariusze, w których należy sprawdzić przepisy dotyczące AI

Generatywne AI, będące jednym z rodzajów AI, jest przydatnym narzędziem, ale jednocześnie może przyczyniać się do rozpowszechniania fałszywych informacji, wspierania przestępczości, a czasami nawet zagrażać demokracji.

Ryzyka związane z AI stały się teraz nieuniknionym wyzwaniem. W związku z tym omówimy scenariusze biznesowe, w których należy sprawdzić regulacje prawne, zarówno z perspektywy użytkownika, jak i dostawcy.

Wykorzystanie AI do generowania tekstu

Od momentu uruchomienia ChatGPT w listopadzie 2022 roku, AI do generowania tekstu zyskało na popularności na całym świecie jako wszechstronne narzędzie, które może zwiększyć wydajność pracy i oferować wysoką opłacalność dzięki swojej zdolności do radzenia sobie z złożonymi zadaniami.

Z drugiej strony, związane z tym ryzyko stało się bardziej znane. Aby uniknąć potencjalnych zagrożeń, musimy być świadomi, jakie ryzyko istnieje i jakich przepisów prawnych należy przestrzegać.

ChatGPT, reprezentujący AI do generowania tekstu, może narażać na ryzyko wycieku informacji wprowadzonych przez użytkownika (promptów), jeśli nie zostaną podjęte żadne środki zaradcze. Funkcje ChatGPT umożliwiające zbieranie, przechowywanie i wykorzystywanie promptów mogą prowadzić do wycieku poufnych informacji osobistych, firmowych, a także informacji objętych umowami o zachowaniu poufności (NDA).

Ponadto, istnieją również inne ryzyka związane z ChatGPT, takie jak generowanie i rozpowszechnianie fałszywych informacji (halucynacje) oraz naruszenie praw autorskich. Dlatego niezbędne jest sprawdzanie faktów w odniesieniu do wygenerowanych treści.

Wykorzystanie AI do generowania obrazów

Przy wykorzystaniu AI do generowania obrazów w biznesie, należy mieć na uwadze ryzyko naruszenia praw autorskich.

Zgodnie z OpenAI, prawa autorskie do obrazów i tekstów wygenerowanych przez ChatGPT i podobne narzędzia, zasadniczo należą do użytkownika, który je wygenerował. Użytkownicy mogą korzystać z ChatGPT i podobnych narzędzi do dowolnych celów, w tym komercyjnych.

Jednak przy ich wykorzystaniu należy zwrócić uwagę na kilka kwestii:

Dane uczące ChatGPT zawierają ogromną ilość treści dostępnych w internecie, a większość z nich stanowią utwory chronione prawem autorskim (teksty, obrazy, muzyka, filmy itp.). W związku z tym, generowane treści mogą naruszać prawa autorskie innych osób.

Rozwój AI i świadczenie usług generatywnego AI

Biznes AI wiąże się z różnymi przepisami prawnymi, a na świecie trwa proces tworzenia ram prawnych. Dlatego wymagana jest elastyczność w przestrzeganiu istniejących przepisów prawnych i dostosowywanie się do nowych.

W następnym rozdziale omówimy przepisy prawne dotyczące AI w Japonii oraz pierwsze na świecie międzynarodowe prawo dotyczące AI, „Europejskie Rozporządzenie w sprawie AI” (EU AI Act), które zostało uchwalone w grudniu 2023 roku.

Prawo dotyczące AI w Japonii

Obecnie w Japonii AI nie jest regulowane przez prawa mające moc przymusu, a podejście opiera się na samoregulacji. W tym miejscu omówimy obowiązujące prawa, na które należy zwrócić uwagę przy wykorzystywaniu AI.

Referencja: Ministerstwo Gospodarki, Handlu i Przemysłu | „Wytyczne dotyczące zarządzania w praktyce zasadami AI wersja 1.1”[ja]

Prawo autorskie

W styczniu 2019 roku (rok Heisei 31) weszła w życie „zmieniona ustawa o prawie autorskim”, która wprowadziła nowe ograniczenia praw (wyjątki, dla których nie jest wymagana zgoda) dotyczące „analizy informacji” (art. 30-4, punkt 1, numer 2 tej ustawy). Działania, takie jak analiza informacji w procesie rozwoju i uczenia AI, które nie mają na celu korzystania z wyrażonych w dziełach myśli lub uczuć, mogą być przeprowadzane bez zgody właściciela praw autorskich.

Ta zmiana wprowadziła definicję „analizy informacji”, co wyraźnie wskazuje, że uczenie maszynowe, w tym głębokie uczenie się AI, jest również uznawane za „analizę informacji”.

W przypadku wykorzystania analizy informacji (ekstrakcja informacji dotyczących języka, dźwięku, obrazu i innych elementów z wielu dzieł lub innych dużych zbiorów informacji, a następnie porównywanie, klasyfikowanie lub inne formy analizy tych informacji)

Artykuł 30-4, punkt 1, numer 2 ustawy o prawie autorskim

Z drugiej strony, należy zwrócić uwagę, że dzieła stworzone przy użyciu AI mogą naruszać prawa autorskie, jeśli zostanie stwierdzone, że są podobne lub oparte na dziełach innych osób.

Ponadto, wprowadzenie dzieła do ChatGPT jako monitu może naruszać prawa do reprodukcji i inne prawa. Modyfikacja dzieł innych osób przy użyciu generatywnego AI może również naruszać prawa, takie jak prawa do adaptacji.

Zgodnie z warunkami użytkowania OpenAI, prawa do treści stworzonych za pomocą ChatGPT należą do użytkownika i mogą być wykorzystywane komercyjnie, ale w przypadku trudności z oceną, czy treść narusza prawa autorskie, zaleca się konsultację ze specjalistą.

W przypadku, gdy właściciel praw autorskich wskazuje naruszenie praw autorskich, można zostać pociągniętym do odpowiedzialności cywilnej (zakaz używania, odszkodowanie, zadośćuczynienie, przywrócenie dobrego imienia itp.) lub kryminalnej.

Ustawa o zwalczaniu nieuczciwej konkurencji

1 lipca 2019 roku (rok Heisei 31) weszła w życie zmieniona ustawa o zwalczaniu nieuczciwej konkurencji. Wcześniej trudno było zapobiegać nieuczciwej konkurencji w przypadku obiektów, które nie były objęte ochroną prawa patentowego ani prawem autorskim, lub które nie kwalifikowały się jako „tajemnice handlowe” na mocy ustawy o zwalczaniu nieuczciwej konkurencji.

W związku z tym, ta zmiana wprowadza środki cywilne (prawo do żądania zaprzestania, szacowanie kwoty odszkodowania itp.) przeciwko złym praktykom, takim jak nielegalne pozyskiwanie lub używanie danych o określonej wartości (dane o ograniczonym dostępie).

Prawo dotyczące wykorzystania AI w UE

System prawny UE składa się z trzech części: prawa pierwotnego (traktaty), prawa wtórnego (legislacja UE) oraz orzecznictwa. Prawo wtórne, oparte na traktatach, obejmuje akty prawne, które bezpośrednio lub pośrednio wiążą państwa członkowskie i są znane jako prawo pochodne UE. Prawo wtórne dzieli się na pięć głównych rodzajów, a „Rozporządzenie dotyczące AI” w UE jest rodzajem regulacji, co oznacza, że stanowi jednolite zasady bezpośrednio wiążące wszystkie państwa członkowskie.

Z kolei dyrektywy nakładają na państwa członkowskie UE pośredni obowiązek prawny polegający na wdrożeniu treści dyrektywy poprzez uchwalenie nowego prawa krajowego lub zmianę istniejącego prawa. Termin na wykonanie dyrektyw to zazwyczaj trzy lata od daty publikacji w Dzienniku Urzędowym UE.

Powiązane artykuły: Konieczna lektura dla firm ekspandujących do Europy: kluczowe informacje o prawie i systemie prawnym UE[ja]

W tym rozdziale omówimy najnowsze tendencje dotyczące prawnych regulacji wykorzystania AI w UE, skupiając się na „dyrektywach” i „rozporządzeniach”.

Projekt Dyrektywy dotyczącej odpowiedzialności za AI

28 września 2022 roku Komisja Europejska opublikowała “Projekt Dyrektywy dotyczącej odpowiedzialności za AI” wraz z propozycją zmian do “Dyrektywy dotyczącej odpowiedzialności za produkty”. Ustanawia ona zasady dotyczące odpowiedzialności prawnej w biznesie AI w Unii Europejskiej (UE), zgodne z “Europejskim Aktem o AI”, stanowiąc kluczowy element prawny. Od czerwca 2023 roku będzie podlegać “Dyrektywie UE dotyczącej pozwów zbiorowych”, co oznacza, że związane z nią japońskie przedsiębiorstwa również powinny zapoznać się z jej treścią.

W kontekście cyfrowej gospodarki o obiegu zamkniętym oraz globalnych łańcuchów wartości, projekt ten znacząco zmienia zasady dotyczące cywilnej odpowiedzialności prawnej za oprogramowanie, w tym systemy AI, w UE.

Powiązany artykuł: Aktualny stan i perspektywy Europejskiego Aktu o AI? Wpływ na japońskie przedsiębiorstwa również wyjaśniony[ja]

Celem “Projektu Dyrektywy dotyczącej odpowiedzialności za AI” jest ustalenie zasad dotyczących odpowiedzialności cywilnej za szkody spowodowane przez systemy AI, oparte na przyczynach pozakontraktowych, w celu poprawy funkcjonowania rynku wewnętrznego UE.

Oznacza to, że nie dotyczy on odpowiedzialności kontraktowej (odpowiedzialności za niewykonanie lub nienależyte wykonanie umowy), lecz obejmuje szkody wynikające z niedbalstwa (odpowiedzialność deliktowa), które nie są ograniczone tylko do przypadków, gdy produkt okazuje się niespełniający wymogów bezpieczeństwa, na które wskazuje “Dyrektywa dotycząca odpowiedzialności za produkty”.

Na przykład, szkody wynikające z dyskryminacji przez systemy rekrutacyjne AI również mogą być objęte tymi zasadami.

Projekt ten wprowadza środki łagodzące obciążenie dowodowe dla przedsiębiorców, którzy opracowali “systemy AI o wysokim ryzyku” określone w “Europejskim Akcie o AI”, w celu rozwiązania problemu “czarnej skrzynki” AI, w tym “przypuszczenie związku przyczynowego” i “system ujawniania dowodów”.

W przypadku nieprzestrzegania nakazu ujawnienia dowodów, “Projekt Dyrektywy dotyczącej odpowiedzialności za AI” nakłada obowiązek przypuszczenia naruszenia obowiązku uwagi oraz związku przyczynowego, a “zmieniona Dyrektywa dotycząca odpowiedzialności za produkty” – obowiązek przypuszczenia wady i związku przyczynowego, nakładając na to silniejsze sankcje niż japońskie prawo cywilne.

Projekt ten, jako pierwszy etap, ogranicza się do “środków łagodzących obciążenie dowodowe” związane z problemem “czarnej skrzynki” AI, wprowadzając nowe zasady dotyczące kwalifikacji powoda, ujawniania dowodów, zachowania dowodów oraz przypuszczenia związku przyczynowego.

Drugi etap obejmuje przegląd i ocenę. Komisja Europejska ustanowi program monitorowania, który będzie przeglądać informacje o incydentach i oceniać stosowność wprowadzenia odpowiedzialności bez winy (odpowiedzialności ścisłej) dla przedsiębiorców systemów AI o wysokim ryzyku oraz potrzebę wprowadzenia obowiązkowego ubezpieczenia, przedstawiając raporty Radzie Europejskiej i Parlamentowi Europejskiemu.

Projekt zmiany dyrektywy dotyczącej odpowiedzialności za produkty

“Dyrektywa dotycząca odpowiedzialności za produkty”, ustanowiona w 1985 roku, to prawo UE chroniące konsumentów, które określa odpowiedzialność producentów za szkody spowodowane przez wadliwe produkty.

W projekcie zmiany dyrektywy zakres odpowiedzialności za produkty zostaje rozszerzony o “oprogramowanie” jako nową kategorię “produktów”, co oznacza, że w przypadku wystąpienia “wad” w systemach AI, na operatorów tych systemów będzie miała zastosowanie odpowiedzialność bez winy. Dodatkowo, jako nowe kryteria oceny “wad”, wprowadzono możliwość ciągłego uczenia się po instalacji i aktualizacje oprogramowania.

W obowiązującym w Japonii “Prawie o odpowiedzialności za produkty”, ogólnie oprogramowanie nie jest uznawane za ruchomość, więc nie podpada pod kategorię “produktów” objętych tym prawem, jednak zmiana dyrektywy przewiduje dostosowanie definicji “produktu”. Projekt zmiany również wprowadza “środki łagodzące obciążenie dowodowe”, co może mieć znaczący wpływ na oprogramowanie, w tym systemy AI i produkty wykorzystujące zaawansowane technologie.

Ustawa o regulacji AI

“Ustawa o regulacji AI (AI Act)” to kompleksowe, jednolite przepisy UE (prawo wtórne) dotyczące biznesu AI, składające się z 85 artykułów, będące pierwszym na świecie międzynarodowym prawem regulującym AI. Została uchwalona 9 grudnia 2023 roku po tymczasowym porozumieniu między Komisją Europejską, Parlamentem Europejskim i Radą Europejską. Przewiduje się, że wejdzie w życie i zostanie w pełni wdrożona w 2024 roku.

Ta ustawa stanowi kluczowy element strategii cyfrowej UE znanej jako “Europa gotowa na erę cyfrową”, mającej na celu sprostanie nowym wyzwaniom i ryzykom ewoluującej ery cyfrowej. Gwarantuje bezpieczeństwo AI i podstawowe prawa, dążąc do wzmocnienia działań, inwestycji i innowacji związanych z AI w całej UE, jako część szerokiego pakietu AI.

Ustawa o regulacji AI w UE ma zastosowanie bezpośrednio do państw członkowskich UE, jak również ma zastosowanie transgraniczne w przypadku prowadzenia działalności na terenie UE, obejmując również przedsiębiorstwa zlokalizowane poza UE.

W przypadku naruszenia, mogą zostać nałożone ogromne kary finansowe oparte na globalnej sprzedaży (do 30 milionów euro, czyli około 47 miliardów jenów lub 6% całkowitego globalnego obrotu, w zależności od tego, która wartość jest wyższa), co może uniemożliwić prowadzenie biznesu AI w UE.

W związku z tym, firmy, które już wprowadziły AI na rynek UE, w tym firmy japońskie, jak również te, które planują wejść na rynek UE w przyszłości, będą musiały dostosować się do nowych regulacji AI w UE.

Podstawowe założenia “Ustawy o regulacji AI” opierają się na trzech cechach: “klasyfikacji AI opartej na ryzyku”, “wymaganiach i obowiązkach” oraz “wsparciu innowacji”.

Regulacja dotyczy przedsiębiorców wprowadzających systemy i usługi AI na rynek europejski, w tym deweloperów AI, wdrażających, dostawców, importerów, sprzedawców i użytkowników.

Poziom ryzyka AI jest kategoryzowany na cztery poziomy, a odpowiednie regulacje są stosowane w zależności od tego poziomu. Wyraźnie określono, że zapewnienie umiejętności korzystania z AI przez deweloperów, użytkowników i dostawców jest niezbędne do osiągnięcia zasad AI. Szczegóły znajdziesz w powiązanym artykule.

Powiązany artykuł: Aktualny stan i perspektywy ustawy o regulacji AI w UE? Wpływ na japońskie firmy również wyjaśniono[ja]

Kluczowe kwestie prawne dotyczące AI

W tym rozdziale omówimy główne kwestie prawne, na które przedsiębiorstwa powinny zwrócić uwagę przy wykorzystywaniu generatywnego AI.

Prawa autorskie do dzieł stworzonych przez AI

W kontekście dzieł stworzonych przez generatywne AI, należy zwrócić uwagę na następujące kwestie prawne:

• Czy dane dzieło narusza prawa autorskie?
• Czy dzieło stworzone przez generatywne AI może być objęte prawem autorskim?

Jak wspomniano wcześniej, dzieła stworzone przez ChatGPT, które wykazują podobieństwo lub zależność od istniejących dzieł autorskich, mogą naruszać prawa autorskie. Z drugiej strony, czy dzieła stworzone przez generatywne AI mogą być chronione prawem autorskim?

Zgodnie z prawem autorskim, “dzieło” definiowane jest jako “twórcze wyrażenie myśli lub uczuć”. Ponieważ AI nie posiada myśli ani uczuć, istnieje pogląd, że kontent stworzony przez generatywne AI nie może być objęty prawem autorskim.

Niemniej jednak, proces tworzenia treści przez AI jest dla użytkownika “czarną skrzynką” (proces decyzyjny jest nieprzejrzysty), co sprawia, że trudno jest użytkownikowi wygenerować oczekiwaną treść. W przypadku, gdy na etapie tworzenia promptów użytkownik wykaże kreatywność, można uznać, że “myśli lub uczucia” użytkownika zostały “twórczo wyrażone” przez generatywne AI, co może skutkować uznaniem praw autorskich.

Ochrona danych osobowych przy użyciu AI

Przy korzystaniu z AI należy zwrócić uwagę na możliwość naruszenia ustawy o ochronie danych osobowych. Konieczne są środki ostrożności, takie jak unikanie wprowadzania danych osobowych i informacji prywatnych.

W przypadku wprowadzenia danych osobowych do promptów, może dojść do uznania, że doszło do udostępnienia danych osobowych osobie trzeciej przez dostawcę usług. Zasadniczo, udostępnienie danych osobowych osobie trzeciej wymaga zgody osoby, której dane dotyczą, więc brak takiej zgody może skutkować naruszeniem ustawy o ochronie danych osobowych.

W przypadku ChatGPT, nawet jeśli przypadkowo wprowadzi się dane osobowe, system nie pozwoli na ich wyświetlenie w czacie. Jest to zgodne z polityką OpenAI, która nie przechowuje ani nie śledzi danych osobowych, jednak w przypadku innych usług lub platform może być inaczej, co wymaga szczególnej uwagi.

Zarządzanie ryzykiem w firmach zajmujących się AI

Zarządzanie ryzykiem różni się w zależności od strategii biznesowej firmy, celów wykorzystania AI oraz obowiązujących przepisów prawnych, dlatego ważne jest, aby dostosować odpowiednie środki zaradcze do konkretnej sytuacji i celów.

Firmy wykorzystujące generatywne AI powinny wziąć pod uwagę następujące punkty, aby zminimalizować ryzyko:

1. Rozwój kadry: Aby prawidłowo korzystać z generatywnego AI, potrzebna jest specjalistyczna wiedza i umiejętności. Ważne jest, aby przez edukację i szkolenia pracowników zapewnić zrozumienie właściwych metod korzystania.
2. Tworzenie i wdrażanie wewnętrznych wytycznych: Opracowanie wewnętrznych wytycznych dotyczących korzystania z generatywnego AI i zapewnienie, że pracownicy ich przestrzegają, może zmniejszyć ryzyko.
3. Budowanie organizacji promującej wykorzystanie i zarządzanie ryzykiem: Utworzenie organizacji promującej wykorzystanie generatywnego AI i umieszczenie w niej zespołu odpowiedzialnego za zarządzanie ryzykiem jest skuteczne.
4. Wdrożenie systemu: Aby prawidłowo wdrożyć generatywne AI, należy dokładnie wybrać i zaprojektować system.

Ponadto, ryzyka związane z wykorzystaniem generatywnego AI są zróżnicowane i obejmują wyciek informacji, naruszenie praw i prywatności, obawy dotyczące dokładności i bezpieczeństwa informacji, oraz ryzyko stronniczości. Aby uniknąć tych ryzyk, niezbędne jest wprowadzenie odpowiedniego zarządzania i ram zarządzania ryzykiem.

Powiązane artykuły: „Ryzyko związane z wdrożeniem ChatGPT w firmach. Przypadki wycieku informacji poufnych i środki zaradcze”[ja]

Podsumowanie: Prawo dotyczące AI wymaga ciągłego uaktualniania ze względu na rozwój regulacji

Prawo dotyczące biznesu AI, w tym pierwsze na świecie międzynarodowe „japońskie prawo regulujące AI” (ustanowione 9 grudnia 2023 roku) w UE, jest w trakcie tworzenia ram prawnych, co wymaga od firm nie tylko przestrzegania istniejących przepisów, ale również elastycznego reagowania na nowe ustawodawstwo.

W Japonii bezpośrednie prawo regulujące AI jeszcze nie istnieje, jednak istotne jest dokładne zrozumienie i odpowiednie reagowanie na powiązane przepisy, takie jak japońskie prawo autorskie, japońskie prawo o ochronie danych osobowych oraz japońskie prawo przeciwdziałania nieuczciwej konkurencji. Ponadto, konieczne jest śledzenie przyszłych zmian w tych przepisach i szybkie dostosowywanie się do nich.

Informacje o środkach podjętych przez naszą kancelarię

Kancelaria Prawna Monolit to firma specjalizująca się w IT, a w szczególności w zagadnieniach związanych z Internetem i prawem, posiadająca bogate doświadczenie w obu tych dziedzinach. Biznes AI wiąże się z wieloma ryzykami prawnymi, a wsparcie prawników specjalizujących się w problematyce AI jest niezbędne.

Nasza kancelaria oferuje zaawansowane wsparcie prawne dla biznesu AI, w tym ChatGPT, poprzez zespół prawników i inżynierów specjalizujących się w AI. Obejmuje to tworzenie umów, analizę legalności modeli biznesowych, ochronę własności intelektualnej oraz obsługę kwestii prywatności. Szczegóły znajdują się w poniższym artykule.

Zakres usług Kancelarii Prawnej Monolit: Prawo AI (w tym ChatGPT)[ja]