Huidige stand van zaken in wetgeving die AI reguleert: Een vergelijking en strategiepunten tussen Japan en de EU

Generatieve AI, zoals ChatGPT, is een enorme hype geworden. Deze generatieve AI, die nu ook in de zakelijke wereld wordt geïntegreerd, wordt beschouwd als de aanjager van de ‘vierde AI-golf’. In lijn hiermee wordt er wereldwijd gewerkt aan de ontwikkeling van een juridisch kader voor de regulering van AI.

In dit artikel bespreken we wetgeving gerelateerd aan AI en gaan we in op de juiste omgang met intellectueel eigendom, persoonlijke informatie en andere vertrouwelijke informatie.

De definitie en geschiedenis van AI (Kunstmatige Intelligentie)

AI (artificial intelligence) verwijst naar ‘kunstmatige intelligentie’. Juridisch gezien is er geen strikte definitie, en er zijn verschillende definities gegeven. Hieronder volgt een voorbeeld.

AI wordt ook beschreven als een verzameling van verschillende technologieën, softwaregroepen, computersystemen en algoritmen die de intellectuele capaciteiten van mensen op een computer nabootsen.

Als belangrijke gespecialiseerde AI’s kunnen de volgende worden genoemd:

• Natuurlijke taalverwerking (machinevertaling, syntactische analyse, morfologische analyse, RNN, etc.)
• Expertsystemen die de redenering en besluitvorming van experts nabootsen
• Beeld- en spraakherkenning die specifieke patronen detecteert en extrapoleert uit data

Het onderzoek en de ontwikkeling van AI (kunstmatige intelligentie) zijn voortdurend uitgevoerd sinds de dageraad van de computer in de jaren 1950, met de eerste AI-boom tot de jaren 1970 gericht op “zoeken en redeneren”, en de tweede AI-boom in de jaren 1980 met de geboorte van expertsystemen door onderzoek naar “kennisrepresentatie”, wat leidde tot twee paradigma-booms.

Sinds de jaren 2000, met de opkomst van big data en de erkenning van de bruikbaarheid van diep leren (deep learning) in beeldverwerking wereldwijd sinds de introductie van Alexnet in 2012, is het onderzoek snel actief geworden, wat leidde tot de derde AI-boom.

Tussen 2016 en 2017 verschenen AI’s die diep leren (deep learning) en versterkt leren (Q-learning, policy gradient method) implementeerden.

De belangrijkste revoluties van de derde AI-boom zijn opvallend op het gebied van natuurlijke taalverwerking en beeldverwerking door sensoren, maar hebben ook een grote impact op technologische ontwikkeling, sociologie, ethiek en economie.

Op 30 november 2022 trok ChatGPT, een AI voor het genereren van natuurlijke taal gelanceerd door OpenAI, aandacht als een veelzijdige tool, wat leidde tot een bloeiende business in generatieve AI. Sommigen noemen dit sociale fenomeen de vierde AI-boom.

Bedrijfsscènes waarin u de wetgeving rond AI moet controleren

Generatieve AI, een soort AI, is een nuttig hulpmiddel, maar het brengt ook risico’s met zich mee, zoals de verspreiding van valse informatie, het bevorderen van criminaliteit en soms zelfs het bedreigen van de democratie.

De risico-elementen van AI zijn nu onvermijdelijke uitdagingen geworden. Daarom zullen we de bedrijfsscènes bespreken waarin het noodzakelijk is om de wetgeving te controleren, vanuit het perspectief van zowel de gebruiker als de aanbieder.

Het gebruik van tekstgenererende AI

Sinds de lancering van ChatGPT in november 2022, heeft tekstgenererende AI wereldwijde aandacht gekregen als een veelzijdige tool die kan helpen bij het efficiënter maken van werk en het bieden van een hoge kostenprestatie door complexe verzoeken aan te kunnen.

Tegelijkertijd zijn de risico’s die gepaard gaan met het gebruik van tekstgenererende AI bekend geworden. Het is noodzakelijk om aandacht te besteden aan welke risico’s er zijn en welke wetten moeten worden nageleefd om deze potentiële risico’s te vermijden.

ChatGPT, als een vertegenwoordiger van tekstgenererende AI, heeft het risico dat de door gebruikers ingevoerde informatie (prompts) kan lekken als er geen maatregelen worden genomen. ChatGPT heeft de functie om prompts te verzamelen, op te slaan en te gebruiken, wat betekent dat er een risico bestaat op het lekken van persoonlijke informatie, bedrijfsgeheimen, en informatie verkregen door geheimhoudingsovereenkomsten (NDA’s) en andere vertrouwelijke informatie.

Daarnaast zijn er specifieke risico’s voor ChatGPT, zoals het genereren en verspreiden van valse informatie (hallucinaties), inbreuk op auteursrechten, en meer. Daarom is het essentieel om een feitencontrole uit te voeren op de gegenereerde output.

Het gebruik van beeldgenererende AI

Bij het gebruik van beeldgenererende AI in het bedrijfsleven moet men zich bewust zijn van het risico op inbreuk op auteursrechten.

Volgens OpenAI behoren de auteursrechten van beelden en teksten gegenereerd door ChatGPT en dergelijke in principe toe aan de gebruiker die ze heeft gecreëerd. Gebruikers kunnen ChatGPT en dergelijke gebruiken voor elk doel, inclusief commercieel gebruik.

Desalniettemin is het belangrijk om op de volgende punten te letten:

De trainingsdata van ChatGPT bevatten een grote hoeveelheid content die op het internet is gepubliceerd, en de meeste van deze content bestaat uit auteursrechtelijk beschermd materiaal (teksten, afbeeldingen, muziek, video’s, enz.). Daarom kan de gegenereerde content mogelijk inbreuk maken op de auteursrechten van anderen.

AI-ontwikkeling en het aanbieden van generatieve AI-diensten

De AI-business is gerelateerd aan verschillende wetten, en wereldwijd wordt er gewerkt aan het opstellen van juridische kaders, waardoor een flexibele houding vereist is om zowel bestaande wetten na te leven als nieuwe wetten te omarmen.

In het volgende hoofdstuk zullen we de Japanse wetten met betrekking tot AI en de ‘EU AI Act’, die in december 2023 (Gregoriaanse kalender) als ‘s werelds eerste internationale wet werd ingevoerd, bespreken.

Wetten in Japan met betrekking tot AI

In Japan is er momenteel geen wetgeving met dwingende kracht die AI reguleert; het beleid is gericht op zelfregulering. Hier bespreken we de bestaande wetten die van belang zijn bij het gebruik van AI.

Referentie: Ministerie van Economie, Handel en Industrie | “Governance-richtlijnen voor de implementatie van AI-principes ver. 1.1″[ja]

Auteursrechtwet

In januari 2019 (Heisei 31) werd de herziene Japanse Auteursrechtwet van kracht, waarin een nieuwe bepaling voor rechtenbeperking (een uitzondering waarvoor geen toestemming nodig is) werd geïntroduceerd voor “informatieanalyse” (artikel 30, paragraaf 4, item 2 van dezelfde wet). Gebruik van werken die niet gericht is op het ervaren van de daarin uitgedrukte gedachten of gevoelens, zoals informatieanalyse in de ontwikkelings- en leerfases van AI, kan nu zonder toestemming van de auteursrechthouder plaatsvinden.

Deze wijziging heeft duidelijk gemaakt dat machine learning, inclusief deep learning van AI, ook onder “informatieanalyse” valt door een definitie van “informatieanalyse” vast te stellen.

Gebruik voor informatieanalyse (het extraheren, vergelijken, classificeren of anderszins analyseren van informatie gerelateerd aan taal, geluid, beelden en andere elementen uit een groot aantal werken of andere grote hoeveelheden informatie)

Artikel 30, paragraaf 4, item 2 van de Auteursrechtwet

Echter, bij het gebruik van AI om creaties te genereren, is het belangrijk om op te letten voor auteursrechtinbreuk als er een gelijkenis of afhankelijkheid met het werk van anderen wordt vastgesteld.

Daarnaast kan het invoeren van auteursrechtelijk beschermd materiaal in ChatGPT als prompt leiden tot inbreuk op rechten zoals het kopieerrecht. Het gebruik van generatieve AI om het werk van anderen te wijzigen, kan ook leiden tot inbreuk op rechten zoals het recht op bewerking.

Volgens de gebruiksvoorwaarden van OpenAI behoren de rechten op content gecreëerd met ChatGPT toe aan de gebruiker, en commercieel gebruik is mogelijk. Echter, als het moeilijk is om te beoordelen of de content auteursrechtinbreuk vormt, wordt aanbevolen om advies in te winnen bij een specialist.

In het geval dat een auteursrechthouder auteursrechtinbreuk claimt, kunt u civielrechtelijk (stopzetting van gebruik, schadevergoeding, smartengeld, herstel van eer, etc.) en strafrechtelijk aansprakelijk worden gesteld.

Wet op de Preventie van Oneerlijke Concurrentie

Op 1 juli 2019 (Heisei 31) werd de herziene Wet op de Preventie van Oneerlijke Concurrentie van kracht. Voorheen was het moeilijk om oneerlijke concurrentie te voorkomen voor objecten die niet beschermd werden door het octrooirecht of auteursrecht, of die niet onder het “bedrijfsgeheim” van de Wet op de Preventie van Oneerlijke Concurrentie vielen.

Deze herziening heeft civiele maatregelen (recht op een verbod, schatting van schadevergoeding, etc.) vastgesteld tegen kwaadaardige praktijken zoals het onrechtmatig verkrijgen of gebruiken van data met een bepaalde waarde (beperkt beschikbare data).

Wetten betreffende het gebruik van AI in de EU

Het rechtsstelsel van de EU bestaat uit drie delen: primaire wetgeving (verdragen), secundaire wetgeving (EU-wetgeving) en jurisprudentie. Secundaire wetgeving, gebaseerd op de primaire wetgeving (verdragen), bestaat uit wetten die direct of indirect de lidstaten binden en wordt EU-recht (afgeleid recht) genoemd. Secundaire wetgeving is grofweg onderverdeeld in vijf categorieën, maar de “AI-regulering” van de EU valt onder de categorie verordeningen (Regulation), wat betekent dat het uniforme regels zijn die direct de EU-lidstaten binden.

Aan de andere kant stellen richtlijnen (Directive) de EU-lidstaten in staat om, ter implementatie van de inhoud van de richtlijn, nieuwe nationale wetgeving te creëren of bestaande wetgeving te wijzigen, waardoor ze een indirecte juridische verplichting hebben. De deadline hiervoor is in principe binnen drie jaar na publicatie in het Publicatieblad van de EU.

Gerelateerd artikel: Een must-read voor bedrijven die zich op Europa richten: Belangrijke punten over het recht en het rechtsstelsel van de EU[ja]

In dit hoofdstuk zullen we de meest recente ontwikkelingen bespreken met betrekking tot de juridische regelgeving rond het gebruik van AI in de EU, met name de “richtlijnen” en “verordeningen”.

Voorstel voor een AI-verantwoordelijkheidsrichtlijn

Op 28 september 2022 heeft de Europese Commissie samen met het voorstel voor een AI-verantwoordelijkheidsrichtlijn, een herzieningsvoorstel voor de Richtlijn Productaansprakelijkheid gepubliceerd. Dit stelt regels vast met betrekking tot de juridische verantwoordelijkheid van AI-bedrijven in de EU (Europese Unie) die conform zijn aan de AI-regulatiewet, en vormt een belangrijk juridisch kader. Het zal onderwerp zijn van de EU-richtlijn inzake collectieve vorderingen, die vanaf juni 2023 van toepassing zal zijn, dus het is noodzakelijk dat betrokken Japanse bedrijven zich bewust zijn van de inhoud.

Het wijzigt aanzienlijk de juridische regels met betrekking tot civiele aansprakelijkheid voor software, inclusief AI-systemen in de EU, om deze geschikt te maken voor de circulaire economie van het digitale tijdperk en de wereldwijde waardeketens.

Gerelateerd artikel: De huidige situatie en vooruitzichten van de AI-regulatiewet in de EU? Ook de impact op Japanse bedrijven uitgelegd[ja]

Het doel van het voorstel voor een AI-verantwoordelijkheidsrichtlijn is om regels vast te stellen voor civiele aansprakelijkheid op basis van niet-contractuele gronden voor schade veroorzaakt door AI-systemen, om de marktwerking binnen de EU te verbeteren.

Dit betekent dat het niet beperkt is tot aansprakelijkheid op basis van contract (niet-nakoming van verplichtingen en niet-conformiteit van contracten) maar ook schade door nalatigheid (zoals aansprakelijkheid voor onrechtmatige daad) omvat, die niet beperkt is tot gevallen van onvoldoende veiligheid die onder de Richtlijn Productaansprakelijkheid vallen. Het is belangrijk om hier rekening mee te houden.

Bijvoorbeeld, schade veroorzaakt door discriminatie door AI-selectiesystemen zou ook onderwerp kunnen zijn.

Het voorstel bevat maatregelen om de bewijslast voor ontwikkelaars van “hoog-risico AI-systemen”, zoals gedefinieerd in de AI-regulatiewet, te verlichten om het probleem van de AI black box aan te pakken, met de introductie van “vermoeden van causaliteit” en een “bewijsopenbaarmakingssysteem”.

Als men niet voldoet aan een bevel tot bewijsopenbaarmaking, verplicht het voorstel voor een AI-verantwoordelijkheidsrichtlijn tot het aannemen van een schending van de zorgplicht en het vermoeden van causaliteit, terwijl het herzieningsvoorstel voor de Richtlijn Productaansprakelijkheid defecten en causaliteit veronderstelt, en legt strengere straffen op dan de Japanse Code van Burgerlijke Rechtsvordering voor het naleven van het bevel.

Het voorstel is in de eerste fase beperkt tot maatregelen om de bewijslast te verlichten die gepaard gaat met de black box-natuur van AI, en introduceert geschiktheid als eiser, bewijsopenbaarmaking, bewijsbehoud, en vermoeden van causaliteit, met specifieke vereisten voor elk.

De tweede fase omvat bepalingen voor beoordeling en evaluatie. De Europese Commissie zal een monitoringprogramma instellen, incidentinformatie beoordelen, en de geschiktheid en noodzaak van verdere maatregelen zoals het opleggen van aansprakelijkheid zonder schuld (strikte aansprakelijkheid) aan exploitanten van hoog-risico AI-systemen en de introductie van verplichte verzekering evalueren, en hierover rapporteren aan de Europese Raad en het Europees Parlement.

Herzieningsvoorstel van de Richtlijn Productaansprakelijkheid

De “Richtlijn Productaansprakelijkheid” is een EU-wet die in 1985 is ingevoerd om consumenten te beschermen. Deze wet regelt de aansprakelijkheid van fabrikanten wanneer consumenten schade lijden door gebrekkige producten.

In het herzieningsvoorstel wordt “software” nieuw toegevoegd aan de toepassingsgebieden van productaansprakelijkheid als een “product”, en als er een “gebrek” is in een AI-systeem, dat een soort software is, dan zal de exploitant van het AI-systeem aansprakelijk zijn zonder schuld. Bovendien worden als nieuwe criteria voor het beoordelen van “gebreken” de mogelijkheid tot voortdurend leren na installatie en software-updates toegevoegd.

In de huidige Japanse “Wet op Productaansprakelijkheid” wordt software over het algemeen niet beschouwd als een roerend goed, en daarom valt het niet onder de “producten” die onder de wet vallen. Echter, deze herziening behandelt de aanpassing van het concept van “producten”. Het herzieningsvoorstel introduceert ook “maatregelen om de bewijslast te verlichten”, wat een aanzienlijke impact kan hebben op software zoals AI-systemen en geavanceerde technologieproducten.

AI-regelgeving

De “AI-regelgeving (AI Act)” is een alomvattende set van EU-uniforme regels (secundaire wetgeving) gericht op AI-bedrijven, bestaande uit 85 artikelen en is de eerste internationale wet die AI reguleert. Op 9 december 2023 bereikten de Europese Commissie, het Europees Parlement en de Europese Raad een voorlopig akkoord, waarna het werd vastgesteld. Het wordt verwacht dat het in 2024 in werking treedt en volledig wordt geïmplementeerd.

Deze wet is een kernonderdeel van de EU’s digitale strategie, bekend als “A Europe fit for the Digital Age”, en streeft ernaar om nieuwe uitdagingen en risico’s in het evoluerende digitale tijdperk aan te pakken. Het is ook onderdeel van een uitgebreid AI-pakket dat tot doel heeft de veiligheid van AI en fundamentele rechten te waarborgen en de inspanningen, investeringen en innovatie in AI in de hele EU te versterken.

De Europese “AI-regelgeving” is direct van toepassing op de EU-lidstaten en heeft ook extraterritoriale toepassing wanneer bedrijven binnen de EU actief zijn, waardoor het ook van toepassing is op bedrijven die buiten de EU zijn gevestigd.

Bij overtreding kunnen er aanzienlijke boetes worden opgelegd op basis van de wereldwijde omzet (tot 30 miljoen euro of 6% van de totale wereldwijde omzet, afhankelijk van welke van de twee hoger is), wat kan leiden tot de onmogelijkheid om AI-bedrijven binnen de EU te opereren.

Daarom wordt van bedrijven die al AI hebben geïmplementeerd in de EU-markt, inclusief Japanse bedrijven, en van bedrijven die overwegen de EU-markt te betreden, verwacht dat zij voldoen aan de nieuwe Europese AI-regelgeving.

De kern van de “AI-regelgeving” bestaat uit drie kenmerken: “risicogebaseerde AI-classificatie”, “vereisten en verplichtingen” en “ondersteuning van innovatie”.

De regelgeving is van toepassing op bedrijven die AI-systemen en -diensten op de Europese markt brengen, waaronder ontwikkelaars, implementeerders, aanbieders, importeurs, verkopers en gebruikers van AI.

AI-risiconiveaus worden gecategoriseerd in vier niveaus, met bijbehorende regelgeving. Het waarborgen van AI-geletterdheid onder AI-ontwikkelaars, gebruikers en aanbieders is essentieel voor het bereiken van de AI-principes, zoals duidelijk wordt aangegeven in de richtlijnen. Zie voor meer details het gerelateerde artikel.

Gerelateerd artikel: De huidige stand van zaken en vooruitzichten van de AI-regelgeving in de EU? Ook de impact op Japanse bedrijven uitgelegd[ja]

Belangrijke aandachtspunten bij wetgeving omtrent AI

In dit hoofdstuk bespreken we voornamelijk de juridische aandachtspunten voor bedrijven die generatieve AI willen gebruiken.

Auteursrechten op AI-creaties

Wat betreft creaties gegenereerd door generatieve AI, kunnen de volgende juridische kwesties van belang zijn:

• Of het werk inbreuk maakt op auteursrechten
• Of creaties gegenereerd door generatieve AI auteursrechtelijke bescherming kunnen krijgen

Zoals eerder vermeld, kunnen werken gegenereerd door ChatGPT auteursrechtinbreuk vormen als er een gelijkenis of afhankelijkheid met bestaande werken wordt erkend. Maar kunnen creaties gemaakt door generatieve AI auteursrechtelijke bescherming krijgen?

Volgens de Japanse Auteursrechtwet wordt een ‘werk’ gedefinieerd als ‘een creatieve expressie van gedachten of gevoelens’. Aangezien AI geen gedachten of gevoelens heeft, is er een standpunt dat content gecreëerd door generatieve AI niet in aanmerking komt voor auteursrechtelijke bescherming.

Aan de andere kant, omdat het generatieproces van content door AI voor gebruikers een black box is (het beslissingsproces is ondoorzichtig), is het uiterst moeilijk voor gebruikers om de AI precies de content te laten genereren die zij verwachten. In gevallen waarbij er creatieve inspanningen van de gebruiker in de promptfase zijn, kan men stellen dat de ‘gedachten of gevoelens’ van de gebruiker ‘creatief zijn uitgedrukt’ door de generatieve AI, waardoor auteursrechtelijke bescherming mogelijk is.

Omgaan met persoonsgegevens bij het gebruik van AI

Bij het gebruik van AI moet men rekening houden met de mogelijkheid van inbreuk op de wet bescherming persoonsgegevens. Het is noodzakelijk om maatregelen te nemen zoals het niet invoeren van persoonlijke en privacygevoelige informatie.

Als persoonlijke informatie wordt ingevoerd in de prompt, kan dit worden beschouwd als het verstrekken van persoonsgegevens aan derden door de serviceprovider. In principe is de toestemming van de betrokkene nodig om persoonsgegevens aan derden te verstrekken, dus zonder deze toestemming kan er sprake zijn van een overtreding van de wet bescherming persoonsgegevens.

Bij ChatGPT, zelfs als er per ongeluk persoonlijke informatie wordt ingevoerd, is het systeem zo ontworpen dat deze informatie niet in de chat kan worden weergegeven. Dit is in overeenstemming met het beleid van OpenAI dat geen persoonlijke informatie opslaat of volgt, maar aandacht is vereist omdat dit bij andere diensten of platforms anders kan zijn.

Risicobeheersing bij betrokkenheid van bedrijven bij AI

Risicobeheersing varieert afhankelijk van de bedrijfsstrategie, het doel van het gebruik van AI en de relevante wetgeving, dus het is belangrijk om passende risicobeheersingsmaatregelen te nemen die aansluiten bij de situatie en het doel.

Voor bedrijven die generatieve AI gebruiken om risico’s te minimaliseren, zijn de volgende punten van belang:

1. Personeelsontwikkeling: Voor het juiste gebruik van generatieve AI zijn gespecialiseerde kennis en vaardigheden nodig. Het is belangrijk om werknemers op te leiden en te trainen om hen het juiste gebruik te laten begrijpen.
2. Ontwikkeling, implementatie en beheer van interne richtlijnen: Door interne richtlijnen voor het gebruik van generatieve AI op te stellen en werknemers deze te laten naleven, kunt u risico’s verminderen.
3. Opzetten van een promotieorganisatie voor gebruik en risicobeheersing: Het oprichten van een organisatie die het gebruik van generatieve AI bevordert en een team binnen de organisatie plaatst dat verantwoordelijk is voor risicobeheer, is effectief.
4. Systeemimplementatie: Voor de juiste implementatie van generatieve AI is het noodzakelijk om zorgvuldig het systeem te selecteren en te ontwerpen.

Daarnaast diversifiëren de risico’s die gepaard gaan met het gebruik van generatieve AI, waaronder het lekken van informatie, inbreuk op rechten en privacy, zorgen over de nauwkeurigheid en veiligheid van informatie, en het risico op bias. Om deze risico’s te vermijden, is het essentieel om een passend governance- en risicobeheerkader te implementeren.

Gerelateerd artikel: “Risico’s van het implementeren van ChatGPT in bedrijven: Uitleg over gevallen van vertrouwelijke informatie lekken en maatregelen”[ja]

Samenvatting: AI-wetgeving is in ontwikkeling, dus bijblijven is noodzakelijk

De wetgeving met betrekking tot AI-business bevindt zich in een fase van ontwikkeling, met als startpunt de wereldwijd eerste internationale ‘AI-regulatiewet’ in de EU (ingevoerd op 9 december 2023), waardoor bedrijven niet alleen bestaande wetten moeten naleven, maar ook flexibel moeten zijn in het aanpassen aan nieuwe wetgeving.

In Japan bestaat er nog geen wetgeving die direct AI reguleert, maar het is noodzakelijk om gerelateerde wetten en regelgeving, zoals de auteursrechtwet, de wet op de bescherming van persoonsgegevens en de wet ter voorkoming van oneerlijke concurrentie, goed te begrijpen en hier adequaat op te reageren. Bovendien is het essentieel om de toekomstige wijzigingen in gerelateerde wetgeving nauwlettend in de gaten te houden en hier snel op te reageren.

Informatie over de maatregelen van ons kantoor

Monolith Advocatenkantoor is een advocatenkantoor met een rijke ervaring op zowel IT-gebied, met name het internet, als op juridisch vlak. De AI-business brengt veel juridische risico’s met zich mee, en de ondersteuning van advocaten die goed thuis zijn in juridische kwesties rond AI is essentieel.

Ons kantoor biedt geavanceerde juridische ondersteuning voor AI-bedrijven, waaronder ChatGPT, met een team van advocaten die gespecialiseerd zijn in AI en ingenieurs. Dit omvat het opstellen van contracten, het beoordelen van de wettigheid van bedrijfsmodellen, het beschermen van intellectuele eigendomsrechten en het omgaan met privacykwesties. Meer details vindt u in het onderstaande artikel.

Behandelde gebieden van Monolith Advocatenkantoor: AI (waaronder ChatGPT) juridische zaken[ja]