MONOLITH LAW OFFICE+81-3-6262-3248Wochentags 10:00-18:00 JST [English Only]

MONOLITH LAW MAGAZINE

General Corporate

Die aktuelle Situation und Aussichten des EU-KI-Regulierungsgesetzes: Welche Auswirkungen hat es auf japanische Unternehmen?

General Corporate

Die aktuelle Situation und Aussichten des EU-KI-Regulierungsgesetzes: Welche Auswirkungen hat es auf japanische Unternehmen?

Durch die Entwicklung von KI und die zunehmende Verwendung von KI-Tools wie ChatGPT in Geschäftsprozessen, gewinnen KI-bezogene Geschäfte an Fahrt. Gleichzeitig rücken internationale Regulierungsfragen im Bereich der Künstlichen Intelligenz in den Fokus.

In Japan hat das Ministerium für Wirtschaft, Handel und Industrie (METI) die “Governance-Leitlinien für die Umsetzung der KI-Prinzipien Ver. 1.1″[ja] veröffentlicht (Stand zum Zeitpunkt des Verfassens dieses Artikels). Am 14. Juni 2023 (Reiwa 5) wurde im EU-Parlament das weltweit erste internationale “KI-Regulierungsgesetz” angenommen, was auch in Japan große Aufmerksamkeit erregt hat.

In diesem Artikel stellen wir den aktuellen Stand und die Aussichten des KI-Regulierungsgesetzes vor und erläutern die Auswirkungen auf japanische Unternehmen.

Was ist das AI-Regelungsgesetz (Japanese AI Act)?

Am 14. Juni 2023 (Gregorianischer Kalender) wurde ein umfassender “Entwurf für AI-Regelungen”, der die Nutzung von AI im Allgemeinen zum Ziel hat, vom Europäischen Parlament der EU angenommen. Es handelt sich um die weltweit ersten internationalen Regelungen in Form eines einheitlichen EU-Rechts (Sekundärrecht), bestehend aus 85 Artikeln, bekannt als das “AI-Regelungsgesetz (Japanese AI Act)”.

In der Zukunft werden mit dem Ziel, noch im Jahr 2023 eine Einigung zu erzielen, informelle Trilog-Verhandlungen zwischen den drei Parteien (Europäische Kommission, Europäisches Parlament und Rat der Europäischen Union) geführt. Nach der Zustimmung durch das Europäische Parlament und den Rat der Europäischen Union als gesetzgebende Organe wird das Gesetz verabschiedet und soll voraussichtlich im Jahr 2024 in Kraft treten.

Das Rechtssystem der EU

Das Rechtssystem der EU besteht aus drei Arten von Rechtsakten: Primärrecht (Verträge), Sekundärrecht (Gemeinschaftsgesetzgebung) und Rechtsprechung.

Das Sekundärrecht basiert auf dem Primärrecht (Verträgen) und umfasst Rechtsvorschriften, die die Mitgliedstaaten der EU direkt oder indirekt regulieren. Es wird auch als EU-Recht oder abgeleitetes Recht bezeichnet.

Es gibt grundsätzlich fünf Arten von Sekundärrecht, aber das “EU-KI-Regulierungsgesetz” fällt unter die Verordnungen (Regulations), die als einheitliche Regeln direkt bindend für die EU-Mitgliedstaaten sind.

Das Sekundärrecht der EU umfasst folgende fünf Arten:

  • Verordnungen (Regulations): Sie haben Bindungskraft für alle Mitgliedstaaten und sind unmittelbar anwendbar, d.h., sie werden Teil des nationalen Rechtssystems, ohne dass es eines Ratifizierungsverfahrens in den Mitgliedstaaten bedarf.
  • Richtlinien (Directives): Die Mitgliedstaaten sind verpflichtet, zur Erreichung der Ziele neues nationales Recht zu schaffen oder bestehendes zu ändern.
  • Entscheidungen (Decisions): Eine Form von Rechtsakten mit rechtlicher Bindungskraft, die sich nicht an die Allgemeinheit, sondern an bestimmte Adressaten wie bestimmte Mitgliedstaaten, Unternehmen oder Personen richtet.
  • Empfehlungen (Recommendations): Die Europäische Kommission empfiehlt Regierungen der Mitgliedstaaten, Unternehmen oder Einzelpersonen bestimmte Maßnahmen oder Handlungen. Sie haben keine rechtliche Bindungskraft oder Zwangsgewalt, sollen aber die Gesetzgebung oder Reformen innerhalb der EU-Mitgliedstaaten fördern.
  • Stellungnahmen (Opinions): Auch als “Ansichten” bezeichnet, äußert die Europäische Kommission ihre Meinung zu einem bestimmten Thema, ohne rechtliche Bindungskraft oder Zwangsgewalt.

Die “Regulation” ist die zwingendste Form des Sekundärrechts, und beispielsweise die DSGVO (Datenschutz-Grundverordnung) ist ein Beispiel für eine solche Verordnung.

Anwendungsbereich des EU-KI-Regulierungsgesetzes

Das EU-Gesetz zur Regulierung von Künstlicher Intelligenz (KI), das direkt in der EU Anwendung findet, wird auch extraterritoriale Wirkung haben und rechtlich bindend für Drittländer sein, die Handelspartner sind. Betroffen sind Unternehmen, die KI-Systeme und -Dienste auf den europäischen Markt bringen, einschließlich Entwickler, Bereitsteller, Anbieter, Importeure, Händler und Nutzer von KI.

Das KI-Regulierungsgesetz legt klare Anforderungen an bestimmte KI-Systeme und die Pflichten der Unternehmen fest, fordert jedoch gleichzeitig, dass die administrativen und finanziellen Belastungen für kleine und mittlere Unternehmen (KMU) verringert werden.

Der Gesetzesentwurf ist Teil eines umfassenden KI-Pakets, das darauf abzielt, die Sicherheit von KI und die grundlegenden Rechte zu gewährleisten und das Engagement, die Investitionen und die Innovation in KI in der gesamten EU zu stärken.

Europäische Vorschriften müssen im Einklang mit dem grundlegenden Gedanken des Vertrags über die Europäische Union stehen. Das bedeutet, dass auch im Bereich der KI-Technologie die Menschenrechte und Freiheiten innerhalb der EU gewährleistet sein müssen und dafür entsprechende Schutzmaßnahmen erforderlich sind.

Das Gesetz erklärt das Ziel der Regulierung damit, “die Nutzung von vertrauenswürdiger KI unter menschlicher Aufsicht zu fördern und den Schutz von Gesundheit, Sicherheit, grundlegenden Rechten, Demokratie und Rechtsstaatlichkeit sowie der Umwelt vor den Risiken der KI zu gewährleisten”.

Insbesondere sind die folgenden “allgemeinen Prinzipien, die für alle KI-Systeme gelten”, festgelegt:

  • Menschliche Autonomie und Aufsicht (human agency and oversight)
  • Technische Robustheit und Sicherheit (technical robustness and safety)
  • Privatsphäre und Daten-Governance (privacy and data governance)
  • Transparenz (transparency)
  • Diversität, Nichtdiskriminierung und Fairness (diversity, non-discrimination and fairness)
  • Soziales und ökologisches Wohlergehen (social and environmental well-being)

Innerhalb dieses Regulierungsgesetzes wird deutlich darauf hingewiesen, dass Maßnahmen zur Sicherstellung der KI-Kompetenz von Entwicklern, Nutzern und Anbietern von KI unerlässlich sind, um die KI-Prinzipien zu erreichen.

Bei Verstößen können hohe Sanktionen verhängt werden, die auf dem weltweiten Umsatz basieren (bis zu 30 Millionen Euro, etwa 4,7 Milliarden Yen, oder 6% des weltweiten Umsatzes, je nachdem, welcher Betrag höher ist), was dazu führen kann, dass Unternehmen nicht mehr in der Lage sind, im EU-Raum KI-Geschäfte zu betreiben.

Daher wird von Unternehmen, die bereits KI-Geschäfte auf dem EU-Markt betreiben, einschließlich japanischer Unternehmen, und von solchen, die eine Expansion in den EU-Markt planen, erwartet, dass sie Maßnahmen ergreifen, um mit der neuen EU-KI-Regulierung konform zu gehen.

Hintergrund der Erstellung des AI-Regulierungsgesetzes

Hintergrund der Erstellung des AI-Regulierungsgesetzes

Generative KI ist zwar ein nützliches Werkzeug, birgt jedoch auch Risiken, die Kriminalität fördern und die Demokratie bedrohen können. Mit der Entwicklung und Verbreitung von KI-Technologien werden diese Probleme zu unvermeidlichen Herausforderungen.

Seit 2016 haben die Europäische Union (EU), die USA und China Richtlinien und nationale Strategieentwürfe zu KI veröffentlicht. Insbesondere in der EU wurde die Entwicklung von Regulierungen für KI und Big Data vorangetrieben, und zwischen 2017 und 2022 wurden wichtige Richtlinien, Erklärungen und Regulierungsentwürfe erstellt.

Zum Beispiel wurde im April 2016 die “Allgemeine Datenschutzverordnung (DSGVO)” verabschiedet, am 21. April 2021 der “Entwurf eines AI-Regulierungsgesetzes” vorgestellt, am 30. Mai 2022 das “Europäische Daten-Governance-Gesetz (DGA)” erlassen, das seit dem 24. September 2023 in Kraft ist.

Diese Regulierungen zielen darauf ab, die sichere und gerechte Nutzung von KI und Big Data in der gesamten Gesellschaft zu gewährleisten und gleichzeitig Innovation und wirtschaftliches Wachstum zu fördern.

Die EU hat als digitale Strategie “A Europe fit for the Digital Age” (Ein Europa, das für das digitale Zeitalter geeignet ist) formuliert.

Auch nach der Vorstellung des “Entwurfs eines AI-Regulierungsgesetzes” hat die Europäische Kommission aufgrund der raschen Entwicklung und Verbreitung von generativer KI am 14. Juni 2023 einen geänderten Entwurf angenommen, der neue Überlegungen und Anforderungen zu generativer KI hinzufügt.

DatumVeranstaltung
21. April 2021Europäische Kommission stellt den “EU AI-Regulierungsentwurf” vor
11. Mai 2023Änderungsentwurf vom “Ausschuss für Binnenmarkt und Verbraucherschutz” und “Ausschuss für bürgerliche Freiheiten, Justiz und Inneres” angenommen
14. Juni 2023Änderungsentwurf vom Europäischen Parlament angenommen
24. Oktober 2023Vierte Trilog-Verhandlung (Dreiergespräch) abgehalten
Vorläufige Einigung
6. Dezember 2023Letzte Trilog-Verhandlung (Dreiergespräch) geplant
Zustimmung des Europäischen Parlaments und des EU-Rates
“EU AI-Regulierungsgesetz” verabschiedet
Zweite Hälfte 2024Inkrafttreten geplant

Merkmale des KI-Regulierungsgesetzes

Merkmale des KI-Regulierungsgesetzes

Das “KI-Regulierungsgesetz” basiert im Wesentlichen auf drei Merkmalen: der “risikobasierten KI-Klassifizierung”, den “Anforderungen und Pflichten” und der “Unterstützung von Innovationen”.

Die Regulierung folgt einem Ansatz, der als “risikobasierter Ansatz” bekannt ist. Dabei werden die Risikostufen von KI in vier Kategorien eingeteilt, und entsprechend dieser Einstufung werden Regulierungen angewendet.

Konkret sind, wie in der untenstehenden Tabelle dargestellt, für die vier Risikoklassen von KI-Systemen bestimmte Verbote, Anforderungen und Pflichten festgelegt. Bei KI mit hohem Risiko werden die Anwendungen spezifisch definiert, um die Sicherheit des menschlichen Körpers und Lebens, die Gewährleistung der Selbstbestimmung sowie die Aufrechterhaltung der Demokratie und des fairen Verfahrens zu berücksichtigen.

RisikostufeNutzungsbeschränkungenBetroffene KI-SystemeAnforderungen & Pflichten
 <Verbotenes Risiko>          
Verbot von KI, die den Werten der EU widerspricht
Verboten① Subliminaltechniken
② Ausnutzung von Schwachstellen
③ Social Scoring
④ “Echtzeit” Fernbiometrie-Erkennungssysteme in öffentlichen Bereichen für Strafverfolgungszwecke (außer in Ausnahmefällen)
Verboten
<Hohes Risiko>
・Sicherheitskomponenten regulierter Produkte
・Bestimmte KI-Systeme + KI, die erhebliche Risiken für Gesundheit, Sicherheit, Grundrechte & Umwelt darstellen
Einhaltung von Anforderungen und Konformitätsbewertung als Bedingung① Biometrische Erkennung & Klassifizierung (Industriemaschinen, Medizingeräte)
② Management & Betrieb kritischer Infrastrukturen
③ Bildung & Berufsausbildung
④ Zugang zu Beschäftigung, Arbeitnehmermanagement, Selbstständigkeit
⑤ Zugang zu obligatorischen privaten & öffentlichen Dienstleistungen
⑥ Strafverfolgung (alle durch Strafverfolgungsbehörden)
⑦ Einwanderung, Asyl & Grenzmanagement (alle durch zuständige öffentliche Stellen)
⑧ Justiz und demokratische Prozesse
Strenge Regulierung wie Risikomanagementsysteme, Datengovernance, Erstellung technischer Dokumentation, Log-Speicherung, menschliche Überwachungsmaßnahmen, Konformitätsbewertungsverfahren etc.
<Begrenztes Risiko>
AI-Systeme, auf die Transparenzpflichten anwendbar sind
Transparenzpflicht als Bedingung① Chatbots und andere AI-Systeme, die mit natürlichen Personen interagieren
② Emotionserkennungssysteme & biometrische Klassifizierungssysteme
③ Deepfake-erzeugende KI-Systeme
Begrenzte Pflichten wie das Design von Modellen, um die Erzeugung illegaler Inhalte zu verhindern, Veröffentlichung von urheberrechtlich geschützten Daten, die für das Training verwendet wurden, vorherige Ankündigung der KI-Nutzung etc.
<Minimales Risiko>
Alle anderen Systeme
Keine BeschränkungenAlle anderen SystemeEmpfehlung von Verhaltenskodizes

Die Auswirkungen des AI-Regulierungsgesetzes auf Japan

Die EU hat in Bereichen wie Menschenrechtsschutz, Datenschutz und Umweltschutz international führende Regulierungen eingeführt, die zum “Goldstandard” für die Systemgestaltung in anderen Ländern geworden sind.

Die Reform des japanischen Datenschutzgesetzes wurde nicht nur mit dem Ziel vorangetrieben, dezentrale Regulierungen zu vereinheitlichen, sondern auch, um auf die GDPR (Datenschutz-Grundverordnung) der EU zu reagieren, was eine große Herausforderung darstellte. Es gibt auch Gesetze, wie das “Gesetz zur Verbesserung der Transparenz und Fairness von bestimmten digitalen Plattformen” (in Kraft seit dem 1. Februar 2021), die unter Berücksichtigung der EU-Gesetzgebung entworfen wurden.

In Japan gibt es derzeit keine harten gesetzlichen Regelungen für KI, sondern es wird eine Politik der Selbstregulierung durch Soft Law verfolgt.

Wie bereits erwähnt, wird das “AI-Regulierungsgesetz” der EU nicht nur direkt auf die Mitgliedstaaten angewendet, sondern hat auch extraterritoriale Wirkung, wenn Geschäfte innerhalb der EU betrieben werden, und gilt somit auch für Unternehmen außerhalb der EU.

Wie später erläutert wird, könnten auf den Versand von KI-Produkten innerhalb der EU mehrere Gesetze aus unterschiedlichen Perspektiven anwendbar sein, und es ist unerlässlich, entsprechende Maßnahmen zu ergreifen. Japanische Unternehmen müssen die Entwicklungen genau beobachten und angemessene rechtliche Maßnahmen ergreifen.

Annahme des Änderungsantrags einschließlich generativer KI

Annahme des Änderungsantrags einschließlich generativer KI

Das KI-Regulierungsgesetz ist ein Gesetz, das durch Änderungsanträge der drei EU-Institutionen (Europäischer Rat, Europäisches Parlament und Europäische Kommission) angewendet wurde.

Am 11. Mai 2023 hat der IMCO (Ausschuss für Binnenmarkt und Verbraucherschutz) und der LIBE (Ausschuss für bürgerliche Freiheiten, Justiz und Inneres) Änderungsanträge zum KI-Regulierungsgesetz verabschiedet.

Diese Änderungsanträge wurden am 14. Juni 2023 vom Europäischen Parlament angenommen.

Der Bericht enthält wichtige Änderungen des Gesetzesvorschlags, wie das Verbot von Predictive Policing, zahlreiche Ergänzungen zur Liste der als hochriskant eingestuften eigenständigen KI-Systeme und eine starke und umfassende Rolle des neuen KI-Büros (EAIB – Europäische Behörde für Künstliche Intelligenz, die die bisherige Institution ersetzt).

Zudem wird eine stärkere Verbindung mit der GDPR (Datenschutz-Grundverordnung) vorgeschlagen, eine Zunahme der Beteiligung von Stakeholdern in bestimmten Bereichen und die Einführung spezifischer Bestimmungen im Zusammenhang mit generativer und allgemeiner KI.

Danach fand am 24. Oktober 2023 die vierte Trilog-Verhandlung (Dreiergespräch) zum KI-Regulierungsgesetz statt, bei der bedeutende Fortschritte bei politisch heiklen Themen erzielt wurden. Insbesondere wurde eine vorläufige Einigung über den umstrittenen Filtermechanismus für Hochrisiko-KI-Systeme (Art. 6) erzielt.

Weiterhin wurde politische Leitlinien für die zukünftige Ausrichtung in Bezug auf Basismodelle/allgemeine KI-Systeme, Governance, Verbote und Strafverfolgungsbehörden gegeben, und die technischen Teams wurden beauftragt, konkrete Textvorschläge zu den genannten Themen zu erarbeiten.

Über die AI-Regulierungen im Zusammenhang stehender Gesetze

Das Gesetz zur Regulierung von Künstlicher Intelligenz (AI) steht in Verbindung mit mehreren Gesetzen, die aus unterschiedlichen Perspektiven festgelegt wurden. Diese drei Gesetze wurden von der Europäischen Union (EU) erlassen, um den Schutz persönlicher Daten im digitalen Raum und einen fairen Wettbewerb sicherzustellen.

DSA (Das Digitale-Dienste-Gesetz)

Das “Digitale-Dienste-Gesetz” (DSA = Digital Services Act) der EU ist eine umfassende Regelung für den elektronischen Handel, die am 16. November 2022 (2024年2月17日 vollständige Anwendung geplant) in Kraft getreten ist.

In der EU wurde bereits im Jahr 2000 eine Richtlinie für den elektronischen Handel erlassen. Da es jedoch zunehmend schwieriger wurde, diese auf die Entwicklung des Internets und der Online-Plattformen anzuwenden, wurde die Richtlinie durch den DSA, eine einheitliche EU-Regelung, ersetzt.

Das DSA wurde mit dem Ziel erlassen, den Binnenmarkt für Vermittlungsdienste ordnungsgemäß zu funktionieren zu lassen, die grundlegenden Rechte der Nutzer zu schützen und eine sicherere digitale Umgebung zu erhalten. Die regulierten Unternehmen umfassen Online-Vermittlungsdienste, Hosting-Dienste und Online-Plattformen (einschließlich VLOP und VLOSE).

Es handelt sich um ein Gesetz, das umfassend sowohl für BtoB als auch für BtoC die Verantwortlichkeiten im Falle der Veröffentlichung illegaler Inhalte und die Handhabung von Streitigkeiten regelt.

Konkret verpflichtet es zur Beseitigung illegaler Inhalte sowie Produkte und Dienstleistungen, stärkt den Schutz der grundlegenden Rechte der Nutzer und fordert umfassende Regeln für Transparenz und Rechenschaftspflicht.

Für VLOP (Very Large Online Platform) = “sehr große Online-Plattformen” und VLOSE (Very Large Online Search Engine) = “sehr große Online-Suchmaschinen” innerhalb der EU, die monatlich durchschnittlich mehr als 45 Millionen Nutzer haben, gelten strengere Regeln.

Die bestimmten VLOP und VLOSE müssen innerhalb von vier Monaten nach der Benachrichtigung ihre Systeme, Ressourcen und Prozesse an das DSA anpassen, Maßnahmen zur Milderung einführen und ein unabhängiges System zur Einhaltung der Gesetze einrichten. Darüber hinaus müssen sie eine Prüfung und die erste jährliche Risikobewertung durchführen und der Europäischen Kommission Bericht erstatten.

Das DSA soll ab dem 17. Februar 2024 (2024年2月17日) vollständig angewendet werden, und die Einhaltung des DSA durch Unternehmen, die nicht VLOP oder VLOSE sind, wird künftig von der Europäischen Kommission und den Behörden der Mitgliedstaaten überwacht.

Die Mitgliedstaaten müssen bis zum 17. Februar 2024 (2024年2月17日) einen unabhängigen “Digital Services Coordinator” einrichten, der die Einhaltung des DSA überwacht und Befugnisse zur Durchsetzung von Sanktionen bei Verstößen hat.

Die Europäische Kommission überwacht direkt die VLOP und VLOSE und hat die Befugnis, Strafen durchzusetzen.

Die Geldbußen für Verstöße gegen das Gesetz können bis zu 6 % des weltweiten Jahresumsatzes des Unternehmens des Vorjahres betragen.

Dieses Gesetz ist Teil der EU-Digitalstrategie, bekannt als “A Europe fit for the Digital Age”, und zielt darauf ab, den neuen Herausforderungen und Risiken des sich entwickelnden digitalen Zeitalters zu begegnen.

DMA (Das Digital Markets Act)

Die “Digital Markets Act” (DMA) der EU tritt größtenteils am 2. Mai 2023 in Kraft und zielt darauf ab, den digitalen Markt fair und wettbewerbsfähig zu gestalten und zu verhindern, dass bestimmte digitale Plattformen den Markt dominieren.

Reguliert werden die so genannten Gatekeeper, die bestimmte Pflichten erfüllen müssen. Bei Verstößen können Sanktionen verhängt werden, die bis zu 10 % des weltweiten Jahresumsatzes betragen können.

Als “Gatekeeper” werden die größten digitalen Plattformen bezeichnet, die innerhalb der Europäischen Union betrieben werden und die aufgrund ihrer nachhaltigen Marktposition in bestimmten digitalen Bereichen, sowie aufgrund bestimmter Kriterien wie Nutzerzahlen, Umsatz und Kapital, diesen Status erhalten.

Die Europäische Kommission hat bis zum 6. September 2023 Zeit, die neuesten Gatekeeper zu benennen, und diesen Unternehmen wird eine Schonfrist von bis zu sechs Monaten (bis März 2024) eingeräumt, um die neuen Pflichten des Digital Markets Act einzuhalten. Zu diesem Zeitpunkt wurden Alphabet, Amazon, Apple, ByteDance, Meta und Microsoft als Gatekeeper benannt, und insgesamt 22 ihrer wichtigsten Plattformen und Dienste wurden als Gegenstand des Gesetzes ausgewiesen.

Dieses Gesetz zielt darauf ab, den Missbrauch von Marktmacht durch große digitale Plattformen zu verhindern und es neuen Marktteilnehmern zu erleichtern, in den Markt einzutreten.

DSGVO (Datenschutz-Grundverordnung)

Die DSGVO (Datenschutz-Grundverordnung) ist ein neues “Datenschutzgesetz” der EU, das am 25. Mai 2018 in Kraft getreten ist.

Es handelt sich um einen rechtlichen Rahmen, der Richtlinien für die Sammlung und Verarbeitung personenbezogener Daten von Einzelpersonen innerhalb und außerhalb der EU festlegt. Diese Verordnung legt Organisationen, die sich an die EU richten oder Daten von Personen innerhalb der EU sammeln, Verpflichtungen auf.

Verwandter Artikel: Erklärung der Schlüsselpunkte für die Erstellung einer DSGVO-konformen Datenschutzrichtlinie[ja]

Erwartete Trends in der KI-Regulierung

Erwartete Trends in der KI-Regulierung

Im Folgenden erläutern wir die KI-Systeme, auf die Unternehmen im Rahmen der oben genannten Risikoklassifizierungstabelle für KI besonders achten sollten.

Verbot der Nutzung von Sozialkredit-Systemen

Unter den von der EU-Regulierung als “verbotene Risiken” eingestuften KI-Systemen befindet sich auch das Sozialkredit-System (Social Credit Score). Dieses wird durch eine Gesetzesänderung nicht nur für öffentliche Institutionen, sondern umfassend verboten.

Ein “Sozialkredit-System” bezeichnet ein System, das Bürgern auf Basis ihres sozialen Status und Verhaltens eine Bewertung zuweist.

In China funktioniert es als Werkzeug der Überwachungsgesellschaft und ist als staatliche Strategie in den vier Bereichen “öffentliche Dienste”, “Handel”, “Gesellschaft” und “Justiz” in ein umfassendes Sozialkreditsystem integriert.

Zu den konkreten Einschränkungen gehören Verbote der Nutzung von Flugzeugen und Hochgeschwindigkeitszügen, Ausschluss von Privatschulen, Verbot der Gründung von NPOs und anderen Organisationen, Ausschluss von prestigeträchtigen Berufen, Ausschluss aus Hotels, Reduzierung der Internetgeschwindigkeit sowie die Veröffentlichung persönlicher Informationen auf Websites und in Medien. Andererseits können Personen mit hohen Punktzahlen verschiedene “Privilegien” genießen.

Ein solches System ruft jedoch Bedenken hinsichtlich der Privatsphäre und Freiheit der Einzelpersonen hervor, und die Diskussion über dessen Anwendung hält an.

Das Verbot der Nutzung von Sozialkredit-Systemen innerhalb der EU dient dazu, die faire und transparente Nutzung von KI-Technologien zu gewährleisten.

Verstärkung der Beschränkungen für generative KI

Generative KI-Systeme gehören zu den “begrenzten Risiken” der EU-Regulierungsgesetze.

Generative KI (Generative Artificial Intelligence) ist eine Art von KI, die auf Basis von Lernmaterialien neue Inhalte oder Lösungen erstellt und hat in den letzten Jahren, wie beispielsweise Chat GPT, zunehmend Aufmerksamkeit erregt. Allerdings gibt es bei generativer KI verschiedene Herausforderungen, die eine Regulierung erforderlich machen.

Das KI-Regulierungsgesetz berücksichtigt die rasante Entwicklung und Verbreitung generativer KI und fügt neue Überlegungen und Anforderungen hinzu.

Konkret werden Anbieter von generativer KI, einschließlich Unternehmen wie OpenAI, verpflichtet, Daten über Urheberrechte, die für das Training von LLMs (Large Language Models – Großmaßstäbliche Sprachmodelle) verwendet wurden, offenzulegen.

Ziel ist es, die Transparenz generativer KI zu gewährleisten und die Regulierung des Risikomanagements zu verstärken.

In der EU-Gesetzgebung wird traditionell großer Wert auf das Prinzip der “Transparenz” gelegt, wie es beispielsweise bei der GDPR (Datenschutz-Grundverordnung) der Fall ist. Schutzmaßnahmen und die Verwendungszwecke von KI müssen den Betroffenen im Voraus offengelegt werden, und dieses Prinzip hat sich international als “Goldstandard” etabliert.

Einschränkungen bei der Verwendung von Emotionserkennungs-KI

Emotionserkennungs-KI, die unter die “begrenzten Risiken” des EU-Regulierungsrechts fällt, ist ebenfalls ein KI-System, auf das Transparenzpflichten angewendet werden, und es werden begrenzte Pflichten wie die vorherige Ankündigung der KI-Nutzung auferlegt.

Unter “Emotionserkennungs-KI” versteht man KI, die in der Lage ist, Veränderungen in menschlichen Emotionen zu erkennen.

Konkret gibt es vier Arten dieser Technologie, die durch Mikrofone, Kameras oder Sensoren Emotionen wie Freude, Ärger, Trauer und Interesse analysieren:

  • Textbasierte Emotionserkennungs-KI: Analysiert Emotionen anhand von Text, den Menschen eingegeben haben, oder anhand von Sprachdaten, die in Text umgewandelt wurden.
  • Stimmbasierte Emotionserkennungs-KI: Analysiert Emotionen aus der menschlichen Stimme.
  • Gesichtsausdrucksbasierte Emotionserkennungs-KI: Liest Emotionen aus Gesichtsausdrücken durch Kameras.
  • Biometrische Emotionserkennungs-KI: Erkennt Emotionen anhand biometrischer Daten wie Gehirnwellen oder Herzschlag.

Diese Technologien werden in verschiedenen Bereichen wie dem Kundenservice, Callcentern und im Vertrieb eingesetzt. Mit der weiteren Entwicklung der Technologie wird auch eine Anwendung im medizinischen Bereich erwartet.

Jedoch ist der Schutz der Privatsphäre durch biometrische Daten und die damit erfassten persönlichen Informationen sowie die Entwicklung entsprechender Gesetze erforderlich.

Zusammenfassung: Der aktuelle Stand und die Zukunftsaussichten des EU-KI-Regulierungsgesetzes

Wir haben den aktuellen Stand und die Zukunftsaussichten des EU-KI-Regulierungsgesetzes sowie dessen Auswirkungen auf japanische Unternehmen erläutert. Es ist davon auszugehen, dass das weltweit erste “EU-KI-Regulierungsgesetz” das Potenzial hat, zum internationalen “Goldstandard” zu werden.

Für japanische Unternehmen, die in den EU-Markt expandieren möchten, wird es wichtig sein, die Entwicklungen dieses KI-Regulierungsgesetzes genau zu beobachten. Wir empfehlen, sich bei Fragen zur KI-Regulierung in der EU an Anwälte zu wenden, die sich auf internationales Recht und KI-Technologie spezialisiert haben.

Maßnahmen unserer Kanzlei

Die Monolith Rechtsanwaltskanzlei verfügt über umfangreiche Erfahrungen in IT, insbesondere im Bereich Internet und Recht. Im AI-Geschäft, einschließlich ChatGPT, gibt es viele rechtliche Risiken, und die Unterstützung durch einen Anwalt, der sich mit AI-bezogenen Rechtsfragen auskennt, ist unerlässlich. Unsere Kanzlei bietet mit einem Team aus AI-versierten Anwälten und Ingenieuren hochwertige rechtliche Unterstützung an, darunter die Erstellung von Verträgen, die Überprüfung der Rechtmäßigkeit von Geschäftsmodellen, den Schutz von geistigem Eigentum und die Einhaltung von Datenschutzbestimmungen. Weitere Details finden Sie im folgenden Artikel.

Bereiche, die von der Monolith Rechtsanwaltskanzlei abgedeckt werden: AI-Recht (einschließlich ChatGPT)[ja]

Managing Attorney: Toki Kawase

The Editor in Chief: Managing Attorney: Toki Kawase

An expert in IT-related legal affairs in Japan who established MONOLITH LAW OFFICE and serves as its managing attorney. Formerly an IT engineer, he has been involved in the management of IT companies. Served as legal counsel to more than 100 companies, ranging from top-tier organizations to seed-stage Startups.

Zurück Nach Oben