【Eilmeldung】Die japanische Datenschutzbehörde warnt vor der Nutzung von ChatGPT
Generative KI-Dienste wie ChatGPT verbreiten sich derzeit schnell in unserem Land. Es wurden jedoch Bedenken hinsichtlich der Handhabung persönlicher Informationen bei deren Nutzung geäußert.
Um dieses Problem anzugehen, hat die japanische Datenschutzbehörde (‘Japanische Personal Information Protection Commission’) am 2. Juni im Jahr 2023 (Reiwa 5) eine Warnung bezüglich der Nutzung von generativen KI-Diensten herausgegeben. In diesem Artikel erläutern wir die Inhalte dieser Warnung für Anbieter von generativen KI-Diensten.
Die rasche Verbreitung von generativen KI-Diensten wie “ChatGPT”
Derzeit verbreiten sich generative KI-Dienste (Dienste, die Texte, Bilder usw. erstellen, indem sie KI verwenden, die auf Fragen und Arbeitsanweisungen (Prompt-Eingaben) reagiert) in unserem Land, Japan, rasant. Diese Dienste werden in verschiedenen Bereichen wie Geschäft und Unterhaltung genutzt und ihr Potenzial ist immens.
Auf der anderen Seite werden jedoch Probleme im Zusammenhang mit der Handhabung von persönlichen Informationen bei der Nutzung von generativen KI-Diensten wie ChatGPT aufgezeigt. Zum Beispiel wird die Frage aufgeworfen, ob Unternehmen, die generative KI-Dienste mit ChatGPT usw. anbieten, die von den Nutzern gesammelten persönlichen Informationen ordnungsgemäß verwalten.
Überblick über die Warnung der Japanischen Datenschutzbehörde (Japanische Persönlichkeitsrechtschutzkommission) an OpenAI
Angesichts dieser Situation hat die Japanische Datenschutzbehörde eine Warnung bezüglich der Nutzung von generativen KI-Diensten ausgesprochen. Konkret wurde die Warnung an OpenAI, L.L.C. und OpenAI OpCo, LLC gerichtet, die Entwickler und Anbieter des generativen KI-Dienstes ChatGPT sind.
Die Japanische Datenschutzbehörde forderte OpenAI auf, keine sensiblen persönlichen Informationen von Nutzern und Nicht-Nutzern von ChatGPT zu sammeln, ohne vorher die Zustimmung der betroffenen Person einzuholen.
“Sensible persönliche Informationen” beziehen sich auf bestimmte persönliche Informationen, die besondere Sorgfalt bei der Handhabung erfordern, um ungerechte Diskriminierung, Vorurteile und andere Nachteile für die betroffene Person zu vermeiden. Dies beinhaltet Rasse, Glaubensbekenntnis, sozialer Status, Krankengeschichte, krimineller Hintergrund und Tatsachen, die durch ein Verbrechen verursacht wurden.
In dieser Warnung wird in Frage gestellt, ob OpenAI die von den Nutzern gesammelten persönlichen Informationen ordnungsgemäß verwaltet. Die Japanische Datenschutzbehörde forderte OpenAI auf, die Handhabung der von den Nutzern gesammelten persönlichen Informationen zu verbessern.
Hinweis an Betreiber, die Dienstleistungen mit ChatGPT anbieten
Gleichzeitig weist die japanische Datenschutzbehörde (Personal Information Protection Commission) auch die Betreiber, die personenbezogene Daten verarbeiten, auf Folgendes hin:
(1) Hinweise für Betreiber, die personenbezogene Daten verarbeiten
① Wenn ein Betreiber, der personenbezogene Daten verarbeitet, einen Prompt, der personenbezogene Daten enthält, in einen generativen KI-Dienst eingibt, sollte er sicherstellen, dass dies nur im notwendigen Umfang geschieht, um den festgelegten Zweck der Verwendung dieser personenbezogenen Daten zu erreichen.
② Wenn ein Betreiber, der personenbezogene Daten verarbeitet, einen Prompt, der personenbezogene Daten enthält, in einen generativen KI-Dienst eingibt, ohne vorher die Zustimmung der betroffenen Person einzuholen, und diese personenbezogenen Daten für andere Zwecke als die Ausgabe der Antwort auf den Prompt verwendet werden, könnte dies gegen die Bestimmungen des japanischen Datenschutzgesetzes (Personal Information Protection Law) verstoßen. Daher sollte bei der Eingabe solcher Prompts sichergestellt werden, dass der Anbieter des generativen KI-Dienstes die personenbezogenen Daten nicht für maschinelles Lernen verwendet.
“Hinweise zur Nutzung von generativen KI-Diensten” [ja]
Betreiber, die personenbezogene Daten verarbeiten, müssen bei der Bereitstellung von generativen KI-Diensten die von der Datenschutzbehörde veröffentlichten Hinweise beachten und angemessene Maßnahmen ergreifen. Konkret bedeutet dies, dass Unternehmen, deren Dienstleistungen oder Produkte generative KI-Dienste nutzen, die Art und Weise ihrer Nutzung und den Umgang mit personenbezogenen Daten überprüfen und notwendige Verbesserungsmaßnahmen ergreifen müssen.
Es ist auch wichtig für Unternehmen, die geschäftliche Beziehungen zu Anbietern von generativen KI-Diensten haben, zu überprüfen, ob diese Unternehmen angemessene Datenschutzmaßnahmen ergreifen.
Zusammenfassung: Bei der Nutzung von ChatGPT und dem Umgang mit persönlichen Daten ist Vorsicht geboten
Bei der Bereitstellung und Nutzung von generativen KI-Diensten wie ChatGPT ist es erforderlich, angemessene Maßnahmen zum Schutz persönlicher Daten zu ergreifen. Insbesondere wenn Unternehmen Dienstleistungen oder Produkte anbieten, die generative KI-Dienste nutzen, müssen sie die Nutzungsmethoden und den Umgang mit persönlichen Daten überprüfen und gegebenenfalls Verbesserungsmaßnahmen ergreifen.
Da die Gesetze zum Umgang mit persönlichen Daten von Land zu Land unterschiedlich sind, gibt es viele Punkte, auf die man achten muss, insbesondere bei Dienstleistungen, die im Internet angeboten werden, zusätzlich zu diesem Hinweis. Es wird empfohlen, einen Anwalt zu konsultieren, wenn es um den Umgang mit persönlichen Daten geht.
Maßnahmen unserer Kanzlei
Die Monolith Rechtsanwaltskanzlei ist eine Kanzlei mit umfangreicher Erfahrung in IT, insbesondere im Internet- und Rechtsbereich. Das AI-Geschäft birgt viele rechtliche Risiken und erfordert die Unterstützung von Anwälten, die mit rechtlichen Fragen im Zusammenhang mit AI vertraut sind. Unser Team, bestehend aus Anwälten und Ingenieuren, die sich mit AI auskennen, bietet hochwertige rechtliche Unterstützung für AI-Geschäfte, einschließlich ChatGPT, wie die Erstellung von Verträgen, die Überprüfung der Rechtmäßigkeit von Geschäftsmodellen, den Schutz von geistigem Eigentum und den Umgang mit Datenschutz. Weitere Details finden Sie im folgenden Artikel.
Bereiche, die von der Monolith Rechtsanwaltskanzlei abgedeckt werden: AI (ChatGPT usw.) Recht [ja]
Category: IT
