【Brottning】Personuppgiftsombudsmannen varnar för användningen av ChatGPT
Genererande AI-tjänster, inklusive ChatGPT, sprids snabbt i vårt land just nu. Men det har påpekats att det finns problem med hanteringen av personuppgifter i samband med dess användning.
För att hantera detta problem utfärdade den japanska personuppgiftsskyddskommittén (‘Japanese Personal Information Protection Commission’) en varning om användningen av genererande AI-tjänster den 2 juni 2023 (Reiwa 5). I denna artikel kommer vi att förklara innehållet i denna varning för företag som tillhandahåller genererande AI-tjänster.
Snabbt växande genererande AI-tjänster som “ChatGPT”
För närvarande sprids genererande AI-tjänster (tjänster som använder AI för att generera text, bilder etc. i svar på frågor och arbetsinstruktioner) snabbt i vårt land. Dessa tjänster används inom en mängd olika områden, inklusive affärer och underhållning, och deras potential är enorm.
Å andra sidan har det dock påpekats problem med hanteringen av personuppgifter i samband med användningen av genererande AI-tjänster som ChatGPT. Till exempel är det en fråga om företag som tillhandahåller genererande AI-tjänster med hjälp av ChatGPT och liknande, hanterar de personuppgifter de samlar in från användare på ett lämpligt sätt.
Översikt över den uppmaning som den japanska personuppgiftsmyndigheten (Japanese Personal Information Protection Commission) riktade till OpenAI
Med tanke på denna situation har den japanska personuppgiftsmyndigheten utfärdat en uppmaning angående användningen av genererande AI-tjänster. Specifikt riktades uppmaningen till OpenAI, L.L.C. och OpenAI OpCo, LLC, som utvecklar och tillhandahåller den genererande AI-tjänsten ChatGPT.
Den japanska personuppgiftsmyndigheten uppmanade OpenAI att inte inhämta känsliga personuppgifter som kan identifiera användare eller icke-användare av ChatGPT utan deras förhandsgodkännande.
“Känsliga personuppgifter” avser specifika personuppgifter som kräver särskild hänsyn för att förhindra orättvis diskriminering, fördomar eller andra nackdelar mot individen. Detta inkluderar ras, tro, social status, medicinsk historia, brottslig bakgrund och fakta om att ha lidit skada genom brott.
I denna uppmaning ifrågasätts huruvida OpenAI korrekt hanterar personuppgifter som samlats in från användare genom ChatGPT. Den japanska personuppgiftsmyndigheten uppmanade OpenAI att förbättra sin hantering av personuppgifter som samlats in från användare.
Uppmaning till försiktighet för företag som tillhandahåller tjänster med hjälp av ChatGPT
Samtidigt uppmanar den japanska personuppgiftsmyndigheten (Personal Information Protection Commission) företag som hanterar personuppgifter att vara uppmärksamma på följande punkter.
(1) Punkter att notera för företag som hanterar personuppgifter
① När ett företag som hanterar personuppgifter matar in prompts som innehåller personuppgifter i en AI-genereringstjänst, bör det noggrant kontrollera att detta sker inom ramen för det som är nödvändigt för att uppnå det angivna syftet med användningen av dessa personuppgifter.
② Om ett företag som hanterar personuppgifter matar in prompts som innehåller personuppgifter i en AI-genereringstjänst utan att först få samtycke från den berörda personen, och om dessa personuppgifter hanteras för andra syften än att generera ett svar på den angivna prompten, kan detta innebära en överträdelse av den japanska lagen om skydd av personuppgifter (Personal Information Protection Act). Därför bör företaget, när det matar in sådana prompts, noggrant kontrollera att företaget som tillhandahåller AI-genereringstjänsten inte använder dessa personuppgifter för maskininlärning eller liknande ändamål.
「Uppmaning till försiktighet vid användning av AI-genereringstjänster」[ja]
Företag som hanterar personuppgifter bör, när de tillhandahåller AI-genereringstjänster, kontrollera och följa de uppmaningar till försiktighet som den japanska personuppgiftsmyndigheten har utfärdat, och vidta lämpliga åtgärder. Mer specifikt, om ett företags tjänster eller produkter använder AI-genereringstjänster, bör de kontrollera hur dessa tjänster används och hur personuppgifter hanteras, och vidta nödvändiga förbättringsåtgärder.
Det är också viktigt för företag som har affärsrelationer med företag som tillhandahåller AI-genereringstjänster att kontrollera om dessa företag vidtar lämpliga åtgärder för att skydda personuppgifter.
Sammanfattning: Var försiktig med hur du använder ChatGPT och hanterar personuppgifter
När det gäller tillhandahållandet och användningen av genererande AI-tjänster som ChatGPT, krävs det att man tar noggranna åtgärder för att hantera personuppgifter. Särskilt om företagets tjänster eller produkter använder genererande AI-tjänster, är det nödvändigt att kontrollera hur de används och hur personuppgifter hanteras, och vidta nödvändiga förbättringsåtgärder.
Lagarna om hantering av personuppgifter varierar från land till land, så det finns många saker att vara uppmärksam på utöver denna varning, särskilt när det gäller tjänster som tillhandahålls på internet. Vi rekommenderar att du konsulterar en advokat angående hantering av personuppgifter.
Information om åtgärder från vår byrå
Monolith Advokatbyrå är en juridisk byrå med omfattande erfarenhet inom IT, särskilt internet och juridik. AI-verksamhet medför många juridiska risker, och det är absolut nödvändigt med stöd från advokater som är väl insatta i juridiska frågor relaterade till AI. Vårt team, bestående av advokater och ingenjörer som är kunniga inom AI, erbjuder avancerat juridiskt stöd för AI-verksamheter, inklusive ChatGPT, såsom att skapa kontrakt, granska lagligheten av affärsmodeller, skydda immateriella rättigheter och hantera sekretess. Mer information finns i artikeln nedan.
Monolith Advokatbyrås områden: AI (ChatGPT etc.) juridik[ja]
Category: IT
