ChatGPTの利用には危険性がある？対策方法についても解説

公開以来、世界中で注目を集めているChatGPT。アメリカのOpenAI社によって開発され、発表後2ヶ月でアクティブユーザー数が1億人を突破するなど、世界的なブームになっています。これまでのAIチャットボットとは異なり、人間と会話しているかのような自然な会話ができることで話題になっています。

目下、大きな注目を集めるChatGPTですが、その利用にはどんな危険性があるのでしょうか。

この記事では、ChatGPTの利用に潜む危険性とその対策について解説します。

ChatGPTの利用に潜む危険性

ChatGPTは誰もが利用できる非常に便利なサービスですが、その利用に潜む危険性についてもよく知っておく必要があります。

出力される情報に信憑性がない場合がある

ChatGPTは、常に正しい情報を出力するとは限りません。ChatGPTはWeb上に存在する情報をもとに学習しているため、学習データそのものが正しくない情報である可能性があるからです。にもかかわらず、ChatGPTは自然な文章でもっともらしい答えを出力するため、あたかもそれが正しい情報であるかのように見えてしまうことがあります。

ChatGPTを利用する際には、出力された誤情報を信じてしまったり、誤情報を拡散してしまったりする危険性があります。

情報漏洩の危険性がある

ChatGPTは、自然言語生成技術を使用して、ユーザーが入力したテキストに基づいて文章を生成するツールです。このツールを使用する際には、入力した情報が一定期間保存されることがあります。これは、ツールがより正確な文章を生成するために、過去の入力データを参照するためです。

ただし、このようなデータの保存にはリスクが伴います。個人情報や機密情報が保存されることで、第三者による不正アクセスや情報漏洩の可能性があります。そのため、ChatGPTを使用する際には、個人情報や機密情報の取り扱いには十分注意してください。

また、OpenAIは、すべてのChatGPTユーザーがチャット履歴をオフにすることができる機能も用意しています。チャット履歴が無効になっている状態で開始された会話は、OpenAIのモデルのトレーニングや改善に使用されず、履歴サイドバーにも表示されません。ただし、チャット履歴を無効にしても、入力した内容は30日間保持され、必要に応じて「悪用を監視するため」に確認されます。

著作権侵害の可能性がある

ユーザーがChatGPTを利用して出力した情報が既存の著作物に酷似している場合、著作権を侵害するリスクがあります。

出力された情報が、既存の著作物の

• 複製物
• 二次的著作物

のいずれかに該当すると考えられる場合、著作権者の許諾なく利用したり、自らが作成した著作物であるとして利用したりすると、著作権の侵害にあたります。ユーザーが著作権侵害であることを知っていた場合や、知らなかったことに過失がある場合は損害賠償責任を問われる可能性があります。

令和5年6月時点では、「AI開発・学習段階」と「生成・利用段階」では行われている著作物の利用行為が異なるため、分けて考える必要があるというのが文化庁の見解となっています。

参考：文化庁｜令和5年度著作権セミナー「AIと著作権」の講演映像及び講演資料を公開しました。

AIと著作権についてはまだ議論が深まっているとはいえないため、今後さらに詳細が検討されていくものと思われます。

情報が悪用される恐れがある

ネット上にあるフィッシング詐欺用の文章などをChatGPTが学んでいる可能性があり、今後、ChatGPTを悪用したフィッシング詐欺等のサイバー犯罪が増えていくのではないかとも言われています。

ChatGPTを悪用して、ロマンス詐欺（インターネット上で知り合った海外の相手をだまし、恋人や婚約者になったかのようにふるまって金銭を送金させる詐欺）が行われた事例も既に確認されています。

ChatGPTの危険性を極力排除するための対策方法

ここまでに見てきたChatGPT利用にあたっての危険性を排除するためには、どのような対策が有効なのでしょうか。

ファクトチェックを行う

ChatGPTが出力した情報を鵜呑みにせず、必ずファクトチェックを行いましょう。特に業務でChatGPTを利用する場合は、政府や関係官庁のHPなどの信頼できる情報源にあたり、出力された情報が正しいかチェックしてから使うようにしましょう。

個人情報や機密情報の入力を避ける

ChatGPTに入力した情報は基本的に取り消すことができません。そのため、ChatGPTに登録する際に必要な電話番号を除き、その他の個人情報はChatGPTに入力しない方がいいでしょう。

また、業務上の機密情報を入力しないようにしましょう。ChatGPTに入力した情報は、サーバー上に一定期間保存されるため、外部の第三者に漏洩する可能性もあるということを念頭に置くことが大切です。

企業が従業員にChatGPTを利用させる場合は、利用に関する方針を取り決め、ChatGPTに入力してはいけない情報を定義しておくなどの対策も必要になります。

まとめ：ChatGPTの利用には危険性が潜むことを理解し可能な限りの対策を施しましょう

自然な文章を生成できるChatGPTは、使いこなすことができれば非常に便利なツールといえます。ただ、情報漏洩や著作権侵害などの危険性もあり、思わぬトラブルに発展する可能性もあります。

ChatGPTを利用する際には、その危険性をよく理解し、対策をしながら利用することをお勧めします。特に、AIと著作権の関係については、まだ議論の途上にあり、今後の動向を注視する必要があります。詳細については、弁護士に相談することをお勧めいたします。

当事務所による対策のご案内

モノリス法律事務所は、IT、特にインターネットと法律の両面に豊富な経験を有する法律事務所です。AIビジネスには多くの法的リスクが伴い、AIに関する法的問題に精通した弁護士のサポートが必要不可欠です。当事務所は、AIに精通した弁護士とエンジニア等のチームで、ChatGPTを含むAIビジネスに対して、契約書作成、ビジネスモデルの適法性検討、知的財産権の保護、プライバシー対応など、高度な法的サポートを提供しています。下記記事にて詳細を記載しております。

モノリス法律事務所の取扱分野：AI（ChatGPT等）法務