OpenAIのChatGPTに続き、MicrosoftのCopilot、GoogleのGeminiなど、生成AIが次々とリリースされています。生成AIが出始めた当初は、リスクを考え業務に生成AIを利用することを禁止する企業もありましたが、この1年ほどで状況は変わりどの企業も生成AIで業務改善を図る方向に転換しています。ただし、リスクがなくなったわけではありません。どのようなリスクがあり得るのか、確認しておきましょう。

生成AIのユーザーに起こり得るリスク

2023年3月、韓国の大手電子製品メーカー従業員が機密度の高い社内情報をChatGPTに入力し、それが社外に漏れるという事故が起こりました。半導体セクションでChatGPTの利用を許可したところ、設備情報が2件、会議内容が1件流出してしまいました。

その後、韓国の大手電子製品メーカーでは、ChatGPTに上げるデータを1,024バイトに制限するという緊急措置を行っています。

生成AIを使うと、そのデータはAIを置くクラウド上に保管されます。ChatGPTの場合は、OpenAIがその情報を保持していることになります。プロンプトのデータは学習データとして用いられますから、ほかのユーザーが生成AIを利用したときに、元のデータが類推されることが起こりうるのです。

業務で生成AIを使うのであれば、社内専用のクローズド環境で利用できる生成AIもリリースされていますので、そういったものを利用する、あるいは使用制限を設ける、機密情報や個人情報は決して入力しないなどの対策を行う必要があるでしょう。

また、学習データに既存の著作物を使用している生成AIもあるため、意図せず既存の作品に酷似したものができてしまい、著作権侵害として訴えられるリスクも生じます。

このあたりの著作権などの法律はまだ整備されていませんが、生成AIで作ったものを商用で用いる場合、似た作品がないかよく確認しなくてはなりません。

一般的に気をつけなくてはならないのはディープフェイクです。生成AIはもっともらしい虚偽情報を簡単に作れます。2024年1月には、テイラー・スウィフトのフェイクポルノ画像がSNSで拡散され、各メディアで大きく取り上げられました。

生成AIに限ったことではありませんが、情報は信頼できるところから得ることが、より強く求められるようになったともいえます。

AIサービス提供者のリスク

インターネット上で収集できるデータの中には、いかなる理由があっても二次使用を禁じているものがあります。もし、生成AIを開発・提供する企業が使用を禁じられたデータを利用してAIに学習をさせた場合は、著作権の侵害にあたります。

生成AIの作成したディープフェイクが問題になるケースでも、AIサービス提供者がやり玉に挙げられることは十分に考えられます。AI提供者は速やかにその対応を講じなければならない状況にあります。

また、生成AIを狙ったサイバー攻撃「プロンプトインジェクション」の問題も生じています。AIに入力する内容によっては、そのAIが持つ脆弱性を見つけることにつながることがあり得ます。開発者が意図していない内容の質問をチャットに書き込むことで起こります。

2016年にAIチャットボット「Tay」がヘイト発言を行うようにった事件が起こりました。アメリカの匿名掲示板「4chan」「8chan」の一部ユーザーたちが意図的にヘイト発言を入力することで、「Tay」がヘイト発言を学習してしまったわけです。これも一種のプロンプトインジェクションです。

現在の生成AIは過去のケースを考慮して開発されていますから、同様のことは起きにくくなっているはずです。ただ、サイバー攻撃者はあの手この手で悪質なプロンプトを入力しようと試みるでしょう。

一般ユーザーには直接関係ありませんが、このようなリスクが生成AIには生じるということは頭に入れておいたほうがいいでしょう。

社会全体で考えるべきこと

世界に先駆け、2023年6月にEU欧州会議本会議で、ヨーロッパにおけるAI規則案が採択されました。アメリカや日本でもAIについての法整備が進められています。

上記で挙げたような著作権、あるいは特許法、商標法、意匠法、不正競争防止法、肖像権、パブリシティ権などあらゆる権利侵害での訴訟が今後起こる可能性があります。

逆に、生成AIが生成したものに著作権は生じるのか、ということも議論されています。

見破るのが難しい精巧なディープフェイクが拡散されることも増えるかもしれません。確かな情報であるかを見極めて、安易に拡散しないように努めなければならないでしょう。

さらに、生成AIを利用して悪意のあるプログラムを作成するなど、サイバー攻撃の温床になってしまうリスクも指摘されています。あらゆることを想定し、その対策を社会全体で考えていくことが求められています。

まとめ

・生成AIは、ユーザー、開発・提供者それぞれにリスクがある
・著作権法などを侵害する可能性があるため注意
・生成AIによるサイバー攻撃やディープフェイクにも気をつける