ChatGPTのセキュリティ課題について

いま話題のChatGPTをご存じでしょうか？

OpenAIというアメリカの研究所が開発した対話型のAIチャットボットです。

ユーザーのさまざまな質問に自然言語を利用してあたかも会話しているかのように回答をしてくれます。

もともと自然言語系のAIは、間違った回答や非倫理的な回答をしてしまうという課題がありました。

その課題を解決するために、人間からのフィードバックを学習させることで、より自然で正確な回答を返せるようになりました。

現在、ChatGPTを利用するうえで、セキュリティに関わる課題として、情報漏洩、正確性、可用性という観点が考えられます。

情報漏洩

ChatGPTの利用規約 では、利用者が入力した情報はChatGPTの学習データとして活用されることに同意が求められています。

入力した情報がChatGPTの学習に利用され、他の利用者の回答として提示される可能性があるという事です。

一般的な情報であれば良いのですが、重要な情報などを入力してしまうと漏えいしてしまうリスクがあると考えられます。

実際に、このリスクを懸念してAmazon社は、極秘情報をChatGPTと共有しないよう社内で通知しています 。

正確性

ChatGPTの利用責任は常に利用者にある、と言われています。

回答結果をどの程度信用するのかは利用者の判断にゆだねられます。

ChatGPTにも聞いてみたところ、「ChatGPTが提供する情報を利用する際には、常に判断力を持ち、複数の情報源からの情報収集を行うことが重要」との回答でした。

ChatGPTがもともとテキスト生成エンジンであるという事を考えると、ChatGPTの回答については慎重な判断が必要といえるでしょう。

可用性

この先、倫理的な問題などさまざまな問題やリスクが顕在化してChatGPT自体がサービスを停止してしまうという可能性も考えられます。

まだまだChatGPTの活用は黎明期ですが、今後さまざまな場面で活用が進んだ後に、サービスが停止するようなことがおこると、 ChatGPTに依存しているサービスも停止せざるを得なくなるリスクもあります。

著作権について

情報漏洩のリスクで取りあげたように、ChatGPTに入力した内容はOpenAI側で無制限かつ無償で利用される事になります。

入力した情報が、自分や他人の著作物であった場合、そのデータが回答に使われる事で著作権の侵害になるリスクがあります。

米国著作権局ではAIの創作した絵画は著作権登録の対象とはならないと判断しました。

ChatGPTで生成された文章をそのまま使用すると、米国においては自らの著作物であると主張できない可能性があります。

悪用の可能性について

ChatGPTでは自然言語テキストの生成エンジンの悪用の事例として、以下の様なものが知られています。

・フィッシングメールのコンテンツ作成

・嫌がらせやブランド毀損を目的としたSNS上のメッセージ

・広告や販売を目的としてSNS上のメッセージ、詐欺を正当化するメッセージ

・フェイクニュース記事の生成

・サイバー攻撃のコード生成、マルウェアの作成

まとめ

Microsoft社は、検索エンジンにAIチャット機能を搭載し、投資をすることも発表しています。

今後、AIチャット機能が色々なアプリに組み込まれることで、インターフェースが変わることになり、使う敷居が格段に下がる可能性を秘めています。

ユーザーが目にする機会が増える一方で、AIのセキュリティリスクや悪用などについて注意深く見ていく必要があるでしょう。