世界的な流行となったChatGPT

米国OpenAI社が2022年11月にローンチした対話型の生成AI「ChatGPT」は、自然な言語での対話で、質問への回答や文章作成が可能であり、幅広い分野に応用が出来ることから、世界的なブームとなりました。

その性能の高さと使い勝手の良さから、多くの企業や国、地方自治体などの公共セクターで、業務の生産性向上に寄与することを期待し、導入やその検討を進めています。

その一方で、OpenAIが入力された内容をサービス向上等のために利用することを明示していることや、個人情報や機密情報の漏えいリスクが伴うことから、全面的な禁止や、一定の制限下での利用ルールを設ける組織もあるというのが現状です。

流行の裏側で悪用事例が登場

このような新しい技術の登場は、新たなサイバー攻撃の標的となりがちです。ChatGPTもその例に漏れず、サービス開始から半年を待たずに、すでに悪用した事例が登場しています。

ChatGPTはAPIが提供されており、これを利用して独自のWebサービスを提供することが可能ですが、これを応用した無害のサービスとChatGPTの流行を悪用した攻撃キャンペーンとが混在となっている現状です。

例えば、ChatGPTの公式スマートフォンアプリ版が、2023年5月26日から日本で配信を開始しましたが、それ以前からApp StoreやGoogle Playには、利用料という名目で金銭を要求したり、端末上のデータを窃取する偽ChatGPTアプリが登場しています。

▲出所:https://play.google.com/store/search?q=chatgpt&c=apps&hl=en

また、ChatGPTと瓜二つの偽サイトに誘導し、偽のデスクトップアプリケーションをダウンロードさせてマルウェアを感染させる手法や、ブラウザの機能拡張形式で偽ChatGPTプログラムを配布するキャンペーンが登場しています。

▲出所: https://www.helpnetsecurity.com/2023/02/23/chatgpt-windows-android/

さらに、ChatGPTを継続利用するには、アカウント設定変更が必要だと語り、攻撃用のWEBサイトに誘導するフィッシングメールキャンペーンも観測されています。

Palo Alto Networksの調査によると、2022年11月から2023年4月上旬にかけて、ChatGPTに関連するドメインの月刊登録件数は910％増加し、URLフィルタリングによって、1日で最大118件のChatGPTに関連する「悪意ある」URLを検出したとされています。マルウェアを配布するChatGPTに類似したドメインの例として、 chat-gpt-windows[.]com、chat-gpt-online-pc[.]com、chat-gpt-pc[.]online、chat-gpt[.]runなどが挙げられています。

▲出所: https://unit42.paloaltonetworks.jp/chatgpt-scam-attacks-increasing/

これらのサイトでは、端末上のデータやクレデンシャル情報などを窃取する「Redline」や「Lumma」といったインフォスティーラーや、「Bumblebeeローダー」などの多機能型マルウェアを配布するキャンペーンが観測されています。特に、Bumblebeeローダーはランサムウェアの配布に使用される場合もあるため、情報窃取だけでなく、これを起点としたさまざまなサイバー攻撃被害につながるリスクがあります。

まずは基本的なセキュリティ対策から

では、このChatGPTブーム乗じたサイバー攻撃キャンペーンに対してどのような対策を取れば良いのでしょうか。その答えは、他のサイバー攻撃と同様に「基本的なセキュリティ対策をしっかり行う」ということです。

まずは、社内におけるChatGPTの使用ルールの明確化と周知を行います。冒頭にも述べたとおり、ChatGPTには利用による情報漏えいリスクもあることから、社内での利用方針を策定し、従業員に対しリスクとルールを周知徹底することが重要です。

また、必要に応じて、ChatGPTを装う悪意のあるWEBサイトへのアクセスやアプリケーションのインストールを防止するために、URLフィルタリングやアプリケーションコントロールなどの技術的な対策を講じることを推奨します。

さらに、誤ってマルウェア感染してしまうことも想定し、迅速な検知とブロック、対応を行うための「EDR（Endpoint Detection and Response）」をはじめとする、エンドポイントセキュリティの強化を行うことで、ダメージを最小限にとどめる対策をお勧めします。

エンドポイントセキュリティ選定ガイド

次世代型のエンドポイントセキュリティの役割と必要性を明らかにし、EPP、EDR、MDRを導入する際の押さえておくべき選定ポイントをまとめた上で、国内シェアNo.1を誇るサイバーリーズンの製品・サービスの特長をご紹介しています。

複雑化するサイバー攻撃への対策として、これから次世代型のエンドポイントセキュリティ強化に取り組む方も、すでに取り組んでいる方も、本資料を参考に、さらなるセキュリティ強化に取り組むことをお勧めいたします。
https://www.cybereason.co.jp/product-documents/brochure/6189/