生成AIを悪用した巧妙な攻撃手口が急増

ChatGPTに代表される生成AIとその基盤技術であるLLMの登場は、世の中に実に大きなインパクトをもたらしました。ビジネスの世界では早くも生成AIを活用して成果を上げる事例も出てきましたが、その一方で大変残念なことに生成AIをサイバー攻撃の手段として悪用するケースも急増しつつあります。

2024年5月には、複数の生成AIを使ってマルウェアの作成を試みたとされる人物が警視庁サイバー犯罪対策課によって逮捕されました。米国では研究者らによって、公開されたばかりの脆弱性を自律的に攻撃するプログラムを、GPT-4を使って生成することに成功したとされる報告がなされました。

一般的にGPT-4をはじめとする汎用LLMには、その悪用を目的としたプロンプトを自動的にブロックしたり、不適切なアウトプットを未然に防ぐためのフィルタリング機能が実装されています。しかしネット上では、これらの機構をバイパスしてマルウェアのソースコードを出力させたり、LLMの学習データの中に含まれている機密データを引き出すための裏テクニックが公開されています。こうしたテクニックは日々新たなものが考案されており、これらを悪用したサイバー攻撃の手口も増加しています。

またLLMは極めて自然な文章を生成するため、この特性を悪用した海外の攻撃グループが、自然な日本語の文面のフィッシングメールを作成し、日本人をターゲットにばら撒くようになっています。従ってこれまでは比較的見破ることが容易だった日本語のフィッシングメールも、だんだん正規のメールと見分けることが困難になってきています。

保全対象は増加する一方でセキュリティ人材は不足

先進テクノロジーがサイバーセキュリティに大きな影響を与えるケースは、何も生成AIに限った話ではありません。IoTデバイスの脆弱性を狙った攻撃はAIより一足早く大きな問題になりましたし、クラウドサービスの脆弱性や設定の不備を突いた攻撃は相変わらず後を絶ちません。コロナ禍以降は、テレワーク環境を整備するために多くの企業が新たに導入されたVPN機器が抱える脆弱性が一斉に狙われ、数多くのインシデントを引き起こしたことは記憶に新しいところです。

世の中のDXの流れが加速し、企業がデジタル活用を進めれば進めるほど、サイバー攻撃の標的となり得る脆弱性、つまり「アタックサーフェイス」の範囲も広がっていきます。これに伴いサイバー攻撃を監視する対象の数や範囲も増えていくため、セキュリティ担当者に掛かる業務負荷はますます高まる一方です。

にもかかわらず、セキュリティ人材の数は相変わらず不足しているのが実情です。全世界では400万人のセキュリティ人材が不足していると言われており、日本だけでも11万人の人材不足が指摘されています。そのため現在、官民を挙げてセキュリティ人材の育成策が打ち出されていますが、もともとセキュリティ人材は高度な専門知識と豊富な経験が求められため、その育成にはどうしても時間がかかります。

またせっかく高度な知識を身に付けても、日本の企業ではセキュリティ人材のキャリアパスが確立されておらず、処遇面も決して恵まれているとは言えないため、そもそもセキュリティの専門家を志す若手人材が少ないという問題も指摘されています。

人材不足を解決するためには、内製化と外注の役割を明確にしていくことが求められます。事前対策については、企業にとって少ない人的リソースを割り振り、外部ベンダーに任せる事ができない範囲であり、自社セキュリティ資産の棚卸し、影響度の確認、リスクの把握、それに対するポリシーの策定、アクセス制御、アカウント管理などをしっかりと内製化していくことが必要です。また事後対策については、ユーザーに代わって弊社のSOCのアナリストが行うマネージドサービスの様に外部ベンダーに任せるのも有効な手段の1つです。

XDRによる統合監視で脅威の全体像を素早く可視化

こうした課題を解決するためには、たとえセキュリティ人材の数や質が限られている状況下にあっても、生成AIを悪用するような高度なサイバー攻撃にも対処できるよう、何らか新たな手を打つ必要があります。そこで重要なキーワードになってくるのが「統合監視」です。

これまで多くの企業が「多層防御」の考えに基づき、社内のネットワークやエンドポイントの各所にセキュリティ製品を適材適所で導入してきましたが、近年の高度な攻撃の全体像を速やかに把握し、攻撃者の攻撃の兆候、また攻撃者の何をターゲットにするかの攻撃思考を可視化するためにも、1つのセキュリティ製品のログを解析するだけでは不十分で、さまざまな製品のログを突き合わせて相関分析する必要があります。そのためには極めて高度なスキルと膨大な手間を要するため、多くの企業が高度な攻撃の全体像を早期に把握できずにいます。

そこで近年では、複数の監視ポイントのログを集約し、相関分析を行った上で攻撃の全体像を可視化する「XDR（Extended Detection and Response）」のソリューションが注目を集めています。弊社でもこれまでEDR製品の開発で培ってきた高度な分析力を生かした統合監視ソリューション「Cybereason XDR」を提供しており、多くのお客様にご利用いただいています。

またCybereason XDRを使った脅威の監視および検知を、ユーザーに代わって弊社のSOCのアナリストが行うマネージドサービスも提供しています。このサービスを有効活用することで、セキュリティ人材の不足に悩まされている企業であっても高度な統合監視が可能となります。

生成AIを悪用した高度なサイバー攻撃がこれからますます増えることが予想される中、限られたリソースを最大限活用して自社の情報資産を守るためには、こうした新たなソリューションやサービスの導入が有効です。興味を持たれた方は、ぜひ弊社まで気軽にお問合せいただければ幸いです。

XDR選定ガイド〜組織で抱えるセキュリティ課題を解決するXDRの選定に役立つポイントとは〜

組織や企業は進化するサイバー脅威や複雑なセキュリティ課題に直面する機会が増えています。このため、セキュリティ担当者は、社内ネットワークのさまざまな部分で発生した問題をトリアージし、迅速に調査する必要があります。

そこで、複数のセキュリティレイヤーにわたって全体像を可視化し、脅威を検知することができるXDR(Extended Detection and Response)が注目されています。

本資料では、XDRの特長とXDRが提供する効率的でプロアクティブなソリューションを明らかにし、XDRを導入する際に押さえておくべき選定ポイントをご紹介しています。

複雑化するサイバー攻撃への対策として、本資料を参考に、XDR製品を導入し、さらなるセキュリティ強化に取り組むことをお勧めいたします。
https://www.cybereason.co.jp/product-documents/white-paper/11396/