人工知能のおかげでスピア フィッシング詐欺はより効果的になっており、ほとんどの人は AI が作成したルアーと人間が作成したルアーの違いを見分けることができません。これはブリガム ヤング大学の新しい研究の中核となる発見であり、査読済みの Journal of Cybersecurity and Privacy に発表され、KSL.com と Phys.org による最近の報道でも強調されています。
BYUのニュースリリースによると、この研究に携わったBYUのサイバーセキュリティ研究者ジャーソン・フランシア氏は、「我々の研究は、AIの現状がいかに洗練されているかを示す最新の研究にすぎない」と述べた。
研究者がやったこと
BYU チームによって執筆され、arXiv でプレプリントとして入手できるこの研究は、同じ 25 のターゲットについて、GPT-4 によって生成されたパーソナライズされたフィッシング テキスト メッセージと、人間の初心者 (時間の制約の下で書いた学生) によって書かれたメッセージとの間の管理された比較を設定しました。
参加者はそれぞれ、自分たちのために特別に作成された 12 個のパーソナライズされたメッセージを受け取りました。 AIによって生成されたものもあれば、人間が作成したものもあります。研究者らは、TRAPD（個人化された欺瞞のための閾値ランキングアプローチ）と呼ばれる方法を使用し、参加者がメッセージをランク付けし、クリックする予定のポイントを示し、その理由を説明し、各メッセージが人間によって書かれたのかGPT-4によって書かれたのかを判断した。
初期のフィッシング研究のほとんどは結果を抽象的に測定していたため、設計が重要です。これは、参加者それぞれにパーソナライズされたメッセージに対する反応を測定したもので、まさに実際のスピア フィッシングの仕組みです。
クリック数が増えるほど、検出能力は向上します
見出しの数字: GPT-4 で生成されたメッセージは、学生が作成したメッセージよりもクリックする意図をより頻繁に引き出しました (28% 対 21%) が、パイロット研究の規模を考慮すると、この違いには統計的な不確実性が伴うと研究者らは指摘しています。
さらに不安な結果は、参加者ができなかったことです。メッセージが人間によって書かれたのか、それとも AI によって生成されたのかを尋ねられた場合、受信者は偶然と同じくらい正確にソースを特定しました。言い換えれば、人々が機械で書かれたテキストに当てはまると信じている特別な警戒心は結果には現れなかった。研究参加者は本質的に著者であるかどうかでコイン投げをしていたのだ。
この調査では、コンテキストがコンテンツに勝つことも判明しました。仕事関連の事柄を中心に構成されたメッセージは、趣味やソーシャルメディアに関連付けられたメッセージよりも、クリックの意図を引き起こす可能性が大幅に高かったのです。攻撃者にとって、雇用の詳細はオンラインで最も簡単に見つけられる個人情報の 1 つであるため、これは戦力の倍増となります。
仕事関連のルアーが最適な理由
仕事関連のメッセージに関する発見は、擁護派にとって特に注目に値する。スピア フィッシングはパーソナライゼーションを通じて成功します。雇用主、役割、現在のプロジェクトに言及するメッセージは、具体的であるからこそ正当なもののように感じられます。
BYU の結果は、大規模な言語モデルがパーソナライゼーション ワークフローを大幅に圧縮することを示唆しています。かつては熟練したソーシャル エンジニアによる何時間もの手作業による調査と慎重な草案が必要でしたが、今では限界費用がほぼゼロで、簡単なプロンプトから近似できるようになったと研究者らは書いています。大規模でパーソナライズされたキャンペーンを実行する上での障壁は、もはやスキルではありません。チャットボットとターゲットリストへのアクセスです。
ディフェンダーにとっての意味
実際的な影響はセキュリティ チームにとって憂慮すべきものです。意識向上トレーニングでは、従業員にぎこちない言い回し、奇妙な口調、不自然な言葉遣いを見つけるよう指導することがよくあります。これは、歴史的に明らかになったフィッシングの試みを物語っています。この研究の受信者は、AI が書いたメッセージと人間が書いたメッセージをまったく区別できなかったため、「ロボット」の書き込みを検出することに依存する検出器は、現在ではかなり信頼性が低くなります。
BYU チームは、この調査結果を、AI を利用したアクセス可能なパーソナライゼーションがソーシャル エンジニアリングの脅威の実質的な規模を増大させる可能性があるという証拠としてまとめました。安価で一般的なフィッシングが標準であり続けることを前提とした防御は、データがもはやサポートしていないという前提に基づいて構築されています。
研究者らは研究の限界も強調している。これは、SMS メッセージを使用した 25 のターゲットを対象としたパイロットで、プロのフィッシング詐欺師ではなく学生の作成者が参加しました。この比較は、どちらかと言えば、AI の出力と現実世界の平均的な詐欺品質とのギャップを過小評価するものでした。研究チームは、人間の審査員がソースを区別することはできなかったものの、2 つのメッセージセットは計算上区別可能であり、自動検出アプローチの余地が残されていると指摘している。
組織にとって、重要なことは技術的なものではなく手順的なものです。リクエストを別のチャネルを通じて検証し、メッセージがどれほど洗練されているかに関係なく、緊急性と仕事関連のフレーミングをリスク信号として扱い、適切に書かれたものはもはや人間が書いたものを意味しないと想定します。
AI の先を行く
AI がセキュリティと社会をどのように再構築しているかを追跡していますか? AI Buzz Wire で AI ニュースをもっと読む — 独立した AI 報道を毎日掲載。
---
AIの最新情報をお届けAIの最新ニュース、分析、ブレイクスルーを一箇所で。
AIニュースをもっと読む →
