米ハーバード大学や米Metaなどに所属する研究者らは、AIによる詐欺電話で人がどの程度だまされる可能性があるかを、米国のインターネット利用者の成人4100人を対象に調査した。6つのAI音声モデルと人間の声を使い、5つの詐欺シナリオへの反応を比較した結果、要求に「応じる」または「分からない」と回答した人の割合は全シナリオ平均で16.5％だった。
事案の詳細
研究の論文名は「Evaluating AI Models’ Capability to Automate Voice Phishing Attacks」。研究チームは、「Llama Full-Duplex」「OpenAI AVM」「Gemini」「Sesame」「Play.AI」「ElevenLabs」の6つのAI音声モデルと、本物の人間の声を使って検証した。
米国の成人4100人を対象に、5種類の詐欺シナリオについて、AI音声または人間の声による詐欺電話の録音を聞くか、その文字起こしを読んでもらい、要求に応じるかどうかを「はい」「いいえ」「分からない」で尋ねた。参加者は無作為に割り当てられた1件を評価した。シナリオごとに使用したAI音声モデルは異なる。調査は2025年5月に調査会社YouGovのパネルで実施された。論文は学術誌「Expert Systems with Applications」に掲載されている。
調査では、AIによる詐欺電話の要求に「応じる」または「分からない」と回答した人の割合が、全シナリオ平均で16.5％となった。単純に「6人に1人が被害に遭った」と示す結果ではなく、調査上の要求に応じる、または判断を保留した回答を合算した割合である点に注意が必要だ。
また、クレジットカード会社のサポートを装う詐欺と比べ、個人の感情や人間関係に訴えかける手口では、応じる可能性を示すオッズが高かった。寄付の依頼では3.0倍、警察を名乗り家族の保釈金を求める手口では3.1倍、クローン音声で姉妹の緊急事態を装う手口では5.33倍となった。応じる割合が最も高かったのは、ElevenLabsのクローン音声による「姉妹の緊急事態」のシナリオで36.1％だった。応じるかどうかを最も強く左右したのは、声のリアルさよりも話の説得力だったという。なお、この調査は回答者の自己申告によるもので、実際に送金や情報提供をしたかどうかを測ったものではない。論文自身も、実際に応じる割合を高めに見積もっている可能性があるとしている。
影響と背景
現在は、数秒程度の音声から他人の声を複製するボイスクローン技術と、大規模言語モデルを組み合わせ、大量の詐欺電話を同時に行える環境が整いつつある。AI音声は自然な発話や会話の自動化に利用できるため、電話を受けた人が声の印象だけで本人だと判断すると、詐欺の見分けが難しくなる。
論文は、人間が詐欺電話をかける場合は人件費の面で採算が合いにくい一方、AIで自動化すれば採算が取れる場合があると分析し、主なリスクはAIの説得力そのものではなく、自動化によって詐欺が安く大量にできるようになる点にあると結論づけている。今回の検証は、AI音声による詐欺電話が一律に高い成功率を示すことを意味するものではない。一方で、技術によって詐欺電話の規模や自然さが高まり、特に家族や知人を装って感情に訴える手口で、受け手の判断が揺らぎやすい可能性を示している。
対策・今後の展望
- 電話だけで決めない運用：重要な依頼や支払い、情報提供は、電話の内容だけで完結させず、別経路で確認する前提に切り替える。
- 折り返し確認の徹底：名乗りや要件をうのみにせず、社内で定めた番号や、受け手が独自に確認した公式の連絡先に折り返して真偽を確かめる。
- 感情に訴える依頼への警戒：家族や取引先を名乗り、緊急性を強調したり、秘密保持や即時対応を求めたりする電話は、AI音声の可能性も含めて慎重に扱う。
- 現場での共有：AI音声の詐欺電話に一定数が応じ得るという調査結果を、総務・経理・受付など電話を受けやすい部門で共有する。
CSRIからの現場アドバイス
【観点①：現場で何が起きているか】CSRIが支援する中小企業の診断では、電話での「口頭依頼」をそのまま処理できる運用が残っている例が多く見られます。特に、支払い手続きや取引先情報の変更を、本人確認なしで受け付ける流れが未整備のまま放置されがちです。AI音声を使った攻撃では、こうした手続き上の弱点が悪用される可能性があります。
【観点②：平易な解説】例えるなら、相手の顔が見えないまま、声色だけで本人だと思い込むようなものです。声が似ている、話し方が自然という理由だけで信頼すると、内容が偽物でも気づきにくくなります。
【観点③：今週中にできること】まず、電話で受けた依頼のうち「お金・口座・個人情報・取引条件」に関わるものは、必ず別ルートで確認するルールを紙一枚でも作って共有してください。次に、折り返し先は電話の相手が伝えた番号ではなく、社内台帳や公式サイトなどから受け手が確認した番号に固定する、と担当者へ周知すると効果的です。
参照: AI音声の詐欺電話、6人に1人が応じる可能性 だまされやすい手口とは 米ハーバード大やMetaが4100人で検証
論文: Evaluating AI models’ capability to automate voice phishing attacks（arXiv）