ディープフェイクはこれまで、ソーシャル・メディア上で有名人や選挙といった公共部門で問題となってきた。しかし、ウォール・ストリート・ジャーナルによると、人工知能技術の進歩や普及によって、生成された声や映像がかつてないほどの現実味を再現できるようになり、悪質業者らが会社をねらう道具として悪用され始めている。

▽金融業界をねらう攻撃は「非常に加速している」

保険大手ニューヨーク・ライフのビル・キャシディー最高情報責任者は、「怪しい電話がかかってくることはつねにあったが、人工知能モデルが特定個人の声色や話し方を精密に模倣できるようになったことで、偽電話にだまされる危険性が高い段階に達している」と話す。

銀行や金融サービス会社らは、生成人工知能技術を悪用したディープフェイク攻撃の標的になっている最初の業界の一つであり、「その動きは非常に加速している」とKPMGの米国サイバー責任者カイル・キャペル氏は指摘する。

生成人工知能最大手のオープンAI（OpenAI）は先日、15秒間の音源から当該人物の声を再現する技術を披露した。そのことからも、生成人工知能による偽音声のなりすまし詐欺電話がいかに迅速かつ簡単に実行可能かが示された。

▽音声認証ソフトウェアの悪用が懸念される

特に懸念されているのは、金融サービス会社が顧客の確認や口座へのアクセスを許可するために使っている音声認証ソフトウェアの悪用だ。

人工知能が生成した音声を悪質業者らが使うことで、音声認証ソフトウェアを騙せる可能性が指摘される。本人の声の音源さえあれば、詐欺者らは顧客の声色を生成人工知能で再現し、たとえば、偽の現金送金を指示するせりふを言わせることができる。

実際、チェイス銀行は最近、先進技術を悪用した詐欺行為に対抗するソリューションの実験中に、人工知能が生成した音声にだまされた。チェイス銀行ではディープフェイク対策強化のために、顧客らが取り引きやそのほかの財務上の要求を完了させるのに追加情報を提供する必要がある、と話している。

▽2023年に前年比700％増

本人確認プラットフォーム「サムサブ（Sumsub）」の最近の調査報告によると、フィンテック分野でのディープフェイク事件は2023年に前年比700％増という急増を記録した。

各社はそのため、生成人工知技術を悪用した攻撃者らの出現に備え、より多くの安全措置を導入するよう努めている。ニューヨーク・ライフの場合、自社のベンチャー・キャピタル部門と協力し、ディープフェイクに対抗するために設計されたソリューション群の開発に取り組んでいる新興企業や新技術の特定に注力している。

ニューヨーク・ライフは、有望と判断できる新興企業との提携によってディープフェイク対策システムを共同構築する方針だ。

▽シモンズ銀行、IDスキャンと協力

そのほか、シモンズ銀行のアレックス・カリレス最高デジタル責任者は、セキュリティー・ソリューション会社IDスキャン・ドット・ネット（IDScan.net）と協力し、本人確認過程の一部を変更して強化していると説明した。シモンズ銀行は、オンライン口座開設の手続きの一つとして運転免許証の写真をアップロードするよう規定しているが、その画像が人工知能によって簡単に生成できるようになったいま、身元証明提出過程を強化した。

同銀行の場合、顧客が既存の運転免許証写真をアップロードするのではなく、銀行のアプリケーションで運転免許証を撮影し、さらに自撮り画像のアップロードを求める方法をとっている。同アプリケーションは、自撮りの際に左右上下を見るよう顧客に指示することで、生成人工知能による映像が映されることを防いでいる。

（Gaean International Strategies, llc社提供）