ディープフェイクはこれまで、ソーシャル・メディア上で有名人や選挙といった公共部門で問題となってきた。しかし、ウォール・ストリート・ジャーナルによると、人工知能技術の進歩や普及によって、生成された声や映像がかつてないほどの現実味を再現できるようになり、悪質業者らが会社をねらう道具として悪用され始めている。
▽金融業界をねらう攻撃は「非常に加速している」
保険大手ニューヨーク・ライフのビル・キャシディー最高情報責任者は、「怪しい電話がかかってくることはつねにあったが、人工知能モデルが特定個人の声色や話し方を精密に模倣できるようになったことで、偽電話にだまされる危険性が高い段階に達している」と話す。
銀行や金融サービス会社らは、生成人工知能技術を悪用したディープフェイク攻撃の標的になっている最初の業界の一つであり、「その動きは非常に加速している」とKPMGの米国サイバー責任者カイル・キャペル氏は指摘する。
生成人工知能最大手のオープンAI(OpenAI)は先日、15秒間の音源から当該人物の声を再現する技術を披露した。そのことからも、生成人工知能による偽音声のなりすまし詐欺電話がいかに迅速かつ簡単に実行可能かが示された。
▽音声認証ソフトウェアの悪用が懸念される
特に懸念されているのは、金融サービス会社が顧客の確認や口座へのアクセスを許可するために使っている音声認証ソフトウェアの悪用だ。
人工知能が生成した音声を悪質業者らが使うことで、音声認証ソフトウェアを騙せる可能性が指摘される。本人の声の音源さえあれば、詐欺者らは顧客の声色を生成人工知能で再現し、たとえば、偽の現金送金を指示するせりふを言わせることができる。
実際、チェイス銀行は最近、先進技術を悪用した詐欺行為に対抗するソリューションの実験中に、人工知能が生成した音声にだまされた。チェイス銀行ではディープフェイク対策強化のために、顧客らが取り引きやそのほかの財務上の要求を完了させるのに追加情報を提供する必要がある、と話している。
▽2023年に前年比700%増
本人確認プラットフォーム「サムサブ(Sumsub)」の最近の調査報告によると、フィンテック分野でのディープフェイク事件は2023年に前年比700%増という急増を記録した。
各社はそのため、生成人工知技術を悪用した攻撃者らの出現に備え、より多くの安全措置を導入するよう努めている。ニューヨーク・ライフの場合、自社のベンチャー・キャピタル部門と協力し、ディープフェイクに対抗するために設計されたソリューション群の開発に取り組んでいる新興企業や新技術の特定に注力している。
ニューヨーク・ライフは、有望と判断できる新興企業との提携によってディープフェイク対策システムを共同構築する方針だ。
▽シモンズ銀行、IDスキャンと協力
そのほか、シモンズ銀行のアレックス・カリレス最高デジタル責任者は、セキュリティー・ソリューション会社IDスキャン・ドット・ネット(IDScan.net)と協力し、本人確認過程の一部を変更して強化していると説明した。シモンズ銀行は、オンライン口座開設の手続きの一つとして運転免許証の写真をアップロードするよう規定しているが、その画像が人工知能によって簡単に生成できるようになったいま、身元証明提出過程を強化した。
同銀行の場合、顧客が既存の運転免許証写真をアップロードするのではなく、銀行のアプリケーションで運転免許証を撮影し、さらに自撮り画像のアップロードを求める方法をとっている。同アプリケーションは、自撮りの際に左右上下を見るよう顧客に指示することで、生成人工知能による映像が映されることを防いでいる。
(Gaean International Strategies, llc社提供)
この記事が気に入りましたか?
US FrontLineは毎日アメリカの最新情報を日本語でお届けします
最近のニュース速報
-
ターゲットとショッピファイが提携 〜 ターゲットのオンラインいちばに中小の小売業者らが出店可能に
-
人工知能銘柄が今後10年の株式市場を動かす 〜 シスコの元CEOのベンチャー・キャピタリストが予想
-
2024年7月8日 アメリカ発ニュース, ハイテク情報, 米国ビジネス
スマート包帯の研究&開発が前進 〜 傷口の状態を遠隔追跡、包帯から投薬や電気刺激を可能に
-
飲食店で印刷メニューが復活~QRコード不評で
-
2024年7月1日 アメリカ発ニュース, 世界のニュース, 環境ビジネス, 米国ビジネス
ウェザーXM、ウェブ3とIoTで気象データに革新 〜 動く気象観測所群の分散型連携網を構築
-
米消費者のガソリン車好き続く~KPMGの意識調査
-
2024年6月27日 アメリカ発ニュース, 米国ビジネス, 自動車関連
対中EV貿易戦争、様々な副作用も
-
傷が早く治る、次世代ばんそうこう~医師との通信も可能に
-
生体認証決済が米国で拡大しつつある 〜 マスターカードやJPモルガンも導入へ
-
米国特許商標庁、出願者らの個人住所流出が再発 〜「不注意」が原因、影響を受けた人たちに通知