人の声や目の動きを人工知能で分析することで嘘発見器として使えるかどうかについて議論され始めた。コンスーマー・リポート誌によると、しゃべり方や動作を機械学習アルゴリズムで分析して嘘をついているかどうかを判断する技術は保険業界や銀行業界ですでに実用化されている。不正行為の検出がその目的で、いくつもの新興企業が市場開拓に注力しているが、課題や反動もある。

▽保険会社レモネードによる導入に批判殺到

新興の保険会社レモネード（Lemonade）は、損害保険金を請求する顧客に対し、損害状況を説明する動画をアップロードするよう義務づけている。同社は2021年に入ってから、それらの動画に含まれる「言葉以外の手がかり」を人工知能で分析し、保険金詐欺かどうかを判断するために役立てている。同社はそれをめぐってソーシャル・メディア上で多数の批判を受けた。

「デジタル技術には幅広い利用法が考えられる。『時には有益かもしれないが問題がある』ものから、『まったく機能しないうえに問題がある』ものまで多岐にわたる」と、カナダのオンタリオ州のウェスタン大学で人工知能の社会的および倫理的影響について研究するルーク・スターク準教授は話している。

レモネードの件は、嘘発見の目的でその種の技術にどれだけ投資されているか、また、その種の使い方がどれだけ批判を浴び得るかを示した事例となった。

▽虚偽検出技術会社が技術について説明したがらない背景

「不正防止技術についてうまく説明するのはさまざまの理由から難しく、多くの会社が葛藤を抱えている」「うまい方法が存在しないかのようにも見える」と、不正検出技術を提供するピンドロップ（Pindrop）の共同設立者兼CEOのヴィージェイ・バラスブラマニヤン氏は言う。

同氏によると、「くわしく説明すれば、その技術が犯罪者に知られ、システムに勝る方法を考案されてしまう。レモネードのように好ましくない意味で報じられれば、企業印象も損なうことからなおさら悪い」。

▽保険大手７社のうち５社、銀行大手10行のうち８行が採用

ピンドロップの技術の場合、電話してきた人が誰かを特定する精度は99.5％、不正検出の精度は80％だ、と同社は説明している。同技術の利用会社には、保険会社大手７社のうち５社、銀行大手10行のうち８行が含まれる。

同技術を採用する保険会社や銀行はその事実を公表することに消極的で、表立って説明しないが、不正検出技術への投資は拡大している。

市場調査会社グランド・ヴュー・リサーチ（Grand View Research）の最近の調査では、不正検出技術の世界市場規模は2020年の210億ドルから2028年には620億ドル以上に成長すると予想された。

▽本人確認には有効も、嘘をついているかどうかでは疑問

不正検出技術は、一定の使い方においては効果がある。たとえば、真正な顧客の声であることが確認される前の録音と、現在電話してきている人物の声を比較して、声紋認証で本人確認するといった使い方がそれに該当する。なりすましの防止に効果的だ。

ただ、次の段階で同様の技術を使う有効性については、一部の専門家らは疑問を呈している。本人確認が済んだあとに顧客が嘘をついているかどうかを検出する部分がそれにあたる。

▽ヴォイスセンス、負債を返済しない人を予想

保険金請求者が嘘をついているかどうかを人工知能で判断できるかどうかは別の話しとはいうものの、多くの会社が技術開発に取り組んでいる。それらはおもに、声や目の動き、手振り身振り、デジタル行動所作（digital body language、たとえばマウスやキーボードの使い方）を分析する技術だ。

そのおもな一例として、イスラエル拠点のヴォイスセンス（Voicesense）が挙げられる。同社は、融資の申し込み者が不履行を起こす可能性を予想する「ローン・デフォルト・プリディクター（Loan Default Predictor）」という製品を開発している。声の抑揚や話す速度、強調のつけ方といった特徴を分析するもので、実際に話されている言葉を分析するものではない。

▽フォーモーティヴ、「デジタル嘘発見器」を提供

別の新興企業フォーモーティヴ（ForMotiv）は、「デジタル嘘発見器」とみずから呼ぶシステムを宣伝している。「機械学習や行動予想分析を使って利用者の『デジタル・ボディー・ランゲージ』を測定し、真の『意図』をリアルタイムで予想する」と同社は説明してる。

フォーモーティヴは、フィラデルフィアとホーチミン市に拠点を置いており、保険会社や銀行、コール・センター（電話問い合わせ対応部署）をおもな標的市場にして利用会社を増やしている。

▽不履行リスクが高いと判断された人の43％がローン完済

ヴォイスセンスは、イスラエルの大手銀行バンク・ルーミ（Bank Leumi）から提供された録音通話を分析し、306人を不履行の高リスクと特定した。うち173人は、実際に不履行を起こしていた。一方、同社の技術で低リスクと判断された199人のうち、実際に不履行を起こしたのは65人だった。

「われわれは、『その人が不履行を起こす確率は何か』を予想できるが、それは２年先かもしれない」と、ヴォイスセンスの設立者ヨアヴ・デガニ氏は話している。「高リスクと判断された人の不履行率は、低リスクと判断された人の２倍、３倍、４倍になるだろう」。

ただ、高リスクと判断された人のうち43％がローンを返済したことは否めない。バンク・ルーミの広報担当者は、嘘検出技術の研究＆開発について同行は関知していないと説明している。

▽銀行が直面するジレンマ

「誤検出率が高ければ、好ましい顧客の融資を却下してしまう。好ましくない顧客をときおり検出することができたとしても、銀行にとって良いことではない。融資を提供するのが銀行の事業なのだから」と、ピンドロップのバラスブラマニヤン氏は話している。

同氏のコメントは、不正検出や嘘発見技術の抱えるジレンマを浮き彫りにしている。うまく機能するのであれば、リスクを低減し、経費を削減するのに役立つが、実効性がともなわなければ打撃を受けることになる。

▽データ科学者のタディナダ氏、実効性に懐疑的

金融犯罪防止技術を専門とする英国拠点のフィーチャースペイス（Featurespace）のデータ科学責任者カーシック・タディナダ氏は、発信元の電話番号から疑わしい通話を特定できるものの、通話者の嘘や意図を検出するのははるかに困難だと指摘する。

「その種のことが可能だと言われても、私は簡単には信じないだろう。そういったことが大々的に可能になるという希望すら、いままで見たことも聞いたこともない」とタディナダ氏は述べた。

（Gaean International Strategies, llc社提供）