AI技術を悪用 米国で“AI詐欺”電話…クローン音声使用 “3秒のサンプル”で再現(2023年4月25日)
AI＝人工知能の技術が目覚ましい進歩を遂げているなか、その技術を悪用する“AI詐欺”が起きているという。その驚きの実態に迫る。
■AIで“最適の化粧”をアドバイス
東京・原宿の商業施設に登場したボックス、その名も「スマートパウダールーム」。
様々なサンプル化粧品が置かれた個室タイプのパウダールーム。鏡に顔を映してみると、画面には「ハンサムモダン」との表示が出る。実はこれ、男性でもAIが似合う化粧品を選んでくれる。
NTTコミュニケーションズが開発したパウダールームでは、AIが顔を診断し、その顔に似合う化粧の仕方や、化粧品を提示してくれるという。
進化を続けるAI技術。そんななか、こんな事例もあります。
■問題提起のため“AI画像”を出品
世界的な写真コンテストのクリエイティブ部門で優勝したこの作品。実は…。
優勝作品を出品した ボリス・エルダグセン氏：「コンテストがAI画像を受け入れる準備をしているか確かめたかったが、準備されていませんでした」
彼は、コンテストにAI部門があってもいいのではと問題提起するため、写真コンテストにAIが作った画像を出品したという。
そんなAI技術は今、詐欺にも利用されている。
■米国では“AI詐欺” クローン音声で電話
AIを悪用する“AI詐欺”とは、どのようなものなのだろうか？
11日にCNNが報じたところによると、アリゾナ州に住むデステファノさんのもとに見知らぬ番号から電話があったという。
電話口からはスキー旅行に行っているはずの娘が「助けてママ！お願い助けて」と泣き叫ぶ声が聞こえたという。
そして、電話の相手は男に代わり「お前の娘は預かった。警察を呼んだら、娘を麻薬漬けにしてメキシコ送りにしてやる」と告げ、身代金100万ドル＝日本円でおよそ1億3000万円を要求してきたという。
この時、周りにいた友人らが警察やデステファノさんの夫、さらには娘本人にも電話してくれたそうだ。
すると、娘は「何？どうしたの？」と電話に出たというのだ。
そう、実はデステファノさんの元にかかってきた電話は、AIのクローン音声による詐欺電話、いわば“AI詐欺”だったとCNNは報じている。
■“3秒のサンプル”で再現 どうやって入手？
クローン音声とは、サンプルの音声をもとにAIがその人の声を再現するという技術。
アリゾナ州立大学の専門家によると、「以前は大量の音声サンプルが必要だったが、今は3秒あれば、声を正確に再現できる」というのだ。
実際、デステファノさんは電話の声について「話し方や泣き声も完全に娘の声だった。一瞬たりとも疑わなかった」と話していたそうだ。
そもそも3秒の音声サンプルをどうやって入手するのだろうか？
CNNによると、FBI特別捜査官補のダン・メイヨー氏は、“AI詐欺”のグループはSNSなどの動画から音声を入手するのだという。
ですので、安易に動画などをSNSに上げると犯罪に利用される可能性もあるので、注意が必要だと伝えている。
（「大下容子ワイド！スクランブル」2023年4月25日放送分より）
[テレ朝ｎｅｗｓ] https://news.tv-asahi.co.jp/a>
