アメリカのオレオレ詐欺、音声クローニングで巧妙化 #合成音声 #AI

アメリカのオレオレ詐欺、音声クローニングで巧妙化 #合成音声 #AI
1: アルカリ性寝屋川市民 ★ 2023/03/22(水) 07:23:20.26 ID:+ikdQOAP9.net

米国にも「オレオレ詐欺」はあるが、ほとんど成功しないため、これまでは大きな社会問題になることはなかった。しかし、最近の手口は、音声クローニングを可能にする人工知能によって高度になっており、被害が増えている。

孫や近親者になりすまして高齢者に電話をかけ、困っている状況を装って現金を振り込ませるという古典的詐欺は、米国の場合、声が孫と違うと気づいて標的高齢者が電話をすぐに切る。

しかし、デジタル・トレンズ誌が伝えたワシントン・ポストの報道によると、詐欺師らの一部では、いわゆるディープフェイク(Deepfake)に悪用される人工知能によってクローニング音声を作成し、成功率を一気に引き上げようとしている。

犯罪者たちは、「わずか数文の音声サンプル」をオンライン・ツールにかけ、言葉を入力するだけで何でも言うよう指示して複製をつくっている。

連邦取引委員会のデータによると、2022年だけで3万6000件以上の偽者(なりすまし)詐欺の報告があり、そのうち500件以上が電話によるものだった。報告された被害額は計1100万ドルに達する。

犯罪用の人工知能ツールがインターネット上でより多く流通するようになっているため、それらを使った詐欺がこれからさらに増えることが確実視される。

そういった高度の手口は、標的である高齢者の電話番号と、当該標的の孫や近親者の音声サンプルを必要とする。犯罪者らは、ティックトックやユーチューブといった動画サイトで音声サンプルを見つけ、電話番号を情報案内サイトのたぐいで調べて入手している。

報道によると、弁護士を装った人物が老夫婦に連絡し、孫が犯罪容疑で拘束され、その訴訟費用として1万5000ドル以上の現金が必要だと騙した事例がある。その偽弁護士は、孫に電話をわたすふりをして、その孫のクローン音声で弁護士費用を払うよう懇願し、老夫婦はその通りに払った。

その老夫婦は後日、孫からの電話でその話しが詐欺だったことがわかった。犯人は、孫が投稿したユーチューブ動画から声をクローン化したとみられるが、いまのところ不明だ。

また、多国籍企業の幹部を装い、もっともらしい状況や理由を説明して、国外支社の別の幹部に支払いや送金を依頼するといった手口もすでに報告されている。

そういった詐欺の増加を受けて、声をクローンする人工知能技術を開発する会社らの責任を問う声も上がり始めた。しかし、車の運転者の過失による事故の責任が自動車メーカーに問われないのと同様に、技術を悪用した詐欺師らの責任を、技術を開発した会社に問うのには無理があるという見方が強い。

U.S. Frontline 2023年3月20日
https://usfl.com/news/134725

2: ウィズコロナの名無しさん 2023/03/22(水) 07:25:59.00 ID:HfaB01R00.net

こういうのって警察は「電話にでないでください」ってアドバイスだけしかしないから
全く撲滅できない、完全に職務放棄


3: ウィズコロナの名無しさん 2023/03/22(水) 07:32:44.36 ID:9gk+qLkt0.net

無くなれば仕事が無くなるから


4: ウィズコロナの名無しさん 2023/03/22(水) 07:34:45.65 ID:Dmog0rzk0.net

見破る賢いアタシ
にはルフィがやってくると言うね


5: ウィズコロナの名無しさん 2023/03/22(水) 07:36:26.40 ID:m81UBq6R0.net

クールジャパンがアメリカに輸出されたのか?


6: ウィズコロナの名無しさん 2023/03/22(水) 07:37:47.56 ID:YY67GwNy0.net

>米国にも「オレオレ詐欺」はあるが、ほとんど成功しないため、これまでは大きな社会問題になることはなかった。

>孫や近親者になりすまして高齢者に電話をかけ、困っている状況を装って現金を振り込ませるという古典的詐欺は、米国の場合、声が孫と違うと気づいて標的高齢者が電話をすぐに切る。

なんのに日本人はなんですぐ騙されるんだ?

言語学だか発声学?的に日本語って比較的誰が話しても声質を似せやすいみたいのあんの?ま、抑揚があんま無い平坦な発声言語だからだろうか?(´・ω・`)


7: ウィズコロナの名無しさん 2023/03/22(水) 07:40:25.03 ID:X3QwO9jd0.net

音声クローニングってなあに?


8: ウィズコロナの名無しさん 2023/03/22(水) 07:41:18.80 ID:43G1Z1H30.net

>>8
ターミネーターでT1000型がやってた声真似だ


9: ウィズコロナの名無しさん 2023/03/22(水) 07:46:18.52 ID:ZiJsdi970.net

固定電話やめりゃいいのに


10: ウィズコロナの名無しさん 2023/03/22(水) 07:47:40.83 ID:IvHw5yus0.net

オレオレ!初音ミクだよ!


11: ウィズコロナの名無しさん 2023/03/22(水) 07:49:15.48 ID:MP1IopZp0.net

>>7
日本人は孫と婆さんの会話が少ないので、
孫の声を判別できない。
欧米は孫との会話やイベントが多いのですぐ判る。


13: ウィズコロナの名無しさん 2023/03/22(水) 07:50:36.11 ID:Hg+Ht/h10.net

固定だろうが携帯だろうが直ぐに出ないで留守電対応にすれば良い
大事な内容ならば留守電に入れてるし親族と名乗るならこちらから親族へ連絡入れれば真偽は簡単に分かる


15: ウィズコロナの名無しさん 2023/03/22(水) 07:55:56.72 ID:C/nOPHir0.net

すげえなあ
俺らが年寄りになる頃には特殊メイクで成り済まして受け取りにくるくらいやってそう


16: ウィズコロナの名無しさん 2023/03/22(水) 07:57:42.84 ID:KnIwMg6h0.net

こんなところにもAIによって仕事を奪われる人々が


17: ウィズコロナの名無しさん 2023/03/22(水) 07:59:45.16 ID:gpkXLIgy0.net

かけ子は不要になる職業だったのか


18: ウィズコロナの名無しさん 2023/03/22(水) 08:02:15.95 ID:DeMyq2/o0.net

オレだよワリオだよ


19: ウィズコロナの名無しさん 2023/03/22(水) 08:04:23.89 ID:8OBtF/7j0.net

お互いの秘密のキーワード
決められてたらアウトだろ


20: ウィズコロナの名無しさん 2023/03/22(水) 08:06:13.04 ID:K6RjPUi+0.net

オレオレ!俺だよ!
実はさあ、今組織に捕まってさあ…殺されそうなんだよね
親族に身代金3億用意しろって言わされてるんだよね


22: ウィズコロナの名無しさん 2023/03/22(水) 08:17:03.74 ID:5PdufjGe0.net

日本のボーカロイドを凌駕してるな


23: ウィズコロナの名無しさん 2023/03/22(水) 08:22:18.73 ID:i8j0Uzov0.net

ゆっくりしていってね


24: ウィズコロナの名無しさん 2023/03/22(水) 08:38:24.78 ID:ptzwvm4V0.net

オレオレ詐欺はリスクが低いからね
出し子や受け子も末端の使い捨てだし


27: ウィズコロナの名無しさん 2023/03/22(水) 09:47:08.07 ID:k/fFndcq0.net

声の持ち主とその親戚の連絡先がバレてる時点でなんらかの犯罪に巻き込まれる材料が揃ってると思う


28: ウィズコロナの名無しさん 2023/03/22(水) 10:06:46.12 ID:ht51SZHP0.net

自分の動画をホイホイうぷしてる場合じゃないな
声が盗まれて詐欺に使われる


31: ウィズコロナの名無しさん 2023/03/22(水) 14:29:57.26 ID:xr3lvxEY0.net

とち狂ってゆっくりボイス使い出したりして


29: ウィズコロナの名無しさん 2023/03/22(水) 10:17:53.25 ID:5qDoFtbl0.net

AIに音声をまねされてもプリキュアの名前全員言わせて本人か確認する方法がある



元スレ: http://ai.2ch.sc/test/read.cgi/newsplus/1679437400/



わんわん
はてなブックマークに追加する この記事をツイートする
Pocketに保存する この記事にコメントする
同人音声ちゃんねる をフォロー
Feedly Mastodon Misskey.io Bluesky

コメント

※2436: 名無しの声フェチ 2023/03/23(木) 05:40:22

よっしゃ!AIに同人音声食べさせたろ!