はじめに
例えば、こんな電話がかかってきたらどうでしょう。
「事故を起こしてしまった。今すぐお金が必要なんだ」
電話の向こうから聞こえるのは、よく知っている家族の声。焦った様子で、助けを求めている。もしそんな電話がかかってきたら、あなたは一度通話を切れるでしょうか。
警察を名乗る相手からお金を要求されたなら、私は疑うと思います。そんな要求に応じる必要はない、と判断できるはずです。
でも、身内だったら。その声で、必死に助けを求められたら。
同じように冷静でいられるかは、正直、分かりません。冒頭の電話は仮定の話ですが、そこで感じる不安は、私にとって他人事ではありません。
ソフリアでは、AIをビジュアル制作に活用しています。表現の可能性が広がる一方で、私自身、使うなかで危うさを感じることもあります。そこにいない人をいるように見せ、実際にはなかったことを本当らしく伝えられる。その力が、人をだますために使われたらどうなるのか。
被害のニュースを見るたびに、心が痛みます。「どうして信じてしまったのだろう」と考える前に、自分なら本当に止まれたのか、とも思うのです。この連載では、顔や声を使ったなりすましからSNSの偽広告まで、私たちの暮らしに近い危険と、その場で取れる行動を考えていきます。
声を再現する技術はすでにある
米国の連邦取引委員会、FTCは、2023年3月の注意喚起で、ネット上にある家族の短い音声と音声複製の技術が、家族を装った詐欺に悪用され得ると説明しています。本人らしい声が聞こえることを、そのまま本人の証明にはできないということです。FTCの音声複製に関する注意喚起
映像についても、米国FBIは2024年12月、生成AIを使い、警察関係者や企業幹部などを装うビデオ通話の手口を紹介しています。AIを使って本物らしく合成・加工した映像や音声は、ディープフェイクと呼ばれます。FBIの生成AIを悪用した詐欺に関する注意喚起
ただし、どんな音声や映像でも完全に再現できる、誰も見抜けない、という意味ではありません。素材や利用環境によって出来栄えは変わります。また、これらは海外機関の注意喚起であり、日本の個別事件でAIが使われたことを証明する資料でもありません。
声を聞いた。顔も見た。それでも、お金を渡す前の確認は必要です。ここが、私たちの感覚が追いつきにくいところだと思います。
これからへの備えとして、もう一つ想像しておきたいことがあります。旅行中の家族を名乗る相手が、その旅行の話まで知っていたらどうでしょう。声だけよりも、信じたくなるのではないでしょうか。これは特定の事件の紹介ではなく、私が心配している場面です。話のつじつまが合うときほど、相手が示した情報だけで納得していないか、振り返りたいのです。
自分の冷静さを試す場面にしない
大切な人が困っているなら、まず助けたい。その気持ちまで警戒しなければならないのは、やりきれません。
ただ、電話口で声の違いを聞き分けようと頑張るより、できることがあります。一度切って、こちらから本人へ連絡する。本当にその支払いが必要なのかを確かめる。AIかどうかの答えが出なくても、その行動は取れます。
「家族の声だと思った」と「家族本人に確認できた」は、分けて考えておきたいと思います。前者は通話の中で得た印象です。後者には、以前から知っている連絡先へこちらから連絡を取り直すなど、別の経路で確かめる行動が必要です。
いったん切って以前から知っている番号へ
FTCは、声だけを信用せず、本人のものと分かっている番号に連絡して確認することを勧めています。つながらなければ、別の家族や友人を通して確かめる方法も挙げています。FTCの確認方法
私なら、家族と次のような手順を決めておきたいと思います。
- お金や身分証の画像を求められたら、その場では渡さない。
- 「確認してから連絡する」と伝え、通話を終える。
- 相手が今教えた番号ではなく、以前から連絡に使っている番号を電話帳から選ぶ。
- 本人につながらなければ、別の信頼できる人にも安否を確認する。
「番号を変えた」「電話が壊れた」と言われても、新しく教えられた連絡先だけで確認を完結させないことが大切です。本人につながらない時間を、送金してよい理由にしないでください。
誘拐や暴力など、今まさに危険が及んでいる疑いがあるときは、一人で確かめようとせず110番へ。緊急ではない不審な連絡の相談には、警察相談専用電話の#9110が使えます。警察庁の通報・相談案内
家族を疑うのではなく確認を約束する
助けを求められているのに電話を切る。頭では分かっていても、ためらうと思います。だから、何も起きていない日に話しておきませんか。「お金の相談が電話で来たら、一度かけ直すね」と。
助けたいという気持ちと、今すぐ送金するという行動の間に、確認する時間を置く。その約束なら、家族への思いやりを損なわずに続けられると思います。
この記事を閉じたら、家族や信頼できる人に、その一言を伝えてみてください。いざというときに電話を切る勇気を、普段の約束が支えてくれるはずです。
次回は、警察を装う電話とビデオ通話を取り上げます。相手が本物らしい姿で現れたとき、何を基準に行動を止めればよいのでしょうか。
