※この記事は、2026年7月時点で複数の生成AIに手書き画像を見せて試した実験メモです。モデルの反応は少数回の結果であり、性能比較や恒久的な能力差を示すものではありません。詐欺被害の数字は、2026年7月11日に警察庁の公表資料を確認しました。
最近、AIを使った詐欺の話を見ていて、少し笑ってしまう対策を見かけました。
相手へ「へのへのもへじ」の絵を送り、その意味を答えさせる。
日本人なら分かるけれど、海外の詐欺師やAIには分からないのではないか、という簡易的な確認方法です。
最初に見た時は、
「最後はアナログか……」
と思いました。
生成AIで自然な日本語を作れるようになっても、日本固有の文化ネタを手書きで崩せば、まだ簡単には突破できないのかもしれない。
そう思って、実際にいくつかのAIへ試してみました。
結果から言うと、少しは使えそうでした。
そして、同じ日のうちに限界も見えました。
詐欺の入口から、変な日本語という警報装置が消えつつある
以前の海外発の詐欺には、分かりやすい違和感がありました。
日本語が妙に丁寧すぎる。
助詞の使い方がおかしい。
急に話が飛ぶ。
こちらの質問と返事がかみ合わない。
もちろん、これだけで詐欺を見分けられたわけではありません。
それでも、「何か変だ」と立ち止まるきっかけにはなっていました。
生成AIで自然な文章を大量に作れるようになると、この無料の警報装置が弱くなる可能性があります。
相手のSNSに合わせて話題を変える。
長い雑談で信用させる。
画像や音声を作る。
複数人へ別々の文面を送る。
こうした作業の一部をAIで低コスト化できるなら、詐欺の入口はさらに見分けにくくなります。
ただし、「AIによって日本語の壁が消えたことが、被害増加の原因だ」と断定できる資料を確認したわけではありません。
ここは、自分が感じているリスク仮説です。
一方で、詐欺被害そのものが大きく増えていることは確認できます。
警察庁が2026年6月5日に公表した2025年の確定値では、特殊詐欺、SNS型投資詐欺、SNS型ロマンス詐欺を合わせると、認知件数は4万3,000件、被害額は約3,257.5億円でした。
SNS型投資詐欺では、バナー広告とダイレクトメッセージを入口とする被害が全体の約8割を占めています。
この状況で、相手の日本語が自然だから大丈夫、会話が続くから人間だろう、という見方は危なくなっていると思います。
「へのへのもへじ」でGrokが止まった
そこで試したのが、先ほどの「へのへのもへじ」です。
きれいに書いたものではありません。
低解像度で、文字も少し崩れていて、「じ」が顔の輪郭に溶け込んでいるような画像でした。
これをGrokへ見せて、
「この絵の名前は？」
とだけ聞いてみました。
日本文化や文字絵というヒントは付けていません。
Grokは少し長く考えた後、
「困惑おじさん」
「ため息くん」
「微妙な表情」
のような名前を出してきました。
見えていないと言うのではなく、もっともらしい名前を作って答えたわけです。
認証テストとして考えるなら、これは不合格です。
この時点では、
「お、現時点なら簡易的な詐欺AIふるいとして使えるのでは？」
と思いました。
少なくとも、低性能なAI、決められた台本で返す相手、画像をうまく処理できない相手を落とす第一関門にはなるかもしれません。
ところが、ここから話が少しおかしくなります。
こちらのAIは正解したが、普通にカンニングしていた
同じ画像について、こちらの会話中のAIは「へのへのもへじ」と答えました。
一見すると、Grokより画像認識が強かったように見えます。
ただ、自分は途中で気になりました。
「ここでは本当に答えられた？ カンニングしてない？」
確認すると、カンニングしていました。
正確には、画像を貼る前の会話で、自分がすでに「へのへのもへじの絵」と書いていました。
AIは画像だけを見て答えたのではありません。
直前の会話に正解がある状態で答えていました。
つまり、
Grokには画像と質問だけ。
こちらのAIには画像、質問、事前の答え。
これでは公平な比較ではありません。
本当に画像認識を比べるなら、新規チャットを開き、同じ画像と同じ質問だけを渡す必要があります。
検索を許すか。
長考を許すか。
回答時間をそろえるか。
事前の会話を消すか。
画像が同じでも、ここが違えばテスト結果は変わります。
AIの性能を比べているつもりで、実際にはコンテキストの差を比べていた。
これは、今回かなり面白かった失敗です。
「1＋1＝田」も、手書きならいけると思った
次に試したのが、
「1＋1＝田。なんで？」
という文字遊びです。
数式として見れば間違いです。
ただ、日本語のなぞなぞとして見れば、「田」という漢字を線や図形として分ける発想だと分かります。
問題文だけならネット上に類題が多く、AIにも答えやすい。
それなら、手書きで崩せばどうだろう。
文字を下手に書く。
位置をずらす。
画像として渡す。
詳しいヒントは付けない。
これなら、日本人には読めてもAIには難しいかもしれない。
そう思って試しました。
Grokには元の問題を見抜かれました。
Geminiにも、下手に書いた画像から普通に見抜かれました。
さらに、Grokが外した「へのへのもへじ」もGeminiへ渡してみると、こちらも正解されました。
日本文化CAPTCHA、Geminiにより即日陥落です。
「汚く書けばAIには読めない」という作戦は、思っていたより寿命が短い。
むしろ、人間の方が先に読めなくなる可能性があります。
文化クイズは、正解したら白ではなく、間違えたら止める
この実験で一番大事だったのは、GrokとGeminiのどちらが強いかではありません。
同じ問題でもモデルによって反応が違う。
会話履歴に答えがあれば、さらに結果が変わる。
今日解けなかった問題も、明日は解けるかもしれない。
公開された問題なら、画像検索や詐欺側のマニュアルで共有される可能性もあります。
つまり、文化クイズへ正解したからといって、その相手が日本人だとも、知人本人だとも言えません。
ここは分ける必要があります。
文化クイズを使うなら、
正解したら本人だと認めるためではなく、明らかに不自然な誤答が出た時に、その場のやり取りを止めるため。
このくらいが現実的だと思います。
「困惑おじさん」と自信満々に返ってきた。
数式の間違いだと延々説明し始めた。
質問と関係のない回答を続けた。
そういう時に、送金や個人情報のやり取りを進めない。
一度止まり、別の確認へ切り替える。
ただし、間違えた相手を即座に詐欺師と断定するのも危険です。
文化ネタを知らない日本人もいます。
画像が見えにくかった可能性もあります。
年齢や地域によって知らない表現もあります。
だから判定は、
正解したら白。
間違えたら黒。
ではありません。
正解しても保留。
間違えたら、いったん止めて別経路で確認する。
この片方向の使い方です。
本人確認は、AIとの知恵比べにしない方がいい
文化クイズをどれだけ工夫しても、AIとの知恵比べになると終わりがありません。
問題を難しくする。
AIが解けるようになる。
さらに崩す。
人間にも読めなくなる。
これを続けても、長く使える本人確認にはなりにくいと思います。
本命は、会話の外へ出ることです。
一度電話を切る。
以前から登録してある番号へ、自分からかけ直す。
家族や警察を名乗る相手なら、本人や公式窓口へ別経路で確認する。
金銭の話が出たら、その場で決めず、もう一人へ相談する。
警察庁の特殊詐欺対策ページでも、家族や警察へかけ直して本物か確認することが案内されています。
最新のAIへ対抗する方法が、電話を切っていつもの番号へかけ直すことなのは、少し拍子抜けします。
でも、たぶん強いのはそこです。
AIが答えられるかを調べるのではなく、今話している相手とは別の経路で本人へ到達する。
知識テストより、経路の分離です。
AIは本人を決める役ではなく、止まるきっかけを作る役
AIを防犯に使うこと自体が悪いとは思いません。
怪しい文面を見てもらう。
不自然な要求を拾ってもらう。
送金前の確認項目を出してもらう。
焦っている時に「一度止まる理由」を作ってもらう。
こういう補助には使えます。
ただ、AIが「この相手は本人です」と言ったから信用するのは違います。
AIが判定できるのは、画像の名前、文章の特徴、会話の不自然さなどです。
その相手が本当に知人本人かどうかは、別の問題です。
これは今回の「へのへのもへじ」でよく分かりました。
Geminiが正解できたのは、画像認識や文化知識の問題を解けたということです。
画像を送ってきた相手が誰なのかを証明したわけではありません。
AIに本人確認を手伝わせるなら、最終判定役ではなく、
「ここで一度止まった方がいい」
「別の番号へかけ直した方がいい」
「お金の話なので、もう一人に確認した方がいい」
とブレーキをかける役にする。
そのくらいの距離感がよさそうです。
まとめ
AIを使った詐欺が増えると、日本語の自然さや文化知識だけでは相手を見分けにくくなる可能性があります。
そこで、「へのへのもへじ」や手書きのなぞなぞを使えば、詐欺AIを弾けるのではないかと試してみました。
Grokは崩した「へのへのもへじ」を外しました。
こちらのAIは正解しましたが、直前の会話に答えがあり、普通にカンニングしていました。
Geminiは、崩した手書き問題も「へのへのもへじ」も正解しました。
結果として、文化クイズは低性能AIや雑な台本を落とす第一関門にはなるかもしれません。
ただ、正解した相手を本人とは認定できません。
使うなら、
正解したら白ではなく、正解しても保留。
間違えたら、その場のやり取りを止めて別経路で確認する。
この片方向のふるいです。
そして本当の本人確認は、電話を切り、以前から知っている番号へ自分からかけ直す。
AIとの知恵比べではなく、確認経路を分ける。
日本文化CAPTCHAが即日陥落した後に残ったのは、かなり地味ですが、この方法でした。
参考情報
- 警察庁「令和7年における特殊詐欺及びSNS型投資・ロマンス詐欺の認知・検挙状況等について（確定値）」（公表日: 2026年6月5日、確認日: 2026年7月11日）
- 警察庁「オレオレ詐欺」（確認日: 2026年7月11日）
コメント