声を再現するAIが安くなった時、怖いのは「本物そっくり」だけではない

AI活用

※この記事は2026年9月28日時点の公開情報と、自分がニュースを見て感じた懸念を分けて書いたメモです。特定のサービスで無断の声の複製ができると確認した記事ではありません。

AIを使った詐欺の話は、以前にも書きました。

日本語が自然だから人間だとは言えないし、「へのへのもへじ」のような文化クイズに正解しても、本人だとは証明できない。結局、いつも使っている連絡先へ自分から確認する方が大事だ、という話です。

だから今回も、単に「AIの声にだまされないようにしましょう」で終わるなら、同じ記事になります。

引っかかったのは、そこではありません。

Googleが発表したGemini 3.8 Flash TTSのニュースを見て、声を作る技術が、大手の開発者向けサービスで扱える機能として降りてきたと感じたことです。

声の質を保ったまま、言わせる内容や話し方を変えられる。しかも公開料金表にある音声出力の単価は、旧プレビューモデルより低い。

「俺よりうまく喋れるんちゃうか」と笑いかけて、いや、これを悪用する側から見たら笑えないなと思いました。

怖いのは、一回だけ本物そっくりの声を作れることではない

昔から、他人になりすます手段はありました。録音を切り貼りすることも、声が似た人に話してもらうことも、理屈の上ではできます。

ただ、それには手間がかかります。相手に合わせて違う内容を喋らせ、何度も作り直すとなれば、さらに面倒です。

音声AIが変える可能性があるのは、この手間の部分だと思います。

Googleの説明では、Gemini 3.8 Flash TTSは短い音声をもとに声の特徴を再現し、同じ声質を保って別の文章を読ませられます。話す速さや感情、間の取り方も指示できます。

自分が気になるのは、声を一つ作って終わりではなく、相手や状況に合わせて何度でも喋らせられることです。

「急いでいる」ように聞こえる声。 「普段どおり」に聞こえる声。 相手から聞き返された時に、別の言葉で返すための声。

ここに会話するAIまで組み合わさっていけば、用意した一言を再生するだけの偽物とは違うものになります。ただし、今回のTTS発表だけで、本人そっくりの声によるリアルタイム詐欺が実現・横行していると確認できたわけではありません。

Geminiの安全策と、技術全体への警戒は両立する

ここは分けておきたいところです。

Googleは声の複製に、対象者本人の同意を示す録音を求めています。生成音声には透かしも入れると説明しています。

だから、この発表を根拠に「Geminiを使えば誰でも他人の声で詐欺ができる」と書くのは違います。自分も、その機能を使って無断複製を試したわけではありません。

それでも、警告として受け止めた理由は残ります。

大手の開発者向けサービスで、声の設計や再現が扱える機能として出てきた。さらに、音声を作る単価も下がっている。Googleの公開料金表では、3.8 Flash TTSの有料枠の音声出力は2026年末まで100万トークン当たり9ドルで、旧3.1 Flash TTS Previewの20ドルより低い設定です。軽量版はさらに低い料金です。ただし、旧モデルには今回の声の再現機能がなく、同一機能の単純な値下げではありません。利用枠や声の作成・確認に必要な条件まで含めた「詐欺のコスト」を、この数字だけで計算することもできません。

個別の製品に安全策があっても、声を安く、安定して作る技術が広く使えるようになるという流れまで消えるわけではない。

AIが賢くなり、音声が自然になり、繰り返し使う費用が下がる。この三つが重なることを、少し怖いと思っています。

「声が本人っぽい」は、ますます弱い根拠になる

前の記事では、文化クイズで相手を見分けようとした結果、正解したから本人とは言えないと書きました。

音声についても、同じ方向へ進むのだと思います。

声を聞いて「いつもの人っぽい」と感じることはできます。でも、その感覚だけで相手の身元まで確定できるとは限らない。

今回新しく考えたのは、確認方法そのものより、その感覚に頼れなくなる速さです。

声の再現が一部の特別な制作技術ではなく、安価なツールの一機能として使われるようになると、「声が似ているから大丈夫」という判断は思ったより早く古くなるかもしれません。

今回の製品の安全策は重要です。同時に、受け手の側も、声の自然さと本人であることを別々に考え始めた方がよさそうです。

AI音声を悪者にしたいわけではありません。創作や読み上げには便利な技術です。ただ、便利さを見て「この程度なら誰でも使える時代になったのか」と感じた時、その裏側にある使われ方まで想像してしまいました。

怖いのは、AIが一度だけ人間そっくりに喋ることではない。

それが安く、何度も、相手に合わせてできる方向へ進んでいることです。

関連記事

参考・出典

コメント

タイトルとURLをコピーしました