「令和6年能登半島地震」発生に伴い、重要な情報インフラであるX（旧Twitter）には、リアルタイムな被害状況や、有益な情報が数多く投稿されている。
一方で、デマ情報や虚偽の救助要請、Xの収益化に伴い急増したインプレッション稼ぎのポストなど、迷惑投稿も横行。東北大震災時の映像を用いたデマ動画や画像も多く出回っているという。とくに「AI」を使ったフェイク画像は見分けが難しく、注意が必要だ。
そんななか、AIやスマホなどのガジェット事情に詳しいコスプレイヤーさんがXにポストした、「AIフェイク画像の見分け方」について言及した投稿に大きな注目が集まった。
AIは「文字」の生成が苦手
「AI画像に強いオタクです。フェイク見分けのために来ました。AIは実は文字を出力するのが苦手です。日本なんて極東の国の漢字なんて尚更です。これから上がってくる画像のうち、道路看板の文字や車のナンバーなどをよく見てください。文字ないならフェイクとバッサリ思うくらいでお願いします」
続けて、「AIフェイク画像」の一例として、自身が生成したAI画像を投稿。
「例として今AIに描かせたフェイクです。風景はアメリカ風ですがこんなんいくらでも日本風に寄せられます。手の込んだフェイクにご注意下さい」
また、過去のフェイク画像がより見分けがつきにくい「引きの画像」だったことにも言及。「そういった感じの例を作りました」と、「令和6年能登半島地震」に関連したAIフェイク画像も投稿。
「これも、看板の一つや二つ混じっていてもおかしくないのに見当たらない＝文字苦手です。うまいこと誤魔化してきます」と、現在のところ「文字」があるかどうか、「文字」に違和感があるかどうかが見分ける際のポイントだと解説した。
「指」と「文字」の表現と「出典元」の確認を
「文字」以外にも、AIが生成した人物画像は「指の表現」に違和感がある場合が多いのが定説だ。そのため、指が5本以上あるなど、「指の表現に違和感があるかどうか」もフェイクを見破るポイントになる。しかしAI技術は日々進化しており、「文字」や「指の表現」といった弱点も、今後は更新されていくという。
「指の違和感は世界共通のものなのですが、最近はかなり精度が良くなってきました。ただ、まだまだ漢字はそうではないので、今のところ『文字』は、日本国内でフェイク画像を見分ける大事なポイントですが、文字を修正することが容易であることもまた事実です。けれど、日本の道路看板や標識って独特のフォントが多いですから、『なんか見慣れないな』って思ったらまず怪しんで見てください」と、投稿者さん。
「それでも、『引きの画像』の判断については、本当に難しいです。例えば今回の『令和6年能登半島地震』のフェイク画像なら、1月なのに画像では草の緑が青々としているといった季節の異和感、泥色の瓦礫はたくさんあるのに目立つ色であるはずの看板がないなど、落ち着いて細部まで見ることが大事です。あとは、写真の出典元が『公的な報道機関かどうか』がいちばん大事ですね！ 空から撮るのってなかなか一般人では難しいですから…」
「悪意あるAIフェイク画像」に対する罰則の強化を
AIによる画像生成の技術について、「早い速度で成長していくピュアな絵描きですが、日本の文化にはまだ少し疎いため、今のところは日本特有のものに対する表現とかには弱いです」と、投稿者さん。
「AIは便利であり、良い面もたくさんあります。私はAIに大好きな中世の画家の画風で好きなクラゲを描いてもらったり、天国で穏やかに楽しく暮らすペットを想像で描いてもらったり…個人的に楽しい表現をたくさん生成してきました。悪いのはフェイクを作ろうとする人間の心です。AI側に規制を求めるだけでなく、悪いフェイクを作った人間に対する罰則を強化することが重要だと思っています」（投稿者さん）
つねに情報を更新し、非常時にはデマやフェイクに惑わされない冷静な判断力を持つことが大切だ。
