AIと偽情報による社会問題：イギリス、日本、韓国の事例と対策技術

AIと偽情報・偽画像・偽映像等が引き起こす社会問題について、イギリス、日本、韓国の具体例を紹介します　偽情報を見破る技術の進展や、無料で日常に使える、情報や映像を判定する機能も紹介します　法規制の必要性も議論します。

AIと偽情報による社会問題

偽情報による社会不安

イギリス（SNSの偽情報が社会不安を引き起こす事例）

2024年7月29日、イギリスで17歳の少年がダンス教室に押し入り、子供3人を殺害し、10人に重軽傷を負わせる事件が起きました。BBCは、容疑者がイギリス生まれでイスラム教徒ではないと報道しましたが、事件後に「容疑者はイスラム教徒の移民」という偽情報がX（旧Twitter）に投稿され、680万回も閲覧されました。また、インフルエンサーが「不法移民が少女を刺した」という偽情報を投稿し、1500万回以上閲覧されました。さらに、偽の容疑者名を使った投稿も広まり、極右思想を広めるアカウントが多く関与したと分析結果が発表されています

この偽情報により、イギリス各地で移民政策に対する抗議活動が暴動に発展し、２６都市で1200人以上が逮捕されました。日本でも関連投稿が2万件以上あり、230万回以上閲覧されました。

偽情報を発信した人も多く逮捕されています　偽の名前を付けて拡散させた５０歳代の女性は、軽い気持ちで見た情報内容をそのままコピーして貼り付け、拡散したことを、深く後悔しています

不法移民　法律に違反して他国に入国し、滞在している人々

日本

日本でも、マイノリティーに対する偽情報がネットで拡散される事件が起こっています。埼玉県川口市（人口約60万人）には、約4万人の外国籍の人が住んでおり、その中にはトルコなどの少数民族クルド人もいます。仮放免中のクルド人も含め、約1700人が暮らしています。

住民とのトラブルもあり、SNSでは過去10年間で約4万5000回の投稿やリポストがありました。2023年4月以降の1年5カ月で、約480万件の投稿があり、その中でクルド人に対する誤情報が増えました。

2023年8月には、「クルド人が無許可で祭りをしている」という誤情報がXで広まりましたが、実際の祭りは許可を得て行われていました。この誤情報は約29万回閲覧されました。また、「日本人は川口市から出ていけ」と書かれたプラカードを持つ外国人男性達の偽画像が拡散し、約260万回閲覧されました。この画像は生成AIで作られたとみられています。

地元の商店街振興組合の理事長は、「地元では海外の人と歩み寄る姿が見られる中で、あのような画像が出るのは残念だ」と述べています。Xでは「日本から出ていけ」という投稿が増えており、逆の意見も含めて、1年間で約40万件となっています。

市長は法務省に、「仮放免中の外国人の違法行為については厳重な対応をし、仮放免中の人については母国への送還までの間は人道的立場からの支援を」という善良な市民は擁護する要望を出しましたが、SNSでは市長への殺害予告もありました。クルド人の定住者は、子供たちへのいじめや、関係のない事件で「クルド人がやった」とネットに出されることを心配しています。

マイノリティー　社会の中で数が少なく、しばしば差別や偏見を受けることがある人々やグループ

韓国

韓国では、少女たちが脅迫されてわいせつな動画を撮影され、一万人以上に有料配信した男たちが2020年に摘発されました。現在は、若い女性がSNSに投稿した写真を基に、AIを使って偽の性的動画を作り、通信アプリ「テレグラム」で拡散するデジタル性犯罪が増えています。加害者も被害者も10代が多く、個人情報が特定される深刻な被害が出ています。

韓国教育省によると、生成AIを悪用した偽画像「ディープフェイク」による性的画像の被害申告が、2024年には既に200件近くに上っています。小学生や教師にも被害が広がっています。また、女性家族省傘下の性被害者支援団体によると、ディープフェイク画像被害の年間支援件数は、2018年の69件から2024年8月現在で781件と、11倍に急増しています。

2024年には、ソウル大学の卒業生が同窓生の女性数十人を標的に生成AIを悪用した偽画像を作成・拡散する事件がありました。その犯人も含めて、同様の事件で今年は178人が警察に摘発され、その約70％が10代です。

2024年8月27日、大統領は「犯罪行為の徹底した実態把握と捜査を行い、根絶する」と発表しました。それ以降、テレグラムのチャンネルは次々と閉鎖されています

ディープフェイク　人工知能（AI）とディープラーニング技術を使用して、既存の映像や音声を改変し、非常にリアルな偽のコンテンツを作成する技術

生成AIによるなりすまし

現在、ネット上で本人確認を行う主流のシステムは「eKYC」（electronic Know Your Customer、電子的本人確認）と呼ばれています。スマートフォンやPCを使って、顔写真や身分証明書（運転免許証など）の画像をアップロードすることで、本人確認が完了します。生体認証や電子証明書を組み合わせることで、なりすましや不正利用を防止し、高いセキュリティを実現できるシステムです。

現在、このシステムはネットバンクやネット証券の口座開設、クレジットカードの即日発行、マッチングアプリの利用者確認などで使用されています。

しかし、闇サイトの掲示板で、本人なりすましの方法を詳細に解説した投稿が、2023年夏頃から目立ち始めています。そして、2024年1月には埼玉県で、AIを悪用した偽画像（ディープフェイク）を使って顔認証を突破した例が報告されました

生成AIの進化により、偽情報や偽画像・偽動画を作成し易くなったことが、社会問題を起こしやすくなっている現実が今あります。しかし、その生成AIを活用して、偽（にせ）であるかを判別する技術も現れてきています　次はその技術の例を数点あげて説明します

生成AIによる偽情報・偽画像を見分ける

「電子透かし技術」日立製作所

2024年7月29日、日立製作所は「生成AIが作成した文章かどうかを見分ける技術を開発した」と発表しました。この技術は、生成AIが文章を作成する際に、複数のパスワードで管理された「電子透かし」を組み込む方法です。読み取る際にも複数のパスワードが必要です。

この技術は、生成AIによるフェイクニュース（虚偽報道）を見破り、AIの不正利用を防止するのに役立つとされています

edge や Chromeで使える AI判定

パソコンのWebブラウザである Chrome（クローム）には、拡張機能「Hive AI検出器」をインストールできます。無料で使えます。

この機能は、テキスト、画像、音楽、動画など、さまざまなコンテンツがAIで作成されたかどうかをパーセントで判定してくれます。

また、ウェブサイトで画像を入力し、結果を即座に表示できるアプリもあります。Windowsの最新情報やオンラインソフトの定番サイトである「窓の杜」では、そのアプリ（フリーソフト）で判別する方法について紹介しています

画像の人物の目の中にある星を探して見分ける方法

2024年7月、イギリスのハル大学で行われた王立天文学会の全国天文会議で、ハル大学大学院修士課程の Adejumoke Owolabi 氏が研究成果を発表しました。この方法は、「人物の写真の目をよく観察すると、本物とAIによって作成されたディープフェイク画像を判定できる」というものです。

発表によると、「本物の写真では、眼球に写った反射は両目に同じ反射が見られます。それが一致しない場合は、AIによるディープフェイク画像の可能性が高い」とのことです。この研究は、天文学で銀河の形態を測定する方法を応用して調査し、この方法を得たそうです。 この内容は、2024年7月17日に王立天文学会（Royal Astronomical Society）の「News & Press」に掲載された記事「Want to spot a deepfake? Look for the stars in their eyes（ディープフェイクを見つけたい？ 彼らの目の中にある星を探そう）」に詳しく書かれています

偽情報を見抜く技術の一般利用と法規制の確立を望みます

偽情報を見抜く技術はどんどん開発されています　商業ベースでの開発も進んでいます　多くの人がこれを活用して、社会問題を未然に防ぐことができれば良いのですが、まだ一般的には普及していません　無防備な人が多いと、事件を防ぐことは難しいです　リテラシーの向上をもっと図るべきです　また、早急に各国の法規制を確立し、AIの進化を受け入れる社会を作ることが必要です