ディープフェイクの標的にされたBLACKPINK REUTERS/Kim Soo-hyeon
＜同じ学校の生徒同士、あるいは生徒が教師をディープフェイクの犠牲にする事例も＞
韓国社会で最近大きな問題になっているのが、AIによるディープラーニングで生成されたフェイク動画、いわゆる「ディープフェイク」だ。AIを利用したフェイク動画は、2020年の米大統領選挙や、ロシアによるウクライナ侵攻などで世界中の人びとが目にするようになったが、今、韓国で問題になっているのは、女性の顔を性的な動画と合成したものが、秘匿性の高いSNSテレグラムを経由して拡散していることだ。
米国サイバーセキュリティ業者であるセキュリティヒーローが最近発表した「2023ディープフェイクの現状」と題された報告書によると、2023年ディープフェイクの性的コンテンツを掲載する10サイトの映像9万5820件を分析した結果、全世界に配布されているディープフェイクわいせつ画像で合成された人物の実に53%が韓国人だったという。
こうしたディープフェイクの被害者の中にはBLACKPINK、TWICE､、NewJeansといった人気K-POPアイドルから、ごく一般の学生、女性軍人、教師、さらには中学生といった未成年者まで含まれいた。しかもこうした一般の被害者は、身の回りの男性が加害者だった事例が多く、多くの女性たちはいつ自分が被害にあうかもしれないと不安に駆られている。韓国メディア聯合ニュース、KBS、MBC、時事ジャーナルなどが報じている。
8月末から9月にかけて、韓国の音楽芸能事務所はディープフェイク問題への対策を発表した。先頭に立ったのはTWICE、ITZY、NMIXXなどが所属するJYPエンターテインメント。8月30日にファンコミュニティを通じて「最近当社アーティストを対象にしたディープフェイク映像物が拡散している状況に対して非常に深刻に受け止めている」として「これは明白な不法行為であり、現在関連資料を全て収集しているところで、専門法律事務所と共に強力な法的対応を進行中だ」と発表した。
これに続くかのようにBLACKPINKの所属事務所YGエンターテインメントも9月2日にディープフェイク問題への対応として「当社はアーティストの人格と名誉に深刻な危害を及ぼすすべての不法行為に対して持続的に強硬で厳正に対応する予定」と法的対応を発表した。さらに3日には(G)I-DLEの所属事務所キューブエンターテインメントも「ディープフェイクに対して持続的なモニタリングと共に資料を収集中だ」として「ディープフェイク制作者および配布者には容赦なく強力な法的措置を取る予定」と明らかにした。また、これらに先だってNewJeansの所属事務所ADORも6月、「アーティストの肖像を合成したフェイク画像を流布·販売するなど、とうてい容認できない行為をした者に対して警察で捜査が進行しており、その中の一部は1審判決で刑事罰が決定されたことを確認した」と警告していた。
【動画】韓国ネット配信で活躍するカン・ドンランら女性インフルエンサーたち
ディープフェイク問題、発端はソウル大学から
もちろん、K-POPアイドルなどの著名人だけが標的になっているわけではない。一般の女性について被害が大きく報道されたのは被害者・加害者友にソウル大学の出身者という「ソウル大学虚偽わいせつ物製作流布事件」と呼ばれる事件だ。
この事件は、2020年にわいせつ動画をSNSで共有して韓国を震撼させた「n番部屋事件」に関して調査報道を行った女性ジャーナリスト、ウォン・ウンジ氏が潜入取材をして明るみになった。ウォン氏は「美貌のソウル大出身の妻と結婚した30代男性」という設定のアカウントでテレグラムに潜入。2022年7月から2024年4月まで加害者のパク（40）とコミュニケーションを続けて信頼関係を築いたという。パクはウォン氏の語る仮想妻に執着し「私が妻を強姦しても大丈夫か」と尋ね、さらに「下着姿の写真を送ってほしい」「実際の下着をくれ」とまで要求した。これに対してウォン氏は「本当に譲ってやる」と約束してパクを誘い出し、地下鉄2号線のソウル大入口駅近くに現れたパクが下着の入った紙袋を持ち出したところで警察が逮捕したという。
その後の警察の調べで、逮捕されたパクはソウル大の後輩女子学生を含め、48人の女性を相手に計1852件の合成写真や映像を制作しテレグラムに投稿したことが分かった。彼は、ソウル大学に10年以上通い、被害者たちと知り合った後、カカオトークのプロフィール写真などで合成わいせつ物を制作。投稿したディープフェイクの中には、未成年者のものも含まれていることが明らかになった。パクがテレグラムのチャットルームに投稿した映像は100件に達し、映像の大部分はソウル大学の同窓である共犯のカン（31）が制作したという。カンは犯行当時、ソウル大学の大学院生で、約28人の女性を対象に卒業写真やSNS写真を裸の写真などに合成したディープフェイクを制作し、パクに提供していた。
お前の知人を傷つけてやる
このソウル大学の事件をきっかけとして、インチョン市にあるインハ大学でもテレグラムに1200人が参加するディープフェイクのチャットルームが開設されていることが発覚。これは2020年に開設され、被害女性は把握された者だけで30人を超え、このうち3分の2がインハ大生で、いずれも学内の有名サークル所属だったという。被害者の一人で卒業生のユ氏は、あるとき「テレグラムのチャットルームにあなたの顔を合成した写真と個人情報が共有されている」という匿名のSNSメッセージを受け取った。ユ氏がチャットルームに入ってみると、連絡先や学生番号などの個人情報とともに、女性の裸の写真にユ氏の顔を合成したディープフェイクが数十個アップされているのを確認したという。
ユ氏がチャットルームを訪れた後、彼女のアカントには「チャットルームで見た」「本人に間違いない」というメッセージが飛んできて、通話をかけてもユ氏が出ないといきなり罵声を残す者もいたという。これをユ氏が無視していると加害者たちはユ氏の知人たちの写真でディープフェイク画像を作成し、「お前のせいで彼女たちが被害を受ける」「凶器でお前の知り合いを傷つけてやる」と脅迫するまでに至った。ユ氏はこうした脅しにも屈せず、自分のディープフェイク写真をダウンロードして10回連絡をしてきた男1人の正体を突き止めて、警察に告発した。この男は性暴力処罰法違反の疑いで起訴され、懲役1年が宣告されたという。ユ氏が自分のディープフェイク画像があることを知らされてから1年2カ月が経っていた。
女性兵士のディープフェイク＝「軍需品」
このようにディープフェイクが問題化する中で、韓国軍の女性兵士も犠牲者になっていることが明るみになった。問題のチャットルームでは、女性兵士のディープフェイク画像を「軍需品」と呼称しており、「女性軍人を許すことはできない」「剥がして壊す」というメッセージも掲示されていた。
参加するためには「軍需品」にしたい女性兵士の軍服写真に加えて電話番号と所属、階級と年齢といった個人情報を運営者に提出したり、現役軍人であることを証明しなければならないという。あるいはディープフェイク職人か、管理者が指定した女性兵士に陵辱的メッセージを送りその反応をキャプチャした画像を送ることで加入が許可された。
ただ、先のインハ大学のディープフェイク事件が明るみになって、ディープフェイクがマスコミなどで問題化されると、管理者らは潜入取材などを恐れたのか、「当分の間、ディープフェイク職人あるいは管理者が指定した『陵辱メッセージ』を送るミッションを遂行した人以外には新規加入は受け付けない」と追加公示を掲げた。
女子中学生、そして教師までも
ディープフェイクの被害は、義務教育の場にまで広がっていた。中学生のAさんは最近、友達からディープフェイクで作成したわいせつ画像のチャットルームに、自分と友達の写真が掲載されていると言われたという。そのチャットルームは参加者が2000人を超えていた。
「ニュースでは見ていましたが、周りの人たちも皆自分が被害を受けるとは思いませんでした。被害を受けた子たちが、本当におびえた表情で学校に来てました」
しかし、警察では合成されたわいせつ物が確認されなかったと言われ、何も対応してもらえなかったという。
「両親と（警察署に）行ってきたんです。でもそこでは「裸体と合成されたわけではないから何も解決できることがない」と言われて......」
一方で加害者側が中学生だったという事件も起きている。しかも被害者は担任の女性教師だった。教師のBさんは7月、SNSでメッセージを受け取った。担任するクラスの生徒がBさんの写真でディープフェイク画像を作成したという内容だった。
「生徒がこのようなことをしたということ自体が私はちょっと信じがたい状況で......」
問題の生徒はディープフェイク画像作成の事実を認め、強制転校処分を受けた。ただ転校した先の学校は歩いてわずか10分ほどしか離れていなかったという。
「他の子たちも信じられないんです。回して見たんじゃないかという気もするし......」
一連のディープフェイクによる被害を重く見た韓国教育部（日本の文科省に相当）は、地方の教育庁を通じて調査した結果、今年1月から8月27日までの期間に、学生および教員のディープフェイク被害件数が学生被害が186件、教員被害が10件、計196件確認されたと明らかにした。教育部は学生・教員の不安感を解消するために緊急タスクフォースを設置する一方、関係部署による対策会議などを経て10月中に教育分野ディープフェイク対策を策定するという。
批判の高まりに、警察もテレグラフを調査
一連のディープフェイク問題が社会問題化したことで、これまで本腰を入れて対応してこなかった警察も、重い腰上げて対策に乗り出し始めた。
これまで警察がこの問題について本格的な捜査をしなかったのは、ディープフェイク画像の配布が、秘匿性の高いSNSテレグラムによって行われているという部分が大きい。また最高裁の量刑基準ではディープフェイクを制作、配布した場合、加重処罰まで受けても最大懲役2年6カ月に止まる。さらに被害者が成人の場合は、現行法では制作した者だけが処罰対象で、所持や視聴については処罰できないという問題もある。
ただ、意外なところから状況に変化が起きた。8月24日、フランス政府はテレグラム創業者であるパーベル・ドゥロフCEOをパリで逮捕。オンライン性犯罪、麻薬流通など各種犯罪の幇助および共謀した疑いで起訴した。ドゥロフは25日に保釈されたが、フランスからの出国は禁じられた。
こうしたなか、警察庁のウ·ジョンス捜査本部長は9月2日、定例記者懇談会で、「フランスで行ったように、ソウル警察庁がテレグラム法人に対して立件前の調査に着手した。容疑は今回の犯罪（ディープフェイク画像などの犯罪）幇助に対するものだ」と明らかにした。
ウ本部長は「テレグラムはアカウント情報などを我われだけでなく米国など他の捜査機関にも提供しない」として捜査上の困難を認めたが、その一方で「テレグラムを利用した犯罪を今まで全く検挙できなかったわけではない」として「我われなりの捜査手法があり最善を尽くして捜査している。フランス捜査当局や国際機関などと協力し、この機会にテレグラム捜査ができる方法を探してみる」と語った。
テレグラム側、一部画像の削除に応じたが
また、韓国の放送通信について審議する放送通信審議委員会は、従来、有害コンテンツの削除要請を無視してきたテレグラム側が一転して削除に応じ、さらに連絡用のメールアドレスを通知してきたと発表した。放送通信審議委員会は、インターネット上のコンテンツについて、北朝鮮関連のものや性的なものなどを確認した際に韓国内からの接続を遮断するかどうかを決定している公的機関だ。
放送通信審議委員会は9月3日、「テレグラムが東アジア地域関係者による公式Eメール書簡を送付し、緊急削除を要請したデジタル性犯罪映像物25件を削除し、謝罪の意と共に信頼関係構築の意思を明らかにしてきた」として、「事態の深刻性を認識しディープフェイク問題を解決することはもちろん、デジタル性犯罪の撲滅のための強固な協力関係を固めていくことを期待する」と話した。
一方で、プラットフォーム企業が違法・有害コンテンツを積極的に削除しない場合、厳重処分しなければならないという意見が政治家から上がってきており、現在開会中の韓国国会でも審議の争点になると見られている。与党・国民の力のコ・ドンジン議員は当事者の同意を得ていないディープフェイク映像の制作から販売・配布・利用までを幅広く処罰する包括的ディープフェイク防止および処罰法を発議。最大野党・共に民主党のチョン・ジンスク議員は、匿名性が保障される情報通信サービスを利用した性犯罪を加重処罰する性暴力犯罪の処罰などに関する特例法改正案を発議している。
2019年のバーニングサン事件における芸能人の盗撮問題、そして2020年のn番部屋事件と、韓国では女性を対象としたわいせつ動画などの問題が過去にも社会的な問題となってきたが、こういった事件に対して抜本的な法整備が行われてこなかったことが、今回のディープフェイク問題を引き起こした遠因と言われている。果たして、今度のディープフェイク問題では、抜本的な解決ができるかどうか、今後の展開が注目される。
【動画】ディープフェイク性被害を受けた中学生
学生や教師など学校関連のディープフェイク被害者が500人を越えるという調査結果も出ている。 KBS News / YouTube
鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。
