ビバリーヒルズ統一学区の教育長マイケル・ブレギー。学区内にあるビバリービスタ中学校では5人の男子生徒が女子クラスメートの露骨なAI生成画像を作成し共有していたことが発覚し、学校側が2月に警察へ通報した（写真：Tracy Nguyen／The New York Times）ウェストフィールド公立学校は3月下旬、ニュージャージー州ウェストフィールドにある地元の高校、赤レンガ造りの複合施設で定例理事会を開催した。だが、ドロタ・マニにとって、その会議は「定例」で済まされるようなものではなかった。
男子生徒が拡散したフェイク画像に学校は…
マニの14歳の娘、フランチェスカを含むウェストフィールド高校の10年生の女子生徒数名が、クラスの男子生徒が人工知能（AI）ソフトウェアを使って自分たちの露骨な性的画像を捏造し、それらを拡散していると学校側に通報したのは昨年10月。
それから5カ月が経過しても、マニ一家をはじめとする複数の家族によると、学区当局はフェイク画像問題に公的に対処することも、AIの悪用を防止するべく学校の方針を更新することも、ほとんどしていない。
学区当局は声明で、事件を知った時点で「直ちに調査を開始」するとともに警察に通報して助言を求め、10年生のクラスにグループカウンセリングを実施したと述べた。
「どの学区も、生徒たちがいつでもどこでも利用できるAIなどのテクノロジーがもたらす課題や影響と格闘している」。ウェストフィールド公立学校の教育長レイモンド・ゴンザレスは声明で、そう述べている。
昨年、ChatGPTをはじめとするAIチャットボットの突然の人気に直面したアメリカ全土の学校は、生徒のカンニングを阻止しようとこれらテキスト生成ボットの封じ込めに躍起となった。そして今度は、さらに憂慮すべきAI生成画像が学校を揺るがすようになっている。
いくつもの州で男子生徒たちが、広く出回っている「ヌード化」アプリを使って服を着た女子クラスメートの実際の写真を、AIが生成した胸や性器の露出した生々しくリアルな性的画像に作り替えているのだ。
進学や就職にもリスクをもたらす可能性
学校や警察の報告によると、男子生徒たちはフェイク画像を学校の食堂やスクールバスの中、あるいはSnapchat（スナップチャット）やInstagram（インスタグラム）などのグループチャットで共有したケースもあった。
電子的に変更されたこうした画像は「ディープフェイク」もしくは「ディープヌード」として知られ、破滅的な影響を及ぼしうる。児童の性的搾取に関する専門家は、同意なく生成したAI画像を使って若い女性に嫌がらせをし、屈辱を与え、いじめることは、精神衛生、評判、身体的安全を害するだけでなく、進学や就職にもリスクをもたらす可能性があると指摘する。
3月には連邦捜査局(FBI)が、人物特定可能な未成年者が露骨な性的行為に及んでいるリアルなAI生成画像も含め、コンピューターで生成された児童を性的に虐待する素材を配布することは違法だと警告した。
それでも、生徒が学校内で搾取的なAIアプリを使用するという行為は非常に新しく、学区によって対応の準備度合いに差が見られる。生徒の安全確保が危うくなりかねない状態だ。
カリフォルニア州ビバリーヒルズのビバリービスタ中学校では、5人の男子生徒が女子クラスメートの露骨なAI生成画像を作成し共有していたことが発覚し、学校側が2月に警察へ通報した。学区の文書によると、その2週間後、教育委員会は5人の生徒の退学処分を承認した。
ビバリーヒルズ統一学区の教育長マイケル・ブレギーは、自分を含む学校指導者たちは、生徒が同級生の性的に際どい画像を作成し拡散することを学校として許してはならないという全国的な前例を作りたかったと述べた。
素材はSNSからコピーした写真
ビバリーヒルズとウェストフィールドという小さな富裕層コミュニティーにあるこれらの学校は、ディープフェイク問題を公に認めた最初の学校だが、学区内保護者との連絡、教育委員会の会議、議会の公聴会、裁判所の資料などに記された事件の詳細によって、学校による対応の違いが浮き彫りとなっている。
被害女子とその家族が男子生徒とその保護者を相手取って起こした訴訟の裁判資料によると、ウェストフィールドの事件は、昨年夏、高校の男子生徒が非公開アカウントを持つ15歳の女子クラスメートにInstagramでフレンド申請を行ったことから始まった（マニ親子はこの訴訟には関与していないと述べている）。
女子生徒が申請を受け入れると、その男子生徒は彼女と複数の女子生徒の写真をソーシャルメディアアカウントからコピー。AIアプリを使って女子生徒の性的に生々しい「完全に特定可能な」画像を作成し、Snapchatのグループを通じて同級生と共有した。
ウェストフィールド高校は10月下旬に調査を開始した。フランチェスカ・マニの話では、学校側は一部の男子生徒を静かに脇に呼んで事情聴取を行う一方で、ディープフェイク被害を受けたフランチェスカをはじめとする10年生の女子生徒を校内放送で名前を呼んで職員室に呼び出した。
ウェストフィールド高校の校長メアリー・アスフェンディスはその週、保護者にメールを送り、「偽情報が広まっている状況」について注意を喚起した。メールは続いて、ディープフェイクを「非常に深刻な出来事」と説明。
画像が共有された可能性を生徒たちが懸念しているにもかかわらず、学校としては「作成された画像はすべて削除されており、拡散されていない」と考えていると述べた。
1～2日間の停学処分では不十分
ドロタ・マニは、フェイク画像を生成したとして告発された男子生徒は1〜2日間の停学処分になったとウェストフィールドの学区当局から伝えられたと話した。
間もなくして、マニ親子は事件について公に声を上げ始め、学区や州の議員、連邦議会に対して、際どいディープフェイクを具体的に禁止する法律や政策を制定するよう求めるようになった。
現在15歳のフランチェスカ・マニは最近の取材で、「私たちは学校方針のアップデートを始める必要がある」と話した。「AIに関する方針が学校にあれば、私のような生徒は守られていたはずだ」。
ドロタ・マニを含む保護者は昨年秋に、今回の画像をめぐってウェストフィールド高校にハラスメントの苦情を申し立ててもいる。しかし3月に開かれた会議中、マニは教育委員会に対し、高校はまだこの事件に関する正式な報告書を保護者に提出していないと述べた。
ウェストフィールド公立学校は、生徒の個人情報保護の観点から懲戒処分については言及できないと語った。教育長のゴンザレスは声明で、「生徒を教育し、こうした新しいテクノロジーが責任を持って使用されるようにするための明確なガイドラインを設ける」ことで、学区内の取り組みを強化していると述べた。
AIが脅かす生徒の安全
ビバリーヒルズの学校は公的により強硬な立場を取っている。
2月にビバリービスタ中学校の8年生の男子生徒が12～13歳の女子クラスメートの性的な画像を作成していたことが発覚すると、学区当局はすぐに「AIのおぞましい悪用」という件名のメッセージを学区のすべての保護者、職員、中学生、高校生に送信。生徒によるAIの「不穏で不適切な」使用を「直ちに止める」ため、地域の人々に学校と情報を共有するよう促した。
同時に、学区当局は厳しい処罰を科す用意があるとも警告。「このような性質のAI生成画像を作成、配布、所持していることが判明した生徒は、退学勧告を含む懲戒処分の対象となる」とメッセージには記された。
教育長のブレギーは、AIの悪用で生徒は学校が安全ではないと感じるようになっており、学校と議員は急いで行動する必要があると語った。
（執筆：Natasha Singer記者）
（C）2024 The New York Times
鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。
