画像ハッシュ化技術を​活用した​ NCMEC と​ Google の​取り組み

NCMEC と、​ご自身の​役割に​ついて​教えてください。

私は​ 20 年以上​ NCMEC に​在籍しており、​これまでに​組織の​進化、​そして​子ども​たちを​取り巻く​脅威や​課題の​変化を​最前線で​目の​あたりに​してきました。​NCMEC での​キャリアの​スタートは、​CyberTipline の​アナリストでした。

CyberTipline は、​児童搾取の​おそれが​ある​事案を​一般市民が​通報できるよう、​1998 年に​創設されました。​当時の​通報内容は、​オンライン上で​子どもが​不適切に​声を​かけられていると​心配する​保護者からの​相談や、​CSAM が​含まれる​ウェブサイトを​見つけた​方からの​報告が​ほとんどでした。​その後、​米国で​連邦法が​成立し、​米国の​テクノロジー企業は​自社の​システムに​おいて​明らかな​ CSAM が​見つかった​場合、​CyberTipline に​報告する​ことが​義務付けられました。

当初、​児童の​搾取に​関する​通報は​週に​ 100 件程度でした。​それが​ 2001 年に​初めて​テクノロジー企業から​通報を​受けて​以来、​その数は​増え続け、​2021 年には​ 1 日あたり約 7 万件もの​新しい​通報が​届くようになったのです。​中には​一般の​方からの​ものも​ありますが、​その​大半は​テクノロジー企業からに​よる​ものです。

NCMEC は、​CSAM 対策に​取り組むオンライン企業を​どのように​支援していますか。

法律上、​企業が​積極的に​対策を​講じる​ことは​義務付けられていません。​あくまで、​CSAM コンテンツを​検出した​場合や、​そのような​コンテンツを​認識した​場合に​報告の​義務が​ある、と​いう​ことです。​これが、​長年に​わたって​ CyberTipline レポートが​増加してきた​要因です。​しかし​最も​大きく​報告数が​伸びたのは、​ここ 5 年以内の​ことです。​この​爆発的とも​いえる​増加は、​多くの​テクノロジー企業が​ CSAM を​積極的に​検出、​削除、​報告する​取り組みを​自主的に​行っている​ことに​起因していると​考えられます。

全米​行方​不明・被搾取児童センターが​運営する​主要な​プログラムに、​ハッシュ共有プラットフォームが​あります。​これは、​業界各社が​情報を​提供する​ための​ものと、​特定の​ NGO が​提供する​ための​もので​構成されています。​NCMEC は​ NGO ハッシュ共有プラットフォームを​介して、​関心を​持つテクノロジー企業に​対し 3 重に​精査された​確認済み CSAM の​ハッシュ値を​ 500 万件以上​提供しています。​これに​より、​各企業が​ネットワーク上の​ CSAM 撲滅への​取り組みを​支援しています。​Google を​含む​多くの​大企業が​この​リストを​利用しており、​自社の​プラットフォームから​ CSAM を​排除する​ことに​積極的に​取り組んでいます。​また、​この​リストに​よって、​児童保護に​取り組む他の​信頼できる​ NGO も、​NCMEC の​ハッシュ プラットフォームを​通じて​テクノロジー業界に​ハッシュを​提供できるようになります。​テクノロジー企業が​各 NGO と​個別に​連携しなければならない​手間を、​最小限に​抑えるのが​狙いです。

また、​私たちは、​企業同士で​ CSAM ハッシュを​共有できる​業界ハッシュ共有プラットフォームも​提供しています。​CSAM を​積極的に​検出する​意思と​能力の​ある​企業には、​その​ために​必要な​ツールを​すべて​提供し、​CSAM ハッシュを​企業間で​共有できるように​しています。​Google は​この​プラットフォームで​最大の​貢献者であり、​リストに​ある​ハッシュの​総数の​約 74% を​占めています。

通報の​件数が​これほど​多くなると、​同じ​画像が​何度も​通報される​ことも​珍しく​ありません。​企業が​ハッシュ値を​使用して​既知の​コンテンツを​検出している以上、​通報が​重複するのは​当然の​ことです。​しかし、​既知の​コンテンツが​増える​中、​NCMEC に​とってより​重要なのは、​オンラインで​生成、​共有されている​新しい​コンテンツを​識別できるようする​ことなのです。

Google の​ Hash Matching API は、​NCMEC での​ CyberTipline レポートの​優先度の​設定に​有用です。​この​プロジェクトが​始まった​経緯に​ついて​詳しく​教えてください。

ハッシュ共有プログラムの​成功は、​膨大な​通報量と​いう​まったく​新しい​課題を​生み出しました。​これは​非常に​大きな​問題でした。​NCMEC のような​非営利団体には、​これほどの​量に​対応できる​計算能力は​ありません。​NCMEC が​ Hash Matching API ツールの​開発に​おいて​ Google の​支援を​切望し、​その​多大な​貢献に​感謝しているのは、​まさに​こうした​理由からです。

NCMEC が​ 2020 年に​受け取った​ CyberTipline レポートは​ 2,100 万件にまでの​ぼり、​その​一つ​一つに​複数の​画像や​動画が​含まれている​可能性が​あります。​実際、​この​ 2,100 万件の​レポートには、​7,000 万件近くの​児童への​性的虐待の​画像と​動画が​含まれていました。​その​中には​当然、​重複も​存在します。​NCMEC に​とって​完全に​一致する​画像を​検出する​ことは​容易ですが、​視覚的な​類似を​大規模かつリアルタイムに​検出し、​初見の​画像を​特定して​優先順位を​付ける​ことまでは​できません。​しかし、​この​高度な​検知こそが、​今この​瞬間も​性的虐待に​苦しんでいる​児童を​特定する​際、​極めて​重要な​鍵と​なるのです。

Hash Matching API は​ NCMEC に​どのような​メリットを​もたらしましたか。

私たちには​非常に​重要な​任務が​あります。​それは、​取得した​重要な​情報を​精査し、​一刻も​早く​法執行機関へ​引き継ぐ​ことです。​この​ツールの​メリットの​一つは、​CyberTipline レポートの​価値を​飛躍的に​高める​新たな​手段が​得られた​ことです。

NCMEC には、​児童への​性的虐待の​画像と​動画を​くまなく​調べて​ラベルを​付けると​いう​作業プログラムが​あります。​たとえば、​「これは​ CSAM」、​「これは​ CSAM ではない」、​「これは​人物の​年齢を​特定し難い」と​いった​ラベルです。​しかし、​ご想像の​とおり、​昨年だけでも​ 7,000 万件ものファイルが​あり、​その​すべてに​ラベルを​付ける​ことは​到底不可能です。​そこで​この​ API が、​過去データとの​照合を​可能に​してくれます。​ある​ファイルに​タグを​付けると、​視覚的に​類似する​ファイルを​ API ですべて​識別できるので、​リアルタイムで​適切な​タグを​付けられます。​その​結果、​2,600 万件を​超える​画像に​タグを​付ける​ことができました。

これに​より、​法執行機関が​優先度に​基づいて​レポートを​審査できるようになり、​法執行機関に​送る​レポートの​価値が​高まります。​また、​初見の​画像を​特定する​ためにも​役立ちます。​こうした​画像の​中には、​世界の​どこかで​今現在、​性的虐待の​犠牲に​なっている​児童が​写っている​ことも​少なく​ありません。​こと​わざに​あるとおり、​干し草の​山から​針を​探すような​ものですが、​この​場合、​針は​助けを​必要と​している​一人の​子どもなのです。​Google の​ツールの​おかげで、​私たちは、​今まさに​助けを​必要と​している​児童の​画像に​狙いを​定める​ことができるようになりました。

CyberTipline レポートの​処理や​ CSAM コンテンツの​分析に​あたる​ NCMEC の​担当者の​心身面に​おいては、​どのような​影響が​ありましたか。

この​ CSAM 検出ツールに​よって、​スタッフが​何度も​同じ​画像を​見る​必要が​なくなりました。​性的虐待を​受けている​児童の​画像が​あっても、​その​児童は​現在すでに​成人している​可能性が​あります。​こうした​画像は​ネット上で​半永久的に​公開され続け、​個人が​継続的に​被害を​受ける​ことに​つながります。​画像に​タグを​付けられるようになった​ことで、​今まさに​被害に​あっている​子ども​たちの​救出に​焦点を​当てることができ、​また​そうした​違法画像の​拡散も​防ぐことができるようになります。

私たちが​ここに​いる​理由は​その​ためです。​こうした​子ども​たちを​助けたいのです。​この​タグ付けは、​スタッフの​心身の​健康を​維持する​うえでも​画期的な​改善と​なりました。​すでに​確認済みの​有害画像を、​何度も​見る​必要が​なくなったからです。

この​取り組みは、​この​種の​オンライン コンテンツの​撲滅を​図る​テクノロジー企業全般に​とって、​どの​ように​役立ちますか。

Google が​ CSAM 検出技術を​各企業に​提供して​世界的な​ CSAM 対策を​支援している​こと、​Hash Matching API が​ NCMEC だけでなく​多くの​組織に​直接的な​影響を​及ぼしている​事実は​広く​知られています。​どの​テクノロジー企業も、​NCMEC の​プロセスが​さらに​合理的で​効率的な​ものになった​ことの​恩恵を​受けています。​CyberTipline レポートは、​この​ツールが​なかった​ときよりも​迅速に、​付加価値の​高い​方​法で​対応され処理されています。

NCMEC は、​テクノロジー企業、​法執行機関、​被害者と​その​ご家族の​ための​中心的な​リソースです。​問題と​対峙し、​解決策を​導き出すうえで、​非常に​独特な​視点を​持っています。​CyberTipline が​ある​おかげで、​新たに​作成された​ CSAM や​既存の​ CSAM が​オンラインで​出回っている​ことを​すぐに​把握でき、​こうした​レポートは​すべて​法執行機関に​提供されます。​何よりも​大切なのは、​この​活動の​先には​性的な​被害を​受け、​搾取された​児童が​現実に​いる​ことを、​私たちは​決して​忘れては​なりません。

性的虐待を​受け、​その​様子が​動画や​画像と​して​記録されてしまった​児童が​ 2 万人以上​いることが​わかっています。​被害者は、​もちろんまだ​未成年の​場合も​あれば、​成人している​場合も​あります。​そして、​被害の​苦しみは​今も​続いているのです。​だから​こそ、​こうした​画像が​出回る​ことを​可能な​限り抑止し、​画像を​削除する​ために​力を​尽く​すことが​非常に​重要なのです。

一般には​あまり​理解されていない​ことかもしれませんが、​既知の​ CSAM 画像が​「古い」または​「再度出回っている」と​見なされる​ことで、​軽視されてしまう​傾向が​あります。​私たちは、​そこに​写っているのは​実在する​児童である​こと、​そして​ 2 万人以上の​児童が​傷を​癒やし、​自分の​人生を​取り戻そうと​している​現実を、​強く​訴え続けています。​Google を​はじめと​する​企業が、​決して​あってはならない​画像を​削除する​ために​あらゆる​取り組みを​行っていると​いう​ことが、​被害者の​方々の​安心感に​つながっています。

児童への​性的虐待の​画像や​コンテンツを​見つけた​場合は、​全米​行方​不明・被搾取児童センター​（NCMEC）、​または​世界各地の​関係​当局に​通報してください。

Google は、​オンライン上の​児童性的虐待と​搾取の​撲滅を​目指し、​Google の​サービスに​おける​児童性的虐待の​コンテンツ​（CSAM）の​拡散防止に​取り組んでいます。​詳しくは、​児童の​保護に​関する​ウェブサイトを​ご覧ください。