NCMEC, Google et la technologie de hachage d'images

Que pouvez-vous nous dire sur le NCMEC et sur votre rôle ?

Je travaille au NCMEC depuis plus de 20 ans. J'ai assisté de près à l'évolution de cet organisme et aux changements concernant les défis et menaces qui pèsent sur nos enfants, et sur leur sécurité. J'ai commencé ma carrière ici, en tant qu'analyste CyberTipline.

Le dispositif CyberTipline a été créé en 1998 pour permettre au public de signaler des cas potentiels d'exploitation d'enfants. À l'époque, nous recevions des signalements de parents inquiets qu'un adulte aborde leur enfant en ligne de manière inappropriée, et de personnes qui découvraient des sites Web comportant des contenus d'abus sexuels sur mineurs. Une loi fédérale a ensuite été adoptée aux États-Unis pour que les entreprises américaines de la tech signalent au dispositif CyberTipline tout incident évocateur de contenus d'abus sexuels sur mineurs qui aurait été détecté sur leurs systèmes.

Au début, nous recevions une centaine de signalements d'exploitation d'enfants par semaine. Le premier rapport que nous avons reçu d'une entreprise technologique date de 2001. En 2021, nous recevions environ 70 000 signalements par jour. Certains d'entre eux proviennent du public, mais la majorité sont envoyés par des entreprises technologiques.

Comment le NCMEC aide-t-il les entreprises à lutter contre les contenus d'abus sexuels sur mineurs sur Internet ?

La loi n'oblige pas les entreprises à agir proactivement. Si elles détectent des contenus d'abus sexuels sur mineurs ou en sont informées, elles sont tenues de les signaler. Ce cadre règlementaire est à l'origine de la forte progression du dispositif CyberTipline au fil des ans. Mais c'est au cours des cinq dernières années que le nombre de signalements a le plus augmenté. Cette explosion peut être attribuée aux mesures que de nombreuses entreprises technologiques déploient volontairement pour identifier, supprimer et signaler ces contenus de manière proactive.

L'un des programmes phares du NCMEC comprend des plates-formes de hachage, dont certaines sont destinées aux entreprises, tandis qu'une autre reçoit les contributions de certaines ONG.
Grâce à la plate-forme de partage de hachage pour les ONG, le NCMEC fournit aux entreprises technologiques intéressées plus de cinq millions de valeurs de hachage concernant des contenus d'abus sexuels sur mineurs confirmés après trois phases de validation. Le but : les aider à lutter contre ce type de contenus sur leurs réseaux. De nombreuses grandes entreprises, dont Google, ont recours à cette liste et prennent des mesures proactives pour supprimer les contenus d'abus sexuels sur mineurs de leurs plates-formes. Cette liste permet également à des ONG de renom dédiées aux enfants de partager leurs hachages avec le secteur technologique via la plate-forme de hachage du NCMEC, afin d'éviter à ces entreprises de devoir s'adresser individuellement à chaque ONG.

Nous proposons également une plate-forme sectorielle qui permet à certaines entreprises d'échanger leurs hachages de contenus d'abus sexuels sur mineurs. Nous veillons à ce que toute entreprise désireuse et en mesure de détecter ces contenus de manière proactive dispose des outils nécessaires pour le faire, et à ce que les entreprises puissent échanger leurs propres hachages. Avec environ 74 % du nombre total de hachages, Google est le plus grand contributeur de cette plate-forme.

Comme vous pouvez l'imaginer, vu le nombre de rapports que nous recevons, les mêmes images sont signalées plusieurs fois. C'est d'ailleurs tout à fait normal, puisque les entreprises utilisent des valeurs de hachage pour détecter des contenus connus. Mais ces contenus sont de plus en plus nombreux, alors qu'il est plus important pour le NCMEC de pouvoir identifier les nouveaux contenus produits et partagés en ligne.

L'API Hash Matching de Google a aidé le NCMEC à hiérarchiser les signalements de CyberTipline. Comment ce projet a-t-il commencé ?

La réussite du programme de partage de hachage nous a placés devant un nouveau défi : la gestion du nombre de signalements. Un organisme à but non lucratif comme le NCMEC ne dispose pas de la puissance de calcul nécessaire pour traiter un tel volume. C'est pourquoi nous étions ravis et reconnaissants de recevoir l'aide de Google pour développer l'API Hash Matching.

En 2020, nous avons reçu 21 millions de signalements de CyberTipline, chacun pouvant contenir plusieurs images et vidéos.
Nous avons ainsi réceptionné près de 70 millions d'images et de vidéos d'abus sexuels sur mineurs. Certaines apparaissaient plusieurs fois, mais bien que le NCMEC puisse facilement détecter les correspondances exactes, il nous serait impossible de détecter les visuels similaires à grande échelle et en temps réel pour identifier les nouvelles images et les traiter en priorité. Cette analyse est pourtant essentielle quand il s'agit d'identifier les enfants qui font actuellement l'objet d'abus sexuels.

Quels avantages l'API Hash Matching a-t-elle apportés au NCMEC ?

Nous avons une mission très importante : recueillir ces informations essentielles et les communiquer le plus rapidement possible aux forces de l'ordre.
Grâce à cet outil, nous disposons d'un nouveau moyen extrêmement utile d'exploiter les signalements de CyberTipline.

Notre travail consiste à analyser et à classifier toutes les images et vidéos d'abus sexuels sur mineurs. Nous indiquons par exemple s'il s'agit ou non de contenus d'abus sexuels sur mineurs, ou s'il est difficile d'identifier l'âge de l'enfant ou de la personne concernée. Comme vous pouvez l'imaginer, avec 70 millions de fichiers sur une seule année, il est impossible de tout classifier. L'API nous permet de les comparer entre eux. Quand nous attribuons un tag à un fichier, l'API nous permet d'identifier tous les fichiers visuellement similaires, auxquels nous pouvons ensuite ajouter des tags en temps réel. Nous avons ainsi pu catégoriser plus de 26 millions d'images.

Cela permet d'enrichir les signalements que nous envoyons aux forces de l'ordre, pour qu'elles puissent déterminer ceux à examiner en priorité. L'API nous aide également à identifier les images encore jamais vues. Ces images concernent souvent un enfant qui est actuellement victime d'abus sexuels quelque part dans le monde. Parfois, c'est comme chercher une aiguille dans une botte de foin, mais en l'occurrence, l'aiguille est un enfant qui a besoin d'être sauvé. L'outil de Google nous permet de donner la priorité aux images représentant des enfants en détresse qui ont besoin d'une aide immédiate.

Quel impact l'API a-t-elle eu sur le bien-être des examinateurs manuels du NCMEC qui traitent les signalements de CyberTipline et analysent les contenus d'abus sexuels sur mineurs ?

L'outil de détection de contenus d'abus sexuels sur mineurs a permis à notre personnel d'être moins exposé aux mêmes images, encore et encore. Il circule aujourd'hui des images d'enfants victimes d'abus sexuels, alors qu'ils sont déjà à l'âge adulte. Ces images sont toujours disponibles en ligne et contribuent à leur victimisation permanente. Les identifier permet à notre personnel de se concentrer sur les mineurs victimes d'abus sexuels récents, tout en supprimant les images illégales.

Nos examinateurs sont là pour aider ces enfants.
L'API a considérablement amélioré la capacité de notre personnel à agir pour son bien-être et à éviter de devoir visionner encore et encore les mêmes contenus nuisibles.

Comment cette initiative permet-elle aux entreprises technologiques de lutter contre ce type de contenus en ligne ?

Google fournit une technologie de détection des contenus d'abus sexuels sur mineurs à des entreprises pour soutenir la lutte mondiale contre ce fléau, et l'API Hatch Matching a elle-même un impact direct sur de nombreuses entités autres que le NCMEC. Toutes les entreprises technologiques bénéficient des procédures simplifiées et efficaces du NCMEC. Les signalements de CyberTipline peuvent être traités d'une façon bien plus rapide et efficace que si nous n'avons pas cet outil à notre disposition.

Le NCMEC est une ressource centrale pour les entreprises technologiques, les forces de l'ordre, les victimes et leurs familles.
L'outil de Google nous fournit un moyen unique d'aborder les problèmes et les solutions. Grâce au dispositif CyberTipline, nous surveillons de près les contenus d'abus sexuels sur mineurs qui circulent en ligne, qu'ils soient nouveaux ou existants. Tous ces signalements sont mis à la disposition des forces de l'ordre. Il ne faut jamais perdre de vue qu'il s'agit de vrais enfants qui sont victimes de violences et d'exploitation sexuelles.

Plus de 20 000 enfants identifiés ont été victimes d'abus sexuels qui ont été enregistrés sous forme d'images ou de vidéos.
Ces personnes, dont certaines sont mineures et d'autres sont devenues adultes, ont parfaitement conscience de la victimisation qu'elles subissent. C'est pourquoi nous jugeons essentiel de faire tout notre possible pour limiter la circulation de ces contenus.

Le public ne se rend pas forcément compte que les contenus connus ont tendance à être considérés comme moins importants parce qu'il s'agit d'images "anciennes" ou "recirculées". Comme nous ne cessons de le rappeler, ces contenus montrent de vrais enfants, et plus de 20 000 personnes tentent actuellement de se reconstruire et de reprendre le contrôle de leur vie. Savoir que des entreprises comme Google font tout leur possible pour supprimer les images représentant les pires moments de leur vie constitue pour elles une grande source de réconfort.

Si vous trouvez des images d'abus sexuels sur des mineurs en ligne, signalez-les au National Center for Missing and Exploited Children (NCMEC), ou à une autre autorité compétente partout dans le monde.

Google s'engage à lutter contre l'exploitation des enfants et les abus sexuels sur mineurs en ligne, et à empêcher que ses services soient utilisés pour propager de tels contenus. Pour en savoir plus, consultez notre site Web sur la protection des enfants.