Le NCMEC, Google et la technologie de hachage d'images

Aux États-Unis, le National Center for Missing & Exploited Children (NCMEC) reçoit chaque année des millions de signalements de matériel d'exploitation sexuelle d'enfants (MESE) en ligne. Michelle Delaune, première vice-présidente et directrice de l'exploitation du NCMEC, parle de l'évolution de l'organisation, de la façon dont les entreprises de technologie se mobilisent pour s'attaquer au MESE et de l'API Hash Matching de Google.

Pouvez-vous nous parler du NCMEC et de votre fonction?

Je travaille au NCMEC depuis plus de 20 ans, alors j'ai été témoin de l'évolution de l'organisation ainsi que des défis et des menaces qui pèsent sur nos enfants et sur leur sécurité. J'ai commencé ma carrière ici, en tant qu'analyste de la CyberTipline.

La CyberTipline a été créée et lancée en 1998 pour permettre aux membres du public de signaler les incidents potentiels d'exploitation des enfants. À ce moment-là, nous recevions des signalements de parents qui s'inquiétaient du fait qu'un adulte parle de façon inappropriée à leur enfant en ligne, et de gens qui tombaient sur des sites Web contenant du MESE. Par la suite, une loi fédérale a été adoptée aux États-Unis, laquelle exigeait que les entreprises de technologie américaines signalent à la CyberTipline tout incident apparent de MESE sur leurs systèmes.

Dans les débuts, nous pouvions dépasser 100 signalements d'exploitation d'enfants par semaine. Nous avons reçu notre premier signalement d'une entreprise de technologie en 2001. En 2021, nous recevions environ 70 000 nouveaux signalements chaque jour. Certains de ces signalements proviennent du public, mais la majorité sont envoyés par des entreprises de technologie.

Comment le NCMEC aide-t-il les entreprises en ligne à lutter contre le MESE?

La loi n'exige pas que les entreprises fassent des efforts proactifs. Les entreprises doivent simplement signaler tout contenu qui représente du MESE lorsqu'elles le détectent ou en prennent connaissance. C'est vraiment ce qui a donné naissance à la croissance instrumentale que nous avons constatée dans la CyberTipline au fil des ans. Mais au cours des cinq dernières années, il y a eu une importante augmentation du nombre de signalements. Cette explosion peut être attribuée aux efforts que de nombreuses entreprises de technologie déploient volontairement pour détecter, retirer et signaler de façon proactive le MESE.

L'un des programmes phares que nous exploitons au National Center for Missing & Exploited Children implique des plateformes de partage de hachage; deux d'entre elles permettent au secteur d'y contribuer, et une autre permet à certaines organisations non gouvernementales (ONG) de le faire. Grâce à la plateforme de partage de hachage des ONG, le NCMEC fournit aux entreprises de technologie intéressées plus de cinq millions de valeurs de hachage de MESE confirmées et approuvées trois fois pour les aider dans leurs efforts de lutte contre le MESE sur leurs réseaux.

De nombreuses grandes entreprises, y compris Google, se sont prévalues de cette liste et prennent des mesures proactives pour retirer le MESE de leurs plateformes. Cette liste permet également à d'autres ONG réputées qui s'occupent des enfants, de fournir leurs hachages au secteur de la technologie par l'intermédiaire de la plateforme de hachage du NCMEC, ceci afin de réduire la nécessité pour une entreprise de technologie de s'adresser individuellement à chaque ONG.

Nous proposons également une plateforme sectorielle de partage de hachage, qui permet à certaines entreprises de partager leurs propres hachages de MESE. Nous veillons à ce que toute entreprise disposée à détecter ce matériel de façon proactive et capable de le faire, ait tous les outils dont elle a besoin pour y parvenir, et à ce que les entreprises puissent partager leurs propres hachages de MESE. Google est le contributeur le plus important de cette plateforme avec environ 74 % du nombre total de hachages sur la liste. Comme vous pouvez l'imaginer, avec le volume de signalements que nous recevons à présent, nous voyons bon nombre des mêmes images qui sont signalées plusieurs fois. C'est tout à fait compréhensible, car les entreprises utilisent des valeurs de hachage pour détecter le matériel connu, mais à mesure que la quantité de matériel connu augmente, il devient plus important pour le NCMEC d'être en mesure de repérer le nouveau matériel qui a été produit et partagé en ligne.

L'API Hash Matching de Google a aidé le NCMEC à prioriser les signalements de la CyberTipline. Pouvez-vous nous parler davantage des débuts de ce projet?

Le succès du programme de partage de hachage a créé un tout nouveau problème : un volume qui présentait d'immenses défis. Un organisme sans but lucratif comme le NCMEC n'a pas la puissance informatique nécessaire pour atteindre ce volume. C'est pourquoi nous étions si heureux et reconnaissants de recevoir l'assistance de Google, qui nous a aidés à créer l'outil API Hash Matching.

En 2020, nous avons reçu 21 millions de signalements de la CyberTipline, mais chacun de ces signalements contient peut-être plusieurs images et vidéos. Ces 21 millions de signalements comprenaient pas moins de 70 millions d'images et de vidéos d'abus sexuels sur des mineurs/enfants. De toute évidence, un tel volume implique des doublons, et bien qu'il soit facile pour le NCMEC de détecter les correspondances exactes, nous serions incapables de détecter les correspondances visuelles similaires à l'échelle et en temps réel afin d'identifier et de prioriser des images jamais vues auparavant. Et cette étape est essentielle lorsque nous essayons d'identifier les enfants qui sont activement victimes d'abus sexuels.

Quels avantages l'API Hash Matching a-t-elle apportés au NCMEC?

Nous avons un travail très important à faire, c'est-à-dire prendre ces renseignements essentiels et les transmettre le plus rapidement possible aux responsables de l'application de la loi. L'un des avantages de cet outil est qu'il nous donne une nouvelle façon d'ajouter une valeur énorme aux signalements de la CyberTipline.

Notre programme de travail implique d'examiner toutes les images et vidéos d'abus sexuels sur des mineurs/enfants, et de les étiqueter. Par exemple, « C'est du MESE », « Ce n'est pas du MESE » ou « Il est difficile de déterminer l'âge de l'enfant ou de la personne ». Mais, comme vous pouvez l'imaginer, en ayant reçu 70 millions de fichiers l'an dernier seulement, nous ne pourrons jamais tous les étiqueter. Cette API nous permet d'effectuer une comparaison. Lorsque nous étiquetons un fichier, l'API nous permet d'identifier tous les fichiers visuellement similaires que nous étiquetons ensuite en conséquence, en temps réel. Par conséquent, nous avons pu étiqueter plus de 26 millions d'images.

L'API nous aide à rehausser l'impact des signalements que nous envoyons aux organismes d'application de la loi afin qu'ils puissent établir l'ordre de priorité des signalements qu'ils vont examiner en premier. Elle nous aide également à repérer les images qui n'ont jamais été vues auparavant. Ces images présentent souvent un enfant quelque part dans le monde qui est victime d'abus sexuels. Si nous pensons à l'aiguille proverbiale dans la botte de foin, dans ce cas, l'aiguille est un enfant qui a besoin d'être sauvé. L'outil de Google nous a permis de nous concentrer sur les images qui contiennent des enfants qui ont besoin d'une aide immédiate.

Et en quoi cela a-t-il eu une incidence sur le bien-être des examinateurs humains du NCMEC qui traitent les signalements de la CyberTipline et analysent le contenu du MESE?

Cet outil de détection du MESE a réduit la nécessité pour notre personnel de regarder les mêmes images encore et encore. Nous voyons des images d'abus sexuels sur des enfants qui ont peut-être atteint l'âge adulte depuis longtemps. Ces images existent à jamais en ligne et contribuent à la victimisation perpétuelle de ces personnes. Le fait de pouvoir étiqueter ces images permet à notre personnel de se concentrer sur les enfants qui sont victimes d'abus sexuels récents, tout en retirant les images illégales pour qu'elles ne soient plus visibles.

Aider ces enfants, voilà la source de motivation de notre personnel. Il s'agit d'une amélioration sans précédent de la capacité de notre personnel à apporter du mieux-être, et à ne pas être confronté sans cesse au même matériel déjà recensé, et nuisible.

Comment ce travail aide-t-il les entreprises de technologie dans leur ensemble à lutter contre ce type de matériel en ligne?

Nous savons que Google fournit la technologie de détection du MESE aux entreprises afin de soutenir la lutte mondiale contre le MESE, et que l'API Hash Matching elle-même a une incidence directe sur de nombreuses personnes au-delà du NCMEC. Toutes les entreprises de technologie profitent d'un processus plus simple et plus efficace au NCMEC. Les signalements de la CyberTipline sont traités puis réglés plus rapidement et avec plus de valeur ajoutée que si nous n'avions pas cet outil.

Le NCMEC est une ressource centrale pour les entreprises de technologie, les organismes d'application de la loi, et les survivants et leurs familles. Nous avons une optique incroyablement unique qui nous permet d'examiner les problèmes et les solutions. Grâce à la CyberTipline, nous surveillons de très près la diffusion en ligne du MESE nouvellement créé et existant. Tous ces signalements sont mis à la disposition des organismes d'application de la loi. Nous ne devons jamais oublier qu'au bout du compte, ce sont de vrais enfants qui ont été victimes d'exploitation sexuelle.

Nous savons que plus de 20 000 enfants ont été victimes d'abus sexuels, et que ces abus ont de fait été immortalisés, que ce soit sous forme de vidéo ou d'image. Ces survivants, dont certains sont encore enfants et d'autres sont maintenant adultes, sont très conscients de la victimisation à laquelle ils sont confrontés. C'est pourquoi il est si important pour nous de faire ce que nous pouvons pour réduire la circulation de ces images.

Ce qui n'est peut-être pas clair pour le public, c'est qu'il peut y avoir une tendance à ignorer le MESE connu, parce que les images peuvent être considérées comme « anciennes » ou « recirculées ». Nous nous efforçons constamment de rappeler aux gens que ce sont de vrais enfants, que ces plus de 20 000 personnes essaient de guérir et de reprendre le contrôle de leur vie. Ces victimes sont très réconfortées de savoir que des entreprises comme Google déploient tous les efforts nécessaires pour retirer les images qui représentent les pires moments de leur vie.

Si vous trouvez des images d'abus sexuels sur des mineurs/enfants en ligne, signalez-les au National Center for Missing and Exploited Children (NCMEC) ou à une autorité compétente du monde entier.

Google s'est engagée à lutter contre l'exploitation des enfants et contre les abus sexuels sur des enfants en ligne, et à empêcher que nos services soient utilisés pour diffuser du MESE. Vous pouvez en apprendre davantage à ce sujet sur notre site Web Protecting Children.