El NCMEC, Google y la tecnología de hash de imágenes

En Estados Unidos, el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) recibe cada año millones de denuncias de contenido de abuso sexual infantil en Internet. Michelle DeLaune, vicepresidenta sénior y directora de operaciones del NCMEC, habla de la evolución de la organización, de cómo las empresas tecnológicas están dando un paso adelante en la lucha contra el contenido de abuso sexual infantil y de la API de coincidencia de hash de Google.

¿Puedes hablarnos del NCMEC y de cuál es tu función?

Llevo más de 20 años en el NCMEC, por lo que he sido testigo de primera mano de la evolución de la organización y de los retos y amenazas para la infancia y su seguridad. Comencé mi carrera aquí como analista de CyberTipline.

CyberTipline se creó y se puso en marcha en 1998 como un medio para que las personas denunciaran posibles casos de explotación infantil. En esa época recibíamos denuncias de padres preocupados porque un adulto mantenía conversaciones inapropiadas con sus hijos en Internet y también de personas que encontraban sitios web que contenían contenido de abuso sexual infantil. Entonces se aprobó una ley federal en Estados Unidos que obligaba a las empresas tecnológicas estadounidenses a informar a CyberTipline de cualquier posible presencia de contenido de abuso sexual infantil en sus sistemas.

Cuando empezamos, recibíamos más de 100 denuncias de explotación infantil a la semana. En el 2001 recibimos nuestra primera denuncia procedente de una empresa tecnológica. En el 2021, recibimos aproximadamente 70.000 denuncias nuevas cada día. Algunas proceden del público general, pero la mayoría las envían empresas tecnológicas.

¿Cómo ayuda el NCMEC a las empresas que operan en Internet a combatir el contenido de abuso sexual infantil?

La ley no exige a las empresas ningún esfuerzo proactivo. Basta con que, si detectan contenido de abuso sexual infantil o tienen conocimiento de su existencia, lo denuncien. Esa es la verdadera razón del extraordinario crecimiento que hemos observado en CyberTipline a lo largo de los años. Pero en los últimos cinco años se ha producido el aumento más significativo de las denuncias. Esta explosión en el número de denuncias puede atribuirse a los esfuerzos que muchas empresas tecnológicas están realizando voluntariamente para detectar, eliminar y denunciar proactivamente el contenido de abuso sexual infantil.

Uno de los programas emblemáticos que llevamos a cabo en el centro nacional para menores desaparecidos y explotados son las plataformas de intercambio de hash, tanto para que la industria contribuya como para que lo hagan determinadas ONG. A través de la plataforma de intercambio de hashes de distintas ONG, el NCMEC proporciona a las empresas tecnológicas interesadas más de cinco millones de valores de hash de contenido de abuso sexual infantil confirmados y triplemente verificados para ayudar a estas empresas en sus esfuerzos por combatir este tipo de material en sus redes. Muchas grandes corporaciones, entre ellas Google, se han servido de esta lista y están adoptando medidas proactivas para eliminar el contenido de abuso sexual infantil de sus plataformas. Esta lista también permite que otras prestigiosas ONG que se dedican a la infancia proporcionen sus hashes al sector tecnológico a través de la plataforma de hash del NCMEC, y así intentar reducir la necesidad de que las empresas tecnológicas tengan que dirigirse individualmente a cada ONG.

También ofrecemos una plataforma de intercambio de hashes para el sector tecnológico, que permite a determinadas empresas compartir entre ellas sus propios hashes de contenido de abuso sexual infantil. Nos aseguramos de que todas las empresas que quieran y puedan detectar proactivamente contenido de abuso sexual infantil tengan todas las herramientas que necesitan para hacerlo y puedan compartir entre ellas sus propios hashes de este tipo de contenidos. Google es la organización que más contribuye a esta plataforma y aporta aproximadamente el 74 % de los hashes de la lista.

Dado el volumen de denuncias que recibimos actualmente, es fácil deducir que muchas imágenes iguales se denuncian varias veces. Es algo totalmente comprensible, ya que las empresas utilizan valores de hash para detectar contenido conocido, pero a medida que aumenta la cantidad de este tipo de contenido, para el NCMEC es más importante poder identificar el contenido nuevo que se ha producido y se ha compartido online.

La API de coincidencia de hash de Google ha ayudado al NCMEC a priorizar las denuncias de CyberTipline. ¿Podrías contarnos algo más del origen de este proyecto?

El éxito del programa de intercambio de hashes supuso un reto completamente nuevo debido a su volumen, que planteaba enormes desafíos. Una organización sin ánimo de lucro como el NCMEC no tiene la capacidad de cálculo necesaria para gestionar este volumen. Por eso agradecemos con tanta emoción la ayuda de Google para desarrollar la API de coincidencia de hash.

En el 2020 recibimos 21 millones de denuncias de CyberTipline, y cada una de ellas podía contener varias imágenes y vídeos. De hecho, esos 21 millones de denuncias incluían casi 70 millones de imágenes y vídeos de abusos sexuales a menores. Estaba claro que había duplicados dentro de ese volumen, y aunque el NCMEC puede detectar fácilmente coincidencias exactas, no podríamos haber detectado coincidencias visualmente similares a gran escala y en tiempo real para identificar y priorizar imágenes que no se han visto antes. Y eso es fundamental para identificar a menores que estén siendo objeto de abusos sexuales.

¿Qué ventajas ha aportado la API de coincidencia de hash al NCMEC?

Tenemos una tarea realmente importante que consiste en recoger esta información crítica y entregarla lo más rápido posible a los cuerpos de policía locales. Una de las ventajas de esta herramienta es que nos proporciona una nueva forma de añadir un enorme valor a las denuncias de CyberTipline.

Tenemos un programa de trabajo en el que examinamos cada una de las imágenes y vídeos de abuso sexual infantil y los etiquetamos. Por ejemplo, añadimos las etiquetas "Esto es material de abuso sexual infantil", "Esto no es contenido de abuso sexual infantil" o "Aquí es difícil identificar la edad del menor o de la persona". Pero, como te puedes imaginar, con 70 millones de expedientes tan solo el año pasado, nunca vamos a poder etiquetarlos todos. Esta API nos permite hacer una comparación. Cuando etiquetamos un archivo, la API nos permite identificar todos los archivos visualmente similares, que a continuación etiquetamos en tiempo real. El resultado es que hemos podido etiquetar más de 26 millones de imágenes.

Esto nos ayuda a añadir más valor a las denuncias que enviamos a las fuerzas de seguridad, para que puedan decidir qué denuncias revisar primero. También nos ayuda a saber qué imágenes no se han visto antes. En ellas suele haber un menor, en algún lugar del mundo, del que se abusa sexualmente. Si pensamos en el pajar con la proverbial aguja, en este caso esa aguja es un niño que necesita ser rescatado. La herramienta de Google nos ha permitido centrarnos en las imágenes con menores que necesitan ayuda inmediata.

¿Y qué repercusión ha tenido en el bienestar de las personas del NCMEC que procesan las denuncias de CyberTipline y analizan el contenido del material de abuso sexual infantil?

Esta herramienta de detección de material de abuso sexual infantil ha reducido la necesidad de que nuestro personal vea las mismas imágenes una y otra vez. Hay imágenes de menores siendo abusados sexualmente que puede que ahora sean adultos. Estas imágenes perduran online y contribuyen a la victimización continua de esas personas. Al poder etiquetar esas imágenes, nuestro personal puede centrarse en las de abusos sexuales infantiles recientes y, al mismo tiempo, retirar de la vista las imágenes ilegales.

Esa es la razón por la que nuestro personal está aquí: quieren ayudar a esos niños. Esto ha supuesto una mejora decisiva para el bienestar de nuestro personal, que ya no tiene que ver el mismo material dañino conocido una y otra vez.

¿Cómo ayuda este trabajo a las empresas tecnológicas en su conjunto a luchar contra este tipo de contenido online?

Sabemos que Google proporciona tecnología de detección de contenido de abuso sexual infantil a las empresas para ayudar en la lucha mundial contra este tipo de material, y la propia API de coincidencia de hash tiene un impacto directo en muchas organizaciones además del NCMEC. Todas las empresas tecnológicas se benefician de una mayor agilidad y eficiencia en el proceso del NCMEC. Las denuncias de CyberTipline se atienden y gestionan con mayor rapidez y valor añadido que si no tuviéramos esta herramienta.

El NCMEC es un recurso central para las empresas tecnológicas, las fuerzas del orden, los supervivientes de abusos sexuales infantiles y sus familias. Desde nuestra perspectiva muy particular, analizamos los problemas y las soluciones. Gracias a CyberTipline, estamos muy al tanto del contenido de abuso sexual infantil de nueva creación y del que ya existe y circula por Internet. Todas estas denuncias se ponen a disposición de las fuerzas de seguridad. Nunca debemos olvidar que detrás de todo esto hay menores que han sido victimizados y explotados sexualmente.

Sabemos que más de 20.000 niños identificados han sido víctimas de abusos sexuales y su abuso ha sido registrado, ya sea en vídeo o en imágenes. Estas personas supervivientes, algunas todavía menores y otras ya adultas, son muy conscientes de la continua victimización que padecen. Por eso es tan importante que hagamos todo lo posible para reducir la circulación de estas imágenes.

Algo de lo que quizá la gente no es consciente es de que puede haber una tendencia a restar importancia al contenido de abuso sexual infantil conocido, al considerar que se trata de imágenes "antiguas" o "recirculadas". Trabajamos constantemente para recordar a todo el mundo que se trata de menores reales, y que esas más de 20.000 personas están intentando sanar y recuperar el control de sus vidas. A los supervivientes de abuso sexual infantil les consuela saber que empresas como Google se esfuerzan por eliminar las imágenes que muestran los peores momentos de sus vidas.

Si encuentras imágenes o contenido de abuso sexual infantil online, puedes denunciarlo en el [Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos (NCMEC)] (https://www.missingkids.org/HOME) o ante la [autoridad competente apropiada en todo el mundo] (https://support.google.com/websearch/answer/148666?hl=es).

En Google nos comprometemos a luchar contra la explotación y el abuso sexual infantil online y a evitar que nuestros servicios se usen para difundir contenido de este tipo. Encontrarás más información al respecto en nuestro sitio web Protecting Children.