NCMEC, Google en Image Hashing-technologie

Kunt u ons iets vertellen over het NCMEC en wat uw rol is?

Ik werk al meer dan 20 jaar voor het NCMEC, dus ik ken de ontwikkeling van de organisatie en de groeiende uitdagingen en bedreigingen van onze kinderen en hun veiligheid als geen ander. Ik ben mijn carrière hier begonnen als CyberTipline-analist.

De CyberTipline werd opgezet in 1998 als meldpunt voor mensen waar ze potentiële voorvallen van uitbuiting van kinderen kunnen melden. In die tijd kregen we meldingen van ouders die bezorgd waren dat een volwassene online op een ongepaste manier tegen hun kind praatte en van mensen die websites tegenkwamen die materiaal met seksueel misbruik van kinderen bevatten. Vervolgens is er een federale wet in de Verenigde Staten aangenomen die Amerikaanse techbedrijven verplicht om voorvallen van materiaal met seksueel misbruik van kinderen op hun systemen bij de CyberTipline te melden.

In het begin kregen we misschien iets meer dan 100 meldingen van uitbuiting van kinderen per week. Onze eerste melding door een techbedrijf kregen we in 2001. In 2021 is dit aantal inmiddels gestegen tot ongeveer 70.000 nieuwe meldingen per dag. Sommige meldingen komen van het publiek, maar het merendeel van onze meldingen worden gedaan door techbedrijven.

Hoe helpt het NCMEC online bedrijven om materiaal met seksueel misbruik van kinderen te bestrijden?

De wet vereist niet dat bedrijven proactieve inspanningen leveren. Maar als ze materiaal met seksueel misbruik van kinderen ontdekken of ze zijn zich ervan bewust dat het er is, moeten ze het melden. Dat is echt de drijvende kracht achter de aanzienlijke groei die we gezien hebben bij de CyberTipline door de jaren heen. Vooral in de afgelopen 5 jaar is er een aanzienlijke stijging geweest in het aantal meldingen. Die stijging kan toegeschreven worden aan de vrijwillige inspanningen van veel techbedrijven om proactief materiaal met seksueel misbruik van kinderen te herkennen, te verwijderen en te melden.

Een van de beste programma's die we bij het National Center for Missing and Exploited Children gebruiken, zijn platforms voor het delen van hashes: een platform voor bijdragen van de sector en een andere voor geselecteerde ngo's. Via het ngo-platform voor het delen van hashes biedt het NCMEC geïnteresseerde techbedrijven meer dan 5 miljoen hash-waarden van bevestigd, drievoudig gecontroleerd materiaal met seksueel misbruik van kinderen. Dit ondersteunt de inspanningen van deze bedrijven om materiaal met seksueel misbruik van kinderen op hun netwerken te bestrijden. Veel grote bedrijven, waaronder Google, hebben toegang tot deze lijst en ondernemen proactieve stappen om materiaal met seksueel misbruik van kinderen van hun platforms te verwijderen. Andere gerenommeerde ngo's die kinderen helpen, kunnen zo ook hun hashes aan de techsector leveren door ze op de lijst te zetten via het hash-platform van het NCMEC. Dit beperkt de noodzaak voor een techbedrijf om afzonderlijk met iedere ngo contact op te nemen.

We bieden ook een platform voor het delen van hashes in de sector. Via dit platform kunnen bepaalde bedrijven hun eigen hashes van materiaal met seksueel misbruik van kinderen met elkaar delen. We zorgen ervoor dat elk bedrijf dat bereid en in staat is om proactief dit materiaal te herkennen alle tools heeft om dit te doen en dat bedrijven hun eigen hashes van materiaal met seksueel misbruik van kinderen met elkaar kunnen delen. Google is de grootste bijdrager aan dit platform, met ongeveer 74% van het totale aantal hashes op de lijst.

Natuurlijk is het zo dat met het grote aantal meldingen dat we nu krijgen, we meerdere meldingen krijgen van dezelfde foto's. Dat is logisch, omdat bedrijven hashwaarden gebruiken om bekend materiaal te herkennen. Maar naarmate er meer materiaal bekend wordt, is het nog belangrijker voor het NCMEC om nieuw materiaal te herkennen dat geproduceerd en online gedeeld wordt.

De Hash Matching API van Google heeft het NCMEC geholpen om prioriteit te geven aan CyberTipline-meldingen. Kunt u ons meer vertellen over hoe dit project tot stand kwam?

Het succes van het programma voor het delen van hashes heeft voor een compleet nieuwe uitdaging gezorgd, namelijk een immens volumeprobleem. Een non-profitorganisatie zoals het NCMEC heeft de verwerkingscapaciteit niet om naar dit volume op te schalen. Daarom waren we zo enthousiast en dankbaar voor de hulp van Google bij de ontwikkeling van de Hash Matching API-tool.

In 2020 kregen we 21 miljoen CyberTipline-meldingen, maar elke melding kan meerdere afbeeldingen en video's bevatten. Die 21 miljoen meldingen omvatten bijna 70 miljoen afbeeldingen en video's van seksueel misbruik van kinderen. Uiteraard is er binnen dat volume sprake van duplicatie. Maar hoewel het NCMEC exacte overeenkomsten makkelijk kan detecteren, kunnen we visueel vergelijkbare overeenkomsten niet op schaal en in realtime detecteren om nog nooit eerder vertoond beeldmateriaal te identificeren en te prioriteren. En dat is essentieel als we kinderen willen identificeren die actief seksueel worden misbruikt.

Welke voordelen heeft de Hash Matching API het NCMEC opgeleverd?

We doen heel belangrijk werk, namelijk deze essentiële informatie zo snel mogelijk doorspelen aan de wetshandhavende instanties. Een van de voordelen van deze tool is dat het ons een nieuwe manier biedt om enorm veel waarde toe te voegen aan de CyberTipline-meldingen.

We hebben een werkprogramma waarbij we al het beeldmateriaal van seksueel misbruik van kinderen doornemen en labelen. Bijvoorbeeld: 'Dit is materiaal met seksueel misbruik van kinderen', 'Dit is geen materiaal met seksueel misbruik van kinderen.' Of 'Het is moeilijk om de leeftijd van het kind of de persoon te bepalen.' Maar met alleen al 70 miljoen bestanden in het afgelopen jaar kunnen we ze natuurlijk nooit allemaal labelen. Met deze API kunnen we een vergelijking maken. Als we een enkel bestand taggen, dan kunnen we met de API alle visueel overeenkomende bestanden herkennen. Die kunnen we dan op dezelfde manier in realtime taggen. Het resultaat is dat we meer dan 26 miljoen beelden hebben getagd.

Hiermee kunnen we meer waarde toevoegen aan meldingen die we naar de wetshandhavende instanties sturen. Die kunnen dan bepalen welke meldingen ze prioriteit geven. De tool helpt ons ook om beelden te identificeren die we nog niet eerder hebben gezien. Deze zijn vaak van een kind ergens in de wereld dat seksueel misbruikt wordt. Als we naar de spreekwoordelijke naald in de hooiberg kijken, is die naald in dit geval een kind dat gered moet worden. Met de tool van Google kunnen we ons gericht focussen op deze beelden van kinderen die onmiddellijke hulp nodig hebben.

En hoe heeft de tool het welzijn bevorderd van de beoordelaars bij het NCMEC, die meldingen van de CyberTipline verwerken en materiaal met seksueel misbruik van kinderen analyseren?

Deze tool die materiaal met seksueel misbruik van kinderen identificeert, vermindert de noodzaak voor onze medewerkers om steeds weer hetzelfde beeldmateriaal te moeten bekijken. Er zijn beelden van seksueel misbruikte kinderen die misschien nu al volwassen zijn. Deze beelden hebben online een oneindig leven en zo blijven deze mensen eeuwig slachtoffers. Doordat de beoordelaars deze beelden kunnen taggen, kunnen ze zich concentreren op die van recent seksueel misbruik. Tegelijkertijd verwijderen ze de illegale beelden uit het zicht.

Dat is waarom onze medewerkers doen wat ze doen: ze willen deze kinderen helpen. Dit is een hele verbetering voor het welzijn van onze medewerkers, omdat ze nu niet steeds opnieuw worden geconfronteerd met hetzelfde schadelijke materiaal.

Hoe helpt dit werk techbedrijven in het algemeen om dit soort materiaal online te bestrijden?

We weten dat Google technologie voor de detectie van materiaal met seksueel misbruik van kinderen aan bedrijven levert om de wereldwijde strijd tegen dit materiaal te ondersteunen. De Hash Matching API heeft een directe impact op veel meer organisaties dan alleen het NCMEC. Alle technologiebedrijven profiteren van een gestroomlijnder, efficiënter proces bij het National Center. CyberTipline-meldingen worden sneller en met meer toegevoegde waarde behandeld dan zonder deze tool.

Het NCMEC is een centrale bron en hulp voor techbedrijven, wetshandhavende instanties, slachtoffers en hun gezinnen. We kunnen op een unieke manier naar problemen en oplossingen te kijken. Dankzij de CyberTipline zijn we ons goed bewust van nieuw en bestaand materiaal met seksueel misbruik van kinderen dat online circuleert. Al deze meldingen worden beschikbaar gesteld aan de wetshandhavende instanties. We mogen nooit uit het oog verliezen dat het gaat om echte kinderen die seksueel zijn misbruikt en uitgebuit.

We weten van meer dan 20.000 geïdentificeerde kinderen die seksueel zijn misbruikt en van wie dat is vastgelegd in een video of afbeelding. Deze slachtoffers, sommigen nog kinderen en anderen inmiddels volwassen, zijn zich terdege bewust van de voortdurende victimisatie waarmee ze te maken hebben. Daarom is het zo belangrijk dat we tot het uiterste gaan om de verspreiding van deze beelden te minimaliseren en te verminderen.

Wat mensen misschien niet weten, is dat er een neiging kan zijn om bekend materiaal met seksueel misbruik van kinderen te negeren, omdat het materiaal kan worden beschouwd als 'oud' of 'hercirculeerd'. We blijven mensen eraan herinneren dat dit echte kinderen zijn en dat die meer dan 20.000 individuen proberen te verwerken en te herstellen van wat hen is overkomen en de controle over hun leven proberen terug te krijgen. Het helpt hen enorm om te weten dat bedrijven zoals Google er alles aan doen om het beeldmateriaal dat de ergste momenten van hun leven toont te verwijderen.

Als je online beeldmateriaal van seksueel misbruik van kinderen tegenkomt, kun je dat melden bij het National Center for Missing and Exploited Children (NCMEC) of bij een dergelijke instantie overal ter wereld.

Google zet zich in om online seksueel misbruik en uitbuiting van kinderen tegen te gaan en om te voorkomen dat onze services worden gebruikt om materiaal met seksueel misbruik van kinderen te verspreiden. Meer informatie hierover vind je op onze website Protecting Children.