NCMEC, Google en Image Hashing-technologie

Het National Center for Missing and Exploited Children (NCMEC) in de Verenigde Staten krijgt elk jaar miljoenen meldingen van online materiaal met daarop seksueel misbruik van kinderen. De Senior Vice President en Chief Operating Officer van het NCMEC, Michelle DeLaune, praat over de ontwikkeling van de organisatie, hoe techbedrijven zich inzetten om materiaal met seksueel misbruik van kinderen te bestrijden en over de Hash Matching API van Google.

Kunt u ons meer vertellen over het NCMEC en wat uw rol is?

Ik werk al meer dan 20 jaar voor het NCMEC, dus ik heb met eigen ogen de ontwikkeling van de organisatie en de groeiende uitdagingen en bedreigingen van onze kinderen en hun veiligheid gezien. Ik ben mijn carrière hier begonnen als CyberTipline-analist.

De CyberTipline werd in 1998 opgezet en gelanceerd als een manier voor burgers om mogelijke gevallen van kinderuitbuiting te melden. In die tijd kregen we meldingen van ouders die bezorgd waren dat een volwassene online op een ongepaste manier tegen hun kind praatte. We kregen ook meldingen van mensen die websites tegenkwamen die materiaal met seksueel misbruik van kinderen bevatten. Daarna kwam er een federale wet in de Verenigde Staten die Amerikaanse techbedrijven verplichtte om schijnbare gevallen van materiaal met seksueel misbruik van kinderen op hun systemen bij de CyberTipline te melden.

In het begin kregen we misschien iets meer dan 100 meldingen van kinderuitbuiting per week. Onze eerste melding door een techbedrijf kregen we in 2001. En in 2021 kregen we ongeveer 70.000 nieuwe meldingen per dag. Sommige meldingen komen van het publiek, maar het merendeel van onze meldingen worden gedaan door techbedrijven.

Hoe helpt het NCMEC online bedrijven om materiaal met seksueel misbruik van kinderen te bestrijden?

De wet vereist niet dat bedrijven zich proactief inzetten. Maar als ze materiaal met seksueel misbruik van kinderen zien of ontdekken, moeten ze het melden. Dat is echt de drijvende kracht achter de aanzienlijke groei die we gezien hebben bij de CyberTipline door de jaren heen. Vooral de afgelopen 5 jaar is er een aanzienlijke stijging geweest in het aantal meldingen. Die stijging kan toegeschreven worden aan de vrijwillige inspanningen van veel techbedrijven om proactief materiaal met seksueel misbruik van kinderen te herkennen, te verwijderen en te melden.

Een van de beste programma's die we bij het National Center for Missing and Exploited Children gebruiken, zijn platforms voor het delen van hashes: een voor bijdragen van de sector en een voor die van geselecteerde ngo's. Via het ngo-platform voor het delen van hashes biedt het NCMEC geïnteresseerde techbedrijven meer dan 5 miljoen hashwaarden van bevestigd, drievoudig gecontroleerd materiaal met seksueel misbruik van kinderen. Dit ondersteunt de inspanningen van deze bedrijven om materiaal met seksueel misbruik van kinderen op hun netwerken te bestrijden. Veel grote bedrijven, waaronder Google, hebben deze lijst opgevraagd en ondernemen proactieve stappen om materiaal met seksueel misbruik van kinderen van hun platforms te verwijderen. Andere gerenommeerde ngo's die kinderen helpen, kunnen zo ook hun hashes aan de techsector leveren door ze op de lijst te zetten via het hashplatform van het NCMEC. Dit beperkt de noodzaak voor een techbedrijf om afzonderlijk naar iedere ngo te gaan.

We bieden ook een platform voor het delen van hashes in de sector. Via dit platform kunnen geselecteerde bedrijven hun eigen hashes van materiaal met seksueel misbruik van kinderen met elkaar delen. We zorgen ervoor dat elk bedrijf dat bereid en in staat is om proactief dit materiaal te herkennen alle tools heeft om dit te doen en dat bedrijven hun eigen hashes van materiaal met seksueel misbruik van kinderen met elkaar kunnen delen. Google is de grootste bijdrager aan dit platform met ongeveer 74% van het totale aantal hashes op de lijst.

Natuurlijk is het zo dat met het grote aantal meldingen dat we nu krijgen, we meerdere meldingen krijgen van dezelfde foto's. Dat is begrijpelijk omdat bedrijven hashwaarden gebruiken om bekend materiaal te herkennen. Maar naargelang het materiaal dat bekend is toeneemt, is het nog belangrijker voor het NCMEC om nieuw materiaal te herkennen dat online geproduceerd en gedeeld wordt.

De Hash Matching API van Google heeft het NCMEC geholpen om meldingen van de CyberTipline prioriteit te geven. Kunt u ons vertellen hoe dit project begon?

Het succes van het programma voor het delen van hashes zette ons voor een volledig nieuwe uitdaging: een volume om u tegen te zeggen. Een non-profitorganisatie zoals het NCMEC heeft de rekenkracht niet om dit volume te schalen. Daarom waren we zo blij en dankbaar voor de hulp van Google bij de ontwikkeling van de Hash Matching API-tool.

In 2020 kregen we 21 miljoen meldingen binnen via de CyberTipline (meldpunt van het NCMEC), maar iedere melding kan meerdere beelden en video's bevatten. Deze 21 miljoen meldingen bevatten in feite bijna 70 miljoen beelden en video's van seksueel misbruik van kinderen. Natuurlijk zitten er dubbele bestanden in dat volume. En hoewel het makkelijk is voor het NCMEC om exacte overeenkomsten te ontdekken, kunnen we geen visueel gelijkende overeenkomsten op grote schaal en in realtime herkennen. Hierdoor was het niet mogelijk beelden die niet eerder bekeken zijn te identificeren en prioriteit te geven. En dat is juist belangrijk als we kinderen proberen te identificeren die actief seksueel misbruikt worden.

Welke voordelen heeft de Hash Matching API het NCMEC opgeleverd?

We doen heel belangrijk werk, namelijk deze belangrijke informatie zo snel mogelijk doorspelen aan de politie. Een van de voordelen van deze tool is dat het ons een nieuwe manier biedt om onschatbare waarde toe te voegen aan de CyberTipline-meldingen.

We hebben een werkprogramma waarbij we alle beelden en video's van seksueel misbruik van kinderen doornemen en labelen. Bijvoorbeeld: 'Dit is materiaal met seksueel misbruik van kinderen', 'Dit is geen materiaal met seksueel misbruik van kinderen.' Of 'Het is moeilijk om de leeftijd van het kind of de persoon te bepalen.' Maar met alleen al 70 miljoen bestanden afgelopen jaar kunnen we ze natuurlijk nooit allemaal labelen. Met deze API kunnen we een vergelijking maken. Als we 1 bestand taggen, dan kunnen we met de API alle visueel overeenkomende bestanden herkennen. Die kunnen we dan op dezelfde manier in realtime taggen. Het resultaat is dat we meer dan 26 miljoen beelden hebben getagd.

Hiermee kunnen we meer waarde toevoegen aan meldingen die we naar de politie sturen. Die kan dan bepalen welke meldingen ze eerst behandelen. De tool helpt ons ook om beelden te identificeren die we nog niet eerder hebben gezien. Deze beelden zijn vaak van een kind ergens in de wereld dat seksueel misbruikt wordt. Als we naar een hooiberg met de spreekwoordelijke naald kijken, is die naald in dit geval een kind dat gered moet worden. Met de tool van Google kunnen we inzoomen op deze beelden van kinderen die onmiddellijke hulp nodig hebben.

En hoe heeft de tool het welzijn bevorderd van de beoordelaars bij het NCMEC die meldingen van de CyberTipline verwerken en materiaal met seksueel misbruik van kinderen analyseren?

Deze tool die materiaal met seksueel misbruik van kinderen identificeert, heeft de noodzaak verminderd voor onze medewerkers om steeds weer dezelfde beelden te bekijken. Er zijn beelden van seksueel misbruikte kinderen die misschien nu al volwassen zijn. Deze beelden hebben online een oneindig leven en zo blijven deze mensen eeuwig slachtoffers. Doordat de beoordelaars deze beelden kunnen taggen, kunnen ze zich concentreren op beelden van recent seksueel misbruik van kinderen. Tegelijkertijd verwijderen ze de illegale beelden uit het zicht.

Daarom zijn onze medewerkers hier: ze willen deze kinderen helpen. Dit is een hele verbetering voor het welzijn van onze medewerkers, omdat ze nu niet steeds opnieuw geconfronteerd worden met hetzelfde schadelijke materiaal.

Hoe helpt dit werk techbedrijven in het algemeen om dit soort materiaal online te bestrijden?

We weten dat Google technologie voor de herkenning van materiaal met seksueel misbruik van kinderen aan bedrijven levert als ondersteuning van de strijd tegen materiaal met seksueel misbruik van kinderen wereldwijd. De Hash Matching API zelf heeft rechtstreeks invloed op veel instanties buiten het NCMEC. Alle techbedrijven hebben voordeel bij een gestroomlijnder en efficiënter proces bij het NCMEC. De meldingen van de CyberTipline worden sneller behandeld en verwerkt en krijgen meer toegevoegde waarde met deze tool.

Het NCMEC is een centrale bron voor techbedrijven, de wetshandhaving, slachtoffers en hun families. We bezitten een ongelofelijk unieke lens waardoor we naar problemen en oplossingen kunnen kijken. Vanwege de CyberTipline zijn we ons zeer bewust van nieuw gemaakt en van bestaand materiaal met seksueel misbruik van kinderen dat online circuleert. Al deze meldingen zijn beschikbaar gemaakt aan de politie. We mogen nooit uit het oog verliezen dat het uiteindelijk om echte kinderen gaat die seksueel misbruikt en uitgebuit zijn.

We weten dat er meer dan 20.000 geïdentificeerde kinderen zijn die seksueel misbruikt zijn en van wie dat misbruik is vastgelegd, of dat nu in een video of een foto is. Deze slachtoffers, sommigen zijn natuurlijk nog kinderen en anderen zijn nu volwassen, zijn zich er schrijnend bewust van dat ze voortdurend slachtoffer blijven. Daarom is het zo belangrijk voor ons om er alles aan te doen om de verspreiding van deze afbeeldingen te minimaliseren en te beperken.

Eén ding dat het publiek misschien niet beseft, is dat de neiging bestaat om bekend materiaal met seksueel misbruik van kinderen te negeren, omdat die beelden als 'oud' gezien worden of 'opnieuw verspreid'. We hameren er continu op dat dit echte kinderen zijn en dat mensen niet mogen vergeten dat deze meer dan 20.000 mensen proberen te herstellen en weer controle over hun leven proberen te krijgen. Het besef dat bedrijven zoals Google alle moeite doen om deze beelden te verwijderen die de slechtste momenten van hun levens weergeven, is een grote troost.

Als je online beelden of materiaal van seksueel misbruik van kinderen tegenkomt, kun je dat melden bij het National Center for Missing and Exploited Children (NCMEC) of bij de passende instantie overal ter wereld. 

Google zet zich in om online seksueel misbruik en uitbuiting van kinderen tegen te gaan en om te voorkomen dat onze platforms worden gebruikt om materiaal met daarop seksueel misbruik van kinderen te verspreiden. Je kunt meer informatie hierover lezen op onze website Protecting Children.