Discord, de populaire communicatie-app die in 2015 werd gelanceerd, is uitgegroeid tot een hub voor online gamers en diverse gemeenschappen over de hele wereld. Er is echter een duistere kant aan het platform gekomen, met volwassenen die het platform misbruiken om kinderen te lokken, kinderpornomateriaal te verhandelen en minderjarigen af te persen. 

Volgens NBC News zijn er in de afgelopen zes jaar ten minste 35 gevallen van ontvoering, kinderlokkerij en seksueel misbruik met Discord-communicatie vastgesteld, waarvan 22 tijdens of na de COVID-19 pandemie. Aanvullende onderzoeken hebben 165 gevallen van overdracht of ontvangst van CSAM aan het licht gebracht, waaronder vier criminele netwerken.

Hoewel deze cijfers de gerapporteerde en vervolgde gevallen weergeven, zijn experts van mening dat ze slechts een tipje van de sluier oplichten. Het jonge gebruikersbestand van Discord, de gedecentraliseerde structuur, de multimediale communicatiemiddelen en de recente toename in populariteit maken het een aantrekkelijk platform voor individuen die kinderen willen uitbuiten. 

Meldingen van CSAM op Discord stegen van 2021 tot 2022 met 474%, volgens het National Center for Missing & Exploited Children (NCMEC).

De reactiesnelheid van Discord op klachten is een punt van zorg. De gemiddelde reactietijd van het platform op klachten steeg van drie dagen in 2021 naar bijna vijf dagen in 2022, volgens NCMEC.

Lees ook: “ChatGPT beveiligingslek: Meer dan 101.000 gebruikersaccounts aangetast door malware”.

Waakhondorganisaties hebben de noodzaak benadrukt van sterkere moderatie en proactieve detectie van inhoud waarin kinderen worden uitgebuit.

Discord heeft stappen ondernomen om kindermisbruik en CSAM aan te pakken en heeft in het laatste kwartaal van 2022 meer dan 37.000 accounts uitgeschakeld vanwege schendingen van de kinderveiligheid. 

Het bedrijf heeft ook samengewerkt met Thorn, een ontwikkelaar van anti-kindermisbruiktechnologie, om groominggedrag en schadelijke inhoud te detecteren. Er moet echter meer worden gedaan om het hardnekkige probleem aan te pakken.

Ondanks de inspanningen van Discord blijft er bezorgdheid bestaan over het gebrek aan toezicht en het gemak waarmee kinderen onder de 13 jaar accounts kunnen aanmaken. De veiligheidsmaatregelen van het platform zijn grotendeels afhankelijk van leden van de community die problemen signaleren en houden niet elke server of conversatie in de gaten. 

Hoewel Discord van plan is om nieuwe modellen te implementeren om bedreigingen voor de veiligheid van kinderen en onontdekte trends in kinderuitbuitingscontent te detecteren, beweren waakhonden en ambtenaren dat veiligheidsmaatregelen vanaf het begin van het platform hadden moeten worden ingebouwd.

Discord is bekritiseerd vanwege de trage reactietijden, communicatieproblemen en het hosten van gemeenschappen die zich bezighouden met CSAM. Organisaties zoals Inhope hebben geweigerd om samen te werken met Discord vanwege deze zorgen. 

Discord erkent de gebieden die verbetering behoeven en werkt aan het bijwerken van het kinderveiligheidsbeleid en het implementeren van Thorn’s grooming classifier. De kwestie van kinderuitbuiting op Discord benadrukt de noodzaak van grotere waakzaamheid en sterkere maatregelen om kwetsbare gebruikers te beschermen. 

Experts benadrukken het belang van proactieve detectie, snel reageren op meldingen en samenwerking met wetshandhavers en meldpunten om dit wijdverbreide probleem te bestrijden.