Dossier: 
Telegram blijft populair bij IS

Technologie en terreur - het jihadismeprobleem van Silicon Valley

© Fady AlGhorra en Mahmoud Elsobky

 

Gewelddadige terroristische propaganda is al jaren een probleem voor internetgiganten als Facebook, Google en Twitter. Samen met fake news en de verspreiding van haatboodschappen is het maar één van de vele controverses die de technologiesector de afgelopen jaren geplaagd heeft.  

Silicon Valley heeft massaal geïnvesteerd in de strijd tegen gewelddadige jihadistische materialen die online verspreid worden. Er is al heel wat vooruitgang geboekt, maar het blijft dweilen met de kraan open. Als één social media-platform maatregelen neemt om supporters van IS en Al-Qaeda te verwijderen, stappen ze gewoon over naar een ander platform. ‘De enige echte oplossing is de stekker uit het hele internet trekken.’ 

Ongeveer een jaar geleden vroegen we ons af hoe we dat zouden doen, op zoek gaan naar jihadistische propaganda online. We besloten van in het begin om met valse profielen op sociale media te werken om zo anoniem mogelijk te blijven. 

Moeilijk was dat allemaal niet. 

Het SIM-kaartprobleem

De meeste mensen hebben vandaag een profiel op sociale media. Zo’n profiel opzetten is op de meeste grote platforms erg makkelijk. Gewoonlijk moet je enkel wat persoonlijke gegevens opgeven, een foto uploaden en je zit zo op Twitter, Facebook, YouTube of andere platforms. Meestal heb je wel een e-mailadres nodig. 

Een geldig e-mailadres opzetten zonder identificatie vergt echter een beetje meer moeite. 

Voor ons onderzoek losten we het SIM-kaartprobleem op door een Britse SIM te gebruiken. In Groot-Brittannië moet je bij de meeste telecomwinkels nog steeds geen identiteitskaart voorleggen.

De meeste gratis e-mailproviders vragen nieuwe gebruikers om hun identiteit te bevestigen met een mobiele telefoon. Je krijgt dan bijvoorbeeld een sms met een code wanneer je je account aanmaakt, die je dan online moet intikken om je e-mailadres te activeren. Als je helemaal anoniem wil blijven, kan die mobiele telefoon al problematisch zijn omdat die meestal gelinkt is aan je identiteit via een abonnement of een voorafbetaalde SIM-kaart. Een SIM-kaart kopen zonder persoonlijke gegevens prijs te geven bleek de moeilijkste stap in ons online onderzoek. 

Voorafbetaalde SIM-kaarten kopen zonder een vorm van identeitsbewijs is de afgelopen jaren veel moeilijker geworden. Na een aantal terreuraanslagen heeft België net als andere landen regels ingevoerd waardoor je nu een identiteitskaart moet voorleggen als je een voorafbetaalde SIM-kaart zonder abonnement wil kopen. Dat maakt het moeilijker voor mensen met criminele bedoelingen om illegale activiteiten te organiseren met ‘wegwerptelefoons’ en niet-geregistreerde SIM-kaarten. Voor wie een anoniem e-mailadres wil opzetten onder een valse identiteit betekende de wet een extra moeilijkheid.  

Voor ons onderzoek losten we het SIM-kaartprobleem op door een Britse SIM te gebruiken. In Groot-Brittannië moet je bij de meeste telecomwinkels nog steeds geen identiteitskaart voorleggen als je een voorafbetaalde kaart wil kopen. Met die Britse kaart konden we snel een aantal valse e-mailadressen aanmaken en online registreren. Met die e-mailadressen konden we dan valse profielen opzetten onder valse identiteiten op alle grote sociale media-platformen.
 
Zoals we eerder berichtten in deze serie, vonden we onze eerste ultra-gewelddadige jihadistische video amper tien minuten nadat we de e-mailadressen hadden aangemaakt. 

Na onze eerste volledige onderzoeksdag in maart 2017 hadden we geen enkel probleem om op Telegram en andere platforms naar jihadistisch materiaal te zoeken. Soms werden we wel geblokkeerd bij het opzetten van een profiel, bijvoorbeeld als we een jihadistische profielfoto wilden gebruiken. Maar op veel platforms konden we surfen zonder al te veel problemen. 

Van Twitter naar Russische apps

Gewelddadige jihadistische propaganda groeide samen met sociale media. Het fenomeen kende zijn doorbraak met een enorme tweetstorm.

© Fady AlGhorra en Mahmoud Elsobky

Pieter Van Ostaeyen

Twitter was het eerste grote sociale mediabedrijf dat geconfronteerd werd met grootschalige activiteit van gewelddadige jihadistische groepen. Toen IS in 2014 zijn “kalifaat” uitriep, was de micro-blogsite besmet met duizenden jihadistische profielen. Twitter werd door IS en andere groepen gretig gebruikt om de gruwelijkste en meest extreme propaganda de wereld in te sturen en te verspreiden. ‘Twitter was in de begindagen echt wel het meest populaire platform voor IS en zijn supporters’, zegt jihadisme-onderzoeker Pieter Van Ostaeyen van de KU Leuven.  

Twitter begon al snel drastische maatregelen te nemen om de jihadistische activiteit te bestrijden. Duizenden profielen werden geschorst en het werd voor IS- en Al-Qaeda-supporters veel moeilijker om een groot publiek te bereiken. Sommige jihadis maakten er een sport van om zo veel mogelijk accounts op te zetten, en om nieuwe accounts op te zetten wanneer ze geschorst werden. Twitter nam veel meer mensen in dienst om jihadistische en andere ongewenste content van het platform te verwijderen en het bedrijf investeerde ook in kunstmatige intelligentie om propaganda automatisch te verwijderen, of om accounts te te verwijderen nog voor ze online gaan. 

‘Amper een half uur nadat dat artikel online ging, verdwenen plots alle IS-accounts van VKontakte. Mijn interview betekende effectief het einde van IS op VKontakte.’

Van Ostaeyen was op dat moment onderzoek aan het doen en zag uit eerste hand dat vele jihadi’s Twitter verlieten nadat het platform maatregelen begon te nemen. ‘Na die ‘Twittercrisis’ probeerden IS-leden een aantal andere platforms uit. Van sommige van die platforms had ik nooit gehoord, zoals Friendica of Diaspora. Uiteindelijk stapten de meesten van hen over naar VKontakte.’

VKontakte staat bekend als het ‘Russische Facebook’ en is ontwikkeld door de jonge Russiche ondernemer Pavel Durov en zijn broer Nikolai. Toen de jihadisten de overstap maakten naar VKontakte, gaf Van Ostaeyen een interview over het fenomeen aan een technologiemagazine. De journalisten publiceerden bij het artikel ook onderzoeksgegevens van Van Ostaeyen over de jihadisten die op VKontakte zaten. 

‘Amper een half uur nadat dat artikel online ging, verdwenen plots alle IS-accounts van VKontakte’, herinnert Van Ostaeyen zich. ‘Mijn interview betekende effectief het einde van IS op VKontakte.’

© Fady AlGhorra en Mahmoud Elsobky

 

De jihadisten maakten niet lang daarna massaal de overstap naar Telegram, dat door diezelfde Pavel Durov ontwikkeld was nadat hij Rusland verlaten had en er zelf voor koos om in ballingschap te leven.  

Telegram is erg versleuteld en heeft heel wat beveiligingssoftware waardoor gebruikers kunnen chatten zonder gedecteerd te worden. Gebruikers kunnen ook publieke chatkanalen opzetten waarmee een veel groter aantal mensen bereikt kan worden. In 2016 claimde Telegram dat het de kaap van 100 miljoen regelmatige gebruikers gerond had. Volgens meer recente cijfers zou de app nu ongeveer 180 miljoen gebruikers tellen. 

Dat bereik is nog steeds erg klein vergeleken met de twee miljard regelmatige gebruikers van Facebook, maar de mogelijkheden die Telegram biedt om berichten automatisch te deleten na een bepaalde tijd en om kanalen op te zetten, heeft jihadisten zeker aangetrokken ‘alhoewel je nu ziet dat veel jhadis zeggen dat ze zich van het platform willen terugtrekken omdat ze het niet veilig genoeg vinden’, zegt Van Ostaeyen. 

Boetes van 50 miljoen

De golf van jihadsten die Twitter teisterde in 2014 toonde aan hoe groot het probleem van de terroristische propaganda geworden was voor de bedrijven in Silicon Valley. En het werd allemaal nog erger toen westerse landen getroffen werden door een golf van jihadistische terreuraanslagen. 

Facebook, Twitter en YouTube kwamen erg onder vuur te liggen in Europa en de Verenigde Staten in 2015 en 2016, vooral na de gecoördineerde zelfmoordaanslagen in Parijs, Brussel en Manchester, na de schietpartijen in San Bernardino en Orlando en de serie aanvallen met voertuigen in Nice, Berlijn, Barcelona en Londen. 

De onderzoeksdossiers van al die terreuraanslagen toonden aan dat de daders in bijna alle gevallen ofwel heel veel jihadistische propaganda bekeken hadden op het internet, of dat ze online aanslagen voorbereidden en coördineerden in versleutelde chatboxen en andere apps. 

De onderzoeksdossiers van al die terreuraanslagen toonden aan dat de daders in bijna alle gevallen ofwel heel veel jihadistische propaganda bekeken hadden op het internet, of dat ze online aanslagen voorbereidden en coördineerden in versleutelde chatboxen en andere apps. Ons eigen onderzoek van een zeventigtal daderprofielen en recente onderzoeksrapporten bevestigen dat het internet minstens deels een rol speelde in de complexe mix van omstandigheden die tot jihadistische aanslagen leidde.

De reactie van regeringen op de golf van aanslagen liet niet lang op zich wachten. Na de mislukte bomaanslag op het metrostation Parsons Green in Londen op 15 september 2017 riep de Britse premier Theresa May de technologiebedrijven op het matje en herhaalde ze eerdere oproepen van haar regering om maatregelen te nemen om terroristisch materiaal op het internet sneller en grondiger te verwijderen.

Het Britse ministerie van Binnenlandse Zaken berekende dat IS tijdens de eerste vijf maanden van 2017 27.000 links naar extremistisch materiaal verspreid had. Het materiaal bleef gemiddeld 36 uur online. De Britse regering wil dat terugdringen naar twee uur, waardoor de kans dat het materiaal verspreid geraakt, veel kleiner wordt.

Adolfo Lujan (CC BY-NC-ND 2.0)

Barcelona, augustus 2017

 

Duitse boetes

De Duitse regering heeft inmiddels veel drastischer maatregelen tegen terroristische propaganda genomen. Eerder dit jaar voerde Berlijn een wet in waarmee grote internetbedrijven boetes tot 50 miljoen euro riskeren als ze illegaal materiaal niet binnen de 24 uur verwijderen als gebruikers er melding van maken. Voor meer ingewikkelde gevallen is de termijn een week. Als het bedrijf het materiaal niet op tijd verwijdert, kunnen gebruikers bij het Duitse ministerie van Justitie een melding doen waarna een boete opgelegd kan worden. 

De wet, het Netzwerkdurchsetzungsgesetz in het Duits, of NetzDG in het kort, is niet enkel gericht op online materiaal van terreurgroepen. De wet bestraft ook racisme, fake news en andere ongewenste content die gepubliceerd wordt. De internetbedrijven moeten van rechtswege een klachtenprocedure instellen die toelaat om onwettige content binnen de opgelede deadlines te verwijderen. 

De resultaten van de NetzDG-wet zijn op dit moment niet erg spectaculair. Eerder deze maand meldde het Duitse ministerie van Justitie dat amper 205 klachten werden neergelegd sinds de wet van kracht is. Dat is veel minder dan de 25.000 klachten die de Duitse regering verwachtte. De wet blijft wel heel controversieel in Duitsland, met tal van voorvallen waarbij sociale media-bedrijven uit schrik voor boetes materiaal verwijderen dat eigenlijk niet verwijderd had mogen worden. 

Dat leidde soms tot absurde situaties. In januari werd het Twitter-profiel van het satirische magazine Titanic twee dagen lang geschorst na een tweet waarbij de extreemrechtse politica Beatrix von Storch op de korrel genomen werd, één van de boegbeelden van de Alternative für Deutschland-partij. 

Dat leidde soms tot absurde situaties. In januari werd het Twitter-profiel van het satirische magazine Titanic twee dagen lang geschorst na een tweet waarbij de extreemrechtse politica Beatrix von Storch op de korrel genomen werd, één van de boegbeelden van de Alternative für Deutschland-partij. 

Rond Nieuwjaar antwoordde von Storck op een tweet van de politie van Keulen waarin nieuwjaarswensen en veiligheidsadvies werd gegeven in het Duits en in het Arabisch. ‘Wat gebeurt er godverdomme in dit land?’, vroeg von Storch zich af in haar tweet. ‘Waarom tweet een officieel profiel van de politie in het Arabisch? Is het misschien om de barbaarse, groepsverkrachtende hordes moslimmannen te behagen?’ Daarmee verwees von Storch uiteraard naar de incidenten en gevallen van seksuele aanranding die zich in de stad voordeden in de nieuwjaarsnacht van 2015 op 2016.  

Von Storch werd na haar tweet tijdelijk van Twitter gegooid, en daarna dus onder vuur genomen door Titanic, waarna het magazine op zijn beurt geschorst werd voor zijn antwoord op von Storch’s racistische opmerkingen. 

Zowel Titanic als von Storch wezen na het incident naar de strikte regels van het NetzDG, wat Twitter zou afgeschrikt hebben. In Duitsland gaan nu steeds meer stemmen op om het NetzDG aan te passen om ongewenste effecen op de vrijheid van meningsuiting tegen te gaan.

Het debat over haatboodschappen en gewelddadig extremisme op het internet is inmiddels ook heel erg aan de gang in de Europese instellingen en bij de Verenigde Naties. Het afgelopen jaar werden tal van rapporten en aanbevelingen gepubliceerd door regeringen en internationale organisaties. 

Eerde deze maand publiceerde de Europese Commissie een set aanbevelingen voor de Europese lidstaten waaronder het invoeren van een ‘één-uur-regel’ voor het verwijderen van terroristisch materiaal van online platformen. Die aanbevelingen worden later mogelijk in wetgeving omgezet. 

Community standards

Toen IS zijn “kalifaat” had uitgeroepen, verwezen Facebook, Twitter en andere bedrijven steevast naar hun interne reglementen gewelddadig, pornografisch of ander ongewenst materiaal van hun platforms te houden. 

Het model van de community standards en schorsingen van accounts bleek ook zeer gemakkelijk te omzeilen door technologisch kundige terreursupporters.

Die ‘huisregels’, meestal aangeduid met de Engelse term community standards, zijn bijna dezelfde bij al de grote internetbedrijven. De regels verbieden gebruikers om gewelddadige content te publiceren. De regels laten de bedrijven ook toe om eenzijdig gebuikers te schorsen. 

‘Dat systeem legt echter een heel grote verantwoordelijkheid voor het aangeven en verwijderen van gewelddadig materiaal bij de gebruiker’, zegt Nikita Malik van het anti-terreurcentrum van de Britse denktank Henry Jackson Society (HJS). ‘Dat is een zware taak als je er over nadenkt. (…). We verwachten van een jongere die naar heel gewelddadige content kijkt om op een menu te klikken, en daar dan aan te geven dat ze het materiaal willen aangeven of verwijderen. Daarmee leg je te veel druk op iemand die al blootgesteld is aan dat soort materiaal.’

© Fady AlGhorra en Mahmoud Elsobky

 

Het model van de community standards en schorsingen van accounts bleek ook zeer gemakkelijk te omzeilen door technologisch kundige terreursupporters. In veel gevallen gebruikten ze bots en andere kunstmatige intelligentie-toepassingen om de verspreiding en impact van hun materiaal te versterken en het wijd te verspreiden voor een account geschorst wordt. Er zijn ook gevallen bekend van jihadis die zelf programmaatjes schreven waarmee aan de lopende band profielen werden aangemaakt.  

Mensenogen

De meeste grote technologiebedrijven hebben de afgelopen jaren heel veel geïnvesteerd in maatregelen om jihadistische propaganda te verwijderen. De grote concerns hebben duizenden moderatoren aangeworven die materiaal handmatig screenen en beslissen of het online kan blijven of niet. 

De schaal waarop dit gebeurt is bijna niet te vatten, en toont aan hoe de groei van het internet nieuwe problemen heeft gecreëerd. 

In september 2017 meldde Twitter in een rapport dat het in de eerste helft van 2017 maar liefst 299.649 accounts geschorst had die terroristisch materiaal verspreidden. 95 procent daarvan werd gespot door Twitter zelf, zonder meldingen van bijvoorbeeld politie of andere officiële instanties.

In september 2017 meldde Twitter in een rapport dat het in de eerste helft van 2017 maar liefst 299.649 accounts geschorst had die terroristisch materiaal verspreidden. 95 procent daarvan werd gespot door Twitter zelf, zonder meldingen van bijvoorbeeld politie of andere officiële instanties. 

Het aantal schorsingen van profielen op Twitter zit in dalende lijn, zelfs nu het aantal gebruikers is gegroeid tot 330 miljoen. Het grootste deel van de schorsingen gebeurt nog voor een eerste tweet gepubliceerd kan worden. 

Sinds Twitter begon op te treden tegen accounts van terroristische groeperingen en hun supporters, zijn bijna een miljoen accounts verwijderd. In één rapport maakt Twitter melding van 935.897 geschorste accounts tussen augustus 2015 en einde juni 2017.   

Ook Facebook vertrouwt nog steeds op medewerkers die manueel materiaal screenen. Op 3 mei 2017 schreef Facebook-CEO Mark Zuckerberg op zijn profielpagina dat zijn bedrijf drieduizend mensen extra zou aanwerven om potentieel ongewenste content te verwijderen. Die drieduizend moderatoren zouden toegevoegd worden aan al bestaande teams van in totaal 4.500 mensen die bij Facebook gepubliceerd materiaal controleren. De beweging was bij Facebook ook al een tijd aan de gang, nadat het bedrijf geconfronteerd werd met tal van gewelddadige incidenten die live op het platform getoond werden. Zelfmoorden, aanvallen pesterijen en andere.  

Google heeft gelijkaardige maatregelen genomen, vooral op zijn online videostreamingdienst YouTube, waarop lang heel wat terroristische propaganda te vinden was. ‘We hebben wereldwijd duizenden mensen in dienst die materiaal evalueren en misbruiken van ons platform bestrijden’, luidde het in juni 2017 in een blog van Kent Walker, het hoofd van de juridische dienst van Google. 

Google heeft tussen juni en december 2017 naar eigen zeggen 150.000 videos van YouTube verwijderd wegens gewelddadige terroristische inhoud. Het bedrijf is ook van plan om meer mensen aan te werven om materiaal handmatig te screenen. In 2018 zouden de monitoringteams bij Google uit meer dan tienduizend mensen moeten bestaan.

In juni kondigde Google ook aan dat het zijn Trusted Flagger-programma zou uitbreiden, een netwerk van NGOs en experten dat Google meldt wanneer er extremistisch en gewelddadig materiaal op YouTube en de andere platforms van Google verschijnt. 

“Vingerafdruk” van terroristisch materiaal

Facebook en andere platforms werken inmiddels ook samen om terroristisch materiaal aan te pakken. 

In december 2016 kondigden Facebook, Twitter, Microsoft en YouTube aan dat ze begonnen waren met het delen van hashes, een soort digitale ‘vingerafdruk’ van terroristisch materiaal. Andere bedrijven zoals ask.fm, Snap, Oath, LinkedIn, justpaste.it en Facebook-dochter Instagram volgden al snel. In december 2017 kondigden de bedrijven aan dat ze al 40.000 hashes gedeeld hadden en dat ze op zoek waren naar andere partners die mee in het systeem kunnen stappen. 

Het delen van de hashes is echter geen garantie dat terroristisce content ook van alle platforms geweerd wordt. In een persbericht van Facebook van 5 december 2016 luidde het dat ‘elk bedrijf onafhankelijk zal bepalen welke beeld- en video-hashes naar de gemeenschappelijke database gestuurd zullen worden. Geen persoonlijke informatie zal gedeeld worden, en gelijkaardige content zal niet automatisch verwijderd worden.’

De grote internetbedrijven zijn inmiddels ook nauwer gaan samenwerken met elkaar en met internationale organisaties om jihadisme online te bestrijden. 

In mei 2017 richtte een aantal grote technologiereuzen het Global Internet Forum to Counter Terrorism op, een sectorgroep die tot doel heeft ‘om het verspreiden van terreur en gewelddadig extremisme op door ons geleide consumentendiensten te beletten’, zoals het luidt in een persbericht van Microsoft. 

Het GIFCT kwam voor de eerste keer bij elkaar in augustus 2017. Sindsdien is de sector beginnen samenwerken met de Verenigde Naties in het Tech Against Terror-project, waarmee de beste technieken en ideeën voor het bestrijden van online terreur uitgewisseld worden. 

Vertegenwoordigers van technologiebedrijven gaven inmimddels ook presentaties aan staatshoofden tijdend de Algemene Vergadering van de VN in september en in december kwam de hele club ook nog eens samen in Brussel voor de derde meeting van het EU Internet Forum met de Europese Commissie. 

Een gestage stroom van maatregelen lijkt nu op gang te komen. 

© Fady AlGhorra en Mahmoud Elsobky

 

Kunstmatige intelligente

Steeds meer internetbedrijven zijn inmiddels ook begonnen met de ontwikkeling van uiterst geavanceerde technologie waarmee jihadistische propaganda automatisch opgespoord en verwijderd kan worden. 

Op 15 juni 2017 lichtte Facebook voor het eerst een tipje van de sluier. Facebook-toplui Monika Bickert en Brian Fishman beschreven in een blog hoe het bedrijf kunstmatige intelligentie gebruikt om propaganda van terreurgroepen van zijn platform te houden. 

Facebook heeft algoritmes ontwikkeld die beelden en tekst kunnen opsporen die gelinkt zijn aan terreur. 

Facebook heeft algoritmes ontwikkeld die beelden en tekst kunnen opsporen die gelinkt zijn aan terreur. Nieuw is ook dat groepen van terreursupporters online opgespoord kunnen worden. ‘Uit onderzoek blijkt dat terroristen vaak in cellen radicaliseren en werken’, schrijven Bickert en Fishman.

‘Die offline trend zie je ook online terug. Als we pro-terroristische pagina’s, groepen, berichten en profielen opsporen, zetten we ook algoritmens (sic) in die deze ‘lijntjes’ volgen en zo nog meer materiaal met terroristische inhoud kunnen vinden. Daarbij gebruiken we verschillende signalen. Bijvoorbeeld door naar accounts te kijken met veel vrienden die vanwege terroristische inhoud zijn geblokkeerd of die veel kenmerken delen met een geblokkeerd account.’

Facebook gebruikt ook technologie die er op gericht is om gebruikers te blokkeren die grote aantallen valse accounts opzetten om zo terroristische propaganda te verspreiden. ‘We werken onafgebroken aan nieuwe manieren om te achterhalen hoe terroristen onze systemen proberen te omzeilen en we passen onze strategie dan ook navenant aan.’

‘Zodra iemand een terroristische foto of video probeert te uploaden, controleert ons systeem meteen of de afbeelding gelijk is aan een foto of video waarvan we weten dat die terroristische inhoud bevat. Hebben we bijvoorbeeld eerder een propagandavideo van IS onderschept, dan kunnen we voorkomen dat iemand anders diezelfde video alsnog naar Facebook uploadt. Terroristische content die specifiek is bedoeld om op Facebook te uploaden, bereikt dus in veel gevallen het platform simpelweg niet.’ 

Technologie gebruiken om terroristisch materiaal op te sporen blijft echter erg moeilijk. Vooral journalisten en researchers hebben wel eens klachten over onterecht geschorste accounts die verwijzen naar terroristisch materiaal dat gepubliceerd wordt voor studiedoeleinden. ‘Een video van een terreursaanslag is informatief en nieuws als hij uitgezonden wordt door de BBC, maar als hij door een andere gebruiker gepubliceerd wordt, kan het gaan om verheerlijking van geweld’, schrijft Kent Walker van Google. 

De Britse regering kondigde inmiddels aan dat het een internetttool ontwikkeld heeft die met kunstmatige intelligentie terroristische content kan opsporen. De software is bedoeld voor kleinere bedrijven die zelf geen grootschalige toepassingen kunnen ontwikkelen om automatisch jihadistische content op te sporen en te verwijderen. Volgens de Britse regering is de tool in staat 94 procent van de propaganda uit te filteren nog voor het online geplaatst kan worden. 

In een interview met de BBC zei de Britse minister van Binnenlandse Zaken Amber Rudd dat ze de software eventueel verplicht zal maken als de internetindustrie zelf niet voldoende maatregelen neemt. 

Anti-terreurreclame

© Redirect Method

 

Google heeft inmiddels ook nog een andere methode ontwikkeld om terreur tegen te gaan op het internet. Het bedijf ontwikkelde de Redirect Method, een systeem waarmee gebruikers die op zoek gaan naar terroristische materialen automatisch naar anti-extremistische video’s geleid worden. Dat moet jongeren die gevoelig zouden kunnen zijn voor rekrutering op andere gedachten brengen. Het systeem wordt nu stapsgewijs in Europa ingevoerd, 

Daarnaast financieren Google en Facebook ook tal van initiatieven die online materiaal produceren die een alternatief biedt om terroristische propaganda tegen te spreken. 

Sommige projecten gaan zeer creatief tewerk en produceren satire en comedy om IS-propaganda belachelijk te maken, en er zijn ook projecten waarin ex-IS-leden getuigen. 

Telegram

Ondanks al die grote investeringen bij de giganten van het internet, gaat het kat-en-muisspel tussen terroristen en kleinere technologiebedrijven gewoon verder. 

In juni 2017 werd het platform van de kleine social media-startup Baaz geïnfiltreerd door leden van IS. Ze maakten kanalen aan die materiaal van het propaganda-agentschappen Amaq en Nashir News begonnen te verspreiden. Baaz schorste de IS’ers en verwijderde alle kanalen, maar dat gebeurde pas toen Baaz getipt werd door journalisten. 

Andere relatief kleine platforms zoals Tumblr en Wickr werden ook al wel eens ‘besmet’. IS publiceerde recent zelfs toplijstjes van de apps die het meest geschikt zijn om propaganda te verspreiden en te communiceren zonder dat de veiligheidsdiensten lucht van de activiteiten zouden krijgen. 

Eén platform, Telegram, blijft bakken kritiek over zich heen krijgen omdat het niet genoeg zou doen om terroristisch materiaal van zijn kanalen te verwijderen. 

Eén platform, Telegram, blijft echter bakken kritiek over zich heen krijgen omdat het niet genoeg zou doen om terroristisch materiaal van zijn kanalen te verwijderen. Ons eigen onderzoek toonde aan dat heel wat jihadistische content vrij beschikbaar is op Telegram. 

NGO’s en regeringen hebben Telegram al herhaalde malen op de vingers getikt om meer te doen om jihadistische content te verwijderen. De anti-terreurorganisatie Counter-Extremism Project (CEP) schreef in augustus een vernietgende blog over Telegram. 

‘Sinds de aanvallen in Parijs heeft Telegram zijn officiële houding gewijzigd en beloofde het om IS-profielen van zijn publieke kanalen te verwijderen. Het bedrijf weigert echter met klem om private IS-chatboxen te verwijderen, terwijl het net daar is dat de coordinatie voor het plegen van aanslagen plaatsvindt. (…) De CEO van Telegram, Pavel Durov, heeft geweigerd om maatregelen te nemen die er voor zouden zorgen dat IS toegang zou krijgen tot de private chatkanalen van Telegram, ondanks bewijs dat het platform gebruikt is voor het plannen en organiseren van aanslagen.’

© Fady AlGhorra en Mahmoud Elsobky

 

We hebben herhaalde malen geprobeerd om Markus Ra, de woordvoerder van Telegram, te contacteren via de Telegram-app, maar zonder resultaat. Ra publiceerde op 27 maart 2017 wel een blog als reactie op de kritiek. 

Die blog had de titel ‘Schiet niet op de boodschapper.’

In de blog verdedigt Telegram zijn model van private, versleutelde chatkanalen. Ra voegt er aan toe dat terroristen altijd wel manieren zullen vinden om te communiceren en te coordineren via private berichten. Het bedrijf kant zich vierkant tegen elke vorm van toezicht of beperking van versleutelde communicatie tussen personen omwille van privacy en de vrijheid van meningsuiting. 

Telegram geeft ook aan dat het wel degelijk maatregelen neemt om openbare kanalen te verwijderen die terroristisch materiaal bevatten. ‘Net zoals de andere netwerken heeft telegram maatregelen genomen om hen van de publieke platforms te gooien’, schreef Ra. ‘Openbare terroristische chatkanalen verschijnen nog steeds - net als op de andere netwerken - maar ze worden bijna onmiddellijk aangegeven en worden binnen de paar uur afgesloten, voor ze zich wijder beginnen te verspreiden.’ 

Op 27 december 2016 tweette Telegram dat het dagelijks meer dan 60 van die publieke chatboxen blokkeert, wat neerkomt op ‘meer dan 2.000 per maand.’ Gebruikers van Telegram kunnen een ISIS Watch kanaal volgen en er is ook een e-mailadres waar terroristische propaganda gemeld kan worden. Het aantal dagelijkse schorsingen van publieke kanalen steeg volgens recentere berichten en zou nu tussen 100 en 200 liggen.   

Hoe bestrijd je een ideologie?

De kritiek op Telegram gaat inmiddels niet echt liggen. De app werd in juli vorig jaar tijdelijk geblokkeerd in Indonesië omdat er te veel kanalen zouden geweest zijn die gewelddadige propaganda verspreidden. 

In februari meldde het CEP dat IS-supporters een Franstalig kanaal gepubliceerd hadden onder de naam ‘Le Moujahid Solitaire’, waarin onder meer handleidingen voor het maken van bommen te vinden waren en oproepen tot het plegen van aanslagen in Frankrijk. 

© Fady AlGhorra en Mahmoud Elsobky

 

Durov lijkt laconiek reageren op de negatieve aandacht die Telegram al zo vaak kreeg. In één tweet postte hij een pasfoto van zichzelf met een dunne baard, met de melding dat het beeld ‘op een vreemde manier geschikt zou zijn voor media-artikelen over terroristen die Telegram gebruiken.’ 

Vooraanstaande jiadisme-onderzoekers zijn het er over eens dat al heel wat vooruitgang geboekt is in de strijd tegen gewelddadige jihadistische content. Maar de meeste experts die we spraken voor deze serie zijn het er ook over eens dat nog veel meer gedaan moet worden. 

‘De maatregelen die de internetbedrijven hebben genomen hebben zeker de speelruimte kleiner gemaakt waarin jihadistische groepen actief kunnen zijn’, zegt de Nederlandse jihadisme-onderzoeker Pieter Nanniga. ‘Maar de Islamitische Staat is in de eerste plaats een ideologie, en zo lang die ideologie niet verdwijnt, denk ik dat we dit soort materiaal online zullen blijven zien.’

Ook Pieter Van Ostaeyen ziet het fenomeen niet meteen verdwijnen. ‘Je kan zo veel maatregelen nemen als je wil online, maar van het moment dat één platform maatregelen neemt, schakelen jihadi’s gewoon over naar een ander. Ik zie niet hoe je realistisch zou kunnen voorkomen dat mensen dit soort content blijven delen. De enige effectieve oplossing is de stekker uit het hele internet trekken.’

 

Deze reportage kwam tot stand met de steun van het Fonds Pascal Decroos.

© Fonds Pascal Decroos

 

Ik ben proMO*

Nu je hier toch bent

Om de journalistiek van MO* toekomst te geven, is de steun van elke lezer meer dan ooit nodig. Vind je dat in deze tijden van populisme en nepnieuws een medium als MO* absoluut nodig is om de waarheid boven te spitten? Word proMO*.

Wil je bijdragen tot de mondiale (onderzoeks)journalistiek in het Nederlandstalig taalgebied? Dat kan, als proMO*.

Wil je er mee voor zorgen dat de journalistiek van MO* mogelijk blijft en, ondanks de besparingspolitiek, verder uitgebouwd wordt? Dat doe je, als proMO*.

Je bent proMO* voor € 4/maand of € 50/jaar.

Word proMO* of Doe een gift