På Instagram bliver kun 18,8 % af "hate content" fjernet fra platformen. Undersøgelser lavet af Cybersecurity For Democracy har vist, at "hate content" er det indhold, der interageres allermest med på sociale platforme, hvilket gør det ekstremt lukrativt at beholde på platformen. Instagram, en af verdens største digitale virksomheder hævder, at de ikke har teknologien til automatisk at identificere og fjerne "hate content".

Så hvordan får en svensk NGO, en af verdens største sociale medie-virksomheder til at tage ansvar for indholdet på deres platform? Ved at bruge deres egen algoritme mod dem selv.

Follow Their Leader er et The Non-Violence Project Foundation initiativ, der bruger Instagrams egen algoritme til at bevise, at den manglende selvregulering er et spørgsmål om profit og ikke teknologi. Instagrams algoritme slår nemlig automatisk ned på konti med et hurtigtvoksende antal af falske følgere, da falske følgere truer platformens økonomiske vækst. Men ikke ekstremistisk indhold.

Follow Their Leader er en crowdfunding-platform, der køber falske følgere til ekstremistiske konti for at trigge Instagrams algoritme til først at shadow-banne deres konti og endeligt få dem fjernet helt fra platformen.

Kampagnen blev først lanceret på SoMe i subgrupper, på Facebook, Twitter, Reddit, WhatsApp og Instagram, med folk der sympatisere med vores budskab, for ikke at alarmere ekstremisterne, vi gik efter. Senere afslørede vi i et åbent brev til Instagram, at vi havde hacket deres algoritme - som blev delt på sociale medier og som outdoor. Vi købte medieplads på en billboard truck, som spillede vores budskab på repeat i 8 timer foran indgangen til Instagrams hovedkvarter i San Francisco.

Activationen afslørede ikke alene, hvordan Instagram ignorerer ekstremister og andre hadfulde influenter på deres platform. Den gjorde noget ved problemet. Follow Their Leader fik shadow-bannet alle de udvalgte ekstremistiske konti, ved at få engageret målgruppen gennem SoMe til at købe flere hundredtusindvis fake followers. Follow Their Leader gav en NGO muligheden for at stille verdens største SoMe-virksomhed til ansvar for indholdet på deres platform ved at bruge deres egen teknologi imod dem. Og det virkede. Meta har nu indvilget i at mødes med The Non-Violence Project Foundation for at diskutere, hvordan Instagram kan håndhæve deres egne retningslinjer.

Læs mere