18-10-2018 07:17:32

Skal Facebook, Twitter og Youtube bruge deres teknologi til at bekæmpe had?

Teknologigiganterne har værktøjerne til at stække udbredelsen af hadforbrydelser på deres populære platforme, påpeges det i kølvandet på drabet i Charlottesville. Men er det den rigtige vej at gå?
15. aug. 2017 Af Morten Scriver Andersen - Journalist
<p><em>Stand Against Hate-demonstration i Philadelphia mod de seneste hadforbrydelser i USA. Foto - Fickr, Governor Wolf</em></p>

Stand Against Hate-demonstration i Philadelphia mod de seneste hadforbrydelser i USA. Foto - Fickr, Governor Wolf

Der er en fin balance mellem at beskytte ytringsfriheden og blive ufrivillig platform for hadforbrydelser. Det har sociale medier som Facebook, Twitter og Reddit oplevet på egen krop, senest i Charlottesville, hvor en højreekstremist kørte gennem en moddemonstration foran rullende kameraer 

Chaufføren dræbte én og kvæstede 19. Manden, der er blevet fængslet i forbindelse med mordet, James Alex Fields Jr., har tidligere opslået højrenationalistiske memer og billeder af Hitler på sin Facebook-væg. Et andet eksempel er den neonazisitiske bevægelse Daily Stormer, som er blevet vidt berygtet for at mobilisere såkaldte troll-hære, der blandt andet sender antisemitiske beskeder over falske Twitter-kontoer. 

Det har fået debatten til at blusse op igen om teknologigiganternes ansvar som platform for, og dermed også deres stiltiende accept af, disse grupper. Cyberhad bliver til fysisk had, lyder argumentet over for de magtfulde sociale medier. 

"Sociale medier har tilladt [hadgrupper] at sprede og dele deres budskaber på måder, der aldrig har været mulig før. De har bevæget sig fra en yderposition til mainstream," siger Jonathan Greenblatt, administrerende direktør for Anti Defamation League, til det amerikanske techmagasin Wired. 

Ny alliance mod cyberhad 

I ytringsfrihedens navn har Facebook og Twitter tilladt ekstremistiske aktiviteter at blomstre på deres platforme, eftersom det ikke er i umiddelbar modstrid med deres regler for brugernes opførsel. 

Facebook påstår ellers, at de fjerner al hadtale eller enhver hyldest til voldelige handlinger og hadgrupper, men de tillader "mennesker at bruge Facebook til at udfordre idéer, institutioner og praksisser. Og vi tillader grupper at organisere fredfyldte protester eller demonstrationer for eller imod alt." 

For at komme problemet til livs har Anti Defamation League, som har overvåget antisemitisme og had i over et århundrede, organiseret en arbejdsgruppe af teknologivirksomheder, heriblandt Facebook, Google, Microsoft, Twitter og Youtube, som fokuserer på at gøre noget ved cyberhad. 

"Disse teknologivirksomheder er meget sofistikeret. De har taget sig af problemer som børneporno, piratindhold og terroraktiviteter. Jeg tror ikke, nogle af de strategier er perfekte, men det vil have stor værdi her, at bruge noget af det, vi har lært fra andre offentlige farer," siger Jonathan Greenblatt. 

Billedgenkendelse mod ISIS 

Til sammenligning har både Twitter, Facebook og Youtube allerede taget store skridt med kunstig intelligens for at stække terrorgruppen ISIS' aktiviteter på deres sider, skriver Wired. 

Facebook bruger kunstig intelligens til at identificere tekst, der advokerer for terrorisme, og de bruger avanceret billedgenkendelsesteknologi til at spotte ditto billeder og memes. Facebook arbejder tilmed på at smide grupper af brugere ud, som har relationer til terrorisme. 

"Vi bruger signaler, såsom hvorvidt en konto er venner med et stort antal af kontoer, der er blevet deaktiveret for terrorisme, eller om en konto har samme egenskaber som deaktiverede kontoer," skrev Facebook i et blogindlæg for nylig. På samme måde har Instagram, der er ejet af Facebook, for nylig lanceret en algoritme, der fjerner kommentarer fra trolls. 

Den førnævnte højreekstremistiske gruppe Daily Stormer har efter Charlottesville-mordet fået sparket fra deres hjemmeside-host GoDaddy og kort efter gjorde Google det samme, da Daily Stormer havde valgt dem som nyt hjem for deres hjemmeside. 

"Eftersom Daily Stormers seneste artikel kommer direkte efterfulgt af en voldelig handling, så tror vi at denne form for artikel kan tilskynde til yderligere vold," siger en talsmand for GoDaddy til New York Times. 

Youtube er gået i en mere dialogpræget retning. Tænketanken Jigsaw, som hører under Youtubes moderselskab Alphabet, har udviklet et værtkøj kaldet Redirect Method, som viser anti ISIS indhold til brugere, der søger efter ISIS-relateret videoer. 

Disse tiltag er omvendt uløseligt forbundet med opråb, om at virksomheder som Facebook, Google og Twitter har fået for meget magt over informationsstrømme. Og er det nu også den rigtige vej at gå at bruge teknologien til at stække hadforbrydelser på bekostning af vores ytringsfrihed, spørges der. 

Neurale netværk sikrer bedre billedgenkendelse
Neurale netværk sikrer bedre billedgenkendelse

Heliske neurale netværk (eng.: Convolutional Neural Networks eller CNN) er lagdelte systemer af kunstige neuroner, som udveksler meddelelser mellem hinanden. CNN bruges typisk til mønstergenkendel ...

Læs mere
Fra kunstig intelligens  til Kierkegaard
Fra kunstig intelligens til Kierkegaard

Selv om Technomania er spækket med teknologiske lækkerier for øjnene, er der også tænkt på den viden og indsigt, som bedst opfanges med ørerne.

Læs mere
Kunstig intelligens udgør en eksistentiel risiko
Kunstig intelligens udgør en eksistentiel risiko

Kunstig intelligens: Risikoen for at kunstig intelligens kommer til at udrydde menneskeheden, som vi kender den i et fremtidsscenarie ala Terminators skynet, er ikke stor. Men det er en risiko, som vi er nødt til at f ...

Læs mere
Der bliver investeret mere i kunstig intelligens end nogensinde før
Der bliver investeret mere i kunstig intelligens end nogensinde før

Kunstig intelligens: Store virksomheder som Google, IBM, Twitter og Apple køber AI-startups som aldrig før.

Læs mere

Deltag i debatten

luk
close