19-02-2018 04:37:12

Kunstig intelligens skal fjerne chikanerende kommentarer og falske nyheder på internettet

Chikanerende kommentarer og falske nyheder er et stort problem på internettet. Nu skal kunstig intelligens være med til at afhjælpe problemet. Men kan man lære en computer at skelne mellem disse?
13. jan. 2017 Af Katja Isabel Romme Simonsen

Cyber mobning og chikane ses ofte på internettet både på Twitter, Facebook og Reddit. Men nu skal det være fortid for Google har en ambitiøs plan om at anvende kunstig intelligens til at fjerne grove kommentarer samt forhindre online mobning. Det skriver Technology Review.

Teknologien kaldes Jigsaw, tidligere kendt som Google Ideas. Den skal spotte samt fjerne digital chikane med et automatiseret program kaldet Conversation AL.

“I want to use the best technology we have at our disposal to begin to take on trolling and other nefarious tactics that give hostile voices disproportionate weight, [and] to do everything we can to level the playing field. Conversation AI will primarily streamline the community moderation that is today performed by humans. So even if it is unable to neutralize the worst behavior online, it might foster more and better discourse on some sites,” siger Jigsaw’s præsident, Jared Cohen, til Technology Review. 

Jigsaw starter med at rulle Conversation AI ud på New York Times inden for de næste par måneder. Her skal det hjælpe med at rydde op i kommentarsporene, da det lige nu gøres manuelt af en person, der er ansat til at gennemse kommentarer, der bliver publiceret.

Conversation AI fungerer på den måde, at den sorterer kommentarer og fordeler dem i kategorier udfra emner som fx angreb på anden kommentator, angreb på forfatter, spam m.m.

Der er dog et sprogligt problem i forhold til at opdage chikane i en kommentar. Conversation AI’s er modelleret til at analyse kommentarer enkeltvist  og ikke hele flowet i en diskussion. Den matcher derfor kun individuelle kommentarer med kendte modeller af, hvad der er en god eller dårlig kommentar, hvilket gør, at den ikke kan fjerne alle chikanerende kommentarer. Der er derfor lidt vej igen før, at kunstig intelligens kan fjerne alt chikane på nettet, hvis det overhovedet kan lade sig gøre. 

Kunstig intelligens til kamp mod falske nyheder

Kunstig intelligens skal ikke kun bruges til at fjerne modbydelige kommentarer på internettet, men skal også bekæmpe falske nyheder, men det er nemmere sagt end gjort. 

“Modern machine learning for natural language processing is able to do things like translate from one language to another, because everything it needs to know is in the sentence its processing,” On the other hand, identifying claims, tracing information through potentially hundreds of sources, and making a judgment on how truthful a claim could be based on a diversity of ideas—all that relies on a holistic understanding of the world, the ability to bridge concepts that aren’t connected by exact words or semantic meaning,” siger Ian Goodfellow, forsker hos OpenAI, til Quartz.  

Et af problemerne for kunstig intelligens er at skelne, hvad der er en sand eller falsk nyhed baseret på, at computeren søger på internettet efter, om der står noget om emnet i forvejen. Men nyheder omhandler ofte noget, der ikke findes i forvejen. Derfor er det svært for computeren at genkende om det er falsk eller ej, og den vil formentlig se nyheden som falsk, hvis den ikke kan lokalisere andre lignende historier.

Et forslag er at lære en algoritme, hvordan man stoler på nogle ting og ikke på andre, så den ikke behøver at læse hele internettet igennem hver gang, den skal faktatjekke en historie. Imens man prøver at finde en algoritme, der kan løse problemet, er en lang række andre også sat på sagen som fx hackere og tredjeparts kodere, der forsøger at løse problemet med de falske nyheder på de sociale medier.

Robotterne kommer: DR stiller skarpt på kunstig intelligens og robotter
Robotterne kommer: DR stiller skarpt på kunstig intelligens og robotter

Kunstig intelligens: Kunstig og intelligens vil forandre hele det danske arbejdsmarked. DR satte søndag fokus på Siri-kommisionens arbejde.

Læs mere
Kunstig intelligens udvider de ingeniørmæssige muligheder
Kunstig intelligens udvider de ingeniørmæssige muligheder

Niel Jacobstein er ekspert i kunstig intelligens (AI) ved Singularity University i Silicon Valley. Her giver han et overblik over, hvordan AI øger mulighederne i ingeniørernes verden.

Læs mere
Kunstig intelligens kan komponere fremtidens spilmusik
Kunstig intelligens kan komponere fremtidens spilmusik

Forskning: Marco Scirea, ph.d.-studerende ved IT-Universitetet i København, forsker i at få kunstig intelligens til at komponere musik til computerspil. Hans forskning har netop udløst en best paper-pris på ...

Læs mere
Her er de 5 faktorer Google frygter i forhold til kunstig intelligens
Her er de 5 faktorer Google frygter i forhold til kunstig intelligens

AI: Er udviklingen af kunstig intelligens den ultimative opfindelse eller den direkte vej til at udslette hele menneskeheden? Google har investeret massivt i udviklingen, men søgegiganten peger på fem ...

Læs mere
Stephen Hawking advarer: Forskning i kunstig intelligens kan være farlig
Stephen Hawking advarer: Forskning i kunstig intelligens kan være farlig

Kunstig intelligens: Den verdensberømte fysiker Stephen Hawking er bekymret for forskningen i kunstig intelligens. Udviklingen er ikke nødvendigvis ufarlig.

Læs mere
Fem måder kunstig intelligens vil disrupte forskning
Fem måder kunstig intelligens vil disrupte forskning

AI: Kunstig intelligens har potentiale til at ændre alle spilleregler inden for forskning. Se fem områder, hvor teknologien vil disrupte forskningsverdenen.

Læs mere

Deltag i debatten

IT - artikler og arrangementer

Nyeste IT-job fra Jobfinder

luk
close