23-09-2018 12:47:50

Vi skal have en ny nordisk tilgang til kunstig intelligens

Techtopia: Hvis Silicon Valley får lov at bestemme, så bliver det på rene markedsvilkår. Vi burde have en ny nordisk tilgang, så vi får etikken med, mener Socialdemokratiets Kirsten Brosbøl.
22. jun. 2018 Af Morten Scriver Andersen - Journalist
<p><em>Robotten Pepper hilser på teltgæsterne under Folkemødet på Bornholm.</em></p>

Robotten Pepper hilser på teltgæsterne under Folkemødet på Bornholm.

“Hello human, pleased to meet you! I’m primarily being used for simple social interaction with humans, and I still have a lot to learn.”

Sådan sagde robotten Pepper fra scenen på Folkemødet på Bornholm. Pepper kan trykke dig i hånden og følge dig med øjnene, og så bliver den i stigende grad brugt i servicefunktioner. Fx kan du få hjælp af Pepper til at finde det bedste sci fi-litteratur på Aarhus Hovedbibliotek, eller blive betjent på en sushirestaurant i Tokyo.

Men Pepper og dens mindre humanoide slægtninge vil i fremtiden påtage sig mere beslutningstunge funktioner såsom at rådgive banker, om hvem der er berettiget til et lån eller diagnosticere patienter. Det ser vi allerede eksempler på rundt i verden i dag.

Den udvikling ser Socialdemokratiets Kirsten Brosbøl på med en vis skepsis.

Techtopia podcast

Her finder du Techtopia podcast:

Techtopia er en ugentlig podcast om teknologi, start-ups og etablerede virksomheder og den nyeste forskning – krydret med interview og reportage fra ind- og udland.

Bliv medlem af Techtopia Backstage på Facebook.

Vært: Henrik Føhns.

Gode råd om podcast.

Ingeniørforeningen, IDA producerer og udgiver Techtopia i samarbejde med Ingeniøren og partnerne AM Hub, MCH Messecenter Herning, Innovation Centre Denmark og IDA Forsikring. Læs mere om partnerne her

Techtopia podcast

”Jeg tror på, at teknologien kommer til at løse rigtig mange af vores problemer, men det er også nødvendigt, at vi har en politisk debat, netop når det handler om kunstig intelligens, om de risici, der er og den etiske dimension i forhold til, hvad det her kan komme til at påvirke i vores samfund,” siger Kirsten Brosbøl til IDAs teknologipodcast, Techtopia under en debat om ansvarlige algoritmer på Folkemødet.

Algoritmer har magt

Algoritme er egentlig bare et smart ord for et computerprogram. Det er en metode til at håndtere noget data og skabe ny viden. Og det er der ikke noget nyt i, forklarer Thomas Bolander, der er lektor ved DTU Compute. Det har man gjort siden 1950’erne, men dengang var det mere kontrolleret, og computerne gjorde præcis, hvad de fik besked på. Men med de selvlærende algoritmer, der ændrer sig via machine learning, er det ikke længere mennesker, der har haft sidste hånd på hver en kodelinje.

”Problemet kommer, når det er baseret på selvlærende algoritmer. Når det ikke er mennesker, der har programmeret dem præcis til, hvad de gør. Så er de beslutninger, de træffer baseret på det data, man har fodret den med. Man kan ikke garantere, at de vil træffe de beslutninger, der ud fra et menneskeligt synspunkt, vil være de rigtige,” forklarer Thomas Bolander til Techtopia under debatten på Folkemødet.

Algoritmer har magt, slår både Thomas Bolander og Kirsten Brosbøl fast. Fx når man googler ord som administrerende direktør eller sygeplejerske. Den første søgning vil overvejende vise midaldrende mænd i jakkesæt, mens den anden vil have letpåklædte kvinder blandt resultaterne.

”Det handler om, hvad det er for et billede af en CEO og en sygeplejerske, vi fodrer vores børn med, når de sidder og googler, youtuber og facebooker, og hvad de nu gør,” siger Kristen Brosbøl fra Socialdemokratiet.

Skal vi acceptere eller regulere?

De store techvirksomheder i Silicon Valley som Google og Facebook har før fået kritik for at være en del af en mandsdomineret verden uden den store forståelse for de problemer, der er forenet med bias.

Ifølge Thomas Bolander er de store virksomheder i Silicon Valley primært båret af et ønske om at komme hurtigt ud og erobre markedsandele. Og nogen mener sågar, at vi skal acceptere, at udviklingen af kunstig intelligens kun til en vis grad kan tage højde for etiske dilemmaer omkring fx køn og race. Til det er den selvlærende kode – algoritmen - for uigennemskuelig.

”Det er en meget farlig vej at gå ned af. Jeg mener selvfølgelig, at man kan løse de her problemer, og at man skal forske mere i det. Selvfølgelig kan vi også lave kunstig intelligens, som er forklarlig, som kan forklare sig selv, og som vi kan have tillid til. Men det kommer bare til at tage lidt længere tid,” siger Thomas Bolander.

Kan føre til overbehandling

Thomas Ploug, professor i anvendt etik ved Aalborg Universitet, har siddet i Etisk Råd over mange år, og her har man blandt andet diskuteret fordele og ulemper ved udviklingen af kunstig intelligens.

Han kan finde mange eksempler, hvor det er en fordel for en virksomhed at have algoritmer, som forfordeler nogle mennesker. Det er der simpelthen penge i, blandt andet i det amerikanske sundhedssystem. Spørgsmålet er bare, om det er etisk forsvarligt.

”Hvis man er opmærksom på erstatningspligt, så er der god grund til at have et diagnosesystem, der overdiagnosticerer og dermed giver anledning til overbehandling. Det er billigere i sagsanlæg at overdiagnosticere og overbehandle end at underdiagnosticere og underbehandle,” siger han med tanke på det amerikanske sundhedssystem, der ofte er præget af store erstatningssager.

Thomas Ploug mener, at der er mange gode grunde til at introducere kunstig intelligens alle mulige steder. Med dem kan vi potentielt få bedre medicin, bedre diagnosticering, færre trafikulykker, og listen er uendelig. Men det primære problem er, at vi i de fleste tilfælde endnu ikke ved, om brugen af kunstig intelligens rent faktisk virker efter hensigten.

”Vi skal være sikre på, at de vitterligt gør det bedre. Det hjælper ikke noget, at vi begynder at erstatte lægerne med et diagnosesystem, hvis de ikke gør det bedre end lægerne. Det hjælper heller ikke noget, at vi introducerer selvkørende biler, hvis de kører galt,” siger Thomas Ploug til under debatten på Folkemødet.

Ny nordisk tilgang

De etiske spørgsmål omkring kunstig intelligens er ikke kun et dansk anliggende. EU har netop fremlagt en plan for, hvordan man skal drøfte kunstig intelligens på EU-niveau. Det hilser Socialdemokratiets Kirsten Brosbøl velkomment, men savner, at vi i Danmark tager mere fat i debatten.

”Vi burde jo have sådan en ny nordisk tilgang til det her. Men hvis jeg skal sætte det lidt skarpt op, så vil jeg påstå, at det er det modsatte, der er tilfældet lige nu. Danmark har sådan en jubeloptimistisk tilgang til digitalisering, og at vi skal være digitaliseringens hub. Så misser vi ud på den samtale, der er i gang i andre lande,” siger hun.

Kirsten Brosbøl mener omvendt, at mange teknologier i dag bliver udviklet på rene markedsvilkår, og det er ikke til gavn for samfundet på den lange bane.

”Vi skal simpelthen have vendt fortegnet om, så kodningen bliver til gavn for mennesker og menneskeheden og samfundet og ikke kører på rene markedsvilkår på en måde så det er uden for demokratisk kontrol og den demokratiske samtale,” siger hun.

Du kan høre hele debatten på Techtopia.dk eller direkte på iTunes.

Techtopia 57: Ansvarlige algoritmer
Techtopia 57: Ansvarlige algoritmer

Podcast: Hvordan påvirker algoritmerne vores beslutningskraft, vores interesser og vores politiske holdninger? Og hvad skal vi stille af krav for at modvirke de værste fejl og misforståelser?

Læs mere
Kunstig intelligens befinder sig i en diversitetskrise
Kunstig intelligens befinder sig i en diversitetskrise

Kunstig intelligens: Der dryppes kunstig intelligens ind i alle mulige beslutningsprocesser. Teknologien udvikles i høj grad af velbemidlede, hvide mænd, og det kan skabe store bias-problemer, der er ved at udvikle si ...

Læs mere
Techtopia 46: Robotbilens dilemma
Techtopia 46: Robotbilens dilemma

Podcast: Når ulykken truer, hvad skal robotbilen så vælge? At køre fodgængeren ned og beskytte sine passagerer? Eller skal den køre galt og ofre passagererne til fordel for et barn på jagt efter en bold på ...

Læs mere
Techtopia 25: Kan teknologi frelse verden?
Techtopia 25: Kan teknologi frelse verden?

Podcast: Hvordan har vores opfattelse af teknologi forandret sig gennem de sidste 170 år? Måske mindre end vi tror.

Læs mere

Deltag i debatten

luk
close