19-11-2018 19:05:23

Her er de 5 faktorer Google frygter i forhold til kunstig intelligens

AI: Er udviklingen af kunstig intelligens den ultimative opfindelse eller den direkte vej til at udslette hele menneskeheden? Google har investeret massivt i udviklingen, men søgegiganten peger på fem problemer, som vi er nødt til at løse, før kunstig intelligens bliver en sikker teknologi.
22. jun. 2016 Af Rene Pedersen - netværksredaktør

Kunstig intelligens er en af de teknologier, der har fyldt mest i tech-landskabet i 2016. Googles supercomputer AlphaGo slog tidligere på året den koreanske mester i spillet GO, og selv om udviklingen af neurale netværk stadig kun er på noget, der minder om reptilstadiet, bliver der investeret så mange penge i udviklingen, at nogle eksperter peger på, at vi i løbet af få årtier kan have kunstig intelligens, der kan konkurrere med den menneskelige hjerne.

Nu begynder der dog lige så stille at spire en usikkerhed hos dele af forskningsmiljøet, der beskæftiger sig med kunstig intelligens. For hvis vi kan lave en computerhjerne, der på alle måder er skarpere end den menneskelige, hvordan sikrer vi så, at den ikke løber løbsk og potentielt set udsletter hele menneskeheden? Tesla-ejeren Elon Musk hører til blandt skeptikerne, og derfor var han med til at stifte non-profit organisationen OpenAI, der arbejder målrettet mod at sikre, at kunstig intelligens ikke bliver ond.

Hypotetiske og spekulative diskussioner

Google hører til blandt de firmaer, der investerer stort i teknologien, og kunstig intelligens spiller allerede en stor rolle, når firmaet serverer dine søgeresultater via algoritmen RankBrain. I et nyt blogindlæg på firmaets Research Blog beskriver forskeren Christopher Olah, kunstig intelligens som en teknologi, der formentlig vil blive “overvældende nyttig og gavnlig for menneskeheden”. Men også som en teknologi, vi er nødt til at holde snor i allerede nu.

“En del af at være en ansvarlig forvalter af ny teknologi består i at gennemtænke potentielle udfordringer og hvordan vi bedst kan imødegå eventuelle tilknyttede risici,” skriver han blandt andet.

“Selv om potentielle farer ved kunstig intelligens har fået offentlig opmærksom, er de fleste diskussioner meget hypotetiske og spekulative. Vi mener, det er vigtigt, at bekymringerne tager udgangspunkt i ægte machine learning-forskning og at det er vigtigt at udvikle praktiske tilgange til kunstig intelligens-systemer, der fungerer sikkert og pålideligt”.

I samarbejde med forskere fra OpenAI, Stanford University og Berkeley University har Googles forskere derfor skrevet en rapport, Concrete Problems in AI Safety, der ser nærmere på problemerne ved at skabe kunstig intelligens. Her lister forskerne fem problemer, som de selv beskriver som mindre problemer i dag, men problemer, som vi er nødt til at løse. I rapporten tager de udgangspunkt i en simpel rengøringsrobot, så der er et stykke vej til Skynet fra Terminator-filmene.

Avoiding Negative Side Effects

How can we ensure that an AI system will not disturb its environment in negative ways while pursuing its goals, e.g. a cleaning robot knocking over a vase because it can clean faster by doing so?

Avoiding Reward Hacking

How can we avoid gaming of the reward function? For example, we don’t want this cleaning robot simply covering over messes with materials it can’t see through.

Scalable Oversight

How can we efficiently ensure that a given AI system respects aspects of the objective that are too expensive to be frequently evaluated during training? For example, if an AI system gets human feedback as it performs a task, it needs to use that feedback efficiently because asking too often would be annoying.

Safe Exploration

How do we ensure that an AI system doesn’t make exploratory moves with very negative repercussions? For example, maybe a cleaning robot should experiment with mopping strategies, but clearly it shouldn’t try putting a wet mop in an electrical outlet.

Robustness to Distributional Shift

How do we ensure that an AI system recognizes, and behaves robustly, when it’s in an environment very different from its training environment? For example, heuristics learned for a factory workfloor may not be safe enough for an office.

Hobbydetektiver og forskere bygger Danmarks nye superhjerne
Hobbydetektiver og forskere bygger Danmarks nye superhjerne

Kunstig intelligens: Forsker Jacob Sherson bruger et detektiv-computerspil til at nå tusindvis af forsøgspersoner som skal hjælpe med at udvikle en kunstig intelligens. Han ser det som et modtræk til Facebook, Google ...

Læs mere
»Mennesket er ikke toppen af evolutionen«
»Mennesket er ikke toppen af evolutionen«

Kunstig intelligens: Vi overvurderer vores egen intelligens og rolle i universet, mener filosoffen og debattøren Nikola Danaylov. Han hævder at virus og bakterier på visse parametre er klogere end mennesker.

Læs mere
5 etiske dilemmaer tech-branchen skal løse
5 etiske dilemmaer tech-branchen skal løse

De store tech-firmaer som Google, Amazon og Facebook har givet os produkter, de færreste vil undvære. Nu kommer det etiske efterslæb, som hele tech-branchen og verdens regeringer i dag står over for.

Læs mere
Militære og kommercielle interesser dominerer AI-udviklingen
Militære og kommercielle interesser dominerer AI-udviklingen

Kunstig intelligens: Den militære og kommercielt betalte forskning i kunstig intelligens er mange gange større end den åbne og frie på universiteterne. Det er potentielt en udfordring, mener it-debattør og techblogger ...

Læs mere
Kan mennesket reduceres til data?
Kan mennesket reduceres til data?

Podcast: Mennesker er faktisk ikke særligt gode til at styre og analysere de enorme mængder data, vi producerer om alt i verden. Det er maskiner derimod. Men når vi bygger maskiner, der er bedre end os, er ...

Læs mere
Machine Learning er også for almindelige mennesker
Machine Learning er også for almindelige mennesker

Machine learning: Du skal igennem en stejl læringskurve for at komme i gang med machine learning. Men hvorfor egentlig? Ifølge Andreas Refsgaard, der blandt andet hjælper Google med at gøre kunstig intelligens mere ...

Læs mere
Hvad bruger man et beer pong-bord med kunstig intelligens og LED-lys til?
Hvad bruger man et beer pong-bord med kunstig intelligens og LED-lys til?

På Roskilde Festival oplærer en flok DTU-studerende et beer pong-bord i at høre, hvor bordtennisbolde lander. Forsøget kan bruges til at lave billige touchskærme af træplader.

Læs mere
Kan robotter reducere 2,5 millioner opkald til ATP?
Kan robotter reducere 2,5 millioner opkald til ATP?

Når robotterne rykker ind hos ATP, er det deres opgave at løse rutineprægede opgaver. Og i fremtiden er det sandsynligt, at digitale tjenester også kan besvare mange af dine opkald og skriftlige h ...

Læs mere
»Vi skaber hurtig læring og fejler i lille skala«
»Vi skaber hurtig læring og fejler i lille skala«

ATP er ved at sadle om, og en række projekter kører i dag som agil udvikling. Fordelen ved det accelererede procesflow er blandt andet, at det giver hurtig læring og mulighed for at tilpasse proje ...

Læs mere
Big data og kunstig intelligens svigtede Tysklands VM-hold
Big data og kunstig intelligens svigtede Tysklands VM-hold

Techtopia: Det tyske fodboldlandshold har investeret store penge i brug af big data og kunstig intelligens for at optimere spillernes præstationer og undgå skader, men det var tilsyneladende ikke nok ved VM ...

Læs mere

Hvad mener du? Er kunstig intelligens guds gave til menneskeheden, eller risikerer vi at den udsletter os alle?

luk
close