13-12-2017 14:00:14

Her er de 5 faktorer Google frygter i forhold til kunstig intelligens

AI: Er udviklingen af kunstig intelligens den ultimative opfindelse eller den direkte vej til at udslette hele menneskeheden? Google har investeret massivt i udviklingen, men søgegiganten peger på fem problemer, som vi er nødt til at løse, før kunstig intelligens bliver en sikker teknologi.
22. jun. 2016 Af Rene Pedersen - netværksredaktør

Kunstig intelligens er en af de teknologier, der har fyldt mest i tech-landskabet i 2016. Googles supercomputer AlphaGo slog tidligere på året den koreanske mester i spillet GO, og selv om udviklingen af neurale netværk stadig kun er på noget, der minder om reptilstadiet, bliver der investeret så mange penge i udviklingen, at nogle eksperter peger på, at vi i løbet af få årtier kan have kunstig intelligens, der kan konkurrere med den menneskelige hjerne.

Nu begynder der dog lige så stille at spire en usikkerhed hos dele af forskningsmiljøet, der beskæftiger sig med kunstig intelligens. For hvis vi kan lave en computerhjerne, der på alle måder er skarpere end den menneskelige, hvordan sikrer vi så, at den ikke løber løbsk og potentielt set udsletter hele menneskeheden? Tesla-ejeren Elon Musk hører til blandt skeptikerne, og derfor var han med til at stifte non-profit organisationen OpenAI, der arbejder målrettet mod at sikre, at kunstig intelligens ikke bliver ond.

Hypotetiske og spekulative diskussioner

Google hører til blandt de firmaer, der investerer stort i teknologien, og kunstig intelligens spiller allerede en stor rolle, når firmaet serverer dine søgeresultater via algoritmen RankBrain. I et nyt blogindlæg på firmaets Research Blog beskriver forskeren Christopher Olah, kunstig intelligens som en teknologi, der formentlig vil blive “overvældende nyttig og gavnlig for menneskeheden”. Men også som en teknologi, vi er nødt til at holde snor i allerede nu.

“En del af at være en ansvarlig forvalter af ny teknologi består i at gennemtænke potentielle udfordringer og hvordan vi bedst kan imødegå eventuelle tilknyttede risici,” skriver han blandt andet.

“Selv om potentielle farer ved kunstig intelligens har fået offentlig opmærksom, er de fleste diskussioner meget hypotetiske og spekulative. Vi mener, det er vigtigt, at bekymringerne tager udgangspunkt i ægte machine learning-forskning og at det er vigtigt at udvikle praktiske tilgange til kunstig intelligens-systemer, der fungerer sikkert og pålideligt”.

I samarbejde med forskere fra OpenAI, Stanford University og Berkeley University har Googles forskere derfor skrevet en rapport, Concrete Problems in AI Safety, der ser nærmere på problemerne ved at skabe kunstig intelligens. Her lister forskerne fem problemer, som de selv beskriver som mindre problemer i dag, men problemer, som vi er nødt til at løse. I rapporten tager de udgangspunkt i en simpel rengøringsrobot, så der er et stykke vej til Skynet fra Terminator-filmene.

Avoiding Negative Side Effects

How can we ensure that an AI system will not disturb its environment in negative ways while pursuing its goals, e.g. a cleaning robot knocking over a vase because it can clean faster by doing so?

Avoiding Reward Hacking

How can we avoid gaming of the reward function? For example, we don’t want this cleaning robot simply covering over messes with materials it can’t see through.

Scalable Oversight

How can we efficiently ensure that a given AI system respects aspects of the objective that are too expensive to be frequently evaluated during training? For example, if an AI system gets human feedback as it performs a task, it needs to use that feedback efficiently because asking too often would be annoying.

Safe Exploration

How do we ensure that an AI system doesn’t make exploratory moves with very negative repercussions? For example, maybe a cleaning robot should experiment with mopping strategies, but clearly it shouldn’t try putting a wet mop in an electrical outlet.

Robustness to Distributional Shift

How do we ensure that an AI system recognizes, and behaves robustly, when it’s in an environment very different from its training environment? For example, heuristics learned for a factory workfloor may not be safe enough for an office.

Kunstig intelligens skal hjælpe Carlsberg med at smage på øl
Kunstig intelligens skal hjælpe Carlsberg med at smage på øl

Ingeniøren: Carlsberg Laboratorium vil fremstille øl, der skal smages til ved hjælp af kunstig intelligens, der med sensorer og maskinlæring skal gøre det lettere at finde frem til de bedste smage.

Læs mere
De humanoide robotter kommer
De humanoide robotter kommer

Robotter: Robotterne bliver mindre farlige at omgås, kan løse mere varierede opgaver og bliver i det store hele mere som mennesker. Men vi er stadig milevidt fra androiderne, vi ser i film som Blade Runner ...

Læs mere
»Kunstig intelligens er den vigtigste nyskabelse på Jorden i 3,5 millioner år«
»Kunstig intelligens er den vigtigste nyskabelse på Jorden i 3,5 millioner år«

Kunstig intelligens: Vi vil i løbet af få år se kunstig intelligens på niveau med dyrs hjerner. Og i løbet af få årtier vil vi med kunstig intelligens skabe grundlæggende ændringer på jorden, som tidligere har taget m ...

Læs mere
Emoji-viden skal gøre os klogere på racisme
Emoji-viden skal gøre os klogere på racisme

Techtopia: Emojis er for alle, og det udnytter man på MIT Media Lab i Boston til at blive klogere på menneskets sprogbrug. Med kunstig intelligens kan man blandt andet blive bedre til at forstå racisme og mo ...

Læs mere
»Kina er en black box, som vi er nødt til at åbne«
»Kina er en black box, som vi er nødt til at åbne«

Kina: Kigger du kun mod Silicon Valley, når du prøver at forstå fremtiden, står du med ryggen til udviklingen, mener Kina-kendere. De peger på, at Kina allerede er førende på flere af fremtidens vigtigs ...

Læs mere
Næste generation AI-chipsæt kan gøre skyen overflødig
Næste generation AI-chipsæt kan gøre skyen overflødig

Ingeniøren: Chipproducenten Intel har udviklet en ny AI-chip baseret på neuromorfisk chipteknologi, der mangedobler regnekraften med en faktor én million til et meget lavere strømforbrug.

Læs mere
Læge: Teknologi kan skabe ulighed
Læge: Teknologi kan skabe ulighed

Teknologiens indtog på hospitalerne ændrer ikke bare lægens men også patientens rolle markant. Men hvad enten man omfavner kunstig intelligens og gadget-bølgen, så skal man holde tungen lige i mun ...

Læs mere
Kunstig intelligens er en game changer til at opdage og stoppe droner
Kunstig intelligens er en game changer til at opdage og stoppe droner

Det voksende antal af små, billige droner udgør i dag et stigende problem. Det gælder både inden for militæret, hvor dronerne bliver brugt til simple terrorangreb, som f.eks. at smide bomber mod m ...

Læs mere
»Internettet er vokset eksponentielt siden 70'erne«
»Internettet er vokset eksponentielt siden 70'erne«

Driving IT: Ofte vil vi overdrive, hvor meget ny teknologi eller paradigmer kommer til at ændre på sigt. Men det ændrer ikke på, at eksponentiel vækst vil præge de fleste brancher i fremtiden, mener it-debatt ...

Læs mere
Deep learning algoritme skal slå mennesket i StarCraft
Deep learning algoritme skal slå mennesket i StarCraft

Computere har allerede tævet mennesket i skak, Go og poker. Nu er forskere på IT-Universitetet i gang med at træne en algoritme til at slå de bedste menneskelige spillere i computerspillet StarCra ...

Læs mere

Hvad mener du? Er kunstig intelligens guds gave til menneskeheden, eller risikerer vi at den udsletter os alle?

luk
close