22-10-2017 21:24:55

Her er de 5 faktorer Google frygter i forhold til kunstig intelligens

AI: Er udviklingen af kunstig intelligens den ultimative opfindelse eller den direkte vej til at udslette hele menneskeheden? Google har investeret massivt i udviklingen, men søgegiganten peger på fem problemer, som vi er nødt til at løse, før kunstig intelligens bliver en sikker teknologi.
22. jun. 2016 Af Rene Pedersen - netværksredaktør

Kunstig intelligens er en af de teknologier, der har fyldt mest i tech-landskabet i 2016. Googles supercomputer AlphaGo slog tidligere på året den koreanske mester i spillet GO, og selv om udviklingen af neurale netværk stadig kun er på noget, der minder om reptilstadiet, bliver der investeret så mange penge i udviklingen, at nogle eksperter peger på, at vi i løbet af få årtier kan have kunstig intelligens, der kan konkurrere med den menneskelige hjerne.

Nu begynder der dog lige så stille at spire en usikkerhed hos dele af forskningsmiljøet, der beskæftiger sig med kunstig intelligens. For hvis vi kan lave en computerhjerne, der på alle måder er skarpere end den menneskelige, hvordan sikrer vi så, at den ikke løber løbsk og potentielt set udsletter hele menneskeheden? Tesla-ejeren Elon Musk hører til blandt skeptikerne, og derfor var han med til at stifte non-profit organisationen OpenAI, der arbejder målrettet mod at sikre, at kunstig intelligens ikke bliver ond.

Hypotetiske og spekulative diskussioner

Google hører til blandt de firmaer, der investerer stort i teknologien, og kunstig intelligens spiller allerede en stor rolle, når firmaet serverer dine søgeresultater via algoritmen RankBrain. I et nyt blogindlæg på firmaets Research Blog beskriver forskeren Christopher Olah, kunstig intelligens som en teknologi, der formentlig vil blive “overvældende nyttig og gavnlig for menneskeheden”. Men også som en teknologi, vi er nødt til at holde snor i allerede nu.

“En del af at være en ansvarlig forvalter af ny teknologi består i at gennemtænke potentielle udfordringer og hvordan vi bedst kan imødegå eventuelle tilknyttede risici,” skriver han blandt andet.

“Selv om potentielle farer ved kunstig intelligens har fået offentlig opmærksom, er de fleste diskussioner meget hypotetiske og spekulative. Vi mener, det er vigtigt, at bekymringerne tager udgangspunkt i ægte machine learning-forskning og at det er vigtigt at udvikle praktiske tilgange til kunstig intelligens-systemer, der fungerer sikkert og pålideligt”.

I samarbejde med forskere fra OpenAI, Stanford University og Berkeley University har Googles forskere derfor skrevet en rapport, Concrete Problems in AI Safety, der ser nærmere på problemerne ved at skabe kunstig intelligens. Her lister forskerne fem problemer, som de selv beskriver som mindre problemer i dag, men problemer, som vi er nødt til at løse. I rapporten tager de udgangspunkt i en simpel rengøringsrobot, så der er et stykke vej til Skynet fra Terminator-filmene.

Avoiding Negative Side Effects

How can we ensure that an AI system will not disturb its environment in negative ways while pursuing its goals, e.g. a cleaning robot knocking over a vase because it can clean faster by doing so?

Avoiding Reward Hacking

How can we avoid gaming of the reward function? For example, we don’t want this cleaning robot simply covering over messes with materials it can’t see through.

Scalable Oversight

How can we efficiently ensure that a given AI system respects aspects of the objective that are too expensive to be frequently evaluated during training? For example, if an AI system gets human feedback as it performs a task, it needs to use that feedback efficiently because asking too often would be annoying.

Safe Exploration

How do we ensure that an AI system doesn’t make exploratory moves with very negative repercussions? For example, maybe a cleaning robot should experiment with mopping strategies, but clearly it shouldn’t try putting a wet mop in an electrical outlet.

Robustness to Distributional Shift

How do we ensure that an AI system recognizes, and behaves robustly, when it’s in an environment very different from its training environment? For example, heuristics learned for a factory workfloor may not be safe enough for an office.

»Havde du spurgt mig i 80erne, hvilke brancher ville blive påvirket af internettet, ville jeg have sagt ‘dem alle’. Og jeg fik ret«
»Havde du spurgt mig i 80erne, hvilke brancher ville blive påvirket af internettet, ville jeg have sagt ‘dem alle’. Og jeg fik ret«

Driving IT: Ofte vil vi overdrive, hvor meget ny teknologi eller paradigmer kommer til at ændre på sigt. Men det ændrer ikke på, at eksponentiel vækst vil præge de fleste brancher i fremtiden, mener it-debatt ...

Læs mere
Deep learning algoritme skal slå mennesket i StarCraft
Deep learning algoritme skal slå mennesket i StarCraft

Computere har allerede tævet mennesket i skak, Go og poker. Nu er forskere på IT-Universitetet i gang med at træne en algoritme til at slå de bedste menneskelige spillere i computerspillet StarCra ...

Læs mere
Når teknologierne smelter sammen og ændrer alt
Når teknologierne smelter sammen og ændrer alt

Fremtidsteknologi: De biologiske, informations-, nano- og kognitive teknologier smelter i stigende grad sammen og det rejser spørgsmål om, hvordan vi bygger vores samfund, men også hvad det vil sige at være menneske

Læs mere
Kan kunstig intelligens forebygge tilbagefald blandt stofmisbrugere?
Kan kunstig intelligens forebygge tilbagefald blandt stofmisbrugere?

I sit specialeprojekt satte ITU-studerende Christopher Bjerre sig for at udvikle et softwareværktøj, som kan bruges i behandlingen af stofmisbrugere. Han fandt frem til en kombination af machine l ...

Læs mere
IBM: Sådan kommer teknologien til at ændre sundhedssektoren
IBM: Sådan kommer teknologien til at ændre sundhedssektoren

Watson er én af verdens helt store spillere, når det kommer til kunstig intelligens, og supercomputeren er da også rygraden i hele IBM's indsats på sundhedsområdet. IBM's John Crawford giver 4 bud ...

Læs mere
Kunstig intelligens er i fare for at udvikle sig til et våbenkapløb
Kunstig intelligens er i fare for at udvikle sig til et våbenkapløb

Elon Musk og 116 eksperter vil have FN-konventioner mod brugen af kunstig intelligens i krigsførelse på lige fod med kemiske våben. Der er et våbenkapløb, der skal afværges, mener tidligere medlem ...

Læs mere
Når din chef bliver en app og din kollega en robot
Når din chef bliver en app og din kollega en robot

Fremtidens arbejdsmarked foregår på en app, og alt hvad der hedder robotter og kunstig intelligens kommer til at eksplodere. Men det er en god ting, mener forfatteren bag Kunstige kolleger

Læs mere
Gartners Hype Cycle: Her er tidens 3 vigtigste teknologier
Gartners Hype Cycle: Her er tidens 3 vigtigste teknologier

Det indflydelsesrige analysefirma Gartner har offentliggjort deres årlige hype-spådom om tidens vigtigste teknologiske megatendenser, som vil få stor indflydelse på fremtidig innovation i verden.

Læs mere
Skal Facebook, Twitter og Youtube bruge deres teknologi til at bekæmpe had?
Skal Facebook, Twitter og Youtube bruge deres teknologi til at bekæmpe had?

Teknologigiganterne har værktøjerne til at stække udbredelsen af hadforbrydelser på deres populære platforme, påpeges det i kølvandet på drabet i Charlottesville. Men er det den rigtige vej at gå?

Læs mere
Brug for en diagnose - Bare spørg kunstig intelligens
Brug for en diagnose - Bare spørg kunstig intelligens

Det skal være slut med ventetider på flere måneder hos en speciallæge. Platformen Human Dx kombinerer kunstig intelligens med speciallægers viden og stiller en diagnose på blot få timer.

Læs mere

Hvad mener du? Er kunstig intelligens guds gave til menneskeheden, eller risikerer vi at den udsletter os alle?

luk
close