22-02-2018 15:48:21

Her er de 5 faktorer Google frygter i forhold til kunstig intelligens

AI: Er udviklingen af kunstig intelligens den ultimative opfindelse eller den direkte vej til at udslette hele menneskeheden? Google har investeret massivt i udviklingen, men søgegiganten peger på fem problemer, som vi er nødt til at løse, før kunstig intelligens bliver en sikker teknologi.
22. jun. 2016 Af Rene Pedersen - netværksredaktør

Kunstig intelligens er en af de teknologier, der har fyldt mest i tech-landskabet i 2016. Googles supercomputer AlphaGo slog tidligere på året den koreanske mester i spillet GO, og selv om udviklingen af neurale netværk stadig kun er på noget, der minder om reptilstadiet, bliver der investeret så mange penge i udviklingen, at nogle eksperter peger på, at vi i løbet af få årtier kan have kunstig intelligens, der kan konkurrere med den menneskelige hjerne.

Nu begynder der dog lige så stille at spire en usikkerhed hos dele af forskningsmiljøet, der beskæftiger sig med kunstig intelligens. For hvis vi kan lave en computerhjerne, der på alle måder er skarpere end den menneskelige, hvordan sikrer vi så, at den ikke løber løbsk og potentielt set udsletter hele menneskeheden? Tesla-ejeren Elon Musk hører til blandt skeptikerne, og derfor var han med til at stifte non-profit organisationen OpenAI, der arbejder målrettet mod at sikre, at kunstig intelligens ikke bliver ond.

Hypotetiske og spekulative diskussioner

Google hører til blandt de firmaer, der investerer stort i teknologien, og kunstig intelligens spiller allerede en stor rolle, når firmaet serverer dine søgeresultater via algoritmen RankBrain. I et nyt blogindlæg på firmaets Research Blog beskriver forskeren Christopher Olah, kunstig intelligens som en teknologi, der formentlig vil blive “overvældende nyttig og gavnlig for menneskeheden”. Men også som en teknologi, vi er nødt til at holde snor i allerede nu.

“En del af at være en ansvarlig forvalter af ny teknologi består i at gennemtænke potentielle udfordringer og hvordan vi bedst kan imødegå eventuelle tilknyttede risici,” skriver han blandt andet.

“Selv om potentielle farer ved kunstig intelligens har fået offentlig opmærksom, er de fleste diskussioner meget hypotetiske og spekulative. Vi mener, det er vigtigt, at bekymringerne tager udgangspunkt i ægte machine learning-forskning og at det er vigtigt at udvikle praktiske tilgange til kunstig intelligens-systemer, der fungerer sikkert og pålideligt”.

I samarbejde med forskere fra OpenAI, Stanford University og Berkeley University har Googles forskere derfor skrevet en rapport, Concrete Problems in AI Safety, der ser nærmere på problemerne ved at skabe kunstig intelligens. Her lister forskerne fem problemer, som de selv beskriver som mindre problemer i dag, men problemer, som vi er nødt til at løse. I rapporten tager de udgangspunkt i en simpel rengøringsrobot, så der er et stykke vej til Skynet fra Terminator-filmene.

Avoiding Negative Side Effects

How can we ensure that an AI system will not disturb its environment in negative ways while pursuing its goals, e.g. a cleaning robot knocking over a vase because it can clean faster by doing so?

Avoiding Reward Hacking

How can we avoid gaming of the reward function? For example, we don’t want this cleaning robot simply covering over messes with materials it can’t see through.

Scalable Oversight

How can we efficiently ensure that a given AI system respects aspects of the objective that are too expensive to be frequently evaluated during training? For example, if an AI system gets human feedback as it performs a task, it needs to use that feedback efficiently because asking too often would be annoying.

Safe Exploration

How do we ensure that an AI system doesn’t make exploratory moves with very negative repercussions? For example, maybe a cleaning robot should experiment with mopping strategies, but clearly it shouldn’t try putting a wet mop in an electrical outlet.

Robustness to Distributional Shift

How do we ensure that an AI system recognizes, and behaves robustly, when it’s in an environment very different from its training environment? For example, heuristics learned for a factory workfloor may not be safe enough for an office.

Kunstig intelligens kan høre et hjertestop over 112-telefonen
Kunstig intelligens kan høre et hjertestop over 112-telefonen

Techtopia: Dansk virksomhed bygger kunstig intelligens, der lytter med på 112-telefonen og giver råd inden personalet kan nå at stave til hjerteanfald på Google.

Læs mere
Store virksomheder finder nye medarbejdere med kunstig intelligens
Store virksomheder finder nye medarbejdere med kunstig intelligens

Techtopia: Kinesisk startup har hjulpet Coca Cola og Hugo Boss med at ansætte medarbejdere gennem samtaler baseret på kunstig intelligens, som skrotter ansøgernes cv og kigger på deres sprog i stedet.

Læs mere
»Byer er det mest radikale eksperiment i verdenshistorien«
»Byer er det mest radikale eksperiment i verdenshistorien«

Flere og flere virksomheder klistrer begrebet kunstig intelligens på deres produkter, selv om teknologien ofte er mere ‘kunstig end intelligent’. Men når den værste buzz er skrællet væk, åbner god ...

Læs mere
Læge: Teknologi kan skabe ulighed
Læge: Teknologi kan skabe ulighed

Teknologiens indtog på hospitalerne ændrer ikke bare lægens men også patientens rolle markant. Men hvad enten man omfavner kunstig intelligens og gadget-bølgen, så skal man holde tungen lige i mun ...

Læs mere
Kunstig intelligens knækker koden til den ægte kærlighed
Kunstig intelligens knækker koden til den ægte kærlighed

DR3’s program ’Koden til kærlighed’ bruger en selvlærende algoritme udviklet på DTU til at hjælpe singler med at finde den eneste ene.

Læs mere
AI-pionér vil gøre kunstig intelligens mainstream på fabriksgulvet
AI-pionér vil gøre kunstig intelligens mainstream på fabriksgulvet

Ingeniøren: Den kinesiske søgemaskine Baidu tabte over syv milliarder danske kroner i børsværdi, da den kinesisk-amerikanske AI-forsker Andrew Ng forlod virksomheden i marts. Hans næste projekt er at give kun ...

Læs mere
Kunstig intelligens i badeværelset
Kunstig intelligens i badeværelset

En lille sensor-boks i brusenichen, der opsamler data mens vi bader, skal gøre os bevidste om vores vandforbrug.

Læs mere
Hvad bragte 2017 i teknologiens verden og hvad nu?
Hvad bragte 2017 i teknologiens verden og hvad nu?

Techtopia: Bitcoin, cybersikkerhed, selvkørende biler og kunstig intelligens blev årets hotte emner i teknologiens verden, der er fyldt med både utopier og skyggesider.

Læs mere
Når din chef bliver en app og din kollega en robot
Når din chef bliver en app og din kollega en robot

Fremtidens arbejdsmarked foregår på en app, og alt hvad der hedder robotter og kunstig intelligens kommer til at eksplodere. Men det er en god ting, mener forfatteren bag Kunstige kolleger

Læs mere
Fuldt selvkørende biler er her i 2020 - men næppe i København
Fuldt selvkørende biler er her i 2020 - men næppe i København

Selvkørende biler: De første fuldt selvkørende biler vil køre rundt blandt almindelige bilister i løbet af de næste to år, hævder legendarisk it-udvikler. Men der er ikke tale om en one size fits all-løsning, der ka ...

Læs mere

Hvad mener du? Er kunstig intelligens guds gave til menneskeheden, eller risikerer vi at den udsletter os alle?

luk
close