10-12-2018 05:54:46

Kunstig intelligens udgør en eksistentiel risiko

Kunstig intelligens: Risikoen for at kunstig intelligens kommer til at udrydde menneskeheden, som vi kender den i et fremtidsscenarie ala Terminators skynet, er ikke stor. Men det er en risiko, som vi er nødt til at forholde os til, mener ekspert i kunstig intelligens.
13. feb. 2017 Af Rene Pedersen - netværksredaktør

Litteraturen og filmhistorien er fyldt med både fascination og skepsis, når det kommer til kunstig intelligens. Blandt de mest klassiske eksempler på computere “gone bad” er Hal 9000 fra 2001: A Space Odyssey, Skynet fra Terminator, som løber løbsk og forsøger at slå alle mennesker ihjel, og senest Westworld, hvor mennesket mister kontrollen over en forlystelsespark fyldt med robotter, der selv tror, at de er mennesker.

De seneste års fremskridt inden for kunstig intelligens har igen fået folk til at stille spørgsmålet: Udgør den kunstige intelligens en eksistentiel risiko for menneskeheden? Måske mener Nell Watson, som i en årrække har arbejdet med kunstig intelligens og generelt er meget positiv i forhold til kunstig intelligens.

“Jeg mener, at risikoen generelt er meget lille. Men det er en af den slags risici, som vi helt sikkert vil undgå bliver til virkelighed,” siger hun.

Nell Watson mener, at der er to teknologier, som tilsammen kan beskrives som "the final technology". Kunstig intelligens og avanceret nanoteknologi. Hendes pointe er, at hvis - eller når - mennesker udvikler artificial general intelligence eller kraftige nanomaskiner, som kan samle strukturer som en stol, fx ud af sten. Så går vi ind i en ny æra i menneskets historie. En virkelig interessant æra.

“Det besynderlige er, at hvis vi opfinder den ene af disse teknologier, så opfinder vi automatisk den anden. For hvis vi har artificial general intelligence kan den fortælle os, hvordan vi bygger en nano-maskine og hvis vi har en nano-maskine, som kan skabe millioner af silicium-chips
meget nemt. Så har vi også meget snart artificial general intelligence,” siger hun.

Generelt tror hun på, at begge teknologier helt grundlæggende vil hjælpe til at skabe velstand i verden. Men samtidig er begge teknologier også så ufatteligt kraftfulde, at der er risko for, at menneskeheden kommer i alvorlige problemer.

“Jeg mener, at der er, hvad der normalt omtales som en eksistentiel risiko ved disse teknologier
Med nano-maskiner har vi, hvad der kaldes "The grey goo scenario". En forestilling om mennesker, byer og ting, der bliver spist af en nano-maskine "goo", der indhyller alt og laver det til papirclips eller noget i den stil,” siger hun.

“The grey goo” er et dommedags-scenarie og en hypotetisk afslutning på verden, som vi kender den. Ideen er først bragt på banen af nano-teknologi-pioneeren Eric Drexler i bogen Engines of Creation fra 1986, der beskriver, hvordan selvreplikerende nanorobotter æder alt på deres vej for at skabe flere robotter.

“Der er også en potentiel fare fra artificial general intelligence. Ikke fordi den er ondsindet. Jeg tror, at det er meget usandsynligt, at en maskine vil have onde hensigter eller ønsker at gøre onde ting. Men snarere fra misforståelser. Mest sandsynligt fordi nogen vil bede den gøre noget, og hvor den så gør det, hvilket giver et resultat, der er meget uønsket,” siger hun og fortsætter.

“En slags "The Monkey's Paw" problem, hvor du skal være forsigtig i forhold til hvad du ønsker dig, for du får det måske på en meget utilsigtet måde, som ender med at ødelægge verden, som vi kender den”.

“The Monkey's paw” henviser igen til en historie, som denne gang er skrevet af William Wymark Jacobs og publiceret i bogen “The Lady of the Barge” i 1902. I historien giver en forhekset abehånd adgang til tre ønsker, men ønskerne ender med at slå modtagerne ihjel.

TEKDEB
TEKDEB

TEKDEB er det korte navn for 'teknologiudviklingsdebatkonference', og her tager vi debatten om fremtiden til nye højder. TEKDEB blev afholdt d. 27. februar 2017 og vi glæder os til at gentage su ...

Læs mere

Deltag i debatten

luk
close