14-11-2018 16:52:04

Militære og kommercielle interesser dominerer AI-udviklingen

Kunstig intelligens: Den militære og kommercielt betalte forskning i kunstig intelligens er mange gange større end den åbne og frie på universiteterne. Det er potentielt en udfordring, mener it-debattør og techblogger Nikola Danaylov.
26. sep. 2018 Af Rene Pedersen - netværksredaktør

Efter lang tids stilstand er udviklingen inden for kunstig intelligens eksploderet de seneste år. Især private virksomheder som Google, Amazon og IBM har rykket teorierne og algoritmerne fra universiteterne og ud på super kraftige computere, hvor den kunstige intelligens kombineret med enorme mængder data har skabt store fremskridt på området.

Men udviklingen har også fået flere førende tech-personligheder til at stille spørgsmål. Fokuserer vi nok på at sikre, at den kunstige intelligens, som vi skaber, bliver af en art, der vil gavne vores samfund? Eller lader vi intetanende stå til, mens hele udviklingen foregår på præmisser, som tjener de fås - og i værste fald de forkertes - interesser? 

Nikola Danaylov er techblogger, debattør og forfatter, og selv om han med åben pande vælger at være optimistisk i forhold til udviklingen af kunstig intelligens, er der også faresignaler, som vi bør være opmærksomme på. Danaylov fortæller, at han de sidste 10 år har råbt vagt i gevær i forhold til, at etik og sikkerhed i højere grad tænkes ind som en fundamental del af forskningen inden for kunstig intelligens. For selv om etikken flere steder er kommet på banen som en vigtig del af udviklingen af kunstig intelligens, er vi måske på vej i en farlig retning.

“Investeringerne inden for sikkerhed er mikroskopiske og endnu mindre inden for den rene etik, hvis du sammenligner med den kommercielle og militære forskning inden for kunstig intelligens,” siger Nikola Danaylov.

I løbet af +200 episoder af Singularity Weblog har Nikola Danaylov interviewet et væld af verdens mest kendte tech-eksperter om alt fra transhumanisme, faren ved AI og en voksende gruppes påstand om, at universet er en simulation. Et gennemgående tema er kunstig intelligens, og hvorvidt teknologien vil ændre samfundet til det værre eller bedre. Nikola Danaylov mener, vi er på vej i en farlig retning, hvis den militære og kommercielle forskning inden for kunstig intelligens stikker af fra den klassiske grundforskning, der ideelt set skal gavne os alle.

“Hvis du skaber kunstig intelligens til militæret, skaber du den i en militær kontekst, hvor narrativen bliver, at mennesker enten er venner eller fjender. Så den kunstige intelligens vil opfatte mennesker som venner eller fjender - eller måske neutrale hvis det overhovedet er muligt,” siger han.

Mennesket er produktet

Kategorisering af mennesker er ifølge Nikola Danaylov en helt grundlæggende “del af pakken”, og en kommercielt udviklet kunstig intelligens vil også have klare karakteristika, som vil definere, hvordan den agerer, og hvilket forhold den vil have til mennesker.

“Skaber du kunstig intelligens i en kommerciel kontekst, vil den opfatte mennesker som produkter eller brugere. Så bliver vi produktet eller brugeren for den kunstige intelligens, der opfatter os og vores data som en vare, den kan sælge eller købe. Den kan handle med os og manipulere os. Alt sammen for profit,” siger han.

En del af løsningen kan ifølge Nikola Danaylov være en højere grad af open source-tankegang i forhold til kunstig intelligens.

“Hvis kunstig intelligens bliver open source, så har vi måske en bedre chance, for så vil den måske opfatte mennesker som ligeværdige, som venner, som forældre og som nogle, den kan lære fra. Jeg siger ikke, at open source nødvendigvis er den bedste løsning, men det er helt sikkert bedre end kommerciel eller militær udviklet kunstig intelligens,” siger han.

Nikola Danaylov gæster IDA 5. november til et unikt foredrag om den teknologiske verdenssituation. Der er stadig få ledige pladser arrangementet, der er gratis.


Deltag i debatten

luk
close