Pravi razlog zašto umjetna inteligencija može biti opasna
El glavna opasnost od umjetne inteligencije
Nekoliko stručnjaka već je upozorilo na ovu mogućnost stvarna opasnost umjetne inteligencije. Stuart Russel upozorava uel glavni opasnost od AI.
Profesor na Kalifornijskom sveučilištu u Berkeleyu, Stuart Russell, autor je djela Ljudsko kompatibilno: AI i problem kontrole i koji je stručnjak za napredak strojnog učenja s umjetnom inteligencijom, objasnio je razlog svoje ogromne zabrinutosti zbog čega AI može biti opasna.
Ono što on objašnjava u svojoj novoj knjizi jest da ono zbog čega bismo se trebali brinuti nije da roboti s umjetnom inteligencijom postanu svjesni i pobune se protiv ljudi. Umjesto toga, strojevi postaju toliko učinkoviti u postizanju ciljeva koje smo im dodijelili i signaliziraju da bismo na kraju mogli biti nenamjerno uništeni. Kako? postavljanje zadataka na pogrešan i / ili pogrešan način.
Prema profesoru, općenita ideja o opasnost od AI potpuno je pogrešno zbog utjecaja hollywoodskih filmova. Oni se, općenito, uvijek sastoje od stroja koji postaje svjestan sebe, a zatim počinje mrziti ljude i na kraju se buni protiv njih. Profesor opovrgava ovo gledište jer objašnjava da roboti nemaju nikakvih ljudskih osjećaja, pa je pogrešno brinuti se da li će se tako nešto dogoditi.
Russell je objasnio da zla savjest nije razlog za brigu, opasnost od umjetne inteligencije potencijal naše sposobnosti za postizanje pogrešno postavljenog ili određenog cilja trebao bi nas se stvarno ticati.
Primjer te učinkovitosti
Stručnjak je iskoristio priliku da medijima objasni primjer situacije poput one koju izlaže.
Kad bismo imali vrlo moćan sustav IA koja ima sposobnost upravljanja klimom planeta i želimo vam dati naznake za vraćanje razine CO2 (ugljičnog dioksida) u našu atmosferu.
Umjetna inteligencija određuje i zaključuje da bi to trebalo učiniti ljudskim bićima, jer su oni glavni uzrok masovne proizvodnje CO2.
Russel je jasno stavio do znanja da je sada važno da ljudi ponovno uspostave kontrolu.
Stvorili smo umjetnu inteligenciju koja je vrlo sposobna izvršiti zadatke u nekoliko milisekundi. Umjetna inteligencija sposobna za samo-optimizaciju i učenje sama po sebi. Sve dok budemo svjesni opasnosti i budžet usmjeravamo na etičke zadatke, neće biti problema. Ali…
Hoćemo li to uspjeti izvesti na pravi put?
A ti, što misliš da je to glavna opasnost od umjetne inteligencije?