Pravi razlog zbog kojeg umjetna inteligencija može biti opasna
El glavna opasnost od umjetne inteligencije
Nekoliko stručnjaka je već upozorilo na ovu mogućnost stvarna opasnost od umjetne inteligencije. Stuart Russel upozorava del Direktor opasnost od AI.
Profesor na Univerzitetu Kalifornija u Berkeleyu, Stuart Russell, autor je djela Ljudsko kompatibilno: AI i problem kontrole i koji je stručnjak za napredak mašinskog učenja s umjetnom inteligencijom, objasnio je razlog svoje ogromne zabrinutosti zbog čega AI može biti opasna.
Ono što on objašnjava u svojoj novoj knjizi je da ono što bi trebalo da nas brine nije da roboti s umjetnom inteligencijom postanu svjesni i pobune se protiv ljudi. Umjesto toga, strojevi postaju toliko učinkoviti u postizanju ciljeva koje im dodijelimo i signaliziraju da bismo na kraju mogli biti nehotice uništeni. Kako? postavljanje zadataka na pogrešan i / ili pogrešan način.
Prema profesoru, opšta ideja o opasnost od AI potpuno je pogrešno zbog utjecaja holivudskih filmova. Oni se, generalno, uvijek sastoje od mašine koja postaje svjesna sebe, a zatim počinje mrziti ljude i na kraju se buni protiv njih. Profesor opovrgava ovo gledište jer objašnjava da roboti nemaju ljudska osjećanja, pa je pogrešno brinuti se da će se tako nešto dogoditi.
Russell je objasnio da zla savjest nije razlog za brigu opasnost od umjetne inteligencije potencijal naše sposobnosti da postignu pogrešno postavljen ili specificiran cilj trebao bi nas zaista zanimati.
Primjer te efikasnosti
Stručnjak je iskoristio priliku da medijima objasni primjer situacije poput one koju izlaže.
Kad bismo imali vrlo moćan sistem IA koji ima sposobnost upravljanja klimom planete i želimo vam dati indikacije za vraćanje nivoa CO2 (ugljen-dioksida) u našu atmosferu.
Umjetna inteligencija određuje i zaključuje da bi ljudska bića trebala biti eliminirana jer su oni glavni uzrok masovne proizvodnje CO2.
Russel je jasno stavio do znanja da je sada važno da ljudi ponovo uspostave kontrolu.
Stvorili smo umjetnu inteligenciju koja je izuzetno sposobna za izvršavanje zadataka u roku od milisekundi. Umjetna inteligencija sposobna za samo-optimizaciju i učenje sama po sebi. Sve dok budemo svjesni opasnosti i budžet usmjerimo na etičke zadatke, neće biti problema. Ali ...
Hoćemo li to uspjeti izvesti na pravi put?
A ti, šta ti misliš da je glavna opasnost od umjetne inteligencije?