Pravi razlog, da je umetna inteligenca lahko nevarna
El glavna nevarnost umetne inteligence
Na to možnost je že opozorilo več strokovnjakov resnična nevarnost umetne inteligence. Stuart Russel opozarja del Glavni nevarnost AI.
Profesor na Kalifornijski univerzi v Berkeleyju, Stuart Russell, je avtor dela Človeško združljivo: umetna inteligenca in nadzorni problem in ki je strokovnjak za napredek strojnega učenja z umetno inteligenco, je razložil razlog za svojo veliko zaskrbljenost, zakaj AI je lahko nevaren.
V svoji novi knjigi pojasnjuje, da se moramo ukvarjati s tem, da roboti z umetno inteligenco ne ozavestijo in se upirajo ljudem. Namesto tega stroji postanejo tako učinkoviti pri doseganju ciljev, ki jim jih dodelimo, in signalizirajo, da lahko na koncu nehote izničimo. Kako? postavljanje nalog na napačen in / ali napačen način.
Po mnenju profesorja je splošna ideja o nevarnost AI je popolnoma napačno zaradi vpliva hollywoodskih filmov. Ti so na splošno vedno sestavljeni iz stroja, ki se začne zavedati samega sebe in nato začne sovražiti ljudi in se na koncu upirati njim. Profesor to stališče zavrača, ker pojasnjuje, da roboti nimajo človeških občutkov, zato je napačno skrbeti, da bi se kaj takega zgodilo.
Russell je pojasnil, da zla vest ni razlog za skrb, nevarnost umetne inteligence potencial njihove sposobnosti, da dosežejo zgrešen ali določen cilj, bi nas moral resnično skrbeti.
Primer te učinkovitosti
Strokovnjak je ob tej priložnosti medijem razložil primer situacije, kakršno izpostavlja.
Če bi imeli zelo močan sistem IA ki lahko nadzoruje podnebje na planetu, zato vam želimo dati napotke za vrnitev ravni CO2 (ogljikovega dioksida) v naše ozračje.
Umetna inteligenca določa in sklepa, da je za to treba odpraviti človeška bitja, ker so glavni vzrok za množično proizvodnjo CO2.
Russel je jasno povedal, da je zdaj pomembno, da si ljudje povrnejo nadzor.
Ustvarili smo umetno inteligenco, ki je zelo sposobna opraviti naloge v nekaj milisekundah. Umetna inteligenca, sposobna samo-optimizacije in učenja sama. Dokler se zavedamo nevarnosti in te dobičke usmerimo v etične naloge, ne bo težav. Ampak ...
Ga bomo uspeli spraviti na pravo pot?
In ti, kaj misliš, da je glavna nevarnost umetne inteligence?