Tikroji priežastis, kodėl dirbtinis intelektas gali būti pavojingas
El pagrindinis dirbtinio intelekto pavojus
Keli ekspertai jau perspėjo apie šią galimybę tikrasis dirbtinio intelekto pavojus. Stuartas Russelis perspėja del pagrindinis dirbtinio intelekto pavojus.
Kalifornijos universiteto Berklyje profesorius, Stiuartas ruselis, yra darbo autorius Suderinamas su žmogumi: dirbtinis intelektas ir valdymo problema ir kuris yra mašininio mokymosi dirbtiniu intelektu pažangos ekspertas, paaiškino savo didžiulio susirūpinimo, kodėl Dirbtinis intelektas gali būti pavojingas.
Tai, ką jis paaiškina savo naujoje knygoje, yra tai, kad turėtume jaudintis ne dėl to, kad robotai, turintys dirbtinį intelektą, suprastų ir maištautų prieš žmones. Atvirkščiai, mašinos tampa tokios veiksmingos įgyvendinant joms priskirtus tikslus ir signalizuoja, kad galų gale galime būti netyčia sunaikinti. Kaip? užduočių nustatymas netinkamu ir (arba) neteisingu būdu.
Pasak profesoriaus, bendra mintis apie dirbtinio intelekto pavojus tai visiškai neteisinga dėl Holivudo filmų įtakos. Paprastai jie susideda iš mašinos, kuri suvokia save ir pradeda nekęsti žmonių ir galų gale maištauja prieš juos. Profesorius paneigia šią nuomonę, nes paaiškina, kad robotai neturi žmogiškų jausmų, todėl neteisinga nerimauti dėl to, kad kažkas panašaus vyksta.
Russellas paaiškino, kad pikta sąžinė nėra priežastis nerimauti, dirbtinio intelekto pavojus tai yra jų galimybių pasiekti netinkamą ar nurodytą tikslą potencialas, kuris iš tikrųjų turėtų mums rūpėti.
To veiksmingumo pavyzdys
Ekspertas pasinaudojo proga paaiškinti žiniasklaidai tokios situacijos pavyzdį, kokią jis atskleidžia.
Jei mes turėtume labai galingą sistemą IA kuris turi galimybę kontroliuoti planetos klimatą, ir mes norime jums nurodyti, kaip grąžinti CO2 (anglies dioksido) kiekį mūsų atmosferoje.
Dirbtinis intelektas nustato ir daro išvadą, kad norint tai padaryti, reikia pašalinti žmones, nes jie yra pagrindinė masinės CO2 gamybos priežastis.
Russelas aiškiai pasakė, kad dabar svarbu žmonėms atgauti kontrolę.
Mes sukūrėme dirbtinį intelektą, kuris puikiai sugeba atlikti užduotis per kelias milisekundes. Dirbtinis intelektas, galintis save optimizuoti ir pats mokytis. Kol suprasime jo pavojus ir nukreipsime šį pelną į etines užduotis, problemų nebus. Bet…
Ar pavyks tai pasiekti teisingu keliu?
O tu, kas, tavo manymu, yra pagrindinis dirbtinio intelekto pavojus?