Жасанды интеллекттің нақты себебі қауіпті болуы мүмкін
El жасанды интеллекттің негізгі қауіптілігі
Бұл туралы бірнеше сарапшылар алдын-ала ескерткен жасанды интеллекттің нақты қаупі. Стюарт Рассел ескертедіel Басты ИТ қаупі.
Берклидегі Калифорния университетінің профессоры, Стюарт Руссель, жұмыстың авторы Адам үйлесімді: АИ және бақылау проблемасы және жасанды интеллектпен машиналық оқыту жетістіктерінің маманы кім, неге оның өте алаңдаушылығының себебін түсіндірді ИТ қауіпті болуы мүмкін.
Оның жаңа кітабында түсіндіретіні - бізді ойландыратын нәрсе - жасанды интеллект бар роботтардың адам баласына қарсы болып, бас көтеруі емес. Керісінше, машиналар біз алға қойған мақсаттарды жүзеге асыруда соншалықты тиімді бола бастайды және біздің байқаусызда жойылып кетуімізге мүмкіндік беретін сигнал береді. Қалай? тапсырмаларды дұрыс емес және / немесе дұрыс емес жолмен қою.
Профессордың айтуынша, туралы жалпы идея ИТ қаупі Голливуд фильмдерінің әсерінен бұл мүлдем дұрыс емес. Жалпы, бұлар әрқашан өзін білетін, содан кейін адамдарды жек көретін және оларға қарсы бүлік шығаратын машинадан тұрады. Профессор бұл пікірді жоққа шығарады, өйткені ол роботтарда адами сезім жоқ екенін, сондықтан осыған ұқсас нәрсе болып қобалжу дұрыс емес екенін түсіндіреді.
Рассел ар-ұждан мазасыздықтың себебі емес деп түсіндірді жасанды интеллекттің қаупі бұл дұрыс емес немесе қойылған мақсатқа жету қабілетінің әлеуеті бізді толғандыруы керек.
Сол тиімділіктің мысалы
Маман мүмкіндікті пайдаланып, БАҚ-қа өзі ашатын жағдайдың мысалын түсіндірді.
Егер бізде өте қуатты жүйе болса IA ол планетаның климатын басқаруға қабілетті және біз сізге атмосферадағы СО2 (көмірқышқыл газы) деңгейін қайтаруға нұсқау бергіміз келеді.
Жасанды интеллект мұны жасау үшін адам баласы жойылуы керек деп тұжырымдайды және қорытынды жасайды, өйткені олар СО2 өндірісінің негізгі себебі болып табылады.
Рассел қазіргі кезде ең бастысы - адамдар үшін бақылауды қалпына келтіру маңызды екенін анық айтты.
Біз бірнеше миллисекунд ішінде тапсырмаларды орындауға қабілетті жасанды интеллект құрдық. Өзін-өзі оңтайландыруға және өзі оқуға қабілетті жасанды интеллект. Біз оның қауіпті екенін біліп, осы кірісті этикалық міндеттерге бағыттайтын болсақ, ешқандай проблема болмайды. Бірақ ...
Біз оны дұрыс жолға сала аламыз ба?
Ал сіз, бұл не деп ойлайсыз? жасанды интеллекттің негізгі қауіптілігі?