Sun'iy aqlning asl sababi xavfli bo'lishi mumkin
El sun'iy aqlning asosiy xavfi
Bir nechta mutaxassislar ushbu imkoniyat haqida allaqachon ogohlantirishgan sun'iy aqlning haqiqiy xavfi. Styuart Rassel ogohlantiradi del Asos sun'iy intellektning xavfi.
Berkli shahridagi Kaliforniya Universitetining professori, Styuart Russel, asar muallifi Inson bilan mos: AI va nazorat qilish muammosi va sun'iy intellekt bilan mashinasozlik ilgarilashining mutaxassisi kim, nima uchun bu juda katta tashvish sababini tushuntirdi AI xavfli bo'lishi mumkin.
Uning yangi kitobida tushuntirgan narsa shundaki, bizni tashvishga soladigan narsa - bu sun'iy intellektga ega robotlarning xabardor bo'lib, odamlarga qarshi chiqishlari emas. Aksincha, mashinalar biz ularga qo'ygan maqsadlarni amalga oshirishda shu qadar samarali bo'lib qoladiki, biz beixtiyor yo'q bo'lib ketishimizga ishora qilmoqda. Qanday? vazifalarni noto'g'ri va / yoki noto'g'ri tarzda o'rnatish.
Professorning so'zlariga ko'ra, haqida umumiy fikr sun'iy intellektning xavfi Gollivud filmlarining ta'siri tufayli bu butunlay noto'g'ri. Bular, umuman olganda, har doim o'zlarini anglab etadigan va keyin odamlarni yomon ko'rishni boshlaydigan va ularga qarshi isyon ko'taradigan mashinadan iborat. Professor bu fikrni rad etadi, chunki u robotlarda insoniy his-tuyg'ular yo'qligini tushuntiradi, shuning uchun bunday narsa yuz berayotganidan xavotirlanish noto'g'ri.
Rassel vijdon yomon vijdon tashvishlanish uchun sabab emasligini tushuntirdi sun'iy aqlning xavfi bu bizni chindan ham tashvishga solishi kerak bo'lgan noto'g'ri yoki belgilangan maqsadga erishish qobiliyatining potentsiali.
Ushbu samaradorlikning namunasi
Mutaxassis fursatdan foydalanib, OAVga u fosh etayotgan holatga o'xshash vaziyatni tushuntirib berdi.
Agar bizda juda kuchli tizim bo'lsa IA sayyoramiz iqlimini boshqarish qobiliyatiga ega va biz sizga atmosferadagi CO2 (karbonat angidrid) miqdorini qaytarish uchun ko'rsatmalar bermoqchimiz.
Sun'iy intellekt, buni amalga oshirish uchun odamlarni yo'q qilish kerak, degan xulosaga keladi va xulosa qiladi, chunki ular CO2 ni ishlab chiqarishning asosiy sababchisi.
Rassel, hozirgi paytda insonlar o'zlarining boshqaruvini qaytarib olishlari uchun muhim narsa ekanligini aniq ko'rsatib berishdi.
Biz bir necha millisekundlarda vazifalarni bajarishga qodir sun'iy aqlni yaratdik. O'z-o'zini optimallashtirish va o'zi o'rganishga qodir sun'iy intellekt. Biz uning xavfliligini bilsak va ushbu foydani axloqiy vazifalarga yo'naltirsak, hech qanday muammo bo'lmaydi. Ammo ...
Biz uni to'g'ri yo'lga olib bora olamizmi?
Va siz, nima deb o'ylaysiz? sun'iy aqlning asosiy xavfi?