Сабаби аслии зеҳни сунъӣ метавонад хатарнок бошад
El хатари асосии зеҳни сунъӣ
Якчанд коршиносон аллакай дар бораи ин эҳтимол ҳушдор додаанд хатари воқеии зеҳни сунъӣ. Стюарт Рассел ҳушдор медиҳад дel асосӣ хатари СП.
Профессори Донишгоҳи Калифорния дар Беркли, Стюарт Руссел, муаллифи асар мебошад Мутобиқати инсон: AI ва мушкилоти назорат ва кист мутахассиси пешрафти мошинсозӣ бо зеҳни сунъӣ аст, сабаби нигаронии бениҳоят худро дар бораи он, ки чаро AI метавонад хатарнок бошад.
Он чизе ки ӯ дар китоби нави худ мефаҳмонад, ин аст, ки мо бояд аз он нигарон бошем, ки роботҳои дорои зеҳни сунъӣ огоҳ шаванд ва бар зидди одамон исён кунанд. Баръакс, мошинҳо дар иҷрои мақсадҳои дар наздамон гузошташуда чунон муассир мегарданд ва ишора мекунанд, ки мо метавонем нохост нобуд шавем. Чӣ хел? гузоштани вазифаҳо бо роҳи хато ва / ё нодуруст.
Ба гуфтаи профессор, ғояи умумӣ дар бораи хатари СПИД аз сабаби таъсири филмҳои Голливуд комилан нодуруст аст. Инҳо, дар маҷмӯъ, ҳамеша аз мошин иборатанд, ки дар бораи худ огоҳӣ пайдо мекунанд ва пас ба одамон нафрат карданро оғоз мекунанд ва дар муқобили онҳо исён мекунанд. Профессор ин ақидаро рад мекунад, зеро ӯ мефаҳмонад, ки роботҳо ҳиссиёти инсонӣ надоранд, аз ин рӯ ташвиш аз чизе монанди ин нодуруст аст.
Рассел фаҳмонд, ки виҷдони бад сабаби ташвиш нест хатари зеҳни сунъӣ ин потенсиали қобилияти онҳо барои ноил шудан ба ҳадафи номатлуб ё мушаххасест, ки воқеан ба мо дахл дорад.
Намунаи он самаранокӣ
Мутахассис аз фурсат истифода бурда, ба ВАО намунае аз вазъиятеро мисол орад, ки ӯ фош мекунад.
Агар мо як системаи хеле пуриқтидори IA ки қобилияти идоракунии иқлими сайёраро дорад ва мо мехоҳем ба шумо барои баргардонидани сатҳи CO2 (гази карбон) дар атмосфераи мо нишонаҳо диҳем.
Зеҳни сунъӣ муайян мекунад ва ба хулосае меояд, ки барои ин инсон бояд нест карда шавад, зеро онҳо сабаби асосии истеҳсоли азими CO2 мебошанд.
Рассел равшан нишон дод, ки ҳоло муҳим он аст, ки одамон назорати худро дубора ба даст гиранд.
Мо зеҳни сунъиро ба вуҷуд овардем, ки қобилияти баланди иҷрои вазифаҳоро дар зарфи миллисекундҳо дорад. Зеҳни сунъӣ, ки қобилияти худтанзимкунӣ ва омӯзишро дорад. То он даме, ки мо аз хатари он огоҳем ва ин фоидаро ба вазифаҳои ахлоқӣ равона кунем, ҳеҷ мушкиле нахоҳад буд. Аммо ...
Оё мо онро дар роҳи дуруст гирифта метавонем?
Ва шумо, ба фикри шумо, он чӣ гуна аст хатари асосии зеҳни сунъӣ?