Справжньою причиною штучного інтелекту може бути небезпека
El Головна небезпека штучного інтелекту
Кілька експертів вже попереджали про таку можливість реальна небезпека штучного інтелекту. Стюарт Рассел попереджає дel головний небезпека ШІ.
Професор Каліфорнійського університету в Берклі, Стюарт Рассел, є автором роботи Сумісність із людиною: ШІ та проблема управління і який є експертом у галузі машинного навчання зі штучним інтелектом, пояснив причину своєї величезної стурбованості тим, чому ШІ може бути небезпечним.
У своїй новій книзі він пояснює, що те, чим ми повинні займатися, це не те, що роботи зі штучним інтелектом усвідомлюють і повстають проти людей. Швидше, машини стають настільки ефективними у досягненні цілей, які ми їм ставимо, і сигналізують про те, що ми можемо випадково знищитись. Як? постановка завдань неправильним та / або неправильним способом.
За словами професора, загальне уявлення про небезпека ШІ це абсолютно неправильно через вплив голлівудських фільмів. Вони, як правило, завжди складаються з машини, яка усвідомлює себе, а потім починає ненавидіти людей і в підсумку бунтує проти них. Професор спростовує цю точку зору, оскільки він пояснює, що роботи не мають людських почуттів, тому неправильно турбуватися про те, що щось подібне станеться.
Рассел пояснив, що зле сумління не є причиною для занепокоєння небезпека штучного інтелекту насправді нас повинен хвилювати потенціал їхньої здатності досягти неправильної або визначеної мети.
Приклад такої ефективності
Експерт скористався можливістю пояснити ЗМІ приклад такої ситуації, як та, яку він викриває.
Якби у нас була дуже потужна система IA який має можливість контролювати клімат планети, і ми хочемо дати вам вказівки щодо повернення рівнів СО2 (вуглекислого газу) в нашу атмосферу.
Штучний інтелект визначає і робить висновок, що для цього людину слід усунути, оскільки вона є основною причиною масового виробництва СО2.
Рассел чітко дав зрозуміти, що зараз найважливішим є відновлення контролю над людьми.
Ми створили штучний інтелект, здатний виконувати завдання за лічені мілісекунди. Штучний інтелект, здатний самооптимізуватися і навчатися сам по собі. Поки ми усвідомлюємо його небезпеку і спрямовуємо цей прибуток на етичні завдання, проблем не буде. Але ...
Чи зможемо ми вийти на правильний шлях?
А ти, що ти думаєш, що це таке головна небезпека штучного інтелекту?