دلیل واقعی هوش مصنوعی می تواند خطرناک باشد
El خطر اصلی هوش مصنوعی
چندین متخصص قبلاً نسبت به این احتمال هشدار داده اند خطر واقعی هوش مصنوعی. استوارت راسل هشدار می دهد دel اصلی خطر AI.
استاد دانشگاه کالیفرنیا در برکلی ، استوارت راسل، نویسنده اثر است سازگار با انسان: هوش مصنوعی و مشکل کنترل و که در پیشرفتهای یادگیری ماشین با هوش مصنوعی خبره است ، دلیل نگرانی بسیار زیاد وی در مورد اینکه چرا هوش مصنوعی می تواند خطرناک باشد.
آنچه او در کتاب جدید خود توضیح داده این است که آنچه باید نگران آن باشیم این نیست که ربات هایی با هوش مصنوعی آگاه شوند و علیه انسان ها قیام کنند. در عوض ، ماشین آلات در تحقق اهدافی که به آنها اختصاص می دهیم بسیار م becomeثر واقع می شوند و نشان می دهند که در نهایت ممکن است ناخواسته نابود شویم. چطور؟ تنظیم وظایف به روش اشتباه و / یا اشتباه.
به گفته استاد ، ایده کلی در مورد خطر AI کاملاً اشتباه است به دلیل تأثیر فیلم های هالیوود. اینها ، به طور کلی ، همیشه از ماشینی تشکیل می شوند که از خود آگاه می شوند و سپس شروع به نفرت از انسان می کنند و در نهایت علیه آنها شورش می کنند. استاد این دیدگاه را رد می کند زیرا توضیح می دهد که روبات ها احساس انسانی ندارند ، بنابراین نگرانی از وقوع چنین چیزی اشتباه است.
راسل توضیح داده است که وجدان شیطانی دلیل نگرانی نیست خطر هوش مصنوعی این توانایی توانایی آنها در دستیابی به هدفی نابجا یا مشخص است که باید واقعاً ما را نگران کند.
نمونه ای از آن اثربخشی
این کارشناس فرصت را مغتنم شمرد و نمونه ای از شرایطی را که افشا می کند برای رسانه ها توضیح داد.
اگر ما یک سیستم بسیار قدرتمند از داشتیم IA که توانایی کنترل آب و هوای سیاره را دارد و ما می خواهیم نشانه هایی را برای بازگرداندن سطح CO2 (دی اکسید کربن) در جو ما ارائه دهیم.
هوش مصنوعی تعیین می کند و نتیجه می گیرد که برای انجام این کار انسان باید از بین برود ، زیرا آنها عامل اصلی تولید گسترده CO2 هستند.
راسل روشن کرد که اکنون مهم این است که انسان کنترل خود را بدست آورد.
ما هوش مصنوعی ایجاد کرده ایم که توانایی بالایی در انجام کارها در عرض چند میلی ثانیه دارد. هوش مصنوعی به خودی خود قادر به بهینه سازی و یادگیری است. تا زمانی که از خطرات آن آگاه باشیم و این سود را به سمت کارهای اخلاقی هدایت کنیم مشکلی پیش نخواهد آمد. ولی…
آیا ما قادر خواهیم بود آن را در مسیر درست قرار دهیم؟
و تو ، فکر می کنی چیست خطر اصلی هوش مصنوعی?