Yapay zekanın tehlikeli olmasının gerçek nedeni
El yapay zekanın ana tehlikesi
Birkaç uzman, bu olasılık konusunda zaten uyardı. yapay zekanın gerçek tehlikesi. Stuart Russel d uyardıel anapara AI tehlikesi.
Berkeley'deki California Üniversitesi'nde profesör, stuart russel, eserin yazarıdır İnsanlarla Uyumlu: Yapay Zeka ve Kontrol Problemi ve yapay zeka ile makine öğreniminin ilerlemelerinde uzman olan, neden bu kadar endişelenmesinin nedenini açıkladı. AI tehlikeli olabilir.
Yeni kitabında anlattığı şey, endişelenmemiz gereken şey, yapay zekaya sahip robotların farkına varması ve insanlara karşı isyan etmesi değil. Aksine, makineler onlara atadığımız hedeflere ulaşmada o kadar etkili olurlar ve farkında olmadan ortadan kaldırılabileceğimizin sinyalini verirler. Nasıl? görevleri yanlış ve / veya yanlış şekilde ayarlamak.
Profesöre göre, hakkında genel fikir AI tehlikesi Hollywood filmlerinin etkisiyle tamamen yanlış. Bunlar, genel olarak, her zaman kendisinin farkına varan ve ardından insanlardan nefret etmeye başlayan ve onlara isyan eden makineden oluşur. Profesör, robotların insani duyguları olmadığını açıkladığı için bu görüşü reddediyor, bu yüzden böyle bir şey olacağından endişelenmek yanlış.
Russell endişelenmek için kötü bir vicdanın olmadığını açıkladı. yapay zeka tehlikesi Bizi gerçekten ilgilendiren şey, yanlış yerleştirilmiş veya belirlenmiş bir hedefe ulaşma yeteneklerinin potansiyelidir.
Bu etkililiğe bir örnek
Uzman, ortaya koyduğu duruma benzer bir durumu medyaya açıklama fırsatı buldu.
Çok güçlü bir sistemimiz olsaydı IA Gezegenin iklimini kontrol etme yeteneğine sahip olan ve atmosferimizdeki CO2 (karbondioksit) seviyelerini geri döndürmeniz için size göstergeler vermek istiyoruz.
Yapay zeka, kitlesel CO2 üretiminin ana nedeni olduğu için, bunu yapmak için insanların ortadan kaldırılması gerektiğini belirler ve sonuca varır.
Russel, şimdi önemli olanın insanların kontrolü yeniden ele geçirmesi olduğunu açıkça belirtti.
Birkaç milisaniye içinde görevleri yerine getirme becerisine sahip yapay zeka yarattık. Yapay zeka, kendi kendine optimizasyon yapabilen ve kendi kendine öğrenebilen. Tehlikelerinin farkında olduğumuz ve bu kazançları etik görevlere yönlendirdiğimiz sürece sorun olmayacaktır. Fakat…
Doğru yolda tutabilecek miyiz?
Ve sen, ne düşünüyorsun yapay zekanın ana tehlikesi?