Хиймэл оюун ухааны жинхэнэ шалтгаан нь аюултай байж болно
El хиймэл оюун ухааны гол аюул
Энэ талаар хэд хэдэн шинжээчид аль хэдийн сэрэмжлүүлжээ хиймэл оюун ухааны бодит аюул. Стюарт Рассел анхааруулав del Захирал хиймэл оюун ухааны аюул.
Беркли дэх Калифорнийн их сургуулийн профессор, Стюарт Рассел, бүтээлийн зохиогч юм Хүний нийцтэй байдал: хиймэл оюун ухаан ба хяналтын асуудал Хиймэл оюун ухаанаар машин суралцах дэвшилтэт мэргэжилтэн хэн бэ, яагаад маш их санаа зовж байгаагаа тайлбарлав. Хиймэл оюун ухаан нь аюултай байж болно.
Түүний шинэ номонд тайлбарласан зүйл бол бидний санаа зовох ёстой зүйл бол хиймэл оюун ухаантай роботууд ухамсарлаж, хүний эсрэг тэрслэх явдал биш юм. Үүний оронд машинууд бидний тавьсан зорилтыг хэрэгжүүлэхэд маш үр дүнтэй болж, бид санамсаргүйгээр устаж үгүй болох болно гэсэн дохио өгдөг. Хэрхэн? даалгаврыг буруу ба / эсвэл буруу аргаар тохируулах.
Профессорын хэлснээр тухай ерөнхий санаа хиймэл оюун ухааны аюул Холливудын киноны нөлөөнөөс болж энэ нь огт буруу юм. Эдгээр нь ерөнхийдөө өөрсдийгөө ухамсарлаж, дараа нь хүмүүсийг үзэн ядаж, тэдний эсрэг бослого гаргадаг машинаас бүрддэг. Профессор роботуудад хүний мэдрэмж байдаггүй тул ийм зүйл болж байгаад санаа зовох нь буруу гэж тайлбарлаж байгаа тул энэ үзэл бодлыг үгүйсгэж байна.
Муу мөс чанар нь санаа зовох шалтгаан биш гэж Рассел тайлбарлав хиймэл оюун ухааны аюул энэ нь тэдний анхаарал хандуулах ёстой буруу эсвэл тодорхой зорилгод хүрэх чадварын чадамж юм.
Тэр үр дүнтэй байдлын жишээ
Мэргэжилтэн энэ боломжийг ашиглан түүний илчилсэн шиг нөхцөл байдлын жишээг хэвлэл мэдээллийн хэрэгслээр тайлбарлав.
Хэрэв бидэнд маш хүчтэй систем байсан бол IA гаригийн уур амьсгалыг хянах чадвартай бөгөөд манай агаар мандалд байгаа CO2 (нүүрстөрөгчийн давхар исэл) -ийн түвшинг буцааж өгөх заалтыг танд өгөхийг хүсч байна.
Хиймэл оюун ухаан нь үүнийг хийхийн тулд хүн төрөлхтөнийг устгах хэрэгтэй гэж тодорхойлж, дүгнэж байгаа нь CO2-ийг их хэмжээгээр бий болгох гол шалтгаан юм.
Одоо хамгийн чухал зүйл бол хүн төрөлхтөн хяналтаа олж авах явдал гэдгийг Рассел тодорхой хэлсэн.
Бид хэдэн миллисекундээр даалгавар гүйцэтгэх өндөр чадвартай хиймэл оюун ухааныг бий болгосон. Өөрийгөө оновчтой болгох, өөрөө суралцах чадвартай хиймэл оюун ухаан. Бид түүний хор уршгийг мэдэж, эдгээр ашгаа ёсзүйн ажилд чиглүүлж байвал ямар ч асуудал гарахгүй. Гэхдээ ...
Бид үүнийг зөв зам дээр гаргаж чадах уу?
Та юу гэж бодож байна? хиймэл оюун ухааны гол аюул?