Ang totoong kadahilanan na maaaring mapanganib ang artipisyal na katalinuhan
El pangunahing panganib ng artipisyal na katalinuhan
Maraming mga eksperto ang nagbabala na tungkol sa posibilidad na ito tungkol sa ang tunay na panganib ng artipisyal na katalinuhan. Nagbabala si Stuart Russel del pangunahin panganib ng AI.
Ang propesor sa University of California sa Berkeley, Stuart russel, ang may-akda ng akda Tugma sa Tao: Ai at ang Problema sa Pagkontrol at sino ang dalubhasa sa pagsulong ng pag-aaral ng makina na may artipisyal na katalinuhan, ay ipinaliwanag ang dahilan para sa kanyang labis na pag-aalala tungkol sa kung bakit Maaaring mapanganib ang AI.
Ang ipinaliwanag niya sa kanyang bagong libro ay ang dapat nating pag-alalahanin ay hindi ang mga robot na may artipisyal na katalinuhan ay magkaroon ng kamalayan at maghimagsik laban sa mga tao. Sa halip, ang mga makina ay naging napakabisa sa pagganap ng mga layunin na inatasan namin sa kanila at hudyat na maaari nating tapusin na hindi sinasadyang mapuksa. Paano? pagtatakda ng mga gawain sa maling paraan at / o maling paraan.
Ayon sa propesor, ang pangkalahatang ideya tungkol sa ang panganib ng AI ganap itong mali dahil sa impluwensya ng mga pelikulang Hollywood. Ang mga ito, sa pangkalahatan, ay palaging binubuo ng makina na magkaroon ng kamalayan sa sarili nito at pagkatapos ay nagsisimulang mapoot sa mga tao at nagtatapos na maghimagsik laban sa kanila. Pinabulaanan ng propesor ang pananaw na ito sapagkat ipinaliwanag niya na ang mga robot ay walang damdamin ng tao, kaya't maling magalala tungkol sa isang bagay na tulad nito.
Ipinaliwanag ni Russell na ang isang masasamang konsensya ay hindi ang dahilan upang magalala, ang panganib ng artipisyal na katalinuhan ito ang potensyal ng kanilang kakayahang makamit ang isang maling lugar o tinukoy na layunin na dapat talagang ikabahala sa atin.
Isang halimbawa ng pagiging epektibo
Sinamantala ng dalubhasa ang pagkakataon na ipaliwanag sa media ang isang halimbawa ng isang sitwasyon tulad ng inilantad niya.
Kung mayroon kaming isang napakalakas na sistema ng IA na may kakayahang kontrolin ang klima ng planeta at nais naming bigyan ka ng mga pahiwatig upang ibalik ang mga antas ng CO2 (carbon dioxide) sa aming kapaligiran.
Ang artipisyal na katalinuhan ay tumutukoy at magtatapos na upang gawin ito sa mga tao ay dapat na tinanggal, dahil ang mga ito ang pangunahing sanhi ng napakalaking produksyon ng CO2.
Nilinaw ni Russel na ang mahalagang bagay ngayon ay upang makabalik ang kontrol ng mga tao.
Lumikha kami ng artipisyal na katalinuhan na may kakayahang magsagawa ng mga gawain sa isang bagay na milliseconds. Artipisyal na katalinuhan na may kakayahang pag-optimize sa sarili at pag-aaral nang mag-isa. Hangga't may kamalayan tayo sa mga panganib nito at ididirekta ang mga kita sa mga gawaing etikal ay walang magiging problema. Ngunit ...
Maari ba nating makuha ito sa tamang landas?
At ikaw, ano sa palagay mo ito ang pangunahing panganib ng artipisyal na katalinuhan?