Alesan nyata kecerdasan buatan tiasa bahaya
El bahaya utama kecerdasan jieunan
Sababaraha ahli parantos parantos ngingetkeun kamungkinan ieu ngeunaan bahaya nyata kapinteran jijieunan. Stuart Russel ngingetkeun del poko bahaya AI.
Profésor di University of California di Berkeley, Stuart russel, nyaéta panulis karya Kompatibel sareng Manusa: AI sareng Masalah Kontrol sareng saha ahli dina kamajuan pembelajaran mesin kalayan kecerdasan jijieunan, parantos ngajelaskeun alesan pikeun prihatinna pisan ngeunaan kunaon AI tiasa bahaya.
Anu anjeunna ngajelaskeun dina bukuna anu anyar nyaéta yén anu kedah diperhatoskeun ku kami sanés robot anu gaduh kecerdasan jijieunan janten waspada sareng barontak ka manusa. Sabalikna, mesin janten épéktip dina ngalaksanakeun tujuan anu urang pasihkeun ka aranjeunna sareng sinyal yén urang tiasa tungtungna musnah sacara teu dihaja. Kumaha? netepkeun padamelan dina salah sareng / atanapi salah jalan.
Numutkeun ka profésor, ideu umum ngeunaan bahaya AI éta salah pisan kusabab pangaruh pilem Hollywood. Ieu, sacara umum, salawasna diwangun ku mesin anu janten sadar nyalira teras mimiti hate ka manusa sareng akhirna berontak ka aranjeunna. Profésor ngabantah pandangan ieu kusabab anjeunna ngajelaskeun yén robot teu ngagaduhan perasaan manusa, janten salah hariwang ngeunaan hal sapertos kieu kajantenan.
Russell parantos ngajelaskeun yén nurani anu jahat sanés alesan hariwang, éta bahaya kapinteran jijieunan éta mangrupikeun poténsi kamampuanna pikeun ngahontal tujuan anu salah tempat atanapi anu ditangtoskeun anu kedah leres-leres merhatoskeun urang.
Conto efektivitas éta
Ahli nyandak kasempetan pikeun ngajelaskeun ka média conto ngeunaan kaayaan sapertos kaayaan anu anjeunna paparkan.
Upami urang ngagaduhan sistem anu kuat pisan IA anu ngagaduhan kamampuan pikeun ngontrol iklim planét sareng kami hoyong masihan indikasi pikeun balikkeun tingkat CO2 (karbon dioksida) dina atmosfir urang.
Kecerdasan jieunan nangtoskeun sareng nyimpulkeun yén pikeun ngalakukeun ieu manusa kedah dileungitkeun, sabab éta panyabab utama produksi masif ti CO2.
Russel netelakeun yén anu penting ayeuna nyaéta manusa pikeun ngontrol deui.
Kami parantos nyiptakeun kecerdasan buatan anu sanggup pisan ngalakukeun tugas dina masalah milidetik. Kecerdasan buatan tiasa ngaoptimalkeun diri sareng diajar nyalira. Salami urang sadar bahaya na sareng ngarahkeun kauntungan ieu kana tugas étika moal aya masalah. Tapi…
Naha urang bakal tiasa kéngingkeun éta dina jalur anu leres?
Sareng anjeun, naon saur anjeun éta bahaya utama kecerdasan jieunan?