เหตุผลที่แท้จริงปัญญาประดิษฐ์อาจเป็นอันตรายได้
El อันตรายหลักของปัญญาประดิษฐ์
ผู้เชี่ยวชาญหลายคนได้เตือนถึงความเป็นไปได้นี้แล้ว อันตรายที่แท้จริงของปัญญาประดิษฐ์. Stuart Russel เตือน del หลัก อันตรายจาก AI.
ศาสตราจารย์แห่งมหาวิทยาลัยแคลิฟอร์เนียเบิร์กลีย์ สจวร์ตรัสเซลเป็นผู้เขียนผลงาน เข้ากันได้กับมนุษย์: AI และปัญหาการควบคุม และใครเป็นผู้เชี่ยวชาญในความก้าวหน้าของการเรียนรู้ของเครื่องด้วยปัญญาประดิษฐ์ได้อธิบายเหตุผลของความกังวลอย่างมากว่าทำไม AI อาจเป็นอันตรายได้
สิ่งที่เขาอธิบายในหนังสือเล่มใหม่ของเขาก็คือสิ่งที่เราควรกังวลไม่ใช่ว่าหุ่นยนต์ที่มีปัญญาประดิษฐ์จะตระหนักและต่อต้านมนุษย์ แต่เครื่องจักรจะมีประสิทธิภาพมากในการบรรลุวัตถุประสงค์ที่เรามอบหมายให้กับพวกเขาและบ่งชี้ว่าเราอาจถูกทำลายโดยไม่ได้ตั้งใจ อย่างไร? ตั้งค่างานผิดวิธีและ / หรือผิดวิธี
ตามที่ศาสตราจารย์ความคิดทั่วไปเกี่ยวกับ อันตรายของ AI มันผิดอย่างสิ้นเชิงเนื่องจากอิทธิพลของภาพยนตร์ฮอลลีวูด โดยทั่วไปสิ่งเหล่านี้มักประกอบด้วยเครื่องจักรที่ตระหนักถึงตัวเองจากนั้นเริ่มเกลียดมนุษย์และลงเอยด้วยการต่อต้านพวกเขา ศาสตราจารย์ปฏิเสธมุมมองนี้เนื่องจากเขาอธิบายว่าหุ่นยนต์ไม่มีความรู้สึกเหมือนมนุษย์ดังนั้นจึงเป็นเรื่องผิดที่จะกังวลเกี่ยวกับสิ่งที่เกิดขึ้นเช่นนี้
รัสเซลอธิบายว่าความรู้สึกผิดชอบชั่วดีไม่ใช่เหตุผลที่ต้องกังวล อันตรายจากปัญญาประดิษฐ์ เป็นศักยภาพของความสามารถในการบรรลุวัตถุประสงค์ที่ผิดพลาดหรือระบุไว้ซึ่งน่าจะเกี่ยวข้องกับเราจริงๆ
ตัวอย่างของประสิทธิผลนั้น
ผู้เชี่ยวชาญถือโอกาสอธิบายให้สื่อมวลชนฟังถึงตัวอย่างของสถานการณ์เช่นเดียวกับที่เขาเปิดเผย
ถ้าเรามีระบบ IA ที่มีความสามารถในการควบคุมสภาพภูมิอากาศของโลกและเราต้องการให้คุณบ่งชี้เพื่อคืนระดับ CO2 (คาร์บอนไดออกไซด์) ในชั้นบรรยากาศของเรา
ปัญญาประดิษฐ์กำหนดและสรุปว่าการทำเช่นนี้มนุษย์ควรถูกกำจัดออกไปเนื่องจากเป็นสาเหตุหลักของการผลิต CO2 จำนวนมหาศาล
รัสเซลแสดงให้เห็นชัดเจนว่าสิ่งสำคัญในตอนนี้คือสำหรับมนุษย์ที่จะต้องควบคุมอีกครั้ง
เราได้สร้างปัญญาประดิษฐ์ที่มีความสามารถสูงในการปฏิบัติงานโดยใช้เวลาเพียงไม่กี่มิลลิวินาที ปัญญาประดิษฐ์ที่สามารถเพิ่มประสิทธิภาพและเรียนรู้ด้วยตัวเอง ตราบเท่าที่เราตระหนักถึงอันตรายและนำผลกำไรเหล่านี้ไปสู่งานที่มีจริยธรรมก็จะไม่มีปัญหา แต่…
เราจะไปได้ถูกทางหรือไม่?
แล้วคุณล่ะคุณคิดว่ามันคืออะไร อันตรายหลักของปัญญาประดิษฐ์?