Lý do thực sự khiến trí tuệ nhân tạo có thể nguy hiểm
El mối nguy hiểm chính của trí tuệ nhân tạo
Một số chuyên gia đã cảnh báo về khả năng này về mối nguy thực sự của trí tuệ nhân tạo. Stuart Russel cảnh báo del chính nguy hiểm của AI.
Giáo sư tại Đại học California ở Berkeley, Stuart russel, là tác giả của tác phẩm Tương thích với con người: AI và Vấn đề điều khiển và là một chuyên gia trong những tiến bộ của máy học với trí tuệ nhân tạo, đã giải thích lý do cho mối quan tâm to lớn của mình về việc tại sao AI có thể nguy hiểm.
Những gì anh ấy giải thích trong cuốn sách mới của mình là điều mà chúng ta nên quan tâm không phải là các robot với trí thông minh nhân tạo trở nên nhận thức và nổi loạn chống lại con người. Thay vào đó, máy móc trở nên quá hiệu quả trong việc hoàn thành các mục tiêu mà chúng ta giao cho chúng và báo hiệu rằng chúng ta có thể vô tình bị tiêu diệt. Làm sao? thiết lập các nhiệm vụ sai và / hoặc sai cách.
Theo giáo sư, ý kiến chung về sự nguy hiểm của AI điều đó hoàn toàn sai lầm do ảnh hưởng của các bộ phim Hollywood. Nói chung, những thứ này luôn bao gồm cỗ máy nhận thức được bản thân và sau đó bắt đầu ghét con người và cuối cùng nổi dậy chống lại họ. Vị giáo sư bác bỏ quan điểm này vì ông giải thích rằng người máy không có cảm xúc của con người, vì vậy thật sai lầm khi lo lắng về những điều như thế này xảy ra.
Russell đã giải thích rằng một lương tâm xấu xa không phải là lý do để lo lắng, nguy hiểm của trí tuệ nhân tạo đó là tiềm năng của khả năng họ đạt được một mục tiêu không đúng chỗ hoặc được chỉ định mà chúng tôi thực sự quan tâm.
Một ví dụ về hiệu quả đó
Chuyên gia đã nhân cơ hội này để giải thích cho giới truyền thông một ví dụ về một tình huống giống như trường hợp mà anh ta vạch trần.
Nếu chúng ta có một hệ thống rất mạnh mẽ IA có khả năng kiểm soát khí hậu của hành tinh và chúng tôi muốn cung cấp cho bạn các dấu hiệu để trả lại mức CO2 (carbon dioxide) trong bầu khí quyển của chúng ta.
Trí tuệ nhân tạo xác định và kết luận rằng để làm được điều này, con người nên bị loại bỏ, bởi vì chúng là nguyên nhân chính gây ra việc sản sinh ra lượng lớn CO2.
Russel nói rõ rằng điều quan trọng bây giờ là con người phải giành lại quyền kiểm soát.
Chúng tôi đã tạo ra trí thông minh nhân tạo có khả năng thực hiện các nhiệm vụ chỉ trong vài mili giây. Trí tuệ nhân tạo có khả năng tự tối ưu hóa và tự học hỏi. Miễn là chúng ta nhận thức được sự nguy hiểm của nó và hướng những lợi nhuận này vào các nhiệm vụ đạo đức thì sẽ không có vấn đề gì. Nhưng…
Liệu chúng ta có thể đi đúng hướng không?
Còn bạn, bạn nghĩ nó là gì mối nguy hiểm chính của trí tuệ nhân tạo?