El 人工智能的主要危险
几位专家已经警告过这种可能性 人工智能的真正危险。 斯图尔特·罗素（Stuart Russel）警告el 主要 AI的危险.
加州大学伯克利分校教授 斯图尔特·罗素，是该作品的作者 人类兼容：人工智能和控制问题 谁是人工智能机器学习发展方面的专家，他解释了他对为什么 AI可能很危险。
他在新书中解释的是，我们应该担心的不是具有人工智能的机器人变得意识到并反抗人类。 相反，这些机器在实现我们分配给它们的目标方面变得非常有效，并发出信号，表明我们最终可能会无意间被歼灭。 如何？ 以错误和/或错误的方式设置任务。
据教授说，关于 人工智能的危险 由于好莱坞电影的影响，这是完全错误的。 通常，这些总是由意识到自身然后开始憎恨人类并最终反抗他们的机器组成。 这位教授驳斥了这种观点，因为他解释说机器人没有人类的感觉，因此担心这种事情发生是错误的。
罗素（Russell）解释说，邪恶的良心不是担心的原因， 人工智能的危险 他们实现目标错位或特定目标的能力的潜力值得我们真正关注。
这种效果的一个例子
专家借此机会向媒体解释了一个他所提出的情况的例子。
如果我们有一个非常强大的系统 IA 它具有控制地球气候的能力，我们希望为您提供返回大气中CO2（二氧化碳）水平的指示。
人工智能确定并得出结论，这样做是应该消除人类的，因为人类是大量产生CO2的主要原因。
罗素明确表示，现在重要的是人类重新获得控制权。
我们创建了能够在几毫秒内完成任务的高度人工智能。 能够自行优化和学习的人工智能。 只要我们意识到它的危险并将这些利润用于道德任务，就不会有问题。 但…
我们能否使其步入正轨？
而你，你认为那是什么 人工智能的主要危险?