El 人工知能の主な危険性
複数の専門家がすでにこの可能性について警告している 人工知能の本当の危険性。 スチュアート・ラッセル氏が警告el 校長 AIの危険性.
カリフォルニア大学バークレー校教授、 スチュアート・ラッセル, 作品の作者です 人間との相性：AIと制御の問題 人工知能による機械学習の進歩の専門家である彼は、なぜ AI は危険な場合があります。
彼が新しい本の中で説明しているのは、私たちが懸念すべきことは、人工知能を備えたロボットが人間に気づき、反抗することではない、ということだ。 むしろ、機械は私たちが割り当てた目標を達成するために非常に効果的になり、私たちがうっかり全滅してしまう可能性があることを示しています。 として？ 間違った方法および/または間違った方法でタスクを確立する。
教授によると、人々が抱いている一般的な考えは、 AIの危険性 ハリウッド映画の影響で完全に間違っています。 これらは通常、機械が自己を認識し、その後人間を憎み始め、最終的には人間に反抗することで構成されます。 教授は、ロボットには人間の感情がないため、このようなことが起こることを心配するのは間違っていると説明し、この見解に反論しています。
ラッセル氏は、懸念の理由は邪悪な良心ではないと説明している。 人工知能の危険性 私たちが本当に懸念すべきなのは、不十分に述べられた、または特定された目的を達成する能力の可能性です。
その効果の一例
この専門家は機会を利用して、彼が暴露したような状況の一例をメディアに説明した。
もし私たちが非常に強力なシステムを持っていたとしたら、 IA それは地球の気候を制御する能力を持っており、私たちは大気中の CO2 (二酸化炭素) レベルを戻すように指示したいと考えています。
人工知能は、二酸化炭素の大量生産の主な原因である人間を排除する必要があると判断し、結論を下します。
ラッセル氏は、今重要なのは人類がコントロールを取り戻すことであると明言した。
私たちは、わずか XNUMX 分の XNUMX 秒でタスクを実行できる人工知能を作成しました。 自己最適化と自ら学習する人工知能。 私たちがその危険性を認識し、これらの公益事業を倫理的な業務に向けている限り、問題はありません。 しかし…
正しい軌道に乗せることができるだろうか？
そしてあなた、それは何だと思いますか？ 人工知能の主な危険性?