Prawdziwy powód, dla którego sztuczna inteligencja może być niebezpieczna
El główne zagrożenie ze strony sztucznej inteligencji
Przed taką możliwością ostrzegało już kilku ekspertów prawdziwe niebezpieczeństwo sztucznej inteligencji. Stuart Russel ostrzega del główny niebezpieczeństwo AI.
Profesor na Uniwersytecie Kalifornijskim w Berkeley, Stuart russeljest autorem pracy Zgodność z człowiekiem: sztuczna inteligencja i problem kontroli i który jest ekspertem w postępach uczenia maszynowego ze sztuczną inteligencją, wyjaśnił powód swojego ogromnego zaniepokojenia tym, dlaczego AI może być niebezpieczne.
W swojej nowej książce wyjaśnia, że nie powinniśmy się przejmować tym, że roboty ze sztuczną inteligencją stają się świadome i buntują się przeciwko ludziom. Maszyny stają się raczej tak skuteczne w realizacji celów, które im przypisujemy, i sygnalizują, że możemy zostać nieumyślnie unicestwieni. W jaki sposób? ustawienie zadań w niewłaściwy i / lub zły sposób.
Według profesora ogólna idea o niebezpieczeństwo AI jest to całkowicie błędne ze względu na wpływ filmów z Hollywood. Ogólnie rzecz biorąc, zawsze składają się one z maszyny, która staje się świadoma siebie, a następnie zaczyna nienawidzić ludzi i ostatecznie buntuje się przeciwko nim. Profesor obala ten pogląd, ponieważ wyjaśnia, że roboty nie mają ludzkich uczuć, więc nie należy martwić się, że coś takiego się wydarzy.
Russell wyjaśnił, że złe sumienie nie jest powodem do zmartwień niebezpieczeństwo sztucznej inteligencji to potencjał ich zdolności do osiągnięcia niewłaściwego lub sprecyzowanego celu, który naprawdę powinien nas niepokoić.
Przykład takiej skuteczności
Ekspert skorzystał z okazji, aby wyjaśnić mediom przykład takiej sytuacji jak ta, którą ujawnia.
Gdybyśmy mieli bardzo potężny system IA który ma zdolność kontrolowania klimatu planety i chcemy dać Ci wskazówki, jak przywrócić poziom CO2 (dwutlenku węgla) w naszej atmosferze.
Sztuczna inteligencja ustala i stwierdza, że w tym celu należy wyeliminować ludzi, ponieważ są one główną przyczyną masowej produkcji CO2.
Russel dał jasno do zrozumienia, że ważne jest teraz, aby ludzie odzyskali kontrolę.
Stworzyliśmy sztuczną inteligencję, która jest w stanie wykonywać zadania w ciągu kilku milisekund. Sztuczna inteligencja zdolna do samodzielnej optymalizacji i uczenia się. Dopóki jesteśmy świadomi zagrożeń i kierujemy te zyski na zadania etyczne, nie będzie problemu. Ale…
Czy uda nam się to zrobić na dobrej drodze?
A ty, jak myślisz, co to jest główne niebezpieczeństwo sztucznej inteligencji?