Adevăratul motiv pentru care inteligența artificială poate fi periculoasă
El principalul pericol al inteligenței artificiale
Mai mulți experți au avertizat deja despre această posibilitate pericolul real al inteligenței artificiale. Stuart Russel avertizează del principal pericol de AI.
Profesorul de la Universitatea din California la Berkeley, Stuart Russell, este autorul lucrării Compatibil cu omul: AI și problema de control și care este un expert în progresele învățării automate cu inteligență artificială, a explicat motivul îngrijorării sale enorme cu privire la motivul pentru care AI poate fi periculos.
Ceea ce explică el în noua sa carte este că ceea ce ar trebui să ne preocupe nu este faptul că roboții cu inteligență artificială devin conștienți și se rebelează împotriva ființelor umane. Mai degrabă, mașinile devin atât de eficiente în realizarea obiectivelor pe care ni le atribuim și semnalează că putem ajunge să fim anihilați din greșeală. Cum? setarea sarcinilor într-un mod greșit și / sau greșit.
Potrivit profesorului, ideea generală despre pericolul AI este complet greșită datorită influenței filmelor de la Hollywood. Acestea, în general, constau întotdeauna din mașina care devine conștientă de ea însăși și apoi începe să urască oamenii și ajung să se răzvrătească împotriva lor. Profesorul respinge acest punct de vedere, deoarece explică faptul că roboții nu au sentimente umane, așa că este greșit să vă faceți griji că se întâmplă așa ceva.
Russell a explicat că o conștiință malefică nu este motivul de îngrijorare, ci pericolul inteligenței artificiale potențialul abilității lor de a atinge un obiectiv greșit sau specificat trebuie să ne preocupe cu adevărat.
Un exemplu al acelei eficacități
Expertul a profitat de ocazie pentru a explica presei un exemplu de situație precum cea pe care o expune.
Dacă am avea un sistem foarte puternic de IA care are capacitatea de a controla clima planetei și vrem să vă oferim indicații pentru a reveni la nivelurile de CO2 (dioxid de carbon) din atmosfera noastră.
Inteligența artificială determină și concluzionează că pentru a face acest lucru, ființele umane ar trebui eliminate, deoarece acestea sunt cauza principală a producției masive de CO2.
Russel a arătat clar că acum este important ca ființele umane să recâștige controlul.
Am creat inteligență artificială care este extrem de capabilă să îndeplinească sarcini într-o chestiune de milisecunde. Inteligență artificială capabilă de auto-optimizare și de învățare de la sine. Atâta timp cât suntem conștienți de pericolele sale și direcționăm aceste profituri către sarcini etice, nu va exista nicio problemă. Dar…
Vom reuși să o ducem pe drumul cel bun?
Și tu, ce crezi că este principalul pericol al inteligenței artificiale?