Raunverulega ástæðan fyrir því að gervigreind getur verið hættuleg
El aðalhætta gervigreindar
Nokkrir sérfræðingar hafa þegar varað við þessum möguleika um raunveruleg hætta á gervigreind. Stuart Russel varar del helstu AI hætta.
Prófessorinn við Kaliforníuháskóla í Berkeley, Stuart russel, er höfundur verksins Mannvænt: AI og vandamálið við stjórnun og sem er sérfræðingur í framþróun vélanáms með gervigreind, hefur útskýrt ástæðuna fyrir gífurlegum áhyggjum sínum af hverju Gervigreind getur verið hættuleg.
Það sem hann útskýrir í nýju bókinni sinni er að það sem ætti að varða okkur sé ekki að vélmenni með gervigreind verði meðvituð og geri uppreisn gegn mannverum. Frekar verða vélarnar svo árangursríkar við að ná þeim markmiðum sem við setjum þeim og gefa til kynna að við getum endað með því að vera tortímt óvart. Hvernig? að setja verkefnin á rangan og / eða rangan hátt.
Samkvæmt prófessornum er almenn hugmynd um hættan á gervigreind það er alrangt vegna áhrifa frá Hollywood kvikmyndum. Þessar samanstanda almennt alltaf af vélinni sem verður meðvituð um sjálfa sig og byrjar síðan að hata mennina og enda á því að gera uppreisn gegn þeim. Prófessorinn vísar þessari skoðun á bug vegna þess að hann útskýrir að vélmenni hafi ekki mannlegar tilfinningar og því sé rangt að hafa áhyggjur af því að eitthvað svona gerist.
Russell hefur útskýrt að vond samviska sé ekki ástæða til að hafa áhyggjur, heldur hætta á gervigreind það er möguleiki getu þeirra til að ná rangri eða tilgreindri markmiðs sem ætti raunverulega að varða okkur.
Dæmi um þá virkni
Sérfræðingurinn notaði tækifærið og útskýrði fyrir fjölmiðlum dæmi um aðstæður eins og þær sem hann afhjúpar.
Ef við hefðum mjög öflugt kerfi af IA sem hefur getu til að stjórna loftslagi plánetunnar og við viljum gefa þér vísbendingar svo að það skili magni CO2 (koltvísýringi) í andrúmslofti okkar.
Gervigreind ákvarðar og ályktar að til að gera þetta ætti að útrýma mannverum, vegna þess að þær eru megin orsök stórfellds framleiðslu á CO2.
Russel lét hafa eftir sér að það mikilvæga núna væri að mannverurnar nái aftur stjórninni.
Við höfum búið til gervigreind sem er mjög fær um að sinna verkefnum á millisekúndum. Gervigreind sem er fær um sjálfbjartsýni og nám af sjálfu sér. Svo lengi sem við erum meðvituð um hættuna og beinum þessum gróða til siðferðilegra verkefna verður ekkert vandamál. En ...
Náum við að koma því á réttan kjöl?
Og þú, hvað heldurðu að það sé helsta hættan við gervigreind?