Skutočným dôvodom, prečo môže byť umelá inteligencia nebezpečná
El hlavné nebezpečenstvo umelej inteligencie
Pred touto možnosťou už varovalo niekoľko odborníkov skutočné nebezpečenstvo umelej inteligencie. Stuart Russel varuje del hlavné nebezpečenstvo AI.
Profesor na Kalifornskej univerzite v Berkeley, Stuart russel, je autorom diela Priateľské k človeku: AI a problém kontroly a ktorý je odborníkom na pokroky v oblasti strojového učenia s umelou inteligenciou, vysvetlil dôvod svojej enormnej obavy z toho, prečo AI môže byť nebezpečná.
Vo svojej novej knihe vysvetľuje, že to, čo by sa nás malo týkať, nie je to, že by si roboty s umelou inteligenciou uvedomovali a búrili sa proti ľudským bytostiam. Naopak, stroje sa stanú tak efektívnymi pri dosahovaní cieľov, ktoré sme im určili, a signalizujú, že by sme mohli byť nechtiac vyhladení. Ako? nastavenie úloh nesprávnym alebo nesprávnym spôsobom.
Podľa profesora všeobecná predstava o nebezpečenstvo AI je to úplne nesprávne kvôli vplyvu hollywoodskych filmov. Tie vo všeobecnosti vždy pozostávajú zo stroja, ktorý si uvedomuje sám seba, potom začne ľudí nenávidieť a nakoniec sa proti nim vzbúri. Profesor vyvracia tento názor, pretože vysvetľuje, že roboti nemajú ľudské city, takže je nesprávne sa obávať, že sa niečo také stane.
Russell vysvetlil, že zlé svedomie nie je dôvodom na obavy nebezpečenstvo umelej inteligencie skutočne by sa nás mal týkať potenciál ich schopnosti dosiahnuť nesprávne alebo presne stanovený cieľ.
Príklad tejto účinnosti
Expert využil príležitosť a vysvetlil médiám príklad situácie, ako je tá, ktorú vystavuje.
Keby sme mali veľmi výkonný systém IA ktorý má schopnosť riadiť podnebie planéty a my vám chceme dať náznaky na vrátenie úrovní CO2 (oxidu uhličitého) v našej atmosfére.
Umelá inteligencia určuje a vyvodzuje z toho záver, že je potrebné vylúčiť ľudí, pretože sú hlavnou príčinou masívnej produkcie CO2.
Russel jasne uviedol, že teraz je dôležité, aby ľudia znovu získali kontrolu.
Vytvorili sme umelú inteligenciu, ktorá je vysoko schopná plniť úlohy v priebehu milisekúnd. Umelá inteligencia schopná sebaoptimalizácie a učenia sa sama. Pokiaľ si uvedomujeme jeho nebezpečenstvo a nasmerujeme tieto zisky na etické úlohy, nebude problém. Ale…
Podarí sa nám to dostať na správnu cestu?
A ty, čo si myslíš, že to je hlavné nebezpečenstvo umelej inteligencie?