Patiesais iemesls, kāpēc mākslīgais intelekts var būt bīstams
El mākslīgā intelekta galvenās briesmas
Par šo iespēju jau ir brīdinājuši vairāki eksperti mākslīgā intelekta reālās briesmas. Stjuarts Rasels brīdina del galvenais AI draudi.
Bērklijas Kalifornijas universitātes profesors, Stjuarts russels, ir darba autore Saderīgs ar cilvēkiem: AI un kontroles problēma un kurš ir mašīnmācīšanās ar mākslīgo intelektu sasniegumu eksperts, ir izskaidrojis savas milzīgās bažas par to, kāpēc AI var būt bīstams.
Tas, ko viņš paskaidro savā jaunajā grāmatā, ir tas, ka mums jāuztraucas nevis par to, ka roboti ar mākslīgo intelektu apzinātos un saceltos pret cilvēkiem. Drīzāk mašīnas kļūst tik efektīvas, lai sasniegtu mērķus, ko tām piešķiram, un dod signālu, ka mēs varam netīši iznīcināt. Kā? uzdevumu uzstādīšana nepareizā un / vai nepareizā veidā.
Pēc profesora domām, vispārējā ideja par AI bīstamība tas ir pilnīgi nepareizi Holivudas filmu ietekmes dēļ. Tie parasti vienmēr sastāv no mašīnas, kas apzinās sevi un pēc tam sāk ienīst cilvēkus un galu galā dumpojas pret viņiem. Profesors šo viedokli atspēko, jo paskaidro, ka robotiem nav cilvēcisku izjūtu, tāpēc ir nepareizi uztraukties, ka kaut kas tāds notiek.
Rasels ir paskaidrojis, ka ļauna sirdsapziņa nav iemesls uztraukumam, mākslīgā intelekta briesmas tas ir viņu spēju potenciāls sasniegt nepareizu vai noteiktu mērķi, kas mums patiešām jāuztraucas.
Šīs efektivitātes piemērs
Eksperts izmantoja iespēju, lai plašsaziņas līdzekļiem izskaidrotu tādas situācijas piemēru kā viņa.
Ja mums būtu ļoti spēcīga sistēma IA kas spēj kontrolēt planētas klimatu, un mēs vēlamies sniegt jums norādes, kā atgriezt CO2 (oglekļa dioksīda) līmeni mūsu atmosfērā.
Mākslīgais intelekts nosaka un secina, ka, lai to izdarītu, cilvēki ir jālikvidē, jo tie ir galvenais CO2 masveida ražošanas cēlonis.
Rasels lika saprast, ka tagad ir svarīgi, lai cilvēki atgūtu kontroli.
Mēs esam izveidojuši mākslīgo intelektu, kas ļoti spēj izpildīt uzdevumus dažu milisekunžu laikā. Mākslīgais intelekts, kas spēj sevi optimizēt un pats mācīties. Kamēr mēs apzināmies tā bīstamību un novirzīsim šo peļņu ētiskiem uzdevumiem, problēmu nebūs. Bet ...
Vai mēs spēsim to novirzīt uz pareizā ceļa?
Un tu, kas, tavuprāt, tas ir mākslīgā intelekta galvenās briesmas?