La vera kialo kial artefarita inteligenteco povas esti danĝera
El ĉefa danĝero de artefarita inteligenteco
Pluraj fakuloj jam avertis pri ĉi tiu ebleco pri la vera danĝero de artefarita inteligenteco. Stuart Russel avertas del ĉefa danĝero de AI.
La profesoro ĉe la Universitato de Kalifornio ĉe Berkeley, Stuart russel, estas la aŭtoro de la verko Homa Kongruo: AI kaj la Kontrola Problemo kaj kiu estas sperta pri la progresoj de maŝina lernado kun artefarita inteligenteco, klarigis la kialon de sia grandega zorgo pri kial la AI povas esti danĝera.
Kion li klarigas en sia nova libro, estas, ke ni devas zorgi pri tio, ke robotoj kun artefarita inteligenteco konsciiĝas kaj ribelas kontraŭ homoj. Prefere, la maŝinoj fariĝas tiel efikaj por plenumi la celojn, kiujn ni atribuas al ili, kaj signas, ke ni eble estos pretervole ekstermitaj. Kiel? agordi la taskojn en malĝusta aŭ malĝusta maniero.
Laŭ la profesoro, la ĝenerala ideo pri la danĝero de AI ĝi estas tute malĝusta pro la influo de holivudaj filmoj. Ĉi tiuj ĝenerale konsistas ĉiam el la maŝino, kiu konscias pri si mem kaj tiam komencas malami homojn kaj finas ribeli kontraŭ ili. La profesoro refutas ĉi tiun vidpunkton, ĉar li klarigas, ke robotoj havas neniujn homajn sentojn, do estas malĝuste zorgi pri io tia.
Russell klarigis, ke malbona konscienco ne estas la kialo zorgi, la danĝero de artefarita inteligenteco ĝi estas la potencialo de ilia kapablo atingi mislokigitan aŭ difinitan celon, kiu vere koncernus nin.
Ekzemplo de tiu efikeco
La spertulo profitis la okazon por klarigi al la amaskomunikiloj ekzemplon de situacio kiel tiu, kiun li elmontras.
Se ni havus tre potencan sistemon de IA tio havas la kapablon regi la klimaton de la planedo kaj ni volas doni al vi indikojn por redoni la nivelojn de CO2 (karbona dioksido) en nia atmosfero.
Artefarita inteligenteco determinas kaj konkludas, ke por fari tion oni devas forigi homojn, ĉar ili estas la ĉefa kaŭzo de la amasa produktado de CO2.
Russel klare diris, ke la grava afero nun estas, ke homoj reakiru kontrolon.
Ni kreis artefaritan inteligentecon, kiu kapablas plenumi taskojn dum milisekundoj. Artefarita inteligenteco kapabla mem-optimumigi kaj lerni per si mem. Dum ni konscias pri ĝiaj danĝeroj kaj direktos ĉi tiujn profitojn al etikaj taskoj, estos neniu problemo. Sed ...
Ĉu ni povos akiri ĝin sur la ĝusta vojo?
Kaj vi, kio laŭ vi ĝi estas la ĉefa danĝero de artefarita inteligenteco?