అసలు కారణం కృత్రిమ మేధస్సు ప్రమాదకరం
El కృత్రిమ మేధస్సు యొక్క ప్రధాన ప్రమాదం
దీని గురించి అనేక మంది నిపుణులు ఇప్పటికే హెచ్చరించారు కృత్రిమ మేధస్సు యొక్క నిజమైన ప్రమాదం. స్టువర్ట్ రస్సెల్ హెచ్చరించాడు del ప్రిన్సిపాల్ AI ప్రమాదం.
బర్కిలీలోని కాలిఫోర్నియా విశ్వవిద్యాలయంలో ప్రొఫెసర్, స్టువర్ట్ రస్సెల్, రచన రచయిత మానవ అనుకూలత: AI మరియు నియంత్రణ సమస్య మరియు కృత్రిమ మేధస్సుతో యంత్ర అభ్యాసం యొక్క పురోగతిలో నిపుణుడు ఎవరు, ఎందుకు అనే దానిపై తన అపారమైన ఆందోళనకు కారణాన్ని వివరించారు AI ప్రమాదకరం.
అతను తన కొత్త పుస్తకంలో వివరించేది ఏమిటంటే, మనకు ఆందోళన కలిగించేది ఏమిటంటే, కృత్రిమ మేధస్సు ఉన్న రోబోట్లు మానవులకు వ్యతిరేకంగా అవగాహన మరియు తిరుగుబాటు చేస్తాయి. బదులుగా, యంత్రాలు మనం వారికి కేటాయించిన లక్ష్యాలను నెరవేర్చడంలో చాలా ప్రభావవంతంగా మారతాయి మరియు మనం అనుకోకుండా వినాశనం చెందడానికి సంకేతం. ఎలా? పనులను తప్పు మరియు / లేదా తప్పు మార్గంలో సెట్ చేయడం.
ప్రొఫెసర్ ప్రకారం, గురించి సాధారణ ఆలోచన AI ప్రమాదం హాలీవుడ్ సినిమాల ప్రభావం కారణంగా ఇది పూర్తిగా తప్పు. ఇవి సాధారణంగా, ఎల్లప్పుడూ తనను తాను తెలుసుకునే యంత్రాన్ని కలిగి ఉంటాయి మరియు తరువాత మానవులను ద్వేషించడం ప్రారంభిస్తాయి మరియు వారికి వ్యతిరేకంగా తిరుగుబాటు చేస్తాయి. ప్రొఫెసర్ ఈ అభిప్రాయాన్ని ఖండించారు ఎందుకంటే రోబోట్లకు మానవ భావాలు లేవని వివరించాడు, కాబట్టి ఇలాంటివి జరగడం గురించి ఆందోళన చెందడం తప్పు.
చెడు మనస్సాక్షి ఆందోళన చెందడానికి కారణం కాదని రస్సెల్ వివరించాడు కృత్రిమ మేధస్సు ప్రమాదం తప్పుగా ఉంచిన లేదా పేర్కొన్న లక్ష్యాన్ని సాధించగల వారి సామర్థ్యం యొక్క సంభావ్యత అది మాకు నిజంగా ఆందోళన కలిగిస్తుంది.
ఆ ప్రభావానికి ఉదాహరణ
అతను బహిర్గతం చేసిన పరిస్థితికి ఉదాహరణగా మీడియాకు వివరించే అవకాశాన్ని నిపుణుడు తీసుకున్నాడు.
మనకు చాలా శక్తివంతమైన వ్యవస్థ ఉంటే IA ఇది గ్రహం యొక్క వాతావరణాన్ని నియంత్రించే సామర్థ్యాన్ని కలిగి ఉంది మరియు మా వాతావరణంలో CO2 (కార్బన్ డయాక్సైడ్) స్థాయిలను తిరిగి ఇవ్వడానికి మేము మీకు సూచనలు ఇవ్వాలనుకుంటున్నాము.
కృత్రిమ మేధస్సు దీనిని చేయటానికి, మానవులను నిర్మూలించాలని నిర్ధారిస్తుంది మరియు CO2 యొక్క భారీ ఉత్పత్తికి అవి ప్రధాన కారణం.
మానవులు తిరిగి నియంత్రణ సాధించడం ఇప్పుడు ముఖ్యమైన విషయం అని రస్సెల్ స్పష్టం చేశారు.
మేము మిల్లీసెకన్ల విషయంలో పనులు చేయగల అధిక సామర్థ్యం కలిగిన కృత్రిమ మేధస్సును సృష్టించాము. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ స్వీయ-ఆప్టిమైజేషన్ మరియు స్వయంగా నేర్చుకోగలదు. దాని ప్రమాదాల గురించి మనకు తెలుసు మరియు ఈ లాభాలను నైతిక పనులకు నడిపించినంత కాలం ఎటువంటి సమస్య ఉండదు. కానీ…
మేము దానిని సరైన మార్గంలో పొందగలమా?
మరియు మీరు, మీరు ఏమి అనుకుంటున్నారు కృత్రిమ మేధస్సు యొక్క ప్రధాన ప్రమాదం?