הסיבה האמיתית שבינה מלאכותית יכולה להיות מסוכנת
El הסכנה העיקרית של בינה מלאכותית
כמה מומחים כבר הזהירו מפני אפשרות זו לגבי הסכנה האמיתית של בינה מלאכותית. סטיוארט רוסל מזהיר את דel ראשי סכנת AI.
הפרופסור באוניברסיטת קליפורניה בברקלי, סטיוארט רוסל, הוא מחבר היצירה תואם אנושי: AI ובעיית הבקרה ומי שמומחה בהתקדמות למידת מכונה עם בינה מלאכותית, הסביר את הסיבה לדאגתו העצומה מדוע AI יכול להיות מסוכן.
מה שהוא מסביר בספרו החדש הוא שמה שצריך להדאיג אותנו הוא לא שרובוטים עם בינה מלאכותית הופכים מודעים ומורדים בבני אדם. במקום זאת, המכונות הופכות ליעילות כל כך בהשגת היעדים שאנו מקצים להן ומסמנות כי אנו עלולים להיות מושמדים בשוגג. אֵיך? הגדרת המשימות בצורה לא נכונה ו / או לא נכונה.
לדברי הפרופסור, הרעיון הכללי אודות הסכנה של AI זה שגוי לחלוטין בגלל ההשפעה של סרטי הוליווד. אלה, באופן כללי, מורכבים תמיד מהמכונה שהופכת מודעת לעצמה ואז מתחילה לשנוא בני אדם ובסופו של דבר למרוד בהם. הפרופסור דוחה תפיסה זו משום שהוא מסביר שלרובוטים אין רגשות אנושיים, ולכן זה לא נכון לדאוג שמשהו כזה יקרה.
ראסל הסביר כי מצפון רע הוא לא הסיבה לדאגה סכנת בינה מלאכותית זה הפוטנציאל של היכולת שלהם להשיג מטרה שאינה במקומה או מוגדרת שצריכה להדאיג אותנו באמת.
דוגמה לאפקטיביות זו
המומחה ניצל את ההזדמנות כדי להסביר לתקשורת דוגמא למצב כמו שהוא חושף.
אם הייתה לנו מערכת חזקה מאוד של IA שיש לו את היכולת לשלוט באקלים של כדור הארץ ואנחנו רוצים לתת לך אינדיקציות להחזרת רמות ה- CO2 (פחמן הדו-חמצני) באטמוספירה שלנו.
בינה מלאכותית קובעת ומסיקה כי לשם כך יש לבטל את בני האדם מכיוון שהם הגורם העיקרי לייצור מסיבי של CO2.
רוסל הבהיר שהדבר החשוב כעת הוא שבני האדם ישובו לשליטה.
יצרנו בינה מלאכותית שמסוגלת מאוד לבצע משימות בתוך אלפיות השנייה. בינה מלאכותית המסוגלת לבצע אופטימיזציה עצמית ולמידה בפני עצמה. כל עוד אנו מודעים לסכנותיה ומכוונים רווחים אלה למשימות אתיות לא תהיה שום בעיה. אבל…
האם נצליח להשיג את זה בדרך הנכונה?
ואתה, מה אתה חושב שזה הסכנה העיקרית של בינה מלאכותית?