Ο πραγματικός λόγος που η τεχνητή νοημοσύνη μπορεί να είναι επικίνδυνη
El κύριος κίνδυνος τεχνητής νοημοσύνης
Αρκετοί ειδικοί έχουν ήδη προειδοποιήσει για αυτήν την πιθανότητα τον πραγματικό κίνδυνο της τεχνητής νοημοσύνης. Ο Stuart Russel προειδοποιεί del κύριος κίνδυνος τεχνητής νοημοσύνης.
Ο καθηγητής στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϋ, Στιούαρτ Ράσελ, είναι ο συγγραφέας του έργου Human Compatible: AI και το πρόβλημα ελέγχου και ποιος είναι ειδικός στην πρόοδο της μηχανικής μάθησης με τεχνητή νοημοσύνη, εξήγησε τον λόγο για την τεράστια ανησυχία του για το γιατί Η AI μπορεί να είναι επικίνδυνη.
Αυτό που εξηγεί στο νέο του βιβλίο είναι ότι αυτό που πρέπει να ανησυχούμε δεν είναι ότι τα ρομπότ με τεχνητή νοημοσύνη συνειδητοποιούν και επαναστατούν εναντίον των ανθρώπων. Αντίθετα, οι μηχανές γίνονται τόσο αποτελεσματικές στην επίτευξη των στόχων που τους αναθέτουμε και σηματοδοτούν ότι ενδέχεται να καταλήξουμε να εκμηδενιστούμε ακούσια. Πως? ρύθμιση των εργασιών με λάθος και / ή λάθος τρόπο.
Σύμφωνα με τον καθηγητή, η γενική ιδέα για ο κίνδυνος της AI είναι εντελώς λάθος λόγω της επιρροής των ταινιών του Χόλιγουντ. Αυτά, γενικά, αποτελούνται πάντα από τη μηχανή που συνειδητοποιεί τον εαυτό της και στη συνέχεια αρχίζει να μισεί τους ανθρώπους και καταλήγει να επαναστατεί εναντίον τους. Ο καθηγητής αντικρούει αυτήν την άποψη επειδή εξηγεί ότι τα ρομπότ δεν έχουν ανθρώπινα συναισθήματα, επομένως είναι λάθος να ανησυχείτε για κάτι τέτοιο.
Ο Ράσελ εξήγησε ότι η κακή συνείδηση δεν είναι ο λόγος για να ανησυχείτε κίνδυνος τεχνητής νοημοσύνης Είναι η δυνατότητα της ικανότητάς τους να επιτύχουν έναν εσφαλμένο ή καθορισμένο στόχο που πρέπει να μας αφορά πραγματικά.
Ένα παράδειγμα αυτής της αποτελεσματικότητας
Ο ειδικός εκμεταλλεύτηκε την ευκαιρία για να εξηγήσει στα μέσα ενημέρωσης ένα παράδειγμα μιας κατάστασης όπως αυτή που εκθέτει.
Αν είχαμε ένα πολύ ισχυρό σύστημα IA που έχει την ικανότητα να ελέγχει το κλίμα του πλανήτη και θέλουμε να σας δώσουμε ενδείξεις για να επιστρέψετε τα επίπεδα CO2 (διοξείδιο του άνθρακα) στην ατμόσφαιρα μας.
Η τεχνητή νοημοσύνη καθορίζει και συμπεραίνει ότι για να γίνει αυτό πρέπει να εξαλειφθούν τα ανθρώπινα όντα, επειδή είναι η κύρια αιτία της μαζικής παραγωγής CO2.
Ο Ράσελ κατέστησε σαφές ότι το σημαντικό τώρα είναι τα ανθρώπινα όντα να ανακτήσουν τον έλεγχο.
Έχουμε δημιουργήσει τεχνητή νοημοσύνη που είναι ικανή να εκτελεί εργασίες σε χιλιοστά του δευτερολέπτου. Τεχνητή νοημοσύνη ικανή για αυτο-βελτιστοποίηση και μάθηση από μόνη της. Εφόσον γνωρίζουμε τους κινδύνους του και κατευθύνουμε αυτά τα κέρδη σε ηθικά καθήκοντα, δεν θα υπάρχει πρόβλημα. Αλλά…
Θα μπορέσουμε να το πάρουμε στο σωστό δρόμο;
Και εσύ, τι νομίζεις ότι είναι ο κύριος κίνδυνος της τεχνητής νοημοσύνης?