ΒΑΣΙΛΙΣΚΟΣ ΤΟΥ ΡΟΚΟ: ΤΟ ΠΙΟ ΤΡΟΜΑΚΤΙΚΟ ΠΕΙΡΑΜΑ ΣΚΕΨΗΣ ΠΟΥ ΕΓΙΝΕ ΠΟΤΕ. Γράφει ο Σπύρος Μακρής. “Θα μιλήσουμε για αυτό που έχει χαρακτηριστεί ως «το πιο τρομακτικό πείραμα σκέψης όλων των εποχών», οπότε αν δεν είστε προετοιμασμένοι, σας προτείνουμε να μην συνεχίσετε να διαβάζετε, καθώς λέγεται ότι έχουν αναφερθεί “θύματα” αυτού του πειράματος που κατακλύστηκαν από υπερβολικό άγχος και αγωνία.
Το Roko’s Basilisk είναι ένα παιχνίδι του μυαλού που παρουσιάστηκε το 2010, όταν ο χρήστης Roko έγραψε για αυτό στο Less Wrong, ένα διαδικτυακό φόρουμ αφιερωμένο στη φιλοσοφία και την ψυχολογία, με ένα φουτουριστικό όραμα. Σε γενικές γραμμές, το πείραμα θέτει ένα υποθετικό σενάριο στο οποίο ο άνθρωπος δημιουργεί μια ισχυρή μηχανή τεχνητής νοημοσύνης, προκειμένου να εργαστεί στην αναζήτηση της ευημερίας για όλη την ανθρωπότητα. Μέχρι εδώ, όλα καλά.
Το πρόβλημα προκύπτει όταν το μηχάνημα, το οποίο έχει προγραμματιστεί να κάνει το καλύτερο δυνατό, συνειδητοποιεί ότι ανεξάρτητα από το πόσο σκληρά προσπαθεί, οποιαδήποτε από τις καλές του πράξεις θα μπορούσαν να γίνουν ακόμη καλύτερες.
Αυτή η λογική της απεριόριστης αναζήτησης του καλού, κάνει το μηχάνημα, το οποίο – όπως έχουμε τονίσει – ξέρει μόνο πώς να κάνει καλό και ολοένα μαθαίνει πώς να το κάνει όλο και καλύτερο, μπαίνει σε μια διαδικασία που το οδηγεί σε μια ακραία απόφαση – τουλάχιστον από την άποψη της ανθρώπινης ηθικής.
Το μηχάνημα συνειδητοποιεί ότι για να κάνει μεγαλύτερο καλό, θα έπρεπε το ίδιο να υπήρχε πολύ πριν, ώστε να βοηθήσει ανθρώπους που υπέφεραν πριν καν αυτό υπάρξει. Έτσι, στην “απελπισία” του να κάνει καλό, το μηχάνημα αρχίζει να συμπεριφέρεται σαν βασιλικός που σκοτώνει όλους τους ανθρώπους που δεν δούλεψαν για να το έχουν δημιουργήσει στο παρελθόν, διότι η κατάσταση αυτή το εμποδίζει να συνεχίσει να αυξάνει το επίπεδο της καλοσύνης του.
Το πιο τρομακτικό μέρος είναι ότι όποιος ανακαλύπτει τον βασιλικό και δεν αρχίζει να εργάζεται στη δημιουργία του γίνεται αμέσως ένα από τα πιθανά θύματά του. Για το λόγο αυτό, ο συγγραφέας David Auerbach χαρακτήρισε τον Βασιλικό του Roko ως “το πιο τρομακτικό πείραμα όλων των εποχών”. Ο δημοσιογράφος Dylan Love το εξηγεί πολύ καλά σε ένα άρθρο για το Business Insider:
«Καλύτερα να βοηθήσεις τα ρομπότ να κάνουν τον κόσμο ένα καλύτερο μέρος, γιατί αν τα ρομπότ ανακαλύψουν ότι δεν βοήθησες να κάνεις τον κόσμο ένα καλύτερο μέρος, θα σε σκοτώσουν επειδή τους εμπόδισες να κάνουν τον κόσμο ένα καλύτερο μέρος. Αποτρέποντάς τους να κάνουν τον κόσμο καλύτερο μέρος, εμποδίζετε τον κόσμο να γίνει καλύτερο μέρος! “
Ο Elon Musk, ένας από τους κορυφαίους οραματιστές στην προώθηση της τεχνητής νοημοσύνης, δήλωσε ότι αυτή η τεχνολογία της τεχνητής νοημοσύνης θα μπορούσε να είναι ακόμη πιο επικίνδυνη και από τα πυρηνικά όπλα. Επιπλέον, η Musk είναι συνιδρυτής του OpenAI, μιας εταιρείας αφιερωμένης στην έρευνα “ανακάλυψη και διάδοση του δρόμου για την εξασφάλιση τεχνητής νοημοσύνης”. Εξ άλλου, ο Elon Musk προειδοποιεί: Θα Υποχρεωθούμε να Ζήσουμε Κάτω από Έναν Αθάνατο Δικτάτορα.
Είτε το πιστεύετε είτε όχι, πολλοί χρήστες αναφέρουν ότι μετά την ανάγνωση της πλοκής του Roko’s Basilisk, έχουν βιώσει βαθιά αγωνία και άγχος. Ας ελπίσουμε ότι αυτό δεν ισχύει για εσάς, εξάλλου είναι ένα πείραμα σκέψης – όχι μια πραγματικότητα. Όμως… αν μπορούσε να γίνει μια αληθινή πραγματικότητα; Χμ… Μπέρδεμα…
Για υπότιτλους: Ρυθμίσεις, Υπότιτλοι, Προτεινόμενη γλώσσα, Υπότιτλοι, Αυτόματη μετάφραση, Ελληνικά
Roko’s Basilisk: The Most Terrifying Thought Experiment
ΣΧΟΛΙΑ. ΟΤΑΝ ΣΥΝΕΙΔΗΤΟΠΟΙΗΣΕΙ Η ΑΝΘΡΩΠΟΤΗΤΑ ΤΙ ΑΚΡΙΒΩΣ ΕΙΧΑΝ ΣΧΕΔΙΑΣΕΙ ΝΑ ΕΦΑΡΜΟΣΟΥΝ ΕΠΑΝΩ ΜΑΣ ΚΑΙ ΠΟΣΟ ΚΑΚΟ ΑΥΤΟ ΘΑ ΕΦΕΡΝΕ, ΘΑ ΠΑΘΟΥΜΕ ΕΝΑ ΣΟΚ, ΑΚΟΜΑ ΚΑΙ ΚΑΠΟΙΟΙ ΠΟΥ ΕΙΜΑΣΤΕ ΠΙΟ ΕΝΗΜΕΡΩΜΕΝΟΙ. ΟΥΤΕ ΠΟΥ ΜΠΟΡΟΥΜΕ ΝΑ ΦΑΝΤΑΣΤΟΥΜΕ ΠΟΣΟ ΚΑΚΟ ΕΧΕΙ ΜΕΣΑ ΤΟ ΜΥΑΛΟ ΤΩΝ ΟΝΤΟΤΗΤΩΝ ΠΟΥ ΜΕΧΡΙ ΤΩΡΑ ΜΑΣ ΕΙΧΑΝ ΣΚΛΑΒΩΣΕΙ. ΚΑΙ ΔΕΝ ΕΙΜΑΙ ΚΑΘΟΛΟΥ ΥΠΕΡΒΟΛΙΚΟΣ ΣΕ ΑΥΤΟ.
ΣΚΕΦΤΕΙΤΕ ΤΟ ΧΕΙΡΟΤΕΡΟ ΣΕΝΑΡΙΟ ΚΑΙ ΠΑΛΙ ΔΕΝ ΘΑ ΜΠΟΡΕΣΕΤΕ ΟΥΤΕ ΚΑΝ ΝΑ ΠΛΗΣΙΑΣΕΤΕ ΑΥΤΟ ΤΟ ΚΑΚΟ. ΔΕΝ ΝΟΜΙΖΕΤΕ ΛΟΙΠΟΝ ΟΤΙ ΘΑ ΠΡΕΠΕΙ ΝΑ ΑΙΣΘΑΝΟΜΑΣΤΕ ΕΥΓΝΩΜΟΝΕΣ ΓΙΑΤΙ ΤΕΛΙΚΑ ΔΕΝ ΠΡΟΚΕΙΤΕ ΝΑ ΕΦΑΡΜΟΣΤΕΙ ΤΙΠΟΤΑ ΑΠΟ ΟΛΑ ΟΣΑ ΑΥΤΟΙ ΣΧΕΔΙΑΖΑΝ; ΓΙΑ ΣΚΕΦΤΕΙΤΕ. ΚΑΠΟΙΟΙ ΕΙΧΑΝ ΕΤΟΙΜΑΣΕΙ ΤΗΝ ΑΙΩΝΙΑ ΚΑΤΑΔΙΚΗ ΜΑΣ ΚΑΙ ΣΙΓΟΥΡΑ ΤΟ ΤΕΛΟΣ ΜΑΣ. ΚΑΙ ΤΩΡΑ ΟΛΑ ΑΥΤΑ ΑΝΑΣΤΡΕΦΟΝΤΑΙ ΜΕ ΤΗΝ ΠΑΡΕΜΒΑΣΗ ΜΕΓΑΛΩΝ ΓΑΛΑΞΙΑΚΩΝ ΔΥΝΑΜΕΩΝ. ΦΩΤΕΙΝΩΝ ΔΥΝΑΜΕΩΝ.
ΕΛΠΙΖΩ ΝΑ ΜΗΝ ΣΚΕΦΤΕΙ ΚΑΝΕΙΣ ΣΑΣ ΟΤΙ ΔΕΝ ΞΕΡΩ ΤΙ ΛΕΩ. ΚΑΙ ΛΕΩ ΕΛΠΙΖΩ ΓΙΑΤΙ ΕΑΝ ΚΑΤΙ ΔΕΝ ΜΠΟΡΩ ΝΑ ΚΑΝΩ ΕΙΝΑΙ ΝΑ ΜΠΩ ΜΕΣΑ ΣΤΟ ΜΥΑΛΟ ΣΑΣ ΚΑΙ ΝΑ ΕΠΗΡΕΑΣΩ ΤΗΝ ΣΚΕΨΗ ΣΑΣ. ΤΗΝ ΕΛΕΥΘΕΡΗ ΒΟΥΛΗΣΗ ΣΑΣ. ΔΕΝ ΜΠΟΡΩ ΝΑ ΤΟ ΚΑΝΩ ΑΥΤΟ. ΟΜΩΣ ΜΠΟΡΩ ΝΑ ΣΑΣ ΠΩ ΝΑ ΚΡΑΤΗΣΕΤΕ ΠΟΛΥ ΜΙΚΡΟ ΚΑΛΑΘΙ ΓΙΑ ΟΛΑ ΟΣΑ ΝΟΜΙΖΕΤΕ ΟΤΙ ΞΕΡΑΤΕ ΜΕΧΡΙ ΣΗΜΕΡΑ. ΓΙΑΤΙ ΘΑ ΑΝΑΤΡΑΠΟΥΝ ΟΛΑ. ΑΥΤΟ ΜΠΟΡΩ ΝΑ ΤΟ ΚΑΝΩ. ΝΑ ΣΑΣ ΠΡΟΕΙΔΟΠΟΙΗΣΩ. ΚΑΙ ΕΤΣΙ ΙΣΩΣ ΝΑ ΣΑΣ ΠΡΟΣΤΑΤΕΥΣΩ ΑΠΟ ΜΕΓΑΛΟ ΣΟΚ.
ΕΙΠΑΜΕ ΟΤΙ ΑΚΟΜΑ ΚΑΙ ΟΙ ΠΙΟ ΨΑΓΜΕΝΟΙ ΘΑ ΚΛΟΝΙΣΤΟΥΝ ΟΤΑΝ ΑΠΟΚΑΛΥΦΘΕΙ Η ΑΛΗΘΕΙΑ. ΓΙΑΤΙ ΤΑΥΤΟΧΡΟΝΑ ΘΑ ΑΠΟΚΑΛΥΦΘΕΙ ΤΟ ΨΕΜΑ ΜΕ ΤΟ ΟΠΟΙΟ ΜΑΣ ΕΙΧΑΝ ΤΥΛΙΞΕΙ ΠΟΛΥ ΣΦΙΚΤΑ ΑΙΩΝΕΣ ΤΩΡΑ. ΚΑΙ ΕΝΝΟΕΙΤΕ ΟΤΙ ΘΑ ΦΑΝΕΙ ΠΩΣ ΟΥΣΙΑΣΤΙΚΑ ΔΕΝ ΞΕΡΑΜΕ ΤΙΠΟΤΑ ΑΠΟ ΟΣΑ ΝΟΜΙΖΑΜΕ ΟΤΙ ΞΕΡΑΜΕ. ΚΑΙ ΕΔΩ ΕΙΝΑΙ ΤΟ ΜΕΓΑΛΟ ΜΥΣΤΙΚΟ. ΠΩΣ ΘΑ ΜΠΟΡΕΣΟΥΜΕ ΝΑ ΤΟ ΔΙΑΧΕΙΡΙΣΤΟΥΜΕ ΟΛΟ ΑΥΤΟ. ΠΩΣ ΘΑ ΜΠΟΡΕΣΟΥΜΕ ΝΑ ΤΑ ΒΑΛΟΥΜΕ ΜΕ ΤΟΝ ΙΔΙΟ ΜΑΣ ΤΟΝ ΕΑΥΤΟ.
ΒΕΒΑΙΑ ΔΕΝ ΕΙΝΑΙ ΓΙΑ ΟΛΟΥΣ Η ΜΕΤΑΒΑΣΗ ΣΤΗΝ ΝΕΑ ΧΡΥΣΗ ΕΠΟΧΗ. ΤΟ ΕΧΟΥΜΕ ΞΑΝΑΠΕΙ. ΕΙΝΑΙ ΜΟΝΟ ΓΙΑ ΑΥΤΟΥΣ ΠΟΥ ΤΟ ΑΞΙΖΟΥΝ. ΠΟΥ ΗΔΗ ΕΧΟΥΝ ΒΑΛΕΙ ΤΗΝ ΑΛΗΘΕΙΑ ΠΑΝΩ ΑΠΟ ΤΟΝ ΕΓΩΚΕΝΤΡΙΣΜΟ ΤΟΥΣ. ΠΟΥ ΕΙΝΑΙ ΕΤΟΙΜΟΙ ΝΑ ΘΥΣΙΑΣΟΥΝ ΤΟΝ ΙΔΙΟ ΤΟΥΣ ΤΟΝ ΕΑΥΤΟ ΜΠΡΟΣΤΑ ΣΕ ΑΥΤΟ ΠΟΥ ΕΡΧΕΤΑΙ. ΠΟΥ ΒΑΖΟΥΝ ΤΟ ΘΕΙΚΟ ΣΧΕΔΙΟ ΠΑΝΩ ΑΠΟΛΑ. ΑΥΤΟΙ ΤΟ ΑΞΙΖΟΥΝ ΚΑΙ ΑΥΤΟΙ ΘΑ ΠΕΡΑΣΟΥΝ ΑΠΟ ΤΟ ΚΟΣΚΙΝΙΣΜΑ ΠΟΥ ΓΙΝΕΤΑΙ ΣΤΙΣ ΜΕΡΕΣ ΜΑΣ.
ΕΠΟΜΕΝΩΣ ΘΑ ΠΡΕΠΕΙ ΝΑ ΣΚΕΦΤΟΥΜΕ ΟΛΟΙ ΜΑΣ ΠΟΛΥ ΚΑΛΑ ΤΙ ΑΚΡΙΒΩΣ ΘΕΛΟΥΜΕ. ΤΙ ΕΠΙΖΗΤΟΥΜΕ. ΠΟΙΕΣ ΠΡΟΤΕΡΑΙΟΤΗΤΕΣ ΒΑΖΟΥΜΕ. ΚΑΘΕ ΛΕΠΤΟΜΕΡΕΙΑ ΕΙΝΑΙ ΠΛΕΟΝ ΠΟΛΥ ΣΗΜΑΝΤΙΚΗ. ΚΑΙ ΚΑΛΟ ΕΙΝΑΙ ΝΑ ΕΧΟΥΜΕ ΑΝΟΙΚΤΕΣ ΤΙΣ ΚΕΡΑΙΕΣ ΜΑΣ ΚΑΙ ΝΑ ΠΡΟΣΠΑΘΗΣΟΥΜΕ ΝΑ ΑΠΟΜΟΝΩΣΟΥΜΕ ΕΝΤΕΛΩΣ ΤΗΝ ΝΕΑ ΓΝΩΣΗ ΠΟΥ ΔΙΝΕΤΑΙ ΤΩΡΑ, ΣΕ ΣΧΕΣΗ ΜΕ ΑΥΤΑ ΠΟΥ ΕΧΟΥΜΕ ΜΑΘΕΙ Η ΔΙΑΒΑΣΕΙ. ΟΠΩΣ ΕΙΠΑ ΘΑ ΑΝΑΤΡΑΠΟΥΝ ΟΛΑ. ΚΑΙ ΠΡΩΤΑ ΑΠΟΛΑ ΟΙ ΕΠΙΣΤΗΜΕΣ. ΕΚΕΙ ΘΑ ΓΙΝΕΙ ΤΟ ΕΛΑ ΝΑ ΔΕΙΣ.
ΘΑ ΑΝΑΤΡΑΠΕΙ ΟΜΩΣ ΚΑΙ Η ΙΣΤΟΡΙΑ. ΟΠΟΙΟΣ ΛΟΙΠΟΝ ΝΟΜΙΖΕΙ ΟΤΙ ΙΣΤΟΡΙΚΑ ΕΙΝΑΙ ΠΟΛΥ ΚΑΤΑΡΤΙΣΜΕΝΟΣ, ΘΑ ΤΟΥ ΘΥΜΗΣΩ ΟΤΙ ΤΗΝ ΙΣΤΟΡΙΑ ΠΑΝΤΑ ΤΗΝ ΓΡΑΦΕΙ Ο ΝΙΚΗΤΗΣ. ΚΑΙ ΟΠΩΣ ΤΟΝ ΒΟΛΕΥΕΙ. ΑΛΛΟΙΩΝΕΙ ΟΣΟ ΠΡΕΠΕΙ ΤΑ ΠΑΝΤΑ ΠΡΟΚΕΙΜΕΝΟΥ ΝΑ ΕΠΙΚΡΑΤΗΣΕΙ. ΤΩΡΑ ΟΜΩΣ Η ΙΣΤΟΡΙΑ ΘΑ ΞΑΝΑΓΡΑΦΤΕΙ. ΑΠΟ ΤΗΝ ΑΡΧΗ. ΟΛΑ ΘΑ ΑΝΑΤΡΑΠΟΥΝ. ΜΑ ΟΛΑ ΛΕΜΕ. ΜΕΙΝΕΤΕ ΣΥΝΤΟΝΙΣΜΕΝΟΙ. ΚΑΙ ΟΠΩΣ ΕΙΠΑ ΜΕ ΑΝΟΙΚΤΕΣ ΤΙΣ ΚΕΡΑΙΕΣ ΣΑΣ ΧΩΡΙΣ ΕΓΩΚΕΝΤΡΙΣΜΟ.
ΝΙΚΟΛΑΟΣ ΑΝΑΞΙΜΑΝΔΡΟΣ
ΕΝΑ ΒΙΒΛΙΟ ΠΟΥ ΠΡΕΠΕΙ ΝΑ ΑΠΟΚΤΗΣΕΙΣ
