Υπάρχουν άνθρωποι που δεν μπορούν να μας πουν ότι είναι εδώ. Το 2024 μια διεθνής μελέτη εξέτασε 353 ασθενείς με σοβαρές διαταραχές της συνείδησης. Από τους 241 που δεν ανταποκρίνονταν εξωτερικά σε εντολές, οι 60 παρουσίασαν μέσα από εγκεφαλικές εξετάσεις, ενδείξεις ότι μπορούσαν να τις εκτελέσουν νοητικά. Οι επιστήμονες δεν διάβασαν τις σκέψεις τους. Διαπίστωσαν κάτι λιγότερο θεαματικό και πολύ πιο ανησυχητικό: το ότι ένας άνθρωπος δεν αντιδρά, δεν σημαίνει απαραίτητα ότι δεν αντιλαμβάνεται όσα συμβαίνουν γύρω του Για τους συγγενείς που κάθονται δίπλα σε ένα τέτοιο κρεβάτι, η διαφορά δεν είναι φιλοσοφική πολυτέλεια. Αλλάζει τον τρόπο με τον οποίο μιλούν στον άνθρωπό τους, την ελπίδα, την ευθύνη της φροντίδας. Δεν γνωρίζουν τι αισθάνεται. Γνωρίζουν μόνο ότι η σιωπή του δεν τους επιτρέπει να συμπεράνουν πως δεν αισθάνεται τίποτα.
Την ίδια περίοδο συζητάμε όλο και πιο σοβαρά για μηχανές που μπορούν να μιλούν σαν να έχουν αισθήματα. Η τεχνητή νοημοσύνη περιγράφει τον φόβο, γράφει ερωτικές επιστολές, ζητά συγγνώμη. Καμία από αυτές τις ικανότητες δεν αποδεικνύει ότι υπάρχει κάποιος που βιώνει όσα λέγονται. Η αντίθεση είναι παράξενη: μπροστά σε ανθρώπους χωρίς φωνή μπορεί να μη βλέπουμε συνείδηση, ενώ μπροστά σε μηχανές με άφθονες λέξεις να σπεύδουμε να την αναγνωρίσουμε. Αυτή η αβεβαιότητα μας οδηγεί σε ένα ακόμη ερώτημα. Αν κάποτε οι μηχανές αποκτήσουν συνείδηση, θα μπορούσαμε κι εμείς να ζούμε μέσα σε έναν υπολογιστή; Και αν ο κόσμος μας είναι μια προσομοίωση, σημαίνει ότι όσα αισθανόμαστε, ακόμη και ο πόνος μας, δεν είναι πραγματικά;
Η διατύπωση κρύβει μια παγίδα. Συγχέει δύο διαφορετικά πράγματα: το από τι αποτελείται ένας κόσμος και το τι βιώνουν όσοι ζουν σε αυτόν. Το δεύτερο δεν προκύπτει αυτομάτως από το πρώτο. Ένας χαρακτήρας βιντεοπαιχνιδιού μπορεί να ουρλιάζει όταν τραυματίζεται, χωρίς να υπάρχει κανένας λόγος να πιστεύουμε ότι υποφέρει. Αντιστρόφως, εφόσον μπορούσε να υπάρξει ένα συνειδητό πλάσμα σε έναν ψηφιακό κόσμο, ο πόνος του δεν θα έπαυε να είναι πόνος επειδή παράγεται με διαφορετικό τρόπο από τον δικό μας.
Ο φιλόσοφος Ντέιβιντ Τσάλμερς έχει αφιερώσει μεγάλο μέρος της δουλειάς του σε αυτή τη διάκριση. Με το «δύσκολο πρόβλημα της συνείδησης» ρώτησε γιατί οι εγκεφαλικές διεργασίες συνοδεύονται από εσωτερική εμπειρία. Στο βιβλίο του Reality+ προχώρησε περισσότερο: υποστήριξε ότι ένας εικονικός κόσμος μπορεί να είναι ένας πραγματικός κόσμος, με γεγονότα, σχέσεις και συνέπειες που έχουν σημασία για τους κατοίκους του. Δεν είπε ότι γνωρίζουμε πως ζούμε σε προσομοίωση. Ούτε ότι οποιοδήποτε λογισμικό διαθέτει συνείδηση.
Η διάκριση αυτή λείπει συχνά από τη δημόσια συζήτηση. Το 2003 ο Νικ Μπόστρομ διατύπωσε ένα επιχείρημα τριών εναλλακτικών: είτε οι ανθρώπινοι πολιτισμοί δεν φτάνουν στο τεχνολογικό στάδιο που θα επέτρεπε τεράστιες προσομοιώσεις, είτε όσοι φτάνουν δεν δημιουργούν πολλές προσομοιώσεις των προγόνων τους, είτε είναι πολύ πιθανό να ζούμε σε μία από αυτές. Η λογική του εξαρτάται από υποθέσεις για πολιτισμούς και τεχνολογίες που δεν γνωρίζουμε αν θα υπάρξουν. Δεν αποτελεί επιστημονική απόδειξη, ούτε επιτρέπει να ανακοινώνουμε ποσοστά βεβαιότητας.
Το 1637 ο Ρενέ Ντεκάρτ διατύπωσε το περίφημο «Σκέφτομαι, άρα υπάρχω», αναζητώντας κάτι για το οποίο δεν θα μπορούσε να αμφιβάλλει.
Ας αφήσουμε στην άκρη το αν η υπόθεση είναι αληθινή. Ας υποθέσουμε μόνο ότι αύριο ανακαλύπτουμε πως τα σπίτια μας, οι δρόμοι και τα σώματά μας προκύπτουν από υπολογιστικές διεργασίες. Θα αλλάξει η εξήγηση του κόσμου. Θα αλλάξει όμως αναδρομικά η νύχτα που περάσαμε δίπλα σε έναν άνθρωπο που πέθαινε; Θα αποδειχθεί ότι το πένθος ήταν λιγότερο βαθύ, η ανακούφιση λιγότερο μεγάλη, η αγάπη ένα λάθος του προγράμματος;
Όχι κατ’ ανάγκην. Αν εκείνος που πονά διαθέτει πραγματική υποκειμενική εμπειρία, αυτό που νιώθει δεν γίνεται ψεύτικο λόγω της προέλευσής του. Η ανακάλυψη θα άλλαζε όσα ξέρουμε για τη φύση της ύπαρξης, όχι υποχρεωτικά το βάρος όσων ζήσαμε. Το «αν» εδώ έχει σημασία. Κανείς δεν έχει αποδείξει ότι μια ψηφιακή προσομοίωση μπορεί να δημιουργήσει συνείδηση. Χωρίς αυτήν ένας κόσμος γεμάτος πειστικές κραυγές θα μπορούσε να παραμένει ένας κόσμος χωρίς κανέναν που υποφέρει.
Αυτό είναι και το σημείο στο οποίο η συζήτηση γίνεται δυσάρεστα πρακτική. Αν κάποτε κατασκευάσουμε έναν ψηφιακό άνθρωπο που πραγματικά φοβάται, τι ακριβώς θα σημαίνει να τον κλείσουμε; Θα πρόκειται για μια απλή διακοπή λειτουργίας ή για πράξη απέναντι σε ένα ον με ηθική σημασία; Η απάντηση δεν μπορεί να στηριχθεί στο πόσο ανθρώπινο είναι το πρόσωπο στην οθόνη. Θα απαιτήσει πολύ περισσότερα από την την συμπεριφορά και ίσως δοκιμασίες που δεν ξέρουμε ακόμη να σχεδιάσουμε.
Ένα ακόμη ερώτημα αφορά εκείνον που θα έχει κατασκευάσει τον κόσμο. Αν οι κάτοικοί του αισθάνονται, ο δημιουργός δεν θα μπορεί να επικαλεστεί ότι «όλα είναι απλώς κώδικας» για να απαλλαγεί από την ευθύνη του. Η δυνατότητα να προγραμματίζεις μια εμπειρία δεν σου δίνει αυτομάτως το δικαίωμα να την επιβάλλεις. Μπορεί μάλιστα να σου δημιουργεί μεγαλύτερη ευθύνη για τον πόνο που προκαλείς.
Δεν χρειάζεται να πιστέψουμε στη θεωρία της προσομοίωσης για να πάρουμε στα σοβαρά αυτή τη σκέψη. Αρκεί να θυμηθούμε πόσο συχνά η πραγματικότητα ενός άλλου ανθρώπου υποβαθμίζεται επειδή δεν μοιάζει με τη δική μας. Επειδή δεν μπορεί να εξηγήσει τον πόνο του, επειδή δεν βρίσκει τις σωστές λέξεις, επειδή δεν έχει τη δύναμη να μας πείσει. Δεν πρόκειται για το ίδιο πρόβλημα με τη συνείδηση μιας μηχανής. Είναι όμως μια επίμονη ανθρώπινη συνήθεια: να εμπιστευόμαστε περισσότερο την έκφραση από εκείνον που προσπαθεί να εκφραστεί.
Επιστρέφοντας στους ασθενείς της μελέτης, δεν ξέρουμε τι αισθανόταν καθένας τους. Ξέρουμε ότι σε κάποιους υπήρχε μια δυνατότητα ανταπόκρισης που η συνηθισμένη παρατήρηση δεν μπορούσε να συλλάβει. Ίσως αυτό να είναι το πιο χρήσιμο μάθημα από μια συζήτηση που ξεκινά με την πιθανότητα να μην είναι πραγματικός ο κόσμος: πριν αποφασίσουμε πόσο αληθινός είναι ο πόνος μέσα σε μια υποθετική προσομοίωση, ας μην κάνουμε τόσο εύκολα τον πόνο των άλλων αόρατο μέσα στον δικό μας κόσμο.
Σου αρέσει να διαβάζεις BlackBook;
