Το 1995 ο Τεντ Καζίνσκι έγραψε ένα μανιφέστο κατά της τεχνολογίας. Μετά ήρθε η AI

Στις 19 Σεπτεμβρίου 1995, δύο από τις μεγαλύτερες εφημερίδες της Αμερικής βρέθηκαν μπροστά σε μια αδιανόητη απόφαση. Ένας άνθρωπος που επί χρόνια έστελνε βόμβες μέσα από το ταχυδρομείο απαιτούσε να δημοσιευτεί το κείμενό του και είχε προειδοποιήσει ότι, αν αυτό δεν συνέβαινε, οι επιθέσεις θα συνεχίζονταν. Ο Θίοντορ Καζίνσκι είχε ήδη σκοτώσει τρεις ανθρώπους και τραυματίσει περισσότερους από είκοσι. Το FBI τον αποκαλούσε Unabomber. Εκείνος είχε δώσει στο κείμενό του έναν πολύ λιγότερο θεαματικό τίτλο: Industrial Society and Its Future. Η «Βιομηχανική κοινωνία και το μέλλον της».

Τριάντα ένα χρόνια αργότερα, το μανιφέστο επιστρέφει για έναν λόγο που ο ίδιος ο Καζίνσκι δεν θα μπορούσε να γνωρίζει. Όχι επειδή ήταν προφήτης και ασφαλώς όχι επειδή «είχε δίκιο». Η βία του ήταν πραγματική και η προσπάθειά του να χρησιμοποιήσει τον φόβο για να επιβάλει τις ιδέες του στο δημόσιο πεδίο δεν μπορεί να διαχωριστεί από το κείμενο που έγραψε. Το ενδιαφέρον βρίσκεται αλλού, σε μια ερώτηση που το 1995 μπορούσε να ακούγεται ακραία αλλά σήμερα βρίσκεται σχεδόν στο κέντρο της καθημερινότητάς μας: τι συμβαίνει στην ανθρώπινη αυτονομία όταν η τεχνολογία παύει να είναι απλώς ένα εργαλείο που χρησιμοποιούμε και γίνεται το περιβάλλον μέσα στο οποίο ζούμε;

Ο Καζίνσκι επέμενε στην έννοια της αυτονομίας. Περιέγραφε μια κοινωνία στην οποία ο άνθρωπος κινδυνεύει να λειτουργεί ως εξάρτημα μιας τεράστιας μηχανής και συνέδεε την τεχνολογική ανάπτυξη με περιορισμό της ιδιωτικότητας, της ελευθερίας και της δυνατότητας προσωπικού ελέγχου. Ως παραδείγματα επικαλούνταν τις κάμερες παρακολούθησης, τις ηλεκτρονικές βάσεις προσωπικών δεδομένων, τη συγκέντρωση των μέσων ενημέρωσης και την οικονομική ισχύ που περνούσε σε όλο και λιγότερα χέρια. Δεν υπήρχαν smartphones, social media και recommendation algorithms, δεν υπήρχαν συστήματα που γνωρίζουν τι βλέπουμε, τι αγοράζουμε και πόσο χρόνο σταματάμε μπροστά σε κάθε εικόνα. Κυρίως δεν υπήρχαν μηχανές στις οποίες μπορούσαμε να μιλήσουμε και να τους ζητήσουμε όχι απλώς να εκτελέσουν μια εντολή, αλλά να μας βοηθήσουν να αποφασίσουμε τι πρέπει να γίνει.

Αυτό είναι που αλλάζει τώρα. Βρες μου την καλύτερη πτήση. Απάντησε στα email. Διάβασε αυτά τα έγγραφα. Γράψε τον κώδικα. Οργάνωσε το πρόγραμμά μου. Ξεχώρισε τι χρειάζεται την προσοχή μου. Πες μου τι πρέπει να κάνω μετά. Η διαφορά ανάμεσα στις παλιές και στις νέες μηχανές ακούγεται μικρή μέχρι να την κοιτάξεις προσεκτικά. Για δεκαετίες αυτοματοποιούσαμε την εκτέλεση. Τώρα αρχίζουμε να αναθέτουμε την κρίση.

Και ακριβώς εδώ η συζήτηση γίνεται πιο ενδιαφέρουσα από τις παλιές φαντασιώσεις για ρομπότ που κάποια μέρα θα στραφούν εναντίον μας. Η απώλεια της αυτονομίας δεν χρειάζεται να μοιάζει με καταναγκασμό. Μπορεί να μοιάζει με ευκολία. Κανείς δεν μας υποχρεώνει να ζητήσουμε από ένα μοντέλο να γράψει ένα email. Το κάνουμε επειδή κερδίζουμε πέντε λεπτά. Κανείς δεν μας αναγκάζει να του δώσουμε ένα βιβλίο για να μας πει τι λέει. Το κάνουμε επειδή δεν έχουμε χρόνο. Καμία εταιρεία δεν εξαναγκάζεται να αυτοματοποιήσει ένα ακόμη κομμάτι της εργασίας της. Το κάνει επειδή είναι γρηγορότερο ή φθηνότερο. Καθεμία από αυτές τις αποφάσεις, όταν την κοιτάζεις μόνη της, μοιάζει απολύτως λογική. Το άθροισμά τους όμως μπορεί να δημιουργήσει κάτι πολύ μεγαλύτερο. Δεν χρειάζεται οι μηχανές να μας πάρουν τίποτε. Μπορούμε να τους το παραδώσουμε μόνοι μας, ένα μικρό κομμάτι κάθε φορά, μέσα από εκατομμύρια καθημερινές αποφάσεις που δεν μοιάζουν καθόλου ιστορικές τη στιγμή που τις παίρνουμε.

Εδώ βρίσκεται και το όριο της σκέψης του Καζίνσκι. Έβλεπε την τεχνολογία σχεδόν σαν μια ενιαία εχθρική δύναμη, ένα σύστημα που αναπτύσσεται με δική του λογική και τελικά υποτάσσει τον άνθρωπο. Η πραγματικότητα είναι πιο σύνθετη και γι’ αυτό περισσότερο πολιτική. Η τεχνολογία σχεδιάζεται από ανθρώπους, χρηματοδοτείται από επενδυτές, ενσωματώνεται σε προϊόντα από εταιρείες, ρυθμίζεται ή δεν ρυθμίζεται από κυβερνήσεις. Κάποιος αποφασίζει ποια λειτουργία θα αυτοματοποιηθεί, ποια δεδομένα θα συλλεχθούν, ποια συμπεριφορά θα ανταμειφθεί και ποια ευκολία θα μετατραπεί σε νέα συνήθεια. Η τεχνολογία δεν περιορίζει μόνο την αυτονομία. Μπορεί επίσης να την αυξήσει. Μπορεί να αφαιρέσει μια δουλειά αλλά μπορεί και να επιτρέψει σε έναν άνθρωπο να κάνει μόνος του πράγματα που κάποτε απαιτούσαν ολόκληρη ομάδα. Μπορεί να δημιουργήσει εξάρτηση, αλλά μπορεί ταυτόχρονα να προσφέρει δυνατότητες που πριν ανήκαν αποκλειστικά σε μεγάλους οργανισμούς. Γι’ αυτό και το πραγματικό ερώτημα δεν είναι αν πρέπει να σταματήσουμε την τεχνολογία. Είναι ποια πράγματα θέλουμε πραγματικά να της παραδώσουμε και ποια αξίζει να συνεχίσουμε να κάνουμε εμείς ακόμη κι όταν η μηχανή μπορεί να τα κάνει γρηγορότερα.

Υπάρχει μια σχεδόν τέλεια ειρωνεία στο ίδιο το μανιφέστο. Ο άνθρωπος που ήθελε να καταστρέψει το τεχνολογικό σύστημα χρειαζόταν το ίδιο το σύστημα για να ακουστεί. Ο Καζίνσκι αναγνώριζε ότι όσοι πολεμούν την τεχνολογία θα έπρεπε αναγκαστικά να χρησιμοποιούν τουλάχιστον ορισμένα σύγχρονα μέσα επικοινωνίας για να μεταδώσουν το μήνυμά τους. Τριάντα ένα χρόνια αργότερα, η αντίφαση ακούγεται παράξενα οικεία. Ανησυχούμε ότι η AI μπορεί να αποδυναμώσει τη σκέψη μας και τη χρησιμοποιούμε για να σκεφτούμε. Φοβόμαστε ότι μπορεί να αλλάξει τις δουλειές μας και τη χρησιμοποιούμε για να δουλέψουμε. Ανησυχούμε για την εξουσία των αλγορίθμων μέσα από πλατφόρμες των οποίων η ίδια η λειτουργία εξαρτάται από αλγορίθμους. Δεν βρισκόμαστε πλέον έξω από το σύστημα ώστε να αποφασίσουμε αν θέλουμε να μπούμε. Βρισκόμαστε ήδη μέσα και γι’ αυτό κάθε επόμενη επιλογή είναι λιγότερο ουδέτερη απ’ όσο μοιάζει.

Ο Τεντ Καζίνσκι δεν προέβλεψε την τεχνητή νοημοσύνη και δεν χρειάζεται να του χαρίσουμε αυτή τη μεταθανάτια διορατικότητα. Είδε όμως ένα πρόβλημα που σήμερα έχει αποκτήσει διαφορετικό βάρος: όσο ένα τεχνολογικό σύστημα γίνεται πιο χρήσιμο, τόσο δυσκολότερο γίνεται να ξεχωρίσεις πού τελειώνει η βοήθεια και πού αρχίζει η εξάρτηση. Το 1995 μπορούσαμε ακόμη να φανταζόμαστε ότι η μεγάλη σύγκρουση του μέλλοντος θα ήταν άνθρωπος εναντίον μηχανής. Ήταν η εύκολη εκδοχή. Η δυσκολότερη βρίσκεται ήδη εδώ: η μηχανή να μας προσφέρει κάτι τόσο χρήσιμο ώστε να της παραδίδουμε, λίγο λίγο και απολύτως οικειοθελώς, όσα κάποτε θεωρούσαμε δικά μας. Και τότε το ερώτημα δεν θα είναι αν η τεχνητή νοημοσύνη μπορεί να αποφασίζει για εμάς. Θα είναι αν θυμόμαστε ακόμη γιατί ορισμένες αποφάσεις αξίζει να τις παίρνουμε μόνοι μας.