Οι άνθρωποι που φτιάχνουν την AI λένε ότι μπορεί να μας σκοτώσει αλλά συνεχίζουν

Ο Jacob Coxon είχε μια από εκείνες τις δουλειές που πριν από δέκα χρόνια σχεδόν δεν υπήρχαν και σήμερα βρίσκονται στο κέντρο της παγκόσμιας οικονομίας. Δούλευε πάνω στην εκπαίδευση μερικών από τα ισχυρότερα συστήματα τεχνητής νοημοσύνης στον κόσμο, πρώτα στην OpenAI και στη συνέχεια στην Anthropic. Τον Σεπτέμβριο αποφάσισε να φύγει. Όχι για να πάει σε μια startup με καλύτερες μετοχές ούτε για να ιδρύσει τη δική του εταιρεία, όπως συμβαίνει συνήθως στη Silicon Valley. Έφυγε καταγγέλλοντας ότι οι εταιρείες που προηγούνται στην κούρσα της AI «παίζουν με τις ζωές μας».

Θα ήταν εύκολο να αντιμετωπίσει κανείς την ιστορία ως ακόμη ένα επεισόδιο τεχνολογικής καταστροφολογίας. Η ανθρωπότητα φαντάζεται εδώ και αιώνες τις δημιουργίες της να στρέφονται εναντίον της. Μόνο που αυτή τη φορά η προειδοποίηση δεν ήρθε από κάποιον συγγραφέα επιστημονικής φαντασίας ή έναν επαγγελματία προφήτη της Αποκάλυψης. Ήρθε μέσα από μία από τις εταιρείες που κατασκευάζουν τα συστήματα για τα οποία μιλάμε. Ύστερα τα πράγματα έγιναν ακόμη πιο παράξενα. Ο Evan Hubinger, επικεφαλής του Alignment Science στην Anthropic, δεν επιχείρησε να καθησυχάσει το κοινό. Δήλωσε ότι ο ίδιος εκτιμά σε περισσότερο από 10% την πιθανότητα η AI να μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία και παραδέχθηκε ότι η Anthropic δεν έχει ακόμη βρει τρόπο να διασφαλίσει ότι μια μελλοντική υπερνοημοσύνη θα παραμένει υπό ανθρώπινο έλεγχο και θα λειτουργεί σύμφωνα με τους ανθρώπινους στόχους.

Το 10% δεν είναι επιστημονική πρόβλεψη. Είναι η προσωπική εκτίμηση ενός ερευνητή για κάτι χωρίς ιστορικό προηγούμενο. Αλλά το ενδιαφέρον δεν βρίσκεται στον αριθμό. Βρίσκεται στο γεγονός ότι ένας άνθρωπος ο οποίος εργάζεται για να κάνει αυτά τα συστήματα ασφαλέστερα θεωρεί σοβαρά πιθανό ένα αποτέλεσμα που μέχρι πρόσφατα θα ακουγόταν σαν υπερβολή. Και συνεχίζει να εργάζεται στην εταιρεία που τα κατασκευάζει. Εδώ βρίσκεται η πραγματική ιστορία.

Η βιομηχανία της τεχνητής νοημοσύνης έχει βρεθεί μπροστά σε ένα παράδοξο: όσο περισσότερο φοβάται μήπως μείνει πίσω, τόσο πιο δύσκολο γίνεται να επιβραδύνει για λόγους ασφαλείας. Αν η OpenAI σταματήσει, μπορεί να προλάβει η Anthropic. Αν η Anthropic επιβραδύνει, υπάρχει η Google. Αν οι αμερικανικές εταιρείες συμφωνήσουν σε περιορισμούς, υπάρχει η Κίνα. Κάθε παίκτης μπορεί να υποστηρίξει ότι είναι ασφαλέστερο να φτάσει εκείνος πρώτος, επειδή δεν γνωρίζει πόσο υπεύθυνος θα είναι εκείνος που θα φτάσει στη θέση του. Το αποτέλεσμα είναι ένας μηχανισμός στον οποίο όλοι μπορούν να φοβούνται την ταχύτητα και κανείς να μην έχει πραγματικό κίνητρο να επιβραδύνει.

Η πιο ενδιαφέρουσα ερώτηση δεν είναι αν μια μηχανή θα αποκτήσει κάποτε τη δυνατότητα να καταστρέψει τον κόσμο. Είναι ποιος αποφασίζει μέχρι πού επιτρέπεται να φτάσουμε για να το ανακαλύψουμε.

Ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, το είπε ακόμη πιο καθαρά στις 6 Σεπτεμβρίου. Σε κείμενό του προειδοποίησε ότι η σημερινή στιγμή απαιτεί «ύψιστη προσοχή» και παραδέχθηκε πως κανένα εργαστήριο δεν έχει ακόμη βρει έναν πραγματικά αξιόπιστο τρόπο να διασφαλίσει ότι τα ισχυρότερα συστήματα AI θα παραμένουν ελεγχόμενα και προβλέψιμα, ενώ οι δυνατότητές τους συνεχίζουν να αυξάνονται με τόσο μεγάλη ταχύτητα. Προειδοποίησε επίσης για κάτι λιγότερο θεαματικό από την ανθρώπινη εξαφάνιση αλλά ίσως πιο άμεσο: την ακραία συγκέντρωση ισχύος όταν εργασίες που κάποτε απαιτούσαν χιλιάδες ειδικούς θα μπορούν να πραγματοποιούνται από λίγους ανθρώπους με πρόσβαση σε πολύ ισχυρά συστήματα.

Αυτό είναι σημαντικό γιατί η συζήτηση για το τέλος της ανθρωπότητας μπορεί να μας κάνει να κοιτάζουμε τόσο μακριά ώστε να μη βλέπουμε όσα συμβαίνουν ήδη μπροστά μας. Δεν χρειάζεται μια υπερνοημοσύνη να αποφασίσει ότι ο άνθρωπος περισσεύει για να αλλάξει δραματικά η ισορροπία εξουσίας. Η AI ήδη εισέρχεται στην εργασία, στην εκπαίδευση, στην πληροφορία, στην κυβερνοασφάλεια, στην επιστημονική έρευνα και στη δημόσια διοίκηση. Κάθε νέα δυνατότητα μεταφέρει περισσότερη οικονομική και πληροφοριακή δύναμη προς τις εταιρείες που διαθέτουν τα μοντέλα, τα data centers, τα chips και τα κεφάλαια για να τα εκπαιδεύσουν.

Η RAND έχει εξετάσει τα πιο ακραία σενάρια και καταλήγει ότι η εξαφάνιση του ανθρώπινου είδους είναι πολύ δυσκολότερη από όσο υπονοεί η ποπ κουλτούρα. Μια εξαιρετικά προηγμένη AI θα χρειαζόταν πρόσβαση σε κρίσιμες υποδομές, ικανότητα να πείσει ανθρώπους να συνεργαστούν και δυνατότητα να μετατρέψει τις ψηφιακές της αποφάσεις σε γεγονότα στον φυσικό κόσμο. Αυτό δεν σημαίνει ότι ο κίνδυνος είναι ανύπαρκτος. Σημαίνει ότι το πρόβλημα είναι πολύ πιο σύνθετο από ένα σύστημα που απλώς «αποφασίζει» να εξοντώσει τον δημιουργό του.

Η πιο ενδιαφέρουσα ερώτηση, επομένως, δεν είναι αν μια μηχανή θα αποκτήσει κάποτε τη δυνατότητα να καταστρέψει τον κόσμο. Είναι ποιος αποφασίζει μέχρι πού επιτρέπεται να φτάσουμε για να το ανακαλύψουμε. Μερικές ιδιωτικές εταιρείες βρίσκονται σήμερα στη θέση να παίρνουν αποφάσεις που μπορεί να καθορίσουν την επόμενη οικονομική και κοινωνική τάξη πραγμάτων. Οι κυβερνήσεις καλούνται να ελέγξουν συστήματα που δεν έχουν δημιουργήσει, δυσκολεύονται συχνά να αξιολογήσουν μόνες τους και για τα οποία βασίζονται σε μεγάλο βαθμό στις ίδιες εταιρείες που υποτίθεται ότι πρέπει να εποπτεύουν.Η τεχνολογική ισχύ έχει αρχίσει να προηγείται της θεσμικής δυνατότητας να την περιορίσει. Υπάρχει και κάτι ακόμη πιο δύσκολο. Η ασφάλεια της AI δεν είναι πλέον μόνο τεχνικό πρόβλημα. Είναι πρόβλημα οικονομικών κινήτρων. Όταν η αποτίμηση μιας εταιρείας, η δυνατότητά της να συγκεντρώνει κεφάλαια και η θέση της απέναντι στους ανταγωνιστές εξαρτώνται από την υπόσχεση ότι θα βρίσκεται πρώτη στην επόμενη γενιά μοντέλων, η επιβράδυνση δεν είναι μια ουδέτερη επιστημονική επιλογή. Μπορεί να σημαίνει ότι παραδίδει το πλεονέκτημα στον επόμενο.

Μπορεί η AI να μη φτάσει ποτέ κοντά στην εξαφάνιση της ανθρωπότητας. Αυτό όμως δεν εξαφανίζει το πολιτικό ερώτημα που υπάρχει ήδη. Έχουμε μια τεχνολογία για την οποία κορυφαίοι άνθρωποι που συμμετέχουν στην ανάπτυξή της δηλώνουν δημόσια ότι δεν γνωρίζουν αν θα μπορούν να ελέγξουν τις ισχυρότερες μελλοντικές μορφές της. Και την ίδια στιγμή βρίσκονται παγιδευμένοι σε μια οικονομική κούρσα που κάνει όλο και πιο δύσκολο να κόψουν ταχύτητα. Το πιο ανησυχητικό πράγμα στην ιστορία της AI δεν είναι ότι μια μηχανή μπορεί κάποτε να αποφασίσει πως δεν μας χρειάζεται. Είναι ότι οι άνθρωποι που τη φτιάχνουν μας λένε ότι δεν γνωρίζουν ακριβώς τι θα συμβεί όταν γίνει αρκετά ισχυρή, μέσα σε ένα σύστημα όπου το να πατήσεις πρώτος το φρένο μπορεί να μοιάζει περισσότερο με ήττα παρά με υπευθυνότητα.