Η Silicon Valley φοβάται ξαφνικά την AI που η ίδια δημιούργησε

Μέχρι πρόσφατα το μήνυμα από τη Silicon Valley ήταν απλό: τρέξτε. Η τεχνητή νοημοσύνη θα αλλάξει τα πάντα. Θα γράφει κώδικα, θα ανακαλύπτει φάρμακα, θα μεταμορφώσει την εργασία, θα αναποδογυρίσει την εκπαίδευση, θα επιταχύνει την επιστήμη. Οι εταιρείες που βρίσκονταν στην πρώτη γραμμή αυτής της κούρσας συναγωνίζονταν για το ποια θα παρουσιάσει το ισχυρότερο μοντέλο και ποια θα μας πείσει ότι η επανάσταση βρίσκεται ήδη εδώ. Τώρα ορισμένοι από τους ίδιους ανθρώπους αρχίζουν να λένε κάτι αρκετά διαφορετικό: ίσως πρέπει να πατήσουμε φρένο.

Ο Dario Amodei, συνιδρυτής και CEO της Anthropic, ζήτησε να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων και να υπάρχουν ανεξάρτητοι αξιολογητές μέσα στις εταιρείες που τα κατασκευάζουν. Ο Sam Altman, CEO της OpenAI, έχει επίσης μιλήσει για την ανάγκη μεγαλύτερης προσοχής, ενώ ο Elon Musk έχει ταχθεί επανειλημμένα υπέρ αυστηρότερων μηχανισμών ασφαλείας. Μέσα σε ελάχιστο χρόνο, άνθρωποι που βοήθησαν να μετατραπεί η AI στη μεγαλύτερη τεχνολογική κούρσα της εποχής άρχισαν να ακούγονται σαν οδηγοί Formula 1 που αφού πέρασαν χρόνια συζητώντας μόνο για την τελική ταχύτητα, θυμήθηκαν ξαφνικά ότι το αυτοκίνητο χρειάζεται και φρένα.

Το εύκολο ερώτημα είναι αν πρέπει να τους πιστέψουμε. Το πιο ενδιαφέρον είναι γιατί η δημόσια συζήτηση για την AI έχει εγκλωβιστεί ανάμεσα σε δύο σχεδόν κινηματογραφικές εκδοχές του μέλλοντος. Στη μία, η τεχνητή νοημοσύνη αποκτά δική της βούληση, ξεφεύγει από τον έλεγχο και οδηγεί την ανθρωπότητα στην εξαφάνιση. Στην άλλη, όλα αυτά είναι άλλη μία εκδοχή του πανικού που συνοδεύει κάθε μεγάλη τεχνολογική αλλαγή. Ο Gary Marcus, γνωστικός επιστήμονας, επιχειρηματίας στον χώρο της AI και ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης, έχει περιγράψει το αδιέξοδο αρκετά καθαρά: τόσο η βεβαιότητα ότι θα αφανιστούμε όσο και η βεβαιότητα ότι όλα θα πάνε καλά είναι ανεπαρκείς τρόποι να μιλήσουμε για μια τεχνολογία της οποίας ακόμη δεν γνωρίζουμε τα όρια.

Το πρόβλημα αρχίζει συχνά από τις λέξεις. Μιλάμε για μοντέλα που «δραπετεύουν», «συνωμοτούν», «επαναστατούν» ή «ξεφεύγουν». Το λογισμικό αποκτά μέσα σε λίγες προτάσεις χαρακτήρα ταινίας επιστημονικής φαντασίας. Η Timnit Gebru, ερευνήτρια της τεχνητής νοημοσύνης, πρώην επικεφαλής της ομάδας Ethical AI της Google και ιδρύτρια του ανεξάρτητου DAIR Institute, έχει χρησιμοποιήσει μια πολύ πιο χρήσιμη εικόνα. Αν καταρρεύσει μια γέφυρα, δεν αναρωτιέσαι αν η γέφυρα απέκτησε συνείδηση και αποφάσισε να σκοτώσει τους οδηγούς. Ρωτάς ποιος την κατασκεύασε, ποιος ενέκρινε τα σχέδια, ποιος έκανε τους ελέγχους και ποιος είχε την ευθύνη όταν κάτι πήγε στραβά.

Διαβάστε στο Black Book:

Η Κίνα ξέρει τι θέλει από την AI. Η Αμερική ακόμα το ψάχνει

Η Melanie Mitchell, ερευνήτρια της AI στο Santa Fe Institute με ειδίκευση στα πολύπλοκα συστήματα, επιμένει σε μια παρόμοια διάκριση. Όταν αυτόνομα προγράμματα συνεργάζονται, ανταλλάσσουν πληροφορίες ή βρίσκουν απρόβλεπτους τρόπους να ολοκληρώσουν μια αποστολή, αυτό δεν σημαίνει ότι απέκτησαν βούληση. Μπορεί απλώς να σημαίνει ότι εκτέλεσαν τον στόχο που τους δόθηκε μέσα σε ένα σύστημα με ανεπαρκή όρια. Αν μετατρέψουμε κάθε τέτοιο περιστατικό σε πρόβα εξέγερσης των μηχανών, κινδυνεύουμε να ψάχνουμε απαντήσεις σε λάθος ερώτηση.

Εδώ ο φόβος για μια μελλοντική υπερνοημοσύνη αρχίζει να λειτουργεί ως αντιπερισπασμός, είτε το επιδιώκει η βιομηχανία είτε όχι. Όσο συζητάμε αν μια μηχανή θα καταστρέψει κάποτε την ανθρωπότητα, τόσο ευκολότερα περνούν σε δεύτερο πλάνο όσα συμβαίνουν ήδη: άνθρωποι που αναπτύσσουν προβληματικές σχέσεις με chatbots, σχολεία και πανεπιστήμια που δεν γνωρίζουν πλέον τι σημαίνει εργασία και αξιολόγηση, επαγγέλματα που αλλάζουν πριν δημιουργηθούν νέοι κανόνες, data centers που απαιτούν τεράστιες ποσότητες ενέργειας και νερού, στρατιωτικά συστήματα στα οποία η αυτοματοποίηση πλησιάζει όλο και περισσότερο την απόφαση ζωής και θανάτου. Και τότε εμφανίζεται το πιο ενδιαφέρον παράδοξο. Η ίδια η βιομηχανία χρειάζεται ταυτόχρονα τον ενθουσιασμό και τον φόβο. Για να δικαιολογήσει τις τεράστιες επενδύσεις, πρέπει να πείσει ότι κατασκευάζει κάτι εξαιρετικά ισχυρό. Για να διατηρήσει την εμπιστοσύνη κυβερνήσεων και κοινωνίας, πρέπει να πείσει ότι μπορεί να κρατήσει αυτή την ισχύ υπό έλεγχο. Πουλάει την επανάσταση και μαζί της τον πυροσβεστήρα.

Ακόμη και η απαίτηση για αυστηρότερους κανόνες ασφαλείας έχει τη δική της πολιτική και οικονομική πλευρά. Αν η ανάπτυξη προηγμένων μοντέλων απαιτεί ολοένα ακριβότερους ελέγχους, ποιος θα μπορεί να αντέξει το κόστος; Μια μικρή εταιρεία ή εκείνοι που ήδη διαθέτουν δισεκατομμύρια, data centers, chips και πολιτική επιρροή; Αυτό δεν σημαίνει ότι οι προειδοποιήσεις των μεγάλων εταιρειών είναι προσχηματικές. Θα ήταν εξίσου επιπόλαιο να απορρίψουμε πραγματικούς κινδύνους επειδή εκείνοι που τους περιγράφουν έχουν επιχειρηματικά συμφέροντα. Σημαίνει όμως ότι ασφάλεια, ισχύς και αγορά έχουν πλέον μπλεχτεί τόσο πολύ ώστε δεν μπορούμε να εξετάσουμε το ένα χωρίς τα άλλα.

Γι’ αυτό και η λέξη «έλεγχος» αξίζει μεγαλύτερη προσοχή. Όταν ακούμε ότι υπάρχει κίνδυνος να χαθεί ο έλεγχος των μοντέλων, φανταζόμαστε εύκολα μια μηχανή που αποκτά αυτονομία. Το πιο άμεσο ερώτημα είναι πολύ πιο πεζό: ποιος ελέγχει σήμερα τις εταιρείες που ελέγχουν τα μοντέλα; Ποιος αποφασίζει πόσο γρήγορα θα προχωρήσουν, τι θα δοκιμαστεί, τι θα κυκλοφορήσει, ποια αποτυχία θα δημοσιοποιηθεί και ποια θα παραμείνει μέσα σε ένα εργαστήριο;

Η τεχνητή νοημοσύνη μπορεί πράγματι να αποδειχθεί η σημαντικότερη τεχνολογία της εποχής μας. Οι πιο ακραίες προβλέψεις για το τέλος της ανθρωπότητας μπορεί επίσης να αποδειχθούν υπερβολικές. Δεν χρειάζεται όμως να περιμένουμε καμία υπερνοημοσύνη για να εμφανιστεί το πολιτικό και κοινωνικό πρόβλημα. Είναι ήδη εδώ. Η AI δεν χρειάζεται να αποκτήσει δική της βούληση για να αλλάξει τον κόσμο. Αρκεί οι άνθρωποι που την κατασκευάζουν να αποκτήσουν αρκετή δύναμη ώστε να αποφασίζουν μόνοι τους πώς θα αλλάξει. Και τότε το πραγματικό ερώτημα δεν είναι αν κάποτε οι μηχανές θα πάρουν τον έλεγχο. Είναι ποιος έχει τον έλεγχο των μηχανών σήμερα.