Το πρόβλημα δεν είναι ότι οι μηχανές αρχισαν να μοιάζουν με ανθρώπους. Το πραγματικά παράξενο είναι ότι οι άνθρωποι αρχίζουν σιγά σιγά να αλλάζουν τη συμπεριφορά τους για να γίνουν πιο ευανάγνωστοι στα συστήματα που τους παρακολουθούν. Το καταλαβαίνεις σε μικρές καθημερινές στιγμές. Στον τρόπο που κάποιος επαναλαμβάνει πιο αργά μια φράση στο κινητό του όταν η Siri δεν τον καταλαβαίνει. Στην ελαφρώς υπερβολική άρθρωση μπροστά σε ένα voice assistant. Στο βλέμμα που μένει σταθερό για δύο δευτερόλεπτα παραπάνω μπροστά στο Face ID. Στην παύση πριν μιλήσουμε σε μια κάμερα ασφαλείας με μικρόφωνο. Στα νέα ελληνικά podcasts όπου όλοι μιλούν με την ίδια ήρεμη, “καθαρή” ραδιοφωνική φωνή λες και εκπαιδεύονται ταυτόχρονα για TikTok clips και για αλγοριθμική απομαγνητοφώνηση. Στις φωτογραφίες που πλέον τραβιούνται όχι μόνο για να αρέσουν σε ανθρώπους, αλλά και για να τις ευνοεί ο αλγόριθμος του Instagram.
Για χρόνια η τεχνολογία παρουσιαζόταν ως κάτι που θα προσαρμοζόταν πάνω μας. Οι μηχανισμοί μέσω των οποίων επικοινωνούμε πλέον με την τεχνολογία έγιναν πιο φιλικά, πιο οικεία, πιο “ανθρώπινα”. Η Apple βοήθησε όσο λίγες εταιρείες να περάσει η ιδέα ότι οι υπολογιστές πρέπει να ακολουθούν τη λογική των ανθρώπων αντί να αναγκάζουν τους ανθρώπους να προσαρμόζονται στη δική τους. Και για λίγο φάνηκε πως η τεχνολογία κινούνταν όντως προς αυτή την κατεύθυνση. Μόνο που πλέον δεν είναι καθόλου σαφές ποιος προσαρμόζεται σε ποιον.
Τα νέα συστήματα τεχνητής νοημοσύνης δεν βλέπουν τον κόσμο όπως εμείς. Δεν βλέπουν “μια κουρασμένη γυναίκα σε έναν καναπέ”, “έναν άνθρωπο που διστάζει”, “κάποιον αγχωμένο”. Βλέπουν μοτίβο, κατηγορίες, πιθανότητες και δεδομένα που πρέπει να ταξινομηθούν όσο πιο γρήγορα γίνεται. Σε μια έρευνα που συζητήθηκε αρκετά στον χώρο του AI, ένα σύστημα δυσκολευόταν να ξεχωρίσει μια γυναίκα από τον καναπέ πάνω στον οποίο καθόταν επειδή τα μοτίβα των υφασμάτων έμοιαζαν μεταξύ τους. Για το AI, ο άνθρωπος και το αντικείμενο δεν μπορούσαν πλέον να διαχωριστούν καθαρά. Ακούγεται σχεδόν αστείο μέχρι να συνειδητοποιήσεις το μέγεθος που αυτή η λογική έχει ήδη περάσει στην καθημερινότητά μας.
Τα social media λειτουργούν με παρόμοιο τρόπο. Οι πλατφόρμες δεν καταλαβαίνουν ανθρώπους· καταλαβαίνουν συμπεριφορές που μοιάζουν προβλέψιμες. Γι’ αυτό τα social media γέμισαν με πρόσωπα που χαμογελούν με τον ίδιο τρόπο, creators που μιλούν με την ίδια ρυθμική ένταση, thumbnails με τα ίδια χρώματα, πολιτικούς που εκπαιδεύονται να παράγουν “viral” αντί για πραγματικές στιγμές. Ακόμη και οι υποψήφιοι βουλευτές σήμερα φωτογραφίζονται σχεδόν σαν lifestyle influencers. Το βλέμμα λίγο εκτός κάμερας, τα μανίκια σηκωμένα, η τόσο προσεγμένη “ανεπιτήδευτη” στάση που καταλήγει να μοιάζει πανομοιότυπη παντού. Δεν είναι απλώς αισθητική ομοιομορφία. Είναι η σταδιακή προσαρμογή του ανθρώπινου σώματος και της ανθρώπινης συμπεριφοράς στις ανάγκες της ψηφιακής αναγνώρισης.
Το Black Book έγραψε:
Η τεχνητή νοημοσύνη δεν ζητά από εμάς να γίνουμε πιο έξυπνοι. Ζητά να γίνουμε πιο ευανάγνωστοι. Εκεί γίνεται φανερό πως δεν αλλάζουν μόνο οι μηχανές, αλλά και η ίδια η ανθρώπινη συμπεριφορά. Οι άνθρωποι πάντα άλλαζαν τη συμπεριφορά τους μπροστά στην εξουσία. Άλλώς μιλούσες στον διευθυντή σου, άλλιώς στην οικογένεια, άλλιώς δημόσια. Τώρα όμως εμφανίζεται ένας μηχανισμός που δεν ενδιαφέρεται να μας καταλάβει συναισθηματικά, αλλά να μας προβλέψει σωστά. Λειτουργεί στατιστικά. Και το πρόβλημα με τα στατιστικά συστήματα είναι ότι δυσκολεύονται αφόρητα με οτιδήποτε αποκλίνει από το “κανονικό”. Γι’ αυτό τα AI συστήματα μπερδεύονται συχνά μπροστά σε φωνές, εκφράσεις ή τρόπους συμπεριφοράς που δεν ταιριάζουν στα δεδομένα πάνω στα οποία εκπαιδεύτηκαν.
Το πιο παράξενο στην εποχή του AI είναι ότι οτιδήποτε δεν είναι προβλέψιμο αντιμετωπίζεται σχεδόν σαν δυσλειτουργία. Οι πλατφόρμες μάς εκπαίδευσαν να σκεφτόμαστε τον εαυτό μας σαν προσωπικό brand. Τώρα τα AI systems μάς σπρώχνουν να υπάρχουμε με τρόπο που να μπορεί να μας επεξεργαστεί εύκολα μια μηχανή. Να μιλάμε καθαρότερα. Να κινούμαστε προβλέψιμα. Να παράγουμε σταθερά μοτίβα. Να γινόμαστε αναγνωρίσιμοι όχι μόνο κοινωνικά, αλλά υπολογιστικά.
Το πιο ύπουλο είναι ότι κανείς δεν το παρουσιάζει σαν έλεγχο, αλλά σαν καλύτερη εμπειρία χρήσης. Το αυτοκίνητο που “σε αναγνωρίζει”. Το κατάστημα που “καταλαβαίνει τι θέλεις”. Το AI assistant που “σε ξέρει καλύτερα”. Όλα είναι σχεδιασμένα ώστε να εξαφανίζουν εκείνες τις μικρές καθυστερήσεις και αμηχανίες της καθημερινής ζωής. Μόνο που πίσω από αυτή την ομαλή εμπειρία κρύβεται η ανάγκη των αλγορίθμων να μειώνουν συνεχώς την αβεβαιότητα της ανθρώπινης συμπεριφοράς.
Οι άνθρωποι δεν υπήρξαν ποτέ απολύτως προβλέψιμοι. Κουβαλούν αντιφάσεις, υπερβολές, αδυναμίες και αντιδράσεις που συχνά ξεφεύγουν από κάθε λογική. Γι’ αυτό το πραγματικό ερώτημα της εποχής δεν είναι μόνο αν οι μηχανές θα αποκτήσουν ανθρώπινη νοημοσύνη. Αλλά αν οι άνθρωποι θα μπορέσουν να παραμείνουν απρόβλεπτοι μέσα σε μια εποχή που ανταμείβει ότι μπορεί να διαβαστεί εύκολα από αλγορίθμους.
