Τεχνητή Νοημοσύνη: Να σκέφτεσαι όπως η κυρίαρχη μετριότητα
«Καθόλου αιτατά αιτήματα, μόνο φωτιά».
Η ΤΝ είναι ασύμβατη με τις χειραφετημένες και ελεύθερες κοινωνίες. Αυτό δεν αποτελεί σχεδιαστικό λάθος, αλλά τον ίδιο τον σκοπό της δημιουργίας της.
«Ορισμένες μηχανές πρέπει να καταστραφούν για να μην παράγουν τέρατα». Με αυτά τα λόγια, ο Μπράιαν Μέρτσαντ, συγγραφέας του βιβλίου Blood in the Machine, συνοψίζει όχι μόνο την πλοκή του «Φρανκενστάιν» της Μαίρης Σέλλεϋ, αλλά και τη δράση των Λουδιτών. Οι Λουδίτες, μια οργανωμένη ομάδα εργατών στη Μεγάλη Βρετανία των αρχών του 19ου αιώνα, διαμαρτυρήθηκαν με δυναμικά, πρακτικά μέσα ενάντια στην καπιταλιστική χρήση των νέων μηχανικών αργαλειών.
Τα σύγχρονα αριστερά κινήματα θα έπρεπε να πράξουν το ίδιο. Σήμερα ο στόχος δεν είναι πλέον οι αργαλειοί των πρωτο-καπιταλιστών ιδιοκτητών εργοστασίων, αλλά οι υλικές και άυλες εκδηλώσεις της λεγόμενης τεχνητής νοημοσύνης (ΤΝ). Αυτή η διάθεση αντίστασης απουσιάζει από τις προοδευτικές συζητήσεις γύρω από την ΤΝ. Αντίθετα, οι κριτικές φωνές διατυπώνουν αιτήματα για ρυθμιστική συγκράτηση, ανοιχτό κώδικα (Open Source), ηθικό σχεδιασμό και οικολογική βιωσιμότητα.
Ένα πρόσφατο παράδειγμα αυτού του είδους κριτικής αποτελούν τα λόγια του Πάπα Λέοντος ΙΔ΄. Στην πρώτη του εγκύκλιο, συνέκρινε την τεχνολογία με την πυρηνική ενέργεια και ζήτησε να απαλλαγεί από τη λογική της καταστροφής, ώστε να αξιοποιηθούν οι δυνατότητες της ΤΝ για το καλό της ανθρωπότητας: η ΤΝ πρέπει να αφοπλιστεί, ώστε να μην εξελιχθεί σε ατομική βόμβα. Αυτό το είδος κριτικής είναι υποδειγματικό για την αντιπαράθεση γύρω από την ΤΝ, η οποία, αν και ακούγεται σαν μια σθεναρή παρέμβαση, ταυτόχρονα νομιμοποιεί και επιβεβαιώνει το ίδιο το αντικείμενο της κριτικής της.
«Η ΤΝ δεν είναι μια ουδέτερη τεχνολογία που μπορεί να προστατευτεί από το να γίνει ατομική βόμβα μέσω ρυθμιστικών περιορισμών. Η ίδια είναι η ατομική βόμβα.»
Κατονομάζει πολλές επιβλαβείς πτυχές, αλλά ταυτόχρονα εξαίρει πάντα την ΤΝ ως μια καινοτομία με μεγάλες προοπτικές, της οποίας τα μειονεκτήματα αποτελούν απλώς αποτέλεσμα των συνθηκών υπό τις οποίες χρησιμοποιείται. Στους προοδευτικούς κύκλους, αυτού του είδους η κριτική στην ΤΝ είναι επίσης ευρέως διαδεδομένη. Ο οικονομολόγος Τιμ Μέντσνερ υποστήριξε στο περιοδικό Jacobin ότι η Αριστερά πρέπει να αναπτύξει το δικό της όραμα για το μέλλον της ΤΝ, ενώ στο Ideas Letter, ο κριτικός της τεχνολογίας Εβγκένι Μορόζοφ ανακήρυξε την ΤΝ ακόμη και ως το μέτρο σύγκρισης για έναν βιώσιμο σοσιαλισμό του μέλλοντος.
Ένας κόσμος χωρίς ΤΝ;
Το εκπληκτικό, ωστόσο, είναι ότι και η Ευρωπαϊκή Επιτροπή υιοθέτησε τις προειδοποιήσεις του Πάπα. Εκπρόσωπός της δήλωσε στο Καθολικό Πρακτορείο Ειδήσεων: «Μπορούμε μόνο να συμφωνήσουμε με το όραμα του Αγίου Πατρός Πάπα Λέοντος ΙΔ΄ και την ανάγκη για ένα ισχυρό νομικό πλαίσιο για την ΤΝ». Αυτή η ομοφωνία θα έπρεπε να μας ανησυχεί. Δεν σημαίνει ότι το Βατικανό, οι προοδευτικές φωνές και οι κυβερνώντες βρήκαν ξαφνικά μια κοινή γραμμή στο θέμα της ΤΝ. Η συμπόρευση αυτή δείχνει απλώς πόσο ακίνδυνο είναι αυτό το είδος κριτικής.
Φαντάζει ριζοσπαστική, αλλά παραμένει τόσο ασαφής και ασυνεπής στα συμπεράσματά της, που δεν απαιτεί καμία ουσιαστική αλλαγή πορείας. Ακόμη και η Ευρωπαϊκή Επιτροπή μπορεί να κρυφτεί πίσω από εύηχα συνθήματα όπως «ρύθμιση» και «αξίες» για να σώσει τα προσχήματα, ενώ την ίδια στιγμή, ωθούμενη από τον διεθνή ανταγωνισμό, περιορίζει την ψηφιακή της νομοθεσία —που κάποτε γιορτάστηκε ως το «χρυσό πρότυπο»— προς όφελος της ανταγωνιστικότητας της εγχώριας βιομηχανίας ΤΝ.
Και μπορεί να το κάνει αυτό επειδή η τρέχουσα κριτική αδυνατεί να αμφισβητήσει την ΤΝ εκ θεμελίων. Αυτή η αποτυχία είναι σύμπτωμα αυτού που ο φυσικός Νταν ΜακΚουίλαν ονόμασε στο περιοδικό Vice ως «ρεαλισμό της ΤΝ» (AI realism): της συλλογικής ανικανότητας να φανταστούμε έναν κόσμο χωρίς ΤΝ. Αυτή η στένωση των οριζόντων έχει μετατρέψει τη ρύθμιση, τον ανοιχτό κώδικα, τους ηθικούς περιορισμούς και την υποχρεωτική επίκληση των καινοτόμων δυνατοτήτων της ΤΝ στο απώτατο όριο της κριτικής που μπορούν να διατυπώσουν οι προοδευτικές φωνές.
Το πιο απτό τρέχον παράδειγμα «ρεαλισμού της ΤΝ» είναι η πρόταση του Μπέρνι Σάντερς να συμμετάσχει το αμερικανικό δημόσιο στα κέρδη των εταιρειών ΤΝ, με την κυβέρνηση των ΗΠΑ να εξαγοράζει το 50% των μετοχών εταιρειών όπως η Anthropic, η OpenAI και η xAI. Ο βασικός τόνος είναι: η ΤΝ είναι αναπόφευκτη. Επομένως, ας συμμετάσχουμε και ας κερδίσουμε από αυτήν. Αυτή η κριτική αγνοεί τις μισάνθρωπες, βίαιες και αυταρχικές λειτουργίες που συνιστούν την ΤΝ.
Η ΤΝ είναι συντηρητική
Είναι ασυνεπής επειδή, αν και κατονομάζει αυτά τα επίπεδα, δεν τολμά να βγάλει τα απαραίτητα συμπεράσματα. Στερείται αλληλεγγύης επειδή αγνοεί εκείνους τους οποίους η χρήση της ΤΝ συνεχίζει να περιθωριοποιεί και να καταπιέζει, παρά τις όποιες ρυθμίσεις και τις εύηχες κατευθυντήριες γραμμές ηθικής. Με λίγα λόγια: η ΤΝ είναι θεμελιωδώς ασύμβατη με τις χειραφετημένες, εξισωτικές και ελεύθερες κοινωνίες. Όχι επειδή η ΤΝ επηρεάζεται από λάθος δυναμικές, αλλά επειδή η τεχνολογία είναι κατασκευασμένη ακριβώς γι' αυτόν τον σκοπό.
Η ΤΝ δεν είναι μια ουδέτερη τεχνολογία που μπορεί να αποτραπεί από το να γίνει ατομική βόμβα μέσω περιορισμών, για να χρησιμοποιήσουμε την παπική μεταφορά. Είναι η ατομική βόμβα. Η ΤΝ δεν είναι μια τεχνολογία του μέλλοντος ούτε μια καινοτομία που πρέπει να οικειοποιηθούν τα αριστερά κινήματα. Είναι εγγενώς συντηρητική και ομογενοποιητική, και ως εκ τούτου δεν αποτελεί μέτρο προόδου για τις κοινωνίες, αλλά μια τσιμεντοποίηση του στάτους κβο.
Μόνο μια ριζική απόρριψη της ΤΝ είναι συνεπής απέναντι σε αυτήν την κοινωνικο-τεχνική λειτουργία. Αυτό που συνήθως εννοούμε ως ΤΝ είναι συστήματα αναγνώρισης και αναπαραγωγής προτύπων (μοτίβων). Αυτά τα συστήματα μεταφέρουν πρότυπα από το παρελθόν στο μέλλον και επηρεάζουν την ατομική και κοινωνική δράση και σκέψη. Η αναπαραγωγή προτύπων είναι αναγκαστικά συντηρητική, επειδή τα δεδομένα μπορούν να αποτυπώσουν μόνο ό,τι έχει ήδη παρέλθει.
Και είναι πάντα αποκλειστική, επειδή αποτελεί ψευδαίσθηση το ότι μπορεί κανείς να αποτυπώσει την κοινωνική ποικιλομορφία σε δεδομένα. «Ένας κόσμος μεταγραμμένος σε δεδομένα (datafied) είναι ένας κόσμος χωρίς υποκείμενα», γράφει ο κοινωνικός επιστήμονας Τζέιθαν Σαντόφσκι στο βιβλίο του The Mechanic and the Luddite. Αυτή η απο-υποκειμενοποίηση είναι πάντα βίαιη. Και επειδή αποτελεί το θεμέλιο κάθε αναπαραγωγής προτύπων, η ΤΝ είναι σε θεμελιώδες επίπεδο μια βίαιη και απάνθρωπη τεχνολογία.
Μόνο αναπαραγωγή προτύπων
Αυτή η βία προσλαμβάνει διαφορετικές μορφές. Στον τομέα της σύνθεσης κειμένου, εμφανίζεται ως μια επιστημική βία που βασίζεται σε συλλεχθέντα δεδομένα. Οι στατιστικές διαδικασίες στον πυρήνα των γεννητριών κειμένου, όπως το ChatGPT, υπολογίζουν την πιθανότητα με την οποία μια λέξη διαδέχεται την άλλη, για να παράγουν τελικά προτάσεις που μας φαίνονται ως ανθρώπινη γλώσσα. Τα αποτελέσματα του ChatGPT, όμως, δεν αποτελούν έκφραση κατανόησης, αλλά απλώς μια μαθηματική αναπαραγωγή προτύπων σε ψηφιοποιημένα σώματα κειμένων που βασίζονται σε ψηφιακές πηγές.
Αυτή η σύνθεση κειμένου μέσω της παραγωγικής ΤΝ είναι πάντα μια πράξη μείωσης και αποκλεισμού, επειδή καθιστά αόρατες όλες εκείνες τις ανθρώπινες πραγματικότητες που δεν εκπροσωπούνταν επαρκώς στο αρχικό σύνολο δεδομένων ώστε να επηρεάσουν σημαντικά το αποτέλεσμα. Αυτό που προκύπτει είναι μια ρατσιστική και πατριαρχική ομογενοποίηση της γλώσσας και ο εννοιολογικός αποκλεισμός των περιθωριοποιημένων πραγματικοτήτων. Αυτή η μείωση, που μερικές φορές ονομάζεται και μεροληψία (bias), είναι λόγω λειτουργίας πάντα μέρος της ΤΝ. Στενεύει τη γλώσσα και τη σκέψη στην κυρίαρχη μετριότητα, όπως κι αν ορίζεται αυτή κάθε φορά.
Σε άλλους τομείς, η βία που κρύβεται σε αυτή τη μείωση γίνεται άμεσα απτή. Όταν τα συστήματα αναγνώρισης προτύπων υπολογίζουν προβλέψεις για το ποιος είναι πιθανό να διαπράξει απάτη σχετικά με τα κοινωνικά επιδόματα, μειώνουν την ανθρώπινη ατομικότητα σε σημεία δεδομένων. Ένα τέτοιο σύστημα κατηγόρησε το 2021 στην Ολλανδία δεκάδες χιλιάδες γονείς —στη συντριπτική τους πλειονότητα εντελώς άδικα— για απάτη στα επιδόματα παιδιών, χαρακτηρίζοντας ιδιαίτερα συχνά ως ύποπτους γονείς με φυλετικά χαρακτηριστικά (racialized). Το αποτέλεσμα ήταν η οικονομική καταστροφή πολλών ανθρώπων και η παραίτηση της κυβέρνησης.
Αυτή η μεροληψία δεν διορθώνεται με περισσότερα ή ακριβέστερα δεδομένα. Περισσότερα δεδομένα απλώς θα καθιστούσαν λιγότερο ορατή τη βία που ενυπάρχει σε κάθε μείωση των ανθρώπων σε τιμές πιθανότητας, προσδίδοντάς της μάλιστα μεγαλύτερη αληθοφάνεια. Οι προβλέψεις γίνονται ακόμα πιο αναπόδραστες για όσους παγιδεύονται σε αυτές. Αυτή η βία βρίσκει την κορύφωσή της στους υπολογισμούς για το πού βρίσκονται άνθρωποι στη Λωρίδα της Γάζας, των οποίων η θανάτωση μέσω drone πληροί με επαρκή πιθανότητα τα κριτήρια μιας πολεμικής μηχανής.
Η Κυβερνητική ως εργαλείο κυριαρχίας
Η επιστημική, κοινωνική και φυσική βία της ΤΝ δεν είναι σχεδιαστικό λάθος ούτε αποτέλεσμα έλλειψης δεδομένων, αλλά το κεντρικό της χαρακτηριστικό. Κάθε κριτική στην ΤΝ που σταματά στο επίπεδο της μεροληψίας, των παραισθήσεων (hallucinations) και της ποιότητας της βάσης δεδομένων, καθιστά αυτή τη διάσταση της βίας αόρατη και, ως εκ τούτου, τη νομιμοποιεί. Αυτή η κριτική στην ΤΝ δεν είναι καινούργια. Είχε ήδη διατυπωθεί στο παρελθόν ενάντια στα υπολογιστικά συστήματα ανάδρασης και ελέγχου.
Η επιστήμη πίσω από αυτά τα συστήματα λειτουργούσε υπό τον όρο της Κυβερνητικής και ονειρευόταν έναν πλήρως ψηφιοποιημένο κόσμο, στον οποίο καθολικά συστήματα ελέγχου θα κρατούσαν ολόκληρες κοινωνίες σε ισορροπία μέσω πανταχού παρόντων και ταυτόχρονα αόρατων σημάτων. Η φιλόσοφος Άννα-Βερένα Νόστχοφ («Κυβερνητική και Κριτική») περιγράφει την κυβερνητική ως ένα εργαλείο κυριαρχίας που αντικειμενοποιεί τους κυβερνώμενους ως ανθρώπινες μηχανές και ρυθμίζει τη συμπεριφορά τους. Αυτή η κυβερνητική ποιότητα χαρακτηρίζει και την ΤΝ.
Μια συνεπή απάντηση σε αυτό διατύπωσε η γαλλική αντιστασιακή ομάδα Clodo τη δεκαετία του 1980. Ενώ στη Γερμανία μαίνονταν διαδηλώσεις κατά της απογραφής του πληθυσμού, οι ακτιβιστές έκαιγαν μέσα αποθήκευσης δεδομένων στις τουαλέτες τεχνολογικών εταιρειών. Σε επιστολή της ομάδας από τον Φεβρουάριο του 1983 αναφέρεται: «Η κοινωνία μας –κωδικοποιημένη, ευθυγραμμισμένη, ελεγχόμενη– [...] στην οποία παρατασσόμαστε ο ένας δίπλα στον άλλον σαν τρένα σε σταθμό διαλογής» και «στην οποία το δυαδικό και το ποσοτικό υποτίθεται ότι θα λύσουν την κρίση – αυτή η κοινωνία είναι απάνθρωπη».
Αυτή η προοπτική πρέπει να επιστρέψει στο επίκεντρο της κριτικής κατά της ΤΝ. Για μένα, είναι τα λόγια του ανθρωπογεωγράφου Τόμας Ντεκέιζερ («Techno-Negative»), που συνέλαβε καλύτερα την ουσία αυτής της οπτικής στην ανάλυσή του για τη δράση της Clodo: «Καθόλου αιτήματα, μόνο φωτιά».
