Παρά τη βιομετρική παρακολούθηση: Το Κοινοβούλιο της ΕΕ ανοίγει το δρόμο για τη ρύθμιση της τεχνητής νοημοσύνης

Παρά τη βιομετρική παρακολούθηση: Το Κοινοβούλιο της ΕΕ ανοίγει το δρόμο για τη ρύθμιση της τεχνητής νοημοσύνης

Ο κανονισμός για την τεχνητή νοημοσύνη ανοίγει τον δρόμο για τη βιομετρική αναγνώριση προσώπου στην ΕΕ. Προσφέρει επίσης σημαντικά κενά για τις αρχές και τις εταιρείες σε πολλούς άλλους τομείς. Το Ευρωπαϊκό Κοινοβούλιο ήθελε να προστατεύσει καλύτερα τα θεμελιώδη δικαιώματα – και τώρα συμφώνησε τελικά με τον συμβιβασμό.

Chris Köver

 

Καμία απαγόρευση της βιομετρικής παρακολούθησης στην ΕΕ (συμβολική εικόνα). - Λεξικό δημόσιου τομέα

Με τον κανονισμό για την τεχνητή νοημοσύνη, η Ευρωπαϊκή Ένωση θέλει να θέσει το σημείο αναφοράς για τις εφαρμογές της λεγόμενης τεχνητής νοημοσύνης στο μέλλον. Το Ευρωπαϊκό Κοινοβούλιο ενέκρινε σήμερα το κείμενο του νόμου με μεγάλη πλειοψηφία. Στην ψηφοφορία, 523 βουλευτές ψήφισαν υπέρ του νόμου, 46 κατά. Είχαν ήδη διαπραγματευτεί τον συμβιβασμό τον περασμένο Δεκέμβριο μετά από μακρές και μερικές φορές δραματικές συνομιλίες με τα κράτη μέλη της ΕΕ. Αυτό ανοίγει τον δρόμο για να τεθεί σε ισχύ ο νόμος κατά τη διάρκεια του έτους.

Η θετική ψήφος του Κοινοβουλίου σηματοδοτεί το τέλος της διαμάχης για έναν νόμο που θεωρήθηκε ένας από τους σημαντικότερους της νομοθετικής περιόδου. Επί τρία χρόνια απασχόλησε την Επιτροπή, το Κοινοβούλιο και το Συμβούλιο. Ο αγώνας για τους τελικούς κανόνες μετατράπηκε σε μία από τις μεγαλύτερες μάχες άσκησης πίεσης που έγιναν ποτέ στις Βρυξέλλες. Τεχνολογικοί γίγαντες όπως η Google και η Microsoft επένδυσαν εκατομμύρια για να προστατεύσουν τα συμφέροντά τους.

Ο νόμος αποσκοπεί στη θέσπιση κανόνων για όσους αναπτύσσουν και χρησιμοποιούν τεχνολογίες τεχνητής νοημοσύνης, είτε πρόκειται για εταιρείες είτε για δημόσιες αρχές. Σύμφωνα με τη λογική, όσο πιο επικίνδυνη είναι μια εφαρμογή, τόσο αυστηρότερες είναι οι απαιτήσεις, για παράδειγμα για την ποιότητα των δεδομένων, την τεκμηρίωση ή για τις εκτιμήσεις κινδύνου, όπως πρέπει να γίνεται πριν από τη χρήση. Ορισμένες εφαρμογές πρόκειται να απαγορευτούν εντελώς, όπως η κοινωνική βαθμολόγηση.

 

Διαμάχη για βασικά μοντέλα

Το  πρώτο σχέδιο της Επιτροπής τον Απρίλιο του 2021 προσέλκυσε μάλλον λίγη προσοχή. Στη συνέχεια, στις αρχές του 2023, ξέσπασε η διαφημιστική εκστρατεία γύρω από τη γενετική τεχνητή νοημοσύνη - και ξαφνικά, μαζί με τις εντυπωσιακές δυνατότητες του ChatGPT και των γεννητριών εικόνων όπως το Midjourney, οι λεπτομέρειες του κανονισμού AI ήταν επίσης στο παγκόσμιο προσκήνιο.

Οι βουλευτές προσπάθησαν να συμβαδίσουν με τη νέα εξέλιξη, παρόλο που οι εργασίες για το νόμο ήταν πολύ προχωρημένες. Για το σκοπό αυτό, ήθελαν να συμπληρώσουν το νόμο με αυστηρούς κανόνες για τα λεγόμενα βασικά μοντέλα. Πρόκειται για συστήματα τεχνητής νοημοσύνης όπως το γλωσσικό μοντέλο GPT-4, το οποίο μπορεί να χρησιμοποιηθεί για μια ευρεία ποικιλία σκοπών.

Τον Νοέμβριο, αυτό οδήγησε σε ανοιχτή διαμάχη στις τριμερείς συνομιλίες. Πάνω απ' όλα, οι βαρέων βαρών στο Συμβούλιο, η Γερμανία και η Γαλλία, ήθελαν να εμποδίσουν τον κανονισμό να ρυθμίζει επίσης βασικά πρότυπα. Νεοσύστατες επιχειρήσεις όπως η Mistral στη Γαλλία ή η Aleph Alpha στη Γερμανία εργάζονται επίσης σε τέτοια μοντέλα, είχαν πιέσει για εξαίρεση βασικών μοντέλων.

 

Σάπιος συμβιβασμός μετά από μακρές διαπραγματεύσεις

Αλλά δεν ήταν μόνο λόγω των βασικών μοντέλων που οι τελικές τριμερείς συνομιλίες τον Δεκέμβριο μετατράπηκαν σε αδιέξοδο. Ο κανονισμός θίγει βασικά ζητήματα σχετικά με τα θεμελιώδη δικαιώματα και τις ελευθερίες στην ΕΕ: για παράδειγμα, εάν και πότε επιτρέπεται η βιομετρική παρακολούθηση, σε ποιους τομείς της ζωής μπορούν να ληφθούν αυτοματοποιημένες αποφάσεις ή πόσες εξαιρέσεις μπορούν να διεκδικήσουν τα κράτη με το γενικό επιχείρημα της «εθνικής ασφάλειας».

Μετά από περισσότερες από τρεις ημέρες μαραθώνιων διαπραγματεύσεων, μερικές φορές περισσότερες από 22 ώρες κάθε φορά, επιτεύχθηκε συμβιβασμός πριν από τα Χριστούγεννα. Ακόμα και τότε, οργανώσεις πολιτικών δικαιωμάτων όπως η EDRi προειδοποίησαν ότι η χαρά ήταν πρόωρη.  Συμφωνία είχε επιτευχθεί προφορικά, το τελικό κείμενο έπρεπε ακόμη να συνταχθεί από την ισπανική Προεδρία, η οποία είχε ασκήσει πιέσεις για τη συμφωνία.

Όταν οι εκατοντάδες σελίδες συμβιβαστικού κειμένου ήταν διαθέσιμες τον Φεβρουάριο, κατέστη σαφές πόσα κενά θα παρέμεναν ανοιχτά. Βουλευτές που συμμετείχαν οι ίδιοι στις διαπραγματεύσεις δήλωσαν στη συνέχεια ότι μετά βίας αναγνώρισαν τη συμφωνία τριμερούς διαλόγου που υποτίθεται ότι είχε επιτευχθεί όταν βρέθηκε αργότερα ενώπιόν τους. «Μας εξαπάτησαν», δήλωσε πηγή προσκείμενη στη διαπραγματευτική αντιπροσωπεία.

 

Καμία απαγόρευση βιομετρικής παρακολούθησης και ανιχνευτών ψεύδους

Ειδικά στους κανόνες για τη βιομετρική παρακολούθηση, δεν έχει απομείνει σχεδόν τίποτα από τις κάποτε ισχυρές απαιτήσεις του Κοινοβουλίου. Ο κανονισμός για την τεχνητή νοημοσύνη δεν επιβάλλει απαγόρευση, ούτε καν ιδιαίτερα αυστηρούς περιορισμούς, στη χρήση βιομετρικής επιτήρησης.

Στο μέλλον, τα κράτη μέλη της ΕΕ θα έχουν τη δυνατότητα να παρακολουθούν τους ανθρώπους και να τους ταυτοποιούν με βάση τα φυσικά χαρακτηριστικά τους για πολλούς λόγους, για παράδειγμα με τη βοήθεια δημόσιων καμερών. Αυτό επιτρέπεται ακόμη και σε πραγματικό χρόνο και ακόμη και αν υπάρχει μόνο η υπόθεση ότι κάτι κακό θα μπορούσε να συμβεί. Τα κράτη μέλη ήταν προφανώς σε θέση να  επικρατήσουν σχεδόν πλήρως σε αυτό το σημείο με τη λίστα επιθυμιών τους.

Ακόμη και οι άνθρωποι που είναι σε φυγή δύσκολα μπορούν να περιμένουν προστασία από τον κανονισμό για την τεχνητή νοημοσύνη. Οι λίγοι περιορισμοί στην αναγνώριση προσώπου σε δημόσιους χώρους, για παράδειγμα, δεν ισχύουν ρητά για τους συνοριακούς ελέγχους. Η χρήση αμφιλεγόμενων τεχνολογιών, όπως η αναγνώριση συναισθημάτων, εξακολουθεί επίσης να επιτρέπεται, και όσοι επηρεάζονται θα μπορούσαν να ελέγχονται με ανιχνευτές ψεύδους στα σημεία διέλευσης των συνόρων στο μέλλον, όπως έχει ήδη δοκιμάσει η ΕΕ σε πιλοτικό πρόγραμμα. Και οι υποχρεώσεις διαφάνειας στο νόμο επίσης δεν ισχύουν για τους τομείς της «επιβολής του νόμου, της μετανάστευσης, του ελέγχου των συνόρων ή του ασύλου».

Ακόμη και με αυτές τις παραχωρήσεις, ήταν ακόμα ασαφές για μεγάλο χρονικό διάστημα εάν ο νόμος θα μπορούσε να αποτύχει λόγω της αντίστασης από τη Γαλλία και τη Γερμανία. Η δυσαρέσκεια συνέχισε να ακούγεται και από τις δύο χώρες. Με την έγκριση του Συμβουλίου στις αρχές Φεβρουαρίου, αυτό το εμπόδιο ξεπεράστηκε.

Λίγο αργότερα, οι δύο κοινοβουλευτικές επιτροπές πολιτικών ελευθεριών, δικαιοσύνης και εσωτερικών υποθέσεων (LIBE) και εσωτερικής αγοράς (IMCO) ψήφισαν επίσης υπέρ του συμβιβασμού με μεγάλη πλειοψηφία.  Ανέλαβαν ηγετικό ρόλο στις εργασίες για το νόμο. " Εγκρισή τους ήταν ένα ισχυρό μήνυμα ότι η απόλυτη πλειοψηφία των βουλευτών του ΕΚ στην Ολομέλεια σήμερα θα ψήφιζε επίσης υπέρ του συμβιβασμού.

Το γεγονός ότι η ψηφοφορία είχε προγραμματιστεί σήμερα και όχι, όπως είχε αρχικά προγραμματιστεί, τον Απρίλιο, είχε προκαλέσει σύγχυση κατά την προεκλογική περίοδο. Ο λόγος γι' αυτό έγκειται πιθανώς στις λεπτομέρειες των διαδικασιών εργασίας της ΕΕ: τα νομικά κείμενα πρέπει να αναθεωρηθούν νομικά και να μεταφραστούν στις 24 επίσημες γλώσσες της Ένωσης. Δεν φαίνεται να υπήρχε αρκετός χρόνος γι' αυτό, επομένως οι βουλευτές του ΕΚ συνέχισαν να ψηφίζουν επί ενός προσωρινού κειμένου. Στη συνέχεια, η τελική έκδοση θα ανακοινωθεί μόλις τον Απρίλιο – πιθανώς χωρίς νέα ψηφοφορία.

 

Τι ακολουθεί

Αυτό σημαίνει ότι ο κανονισμός για την τεχνητή νοημοσύνη μπορεί να τεθεί σε ισχύ πριν από τις εκλογές της ΕΕ το καλοκαίρι. Οι περισσότεροι από τους κανόνες θα τεθούν σε ισχύ μετά από δύο χρόνια, μόνο οι απαγορεύσεις θα ισχύσουν μετά από έξι μήνες – και επομένως πιθανώς ήδη από φέτος.

Εν τω μεταξύ, οι ελπίδες για καλύτερη νομοθεσία μετατοπίζονται στα κράτη μέλη. Έχουν τη δυνατότητα να εγκρίνουν αυστηρότερους κανόνες σε εθνικό επίπεδο από εκείνους που προβλέπονται στον κανονισμό, για παράδειγμα για τη βιομετρική παρακολούθηση. Στη Γερμανία, ο κυβερνητικό συνασπισμός έχει ήδη ήδη ανακοινώσει ότι δεν θέλει τουλάχιστον παρακολούθηση σε πραγματικό χρόνο.

Το AlgorithmWatch ζητά τώρα επίσης βελτιώσεις και αναφέρεται στις υποσχέσεις που έδωσε η ομοσπονδιακή κυβέρνηση στη συμφωνία συνασπισμού της. Η οργάνωση επικρίνει επίσης το γεγονός ότι οι αρχές επιβολής του νόμου και μετανάστευσης ειδικότερα δεν πρέπει να υπόκεινται σε δημόσια διαφάνεια όταν χρησιμοποιούν επικίνδυνα συστήματα AI. Ακριβώς σε αυτούς τους τομείς υπάρχει έντονη ανισορροπία δυνάμεων και η δημόσια σφαίρα αποτελεί απαραίτητη προϋπόθεση για τον δημοκρατικό έλεγχο.

 Οι τέσσερις βουλευτές του Κόμματος των Πειρατών, ορισμένοι μη κομματικοί βουλευτές και μεγάλα τμήματα του Αριστερού Κόμματος είχαν καταψηφίσει το σχέδιο. Η βουλευτής του Cornelia Ernst εκφράζει τη λύπη της για το γεγονός ότι το κοινοβούλιο δεν ήταν σε θέση να προωθήσει βασικά στοιχεία στις διαπραγματεύσεις. Η απαγόρευση της αναγνώρισης προσώπου σε πραγματικό χρόνο σε δημόσιους χώρους έχει «πρακτικά ανατραπεί» από έναν μακρύ κατάλογο εξαιρέσεων, η αναγνώριση συναισθημάτων και η προληπτική αστυνόμευση εξακολουθούν να επιτρέπονται και δεν υπάρχουν απαγορεύσεις στη χρήση συστημάτων τεχνητής νοημοσύνης στο πλαίσιο της μετανάστευσης και των συνόρων - μια χαμένη ευκαιρία.