Η τεχνητή νοημοσύνη στην εκπαίδευση και η θέση της Κίνας, Διάβασμα σε 7'

Μια ‘ωραία’ νέα μάθηση

Blogger: Δεν είναι το θέμα, ότι ο Bill Gates - που έχουν όλοι στοχοποιήσει- είναι  ο εχθρός της εκπαίδευσης αλλά ή ιστορική εξέλιξη ενός, για τον πλανήτη γη, καθολικού τεχνολογικού πολιτισμού με οδηγό τη Κίνα πλέον και η οποία έχει δείξει ήδη πόσο ολοκληρωτική μπορεί να γίνει απέναντι στο πληθυσμό της, τόσο με τα όπλα 1989 όσο και με το digital monitoring &  το social point system 2019, 30 χρόνια μετά.

 

 Alex Beard εκπαιδευτικός και εργάεται για τη πρωτοβουλία 'Teach for All'

 Περιεχόμενα

v Η Κίνα είναι πολύ μπροστά

v Η μητέρα πληρώνει 12.500 ευρώ

v Παρακολούθηση σώματος

v Το φροντιστήριο ως ναρκωτικό

Το ερώτημα που τίθεται όλο και συχνότερα και όλο σε περισσοτέρους εκπαιδευτικούς αλλα και ανήσυχους γονείς είναι: Μπορούν οι υπολογιστές να αντικαταστήσουν την τάξη; Εταιρείες σε όλο τον κόσμο εργάζονται σε αυτό το τομέα-συμπεριλαμβανομένης φυσικά και της παρακολούθησης μαθητών.

Για ένα παιδί θαύμα,  όπως ο Derek Haoyang Li δεν ήταν πάντα εύκολο το να μάθει κάτι. Όταν ήταν τριών ετών, ο πατέρας του - ένας γνωστός εκπαιδευτικός - ήταν τόσο απογοητευμένος με την πρόοδό του στα κινέζικα που ορκίστηκε να μην τον διδάξει ξανά. Αλλά όταν ο Λι ξεκίνησε το σχολείο στα πέντε, του έκανε κλικ. Μόλις πέντε χρόνια αργότερα, επιλέχθηκε ως ένας από τους δέκα μαθητές στην επαρχία του Henan για να μάθει την επιστήμη των υπολογιστών. Στην ηλικία των 16, ο Λι υπερισχύει έναντι 15 εκατομμυρίων άλλων νέων και κέρδισε το πρώτο βραβείο στην Κινεζική Μαθηματική Ολυμπιάδα. Μεταξύ των πολλών προσφορών που έλαβε στη συνέχεια από τα κορυφαία πανεπιστήμια της χώρας, επέλεξε ένα πειραματικό πρόγραμμα ταχείας σπουδής στο Πανεπιστήμιο Jiao Tong στη Σαγκάη. Ως μέρος των μαθηματικών σπουδών του, σαν δευτερέυουσα ειδικότητα θα μπορούσε επίσης να πάρει και την επιστήμη υπολογιστών, φυσική και ψυχολογία.

Ο Λι ήταν πολύ ντροπαλός στο πρώτο του έτος στο πανεπιστήμιο και δυσκολεύτηκε να γνωρίσει άλλους φοιτητές. Έτσι ανέπτυξε έναν αλγόριθμο για να βρει φίλους στην καφετέρια. Όταν πέτυχε αυτό, άρχισε να χρησιμοποιεί αλγόριθμους σε άλλους τομείς: εκμάθηση Αγγλικών, ερμηνεία ονείρων, αναζήτηση φίλου. Και ενώ οι συμμαθητές του μελετούσαν για νύχτες, ο Λι άρχισε να σκέφτεται πώς και πού να εφαρμόσει τον αλγόριθμό του με επιχειρηματικές προσεγγίσεις. Αφού αποφοίτησε στα τέλη της χιλιετίας, αποφάσισε να το κάνει στον τομέα της εκπαίδευσης.

Η Κίνα είναι πολύ μπροστά

Κάποια στιγμή στα μέσα της περιόδου των περιοριστικών μέτρων είχαμε γράψει στο blog μας: Τι θα προτιμήσει κάποιος τη προστασία της προσωπικής του ζωής ή των προσωπικών δεδομένων του?

Σήμερα, ο 42χρονος δεν έχει πλέον σχέση με την αβεβαιότητα από τις φοιτητικές του μέρες. Ο Li είναι ο ιδρυτής του Squirrel AI(ΤΝ Σκίουρος), ενός παρόχου  διαδικτυακών μαθημάτων που λειτουργεί εν μέρει από ανθρώπους, αλλά κυρίως από έξυπνες μηχανές. Ο Λι είναι πεπεισμένος ότι θα αλλάξει ριζικά το εκπαιδευτικό σύστημα όπως το γνωρίζαμε. Σε όλο τον κόσμο οι εταιρείες ξεκινούν με μια παρόμοια προσέγγιση. Και όχι μόνο αυτό: όλο και περισσότερα χρήματα επενδύυονται στο τομέα.

Στη Silicon Valley των ΗΠΑ, εταιρείες όπως η "Knewton" ή η "Alt School" εργάζονται για την εξατομίκευση της μάθησης χρησιμοποιώντας υπολογιστές tablet. Στην Ινδία, η Byju's, μια εφαρμογή εκμάθησης ύψους 6 δισεκατομμυρίων δολαρίων, εξασφάλισε την υποστήριξη του Facebook και του κινεζικού διαδικτυακού γίγαντα Tencent. Στην Ευρώπη, η βρετανική εταιρεία Century Tech υπέγραψε συμβόλαιο για την έναρξη μιας έξυπνης πλατφόρμας 'διδασκαλίας και μάθησης' (τα εισαγωγικά του blogger) σε επτακόσια βελγικά και μερικές δεκάδες βρετανικά σχολεία.

Η πρόθεσή τους δοκιμάζεται τώρα από την πανδημία του κορωναϊού - με 849 εκατομμύρια παιδιά να μην μπορούν να πάνε στο σχολείο από τον Μάρτιο του 2020, και βρισκόμαστε στη μέση ενός άνευ προηγουμένου πειράματος σχετικά με την αποτελεσματικότητα της ηλεκτρονικής μάθησης.

Ωστόσο, η Κίνα σημειώνει ταχύτερη πρόοδο. Ο πρόεδρος Xi Jinping κάλεσε τη χώρα του να γίνει το κορυφαίο έθνος στον κόσμο στη χρήση της τεχνητής νοημοσύνης (ΤΝ) έως το 2030. Μόνο το 2018, περισσότερες από 60 εταιρείες AI εισήλθαν στην ιδιωτική κινεζική εκπαιδευτική αγορά. Η "Squirrel AI"(Σκιουρος  ΤΝ) είναι μέρος αυτής της νέας γενιάς εκπαιδευτικών επιχειρήσεων. Η εταιρεία έχει ήδη δύο εκατομμύρια εγγεγραμμένους μαθητές, έχει ανοίξει 2.600 κέντρα μάθησης σε 700 πόλεις σε ολόκληρη την Κίνα και έχει λάβει 150 εκατομμύρια δολάρια από επενδυτές.

Ο υπεύθυνος ΤΝ της εταιρείας είναι ο Tom Mitchell, πρώην Πρύτανης Επιστήμης Υπολογιστών στο Πανεπιστήμιο Carnegie Mellon στις Ηνωμένες Πολιτείες. Στη λίστα της μισθοδοσίας της εταιρείας θα βρείτε επίσης μια σειρά από κορυφαία κινέζικα ταλέντα, συμπεριλαμβανομένων δεκάδων «σούπερ εκπαιδευτικών» - ένα επίσημο όνομα που δίνεται στους πιο εξειδικευμένους εκπαιδευτικούς της χώρας. 

Στο ζενίθ της επιδημίας της Κίνας, η εταιρεία συνεργάστηκε με το Υπουργείο Παιδείας στη Σαγκάη, προσέφερε δωρεάν μαθήματα στους μαθητές της πόλης και δοκίμασε διάφορες νέες ψηφιακές δυνατότητες.

Ήταν μια απόλυτη επιτυχία για την εταιρεία. Ένα βίντεο της εταιρείας δείχνει τους απογοητευμένους δασκάλους, οι οποίοι τράβηξαν το μικρότερο σπίρτο στη συγκριση για το πόσο σύντομα μεταδίδουν το μάθημα των μαθηματικών στους μαθητές απέναντι σε έναν υπολογιστή. Τα μηχανήματα μεταδίδανε πολύ περισσότερο και ευκολότερα τη μαθησιακή ύλη.

 

 Στο κέντρο εκμάθησης «Squirrel AI» στην πόλη Hangzhou της Κίνας, το οποίο στεγάζεται στον επάνω όροφο ενός κτιρίου γραφείων, ένας δρομέας ποντικιού κινείται αργά πάνω στην πρόταση: «Η σύγχρονη τεχνολογία έχει ανοίξει τα μάτια  όλων μας σε πολλά πράγματα.» Ο 14χρονος  Χουάνγκ Ζερόνγκ κάθεται σε ένα εξαγωνικό τραπέζι και έχει ολοκληρώσει περίπου το ήμισυ ενός μαθήματος αγγλικών 90 λεπτών. Καθώς «διαβάζει» τις εργασίες του στο MacBook του, μια νεαρή γυναίκα κάθεται δίπλα του και παρακολουθεί την πρόοδό του.

Στην οθόνη του Χουάνγκ εμφανίζεται μία ερώτηση, στην οποία ένας εικονικός πίνακας δείχνει το τρέχον επίπεδο αγγλικών, τη βαθμολογία του και το επίκεντρο της μελέτης του, μαζί με το απλό σύμβολο ενός σκίουρου της εταιρείας " Squirrel AI ": 

 

Πριν από λίγους μήνες, ο Χουάνγκ ξεκίνησε το μάθημα αγγλικών ενός εξαμήνου με ένα τεστ κατάταξης. Για να το κάνει αυτό, συνδέθηκε στο φορητό του υπολογιστή στην πλατφόρμα "Σκίουρος ΤΝ". Στη συνέχεια, απάντησε σε πολλές ερωτήσεις στο διαδίκτυο για να καθοριστεί το επίπεδο των γνώσεων της γλώσσας. Με βάση τις απαντήσεις, το λογισμικό δημιούργησε ένα προσαρμοσμένο σε αυτόν πρόγραμμα εκμάθησης. Καθορίζει ποια κείμενα να διαβάσει, ποια βίντεο να παρακολουθήσει και ποια τεστ πρέπει να κάνει.

Η μητέρα πληρώνει 12.500 ευρώ

Ο Χουάνγκ λέει ότι είναι λιγότερο αποσπασμένος στο κέντρο εκμάθησης παρά στο σχολείο και αισθάνεται άνετα με την τεχνολογία. «Είναι διασκεδαστικό», λέει μετά το μάθημα. «Είναι πολύ πιο εύκολο να επικεντρωθείς στο σύστημα, επειδή είναι μια συσκευή.» Επειδή οι βαθμοί του βελτιώνονται, η μητέρα του πλήρωσε μόλις 12.500 ευρώ για ένα ακόμη έτος: δύο εξάμηνα και δύο μαθήματα κατά τη διάρκεια των διακοπών σε τέσσερα διαφορετικά θέματα , συνολικά περίπου 400 ώρες!!

Ο Λι είχε την ιδέα για το "Squirrel AI" το 2015. Μετά από δέκα χρόνια με την εταιρεία βοηθητικής διδασκαλίας(φροντιστήρια) του "Only Education", ήταν αρκετά απογοητευμένος επειδή τα όρια της κλασικής μάθησης είχαν καταστεί σαφή: για να είναι ένας μαθητής πιο επιτυχημένος, όλα εξαρτώνται  από ένα και μοναδικό, να βρείτε καλό δάσκαλο/καθηγητή. Αλλά είναι λίγοι και πολύ σπάνιοι. Η διακύμανση είναι υψηλή, οι καλύτεροι εκπαιδευτικοί προσλαμβάνονται γρήγορα από άλλες εταιρείες. Η «Only Education» έπρεπε επομένως να βρει και να εκπαιδεύει περίπου 8.000 νέους εκπαιδευτικούς κάθε χρόνο. Αυτό όχι μόνο εμπόδισε τη μαθησιακή επιτυχία των μαθητών, αλλά και την ανάπτυξη της εταιρείας.

Για τον Li, η απάντηση σε αυτά τα προβλήματα ήταν η προσαρμοστική μάθηση: τα έξυπνα συστήματα που βασίζονται σε υπολογιστή προσαρμόζονται αυτόματα στην καλύτερη μέθοδο σε κάθε έναν μεμονωμένο μαθητή. Η ιδέα της προσαρμοστικής μάθησης δεν ήταν νέα. Όμως ο Λι ήταν πεπεισμένος ότι οι γρήγορες εξελίξεις στην τεχνητή νοημοσύνη θα επέφεραν σημαντικές προόδους. Αντί να προσπαθεί να αναπαράγει τη γενική νοημοσύνη του ανθρώπινου νου, η έρευνα του πέτυχε εντυπωσιακά αποτελέσματα χρησιμοποιώντας το AI σε εξειδικευμένες εργασίες.

Για παράδειγμα, η τεχνητή νοημοσύνη μπορεί τώρα να αναλύσει τις ακτινογραφίες για ορισμένες ασθένειες πολύ καλύτερα από ότι οι  άνθρωποι. Η νομική έρευνα διεξάγεται επίσης πιο αξιόπιστα από τα ρομπότ σήμερα. Τέτοιες προόδους έδωσαν στον Λι την ελπίδα ότι κάτι παρόμοιο θα μπορούσε επίσης να είναι δυνατό στον τομέα της εκπαίδευσης. Αποφάσισε να προσθέσει έναν ακούραστο, τέλειο, εικονικό δάσκαλο στους δασκάλους του: "Φανταστείτε έναν εκπαιδευτή μαθήματος που γνωρίζει τα πάντα - συμπεριλαμβανομένου  και εσάς."

Στο Χανγκζού, ο Χουάνγκ αγωνίζεται εν τω μεταξύ να κατανοήσει τη λέξη "βιασύνη" στο μάθημα αγγλικών του. Ένας κομψός νεαρός δάσκαλος εμφανίζεται στην οθόνη του υπολογιστή και ξεκινά ένα μάθημα βίντεο. Σε μόλις τρία λεπτά, ο Χουάνγκ μαθαίνει τα πάντα για τη χρήση της λέξης και τις σχετικές εκφράσεις, όπως "βιαστικά".

Στιγμές(Momentum) όταν ένα μικρό input διδασκαλίας οδηγεί σε ένα μικρό μαθησιακό αποτέλεσμα ονομάζεται "nuggets". Ο Λι ονειρεύεται ότι η ΤΝ θα προσφέρει μια τέλεια εξατομικευμένη μαθησιακή εμπειρία. Μπορεί να προσφέρεται στο μαθητευόμενο το σωστό περιεχόμενο διδασκαλίας με τον σωστό τρόπο τη σωστή στιγμή, ανάλογα με τις ανάγκες του.

Η "Squirrel AI" βελτιώνει τα αποτελέσματά της, μεταξύ άλλων, απορροφώντας συνεχώς δεδομένα σχετικά με τους χρήστες του. Κατά τη διάρκεια του μαθήματος του Χουάνγκ, το σύστημα σώζει κάθε πάτημα πλήκτρου, κάθε κίνηση του ποντικιού, σωστές ή λανθασμένες απαντήσεις, ποια κείμενα διάβασε και ποια βίντεο παρακολούθησε. Σε αυτά τα δεδομένα συσχετίζεται και μια χρονική σήμανση. Πάνω σε αυτά τα δεδομένα διερευνάται πού και πότε παρέλειψε μια συγκεκριμένη εργασία ή δίσταζε να τη κάνει. Στη συνέχεια, προσφέρεται κάθε «nugget» βασισμένο στις  αναλύσεις των δεδομένων που συλλέχθηκαν, σε συνδυασμό με τα δεδομένα από δύο εκατομμύρια άλλους μαθητές. "Οι υπολογιστικοί καθηγητές έχουν περισσότερη διδακτική εμπειρία από ό, τι οι άνθρωποι θα μπορούσαν ποτέ να αποκτήσουν, ακόμη και μετά από εκατό χρόνια διδασκαλίας", λέει ο επικεφαλής του Tom Mitchell.

Το όνειρο μιας τέλειας εκπαίδευσης με τη χρήση ενός μηχανήματος δεν είναι νέο. Για τουλάχιστον έναν αιώνα, οι οραματιστές προέβλεπαν, ότι η τεχνολογική πρόοδος θα μεταμορφώσει τη μάθηση. «Οι ταινίες γίνονται για αυτό», έγραψε ο Αμερικανός εφευρέτης Thomas Edison το 1922, «για να φέρουν επανάσταση στα σχολεία μας». Ήταν πεπεισμένος ότι η ικανότητα να βυθίσει τον θεατή στη δράση θα επιταχύνει τη μαθησιακή διαδικασία. Άλλοι έκαναν παρόμοιες προβλέψεις για το ραδιόφωνο, την τηλεόραση, τους υπολογιστές και το Διαδίκτυο. Υπήρξαν επίσης μικρές επιτυχίες: το Ανοικτό Πανεπιστήμιο, τα πανεπιστήμια τηλεόρασης στην Κίνα τη δεκαετία του 1980 ή η Ακαδημία Khan, η οποία επί του παρόντος προσεγγίζει εκατομμύρια μαθητές με τα μαθήματά της στο YouTube.

Σε γενικές γραμμές, οι εκπαιδευτικοί διδάσκουν και συνεχίζουν να διδάσκουν στους μαθητές, όπως πάντα.

Οι λάτρεις της τεχνολογίας είναι πεπεισμένοι ότι η τεχνητή νοημοσύνη θα αλλάξει τα πάντα για δύο λόγους.

• Πρώτον, δεν βλέπουν την ΤΝ ως καινοτομία, αλλά ως «καθολική τεχνολογία» - μια εποχική εφεύρεση, όπως το τυπογραφείο στον 16ο αιώνα - που θα αλλάξει ριζικά τον τρόπο της μάθησης.
•  Δεύτερον, είναι πεπεισμένοι ότι η τεχνητή νοημοσύνη ρίχνει νέο φως στον τρόπο λειτουργίας του ανθρώπινου εγκεφάλου - όπως π.χ. το πώς η επανάληψη βελτιώνει την ικανότητα ή πώς η συνάρθρωση(αφήνοντας κενά μεταξύ της μάθησης) μπορεί να βοηθήσει να καταφέρει να ελέγξει καλύτερα το μαθησιακό υλικό.

Ο Rose Luckin, καθηγητής στο Ινστιτούτο Εκπαίδευσης του Λονδίνου και ειδικός στη μηχανική μάθηση, είναι πεπεισμένος ότι μια μέρα θα μπορούσε να είναι εφικτό ένα «Fitbit for the head». Μοιάζει πολύ με έναν ελεγκτή γυμναστικής(fitness check) για το σώμα, θα μπορούσε να κατανοήσει αμέσως τι γνωρίζει ένα άτομο και πόσο γρήγορα μαθαίνει. Η συσκευή θα χρησιμοποιεί αισθητήρες για τη συλλογή δεδομένων που αντιπροσωπεύουν έναν ακριβή, συνεχώς εξελισσόμενο χάρτη των δεξιοτήτων ενός ατόμου. Το Facebook κάνει ήδη έρευνα σε αυτόν τον τομέα. Άλλες εταιρείες πειραματίζονται με την παρακολούθηση των ματιών και κράνη που καταγράφουν τα εγκεφαλικά κύματα των παιδιών.

Παρακολούθηση σώματος

Η εκπαιδευτική επανάσταση της τεχνητής νοημοσύνης δεν έχει γίνει ακόμη πραγματικότητα. Όμως, το κλείσιμο των σχολείων παγκοσμίως λόγω κορωναϊού θα μπορούσε να αλλάξει θετικά τη στάση του κοινού απέναντι στην ηλεκτρονική μάθηση - πολλοί διαδικτυακοί πάροχοι εκπαίδευσης κάνουν τα προϊόντα τους διαθέσιμα δωρεάν σε όλα τα παιδιά που δεν μπορούν να πάνε στο σχολείο - για να μην αναφέρουμε τα παιδιά, που δεν έχουν καθόλου ή έχουν πολύ κακές εκπαιδευτικές ευκαιρίες ούτως ή άλλως. 
Υπάρχουν σήμερα περίπου 900 εκατομμύρια νέοι στον κόσμο που δεν μπορούν να μάθουν τα βασικά για μια ευημερούσα διαβίωση. Για να βοηθήσουμε αυτά τα παιδιά, η εκπαίδευση τεχνητής νοημοσύνης δεν πρέπει να είναι τέλεια - πρέπει απλώς να είναι λίγο καλύτερη από ό, τι σήμερα.

Στο βιβλίο τους «Το μέλλον των επαγγελμάτων», οι συγγραφείς Richard και Daniel Susskind επισημαίνουν ότι υπάρχει μια τάση να κατανοούμε μόνο ανθρώπινα τα επαγγέλματα που αναφέρονται σε συγκεκριμένα άτομα, όπως κρεοπώλες ή αρτοποιοί, γιατροί ή δάσκαλοι. Θεωρούμε λοιπόν αυτά τα επαγγέλματα «πολύ ανθρώπινα» για να τα αναλάβουν τα ρομπότ. Για κάποιον που προγραμματίζει έναν αλγόριθμο, από την άλλη πλευρά, μια εργασία αντιστοιχεί σε μια μεγάλη λίστα μεμονωμένων εργασιών, πολλές από τις οποίες μπορούν να μηχανοποιηθούν.

Ο τομέας εκπαίδευσης
Στον τομέα της εκπαίδευσης αυτό θα μπορούσε να είναι η βαθμολόγηση ή το  κίνητρο, μια διάλεξη ή ένας προγραμματισμός μαθήματος. Μόλις ένα μηχάνημα μπορεί να κάνει μια από αυτές τις εργασίες καλύτερα και φθηνότερα από τον μέσο καθηγητή, η αυτοματοποίηση αυτού του μέρους της εργασίας είναι αναπόφευκτη, λένε οι συγγραφείς. Η τεχνητή νοημοσύνη δεν πρέπει να είναι τόσο εξελιγμένη όσο αυτή των ανθρώπων για να είναι χρήσιμη ή ακόμη και ισχυρή. Αυτή είναι η υπόσχεση της τεχνητής νοημοσύνης και του κινδύνου της.

Κάμερα στη τάξη
Υπήρξε ένα αμφιλεγόμενο πείραμα πρόσφατα σε μια τάξη στο Hangzhou Number 11 Middle School. Τρεις κάμερες είχαν τοποθετηθεί πάνω από τον πίνακα. Το σύστημα παρακολούθησης μπορεί να ανιχνεύσει επτά συναισθηματικές καταστάσεις στα πρόσωπα των μαθητών: ουδετερότητα, αηδία, έκπληξη, θυμό, φόβο, ευτυχία και θλίψη. Όταν η προσοχή των παιδιών μειώνεται, ο δάσκαλος ειδοποιείται. Στο διεθνές εκπαιδευτικό συνέδριο AIAED στο Πεκίνο τον περασμένο Μάιο, η παρακολούθηση της τάξης ήταν ένα από τα πιο συζητημένα θέματα. Ωστόσο, οι συμμετέχοντες ασχολήθηκαν περισσότερο με το τεχνικό ζήτημα για το πώς μπορεί να βελτιστοποιηθεί η αποτελεσματικότητα της παρακολούθησης προσώπου και σώματος στην τάξη από τις πιθανές αρνητικές συνέπειες που σχετίζονται με τη συλλογή πρωτοφανών ποσοτήτων δεδομένων για τα παιδιά. Ερωτήσεις που γίνονται όλο και πιο σημαντικές σε παγκόσμια κλίμακα. Γιατί σε σχολεία στην Ινδία, τη Μεγάλη Βρετανία ή τις ΗΠΑ, η παρακολούθηση του προσώπου δοκιμάζεται επί του παρόντος.

Εάν η τεχνολογία παρακολουθεί τους μαθητές καθ' όλη τη διάρκεια της σχολικής ημέρας, καταγράφοντας κάθε πάτημα πλήκτρου, δείκτη γνώσης, έκφραση προσώπου - τότε σε κάποιο σημείο η καταγραφή αυτών των δεδομένων θα μπορούσε να κάνει τα παραδοσιακά τεστ περιττά. Όχι η μαθησιακή απόδοση της ημέρας θα καθορίσει ένα σημαντικό μέρος του βαθμού, αλλά τη συνολική απόδοση ενός μαθητή. Από την άλλη πλευρά, ένα τέτοιο σύστημα θα μπορούσε να παρέχει δεδομένα σχετικά με το στάδιο ανάπτυξης κάθε παιδιού. Δεν είναι δύσκολο να φανταστεί κανείς τους αμφίβολους σκοπούς για τους οποίους αυτές οι πληροφορίες θα μπορούσαν να καταχραστούν - για παράδειγμα, εάν η τότε σχολική συμπεριφορά χρησιμοποιηθεί για την εκτίμηση της κοινωνικής συμπεριφοράς του ενήλικου πλέον ατόμου.

Το φρονστιστήριο ως ναρκωτικό

Το κράτος επιτήρησης ήδη διεισδύει βαθιά στη ζωή των ανθρώπων στην Κίνα. Το 2019 σημειώθηκε σημαντική αύξηση στην καταχώριση διπλωμάτων ευρεσιτεχνίας για τεχνολογία αναγνώρισης προσώπου και παρακολούθησης. Όλα τα νέα κινητά τηλέφωνα στην Κίνα σήμερα πρέπει να καταχωρηθούν με σάρωση προσώπου. Οι Κινέζοι πολίτες κάνουν check in στα ξενοδοχεία χρησιμοποιώντας σαρωτή προσώπου. Το περίφημο σύστημα κοινωνικής βαθμολόγησης(social point system), το οποίο έχει ήδη δοκιμαστεί σε ορισμένες πόλεις και έχει προγραμματιστεί να εισαχθεί σε εθνικό επίπεδο αργότερα αυτό το έτος, ανταμείβει την επιθυμητή και τιμωρεί την ανεπιθύμητη συμπεριφορά αφαιρώντας πόντους από έναν προσωπικό λογαριασμό αξιοπιστίας. Το σκορ επηρεάζει την ικανότητα ταξιδιού και δανεισμού χρημάτων.

Κινέζοι ερευνητές εκπαίδευσης όπως ο Jiang Xueqin από το Chengdu αμφιβάλλουν ότι οι αλλαγές είναι τόσο επαναστατικές όσο οι υποστηρικτές της ΤΝ θα ήθελαν να τις δουν. «Οι γονείς πληρώνουν για ένα ναρκωτικό», είπε. Κατά την άποψή του, εταιρείες διδασκαλίας όπως ο σκίουρος εκμεταλλεύονται την ανησυχία των γονέων για τα αποτελέσματα των εξετάσεων των παιδιών τους. Επιτυγχάνουν μόνο, επειδή η προετοιμασία των εξετάσεων είναι το πιο εύκολο στοιχείο εκπαίδευση που μπορεί να αυτοματοποιηθεί - ένα κλειστό σύστημα με περιορισμένες μεταβλητές που επιτρέπουν φυσικά τη βελτιστοποίηση. Ο Jiang δεν εντυπωσιάζεται από την πρόοδο που έχει σημειωθεί ή τον τρόπο με τον οποίο τα παιδιά στέλνονται σε μια απελπισμένη κούρσα για να πληρούν τα πρότυπα που ορίζει το σύστημα.

Αλλά η εξέλιξη συνεχίζεται ανεξέλεγκτα. Στο συνέδριο του AIAED, παρουσιάστηκε ένα νέο, πιο φιλόδοξο όραμα προσαρμοστικής μάθησης που υπερέβαινε πολύ το να βοηθά τους μαθητές  απλά να καθίσουν για τεστ και εξετάσεις - ακόμα κι αν πολλά από αυτά ακόμη βρίσκονται στο στάδιο της δοκιμής και της ανάπτυξης. Εν τω μεταξύ, ο Λι είναι σίγουρος ότι μια μέρα το σύστημά του μπορεί να βοηθήσει τους νέους να είναι δημιουργικοί. Ένας καλός ανθρώπινος δάσκαλος είναι ακόμα ανώτερος από ένα ρομπότ, αλλά η ΤΝ θα είναι σύντομα έτοιμη να αξιολογήσει τις προφορικές απαντήσεις των μαθητών και να ανταποκριθεί σε αυτούς. Σε λιγότερο από πέντε χρόνια, θέλει να είναι σε θέση να τροφοδοτήσει την πλατφόρμα του με μια λίστα με όλες τις πιθανές ερωτήσεις και απαντήσεις και να δημιουργήσει έναν αλγόριθμο που ευνοεί εκείνους που χαρακτηρίζονται ως "δημιουργικοί". "Είναι πολύ απλό – σαν περιλαίμιο(τσιπάκι) μιας γάτας."
 
Ένα μηχάνημα πρέπει να μετρήσει εκατομμύρια εικόνες για να αναγνωρίσει μια γάτα ως μια ομάδα κάποιων "χαρακτηριστικών" που υπάρχουν μόνο στις εικόνες που επισημαίνονται ως "γάτες" (δύο τριγωνικά αυτιά, τέσσερα πόδια, δύο μάτια, γούνα) ). Ένα παιδί, από την άλλη πλευρά, μπορεί να αντλήσει την έννοια της «γάτας» από μερικά ζωντανά παραδείγματα - χάρη στην έμφυτη ικανότητά μας να κατανοούμε τα πράγματα συμβολικά. Ενώ οι μηχανές δεν μπορούν να δημιουργούν νόημα, το μυαλό μας ζωντανεύει. Το προσαρμοστικό πλεονέκτημα του εγκεφάλου μας είναι ότι μαθαίνει συνεχώς μέσα από όλες τις αισθήσεις μας αλληλοεπιδρώντας με το περιβάλλον, τον πολιτισμό μας και πάνω από όλα με τους άλλους ανθρώπους.