Πώς η Τεχνητή Νοημοσύνη θα αναδιαμορφώσει την παγκόσμια τάξη

Η συζήτηση για τις επιπτώσεις της τεχνητής νοημοσύνης (artificial intelligence, AI) κυριαρχείται από δύο θέματα. Το πρώτο είναι ο φόβος ενός μοναδικού περιστατικού [1], ένα γεγονός στο οποίο μια τεχνητή νοημοσύνη υπερβαίνει την ανθρώπινη νοημοσύνη και ξεφεύγει από τον ανθρώπινο έλεγχο, με πιθανώς καταστροφικές συνέπειες. Το άλλο είναι η ανησυχία ότι μια νέα βιομηχανική επανάσταση [2] θα επιτρέψει στις μηχανές να διαταράξουν και να αντικαταστήσουν τους ανθρώπους σε κάθε —ή σχεδόν σε κάθε— τομέα της κοινωνίας, από τις μεταφορές έως τον στρατό και μέχρι την υγειονομική περίθαλψη.

Αστυνομικός ελέγχει την ταυτότητα ενός άνδρα καθώς οι δυνάμεις ασφαλείας παρακολουθούν σε έναν δρόμο στην Kashgar, στην Αυτόνομη Περιφέρεια των Ουιγούρων στην επαρχία Xinjiang, στην Κίνα, τον Μάρτιο του 2017. Thomas Peter / REUTERS
-----------------------------------------------------------

Υπάρχει επίσης ένας τρίτος τρόπος με τον οποίο η τεχνητή νοημοσύνη υπόσχεται να αναδιαμορφώσει τον κόσμο. Με το να επιτρέπει στις κυβερνήσεις να παρακολουθούν, να κατανοούν, και να ελέγχουν τους πολίτες τους πολύ πιο στενά από ποτέ άλλοτε, η τεχνητή νοημοσύνη θα προσφέρει στις αυταρχικές χώρες μια εύλογη εναλλακτική στην φιλελεύθερη δημοκρατία, την πρώτη μετά το τέλος του Ψυχρού Πολέμου. Αυτό θα πυροδοτήσει έναν ανανεωμένο διεθνή ανταγωνισμό μεταξύ των κοινωνικών συστημάτων.

Για δεκαετίες, οι περισσότεροι πολιτικοί θεωρητικοί πίστευαν ότι η φιλελεύθερη δημοκρατία προσφέρει τον μόνο δρόμο για βιώσιμη οικονομική επιτυχία. Είτε οι κυβερνήσεις θα μπορούσαν να καταστείλουν τους λαούς τους και να παραμείνουν φτωχοί, είτε να τους απελευθερώσουν και να καρπωθούν τα οικονομικά οφέλη. Ορισμένες καταπιεστικές χώρες κατάφεραν να αναπτύξουν τις οικονομίες τους για ένα διάστημα, αλλά μακροπρόθεσμα ο αυταρχισμός σήμαινε πάντα στασιμότητα. Η AI υπόσχεται να ανατρέψει αυτή την διχοτόμηση. Προσφέρει έναν εύλογο τρόπο στις μεγάλες, οικονομικά προηγμένες χώρες να κάνουν τους πολίτες τους πλούσιους, διατηρώντας παράλληλα τον έλεγχο επ’ αυτών.

Ορισμένες χώρες κινούνται ήδη προς αυτή την κατεύθυνση. Η Κίνα έχει αρχίσει να οικοδομεί ένα ψηφιακό αυταρχικό κράτος [3] χρησιμοποιώντας εργαλεία επιτήρησης και μηχανικής μάθησης για τον έλεγχο των ανήσυχων πληθυσμών, και δημιουργώντας αυτό που αποκαλεί «σύστημα κοινωνικής πίστωσης» (social credit system). Αρκετές ομοϊδεάτες χώρες έχουν αρχίσει να αγοράζουν ή να μιμούνται κινεζικά συστήματα. Ακριβώς όπως ο ανταγωνισμός μεταξύ φιλελεύθερων δημοκρατικών, φασιστικών, και κομμουνιστικών κοινωνικών συστημάτων καθόρισε μεγάλο μέρος του εικοστού αιώνα, έτσι και ο αγώνας μεταξύ φιλελεύθερης δημοκρατίας και ψηφιακού αυταρχισμού πρόκειται να ορίσει τον εικοστό πρώτο.

ΨΗΦΙΑΚΟΣ ΑΥΤΑΡΧΙΣΜΟΣ

Οι νέες τεχνολογίες θα επιτρέψουν υψηλά επίπεδα κοινωνικού ελέγχου [4] με λογικό κόστος. Οι κυβερνήσεις θα μπορούν να λογοκρίνουν επιλεκτικά θέματα και συμπεριφορές για να επιτρέπουν την ελεύθερη ροή πληροφοριών για οικονομικά παραγωγικές δραστηριότητες, περιορίζοντας παράλληλα τις πολιτικές συζητήσεις που μπορεί να βλάψουν το καθεστώς. Το λεγόμενο Great Firewall της Κίνας παρέχει μια πρώιμη επίδειξη αυτού του είδους επιλεκτικής λογοκρισίας.

Εκτός από την αναδρομική λογοκρισία της ομιλίας, η τεχνητή νοημοσύνη και τα μεγάλα δεδομένα (big data) θα επιτρέψουν τον προβλεπτικό έλεγχο των πιθανών διαφωνούντων. Αυτό θα μοιάζει με την στόχευση καταναλωτών της Amazon ή της Google, αλλά θα είναι πολύ πιο αποτελεσματικό, καθώς οι αυταρχικές κυβερνήσεις θα μπορούν να αντλούν δεδομένα με τρόπους που δεν επιτρέπονται στις φιλελεύθερες δημοκρατίες. Η Amazon και η Google έχουν πρόσβαση μόνο σε δεδομένα από ορισμένους λογαριασμούς και συσκευές˙ μια AI σχεδιασμένη για κοινωνικό έλεγχο θα αντλεί δεδομένα από πολλαπλές συσκευές με τις οποίες κάποιος αλληλεπιδρά κατά την διάρκεια της καθημερινής του ζωής. Και ακόμη πιο σημαντικό, τα αυταρχικά καθεστώτα δεν θα έχουν κανέναν ενδοιασμό να συνδυάσουν τέτοια δεδομένα με πληροφορίες από φορολογικές δηλώσεις, ιατρικά αρχεία, ποινικά μητρώα, κλινικές σεξουαλικής υγείας, τραπεζικούς λογαριασμούς, γενετικές εξετάσεις, φυσικές πληροφορίες (όπως τοποθεσία, βιομετρικά στοιχεία, και παρακολούθηση μέσω CCTV με χρήση λογισμικού αναγνώρισης προσώπου), και πληροφορίες που συλλέγονται από την οικογένεια και τους φίλους. Η AI είναι τόσο καλή όσο και τα δεδομένα στα οποία έχει πρόσβαση. Δυστυχώς, η ποσότητα και η ποιότητα των δεδομένων που διατίθενται στις κυβερνήσεις για κάθε πολίτη θα αποδειχθεί εξαιρετική για την εκπαίδευση συστημάτων τεχνητής νοημοσύνης.

Ακόμη και η απλή ύπαρξη αυτού του είδους προγνωστικού ελέγχου θα βοηθήσει τους αυταρχικούς. Η αυτολογοκρισία ήταν ίσως ο πιο σημαντικός πειθαρχικός μηχανισμός της Ανατολικογερμανικής Στάζι [5]. Η AI θα κάνει την τακτική αυτή δραματικά πιο αποτελεσματική. Οι άνθρωποι θα γνωρίζουν ότι η πανταχού παρούσα παρακολούθηση των φυσικών και ψηφιακών δραστηριοτήτων τους θα χρησιμοποιηθεί για την πρόβλεψη ανεπιθύμητης συμπεριφοράς, ακόμη και για ενέργειες που απλώς τις σκέπτονται. Από τεχνική άποψη, τέτοιες προβλέψεις δεν διαφέρουν από την χρήση συστημάτων τεχνητής νοημοσύνης για υγειονομική περίθαλψη με στόχο την πρόβλεψη ασθενειών σε φαινομενικά υγιείς ανθρώπους πριν εμφανιστούν τα συμπτώματά τους.

Προκειμένου να αποτραπεί το σύστημα από το να κάνει αρνητικές προβλέψεις, πολλοί άνθρωποι θα αρχίσουν να μιμούνται τις συμπεριφορές ενός «υπεύθυνου» μέλους της κοινωνίας. Αυτές μπορεί να είναι τόσο λεπτομερείς όσο το πόσο καιρό τα μάτια κάποιου κοιτάζουν διαφορετικά στοιχεία σε μια οθόνη τηλεφώνου. Αυτό θα βελτιώσει τον κοινωνικό έλεγχο όχι μόνο αναγκάζοντας τους ανθρώπους να ενεργούν με συγκεκριμένους τρόπους, αλλά και αλλάζοντας τον τρόπο που σκέφτονται. Ένα κεντρικό εύρημα στην γνωστική επιστήμη της επιρροής είναι ότι το να κάνεις τους ανθρώπους να εκτελούν συμπεριφορές μπορεί να αλλάξει την στάση τους [6] και να οδηγήσει σε αυτο-ενισχυόμενες συνήθειες. Το να κάνεις τους ανθρώπους να αναπτύξουν μια θέση τούς κάνει πιο πιθανό να την υποστηρίξουν, μια τεχνική που χρησιμοποιούσαν οι Κινέζοι για τους αιχμαλώτους πολέμου των ΗΠΑ κατά την διάρκεια του Πολέμου της Κορέας. Οι πωλητές γνωρίζουν ότι το να κάνεις έναν δυνητικό πελάτη να εκτελέσει μικρές συμπεριφορές μπορεί να αλλάξει την στάση του σε μεταγενέστερα, μεγαλύτερα αιτήματα. Περισσότερα από 60 χρόνια εργασίας στο εργαστήριο και στο πεδίο έχουν δείξει την αξιοσημείωτη ικανότητα των ανθρώπων να εκλογικεύουν τις συμπεριφορές τους.

Εκτός από πιο αποτελεσματικό έλεγχο, η τεχνητή νοημοσύνη υπόσχεται επίσης καλύτερο κεντρικό οικονομικό σχεδιασμό. Όπως υποστηρίζει ο Jack Ma, ο ιδρυτής του κινεζικού τεχνολογικού τιτάνα Alibaba, έχοντας αρκετές πληροφορίες, οι κεντρικές Αρχές μπορούν να κατευθύνουν την οικονομία σχεδιάζοντας και προβλέποντας τις δυνάμεις της αγοράς [7]. Αντί για αργά, άκαμπτα, ενιαία σχέδια για όλους, η τεχνητή νοημοσύνη υπόσχεται γρήγορες και λεπτομερείς απαντήσεις [8] στις ανάγκες των πελατών.

Δεν υπάρχει καμία εγγύηση ότι αυτού του είδους ο ψηφιακός αυταρχισμός θα λειτουργήσει μακροπρόθεσμα, αλλά ίσως να μην το χρειάζεται, αρκεί να είναι ένα εύλογο μοντέλο στο οποίο μπορούν να στοχεύουν ορισμένες χώρες. Αυτό θα είναι αρκετό για να πυροδοτήσει έναν νέο ιδεολογικό ανταγωνισμό. Εάν οι κυβερνήσεις αρχίσουν να βλέπουν τον ψηφιακό αυταρχισμό ως μια βιώσιμη εναλλακτική λύση στην φιλελεύθερη δημοκρατία, δεν θα αισθανθούν πίεση για φιλελευθεροποίηση. Ακόμα κι αν το μοντέλο αποτύχει στο τέλος, οι προσπάθειες εφαρμογής του μπορεί να διαρκέσουν για μεγάλο χρονικό διάστημα. Τα κομμουνιστικά και φασιστικά μοντέλα κατέρρευσαν μόνο αφού απέτυχαν οι ενδελεχείς προσπάθειες εφαρμογής τους στον πραγματικό κόσμο.

ΔΗΜΙΟΥΡΓΩΝΤΑΣ ΚΑΙ ΕΞΑΓΟΝΤΑΣ ΕΝΑ ΚΡΑΤΟΣ ΠΟΥ ΤΑ ΒΛΕΠΕΙ ΟΛΑ

Ανεξάρτητα από το πόσο χρήσιμο μπορεί να αποδειχθεί ένα σύστημα κοινωνικού ελέγχου σε ένα καθεστώς, η οικοδόμησή του δεν θα ήταν εύκολη. Τα μεγάλα έργα πληροφορικής είναι γνωστό ότι είναι δύσκολο να υλοποιηθούν. Απαιτούν υψηλά επίπεδα συντονισμού, γενναιόδωρη χρηματοδότηση, και άφθονη τεχνογνωσία. Για να καταλάβετε εάν ένα τέτοιο σύστημα είναι εφικτό, αξίζει να κοιτάξετε στην Κίνα, την πιο σημαντική μη Δυτική χώρα που θα μπορούσε να δημιουργήσει ένα τέτοιο σύστημα.

Η Κίνα έχει αποδείξει ότι μπορεί να παραδώσει τεράστια έργα πληροφορικής που καλύπτουν την κοινωνία, όπως το Great Firewall [9]. Έχει επίσης την χρηματοδότηση για να κατασκευάσει μεγάλα νέα συστήματα. Πέρυσι, ο προϋπολογισμός εσωτερικής ασφάλειας της χώρας [10] ήταν τουλάχιστον 196 δισεκατομμύρια δολάρια, αυξημένος κατά 12% από το 2016. Μεγάλο μέρος του άλματος πιθανότατα οφείλεται στην ανάγκη για νέες πλατφόρμες μεγάλων δεδομένων (big data). Η Κίνα διαθέτει επίσης τεχνογνωσία στην τεχνητή νοημοσύνη [11]. Οι κινεζικές εταιρείες είναι παγκόσμιοι ηγέτες στην έρευνα τεχνητής νοημοσύνης [12] και οι Κινέζοι μηχανικοί λογισμικού συχνά κερδίζουν τους Αμερικανούς ομολόγους τους σε διεθνείς διαγωνισμούς. Τέλος, τεχνολογίες, όπως τα smartphones, που είναι ήδη ευρέως διαδεδομένες [13] μπορούν να αποτελέσουν την ραχοκοκαλιά ενός προσωπικού συστήματος παρακολούθησης. Τα ποσοστά ιδιοκτησίας smartphone στην Κίνα πλησιάζουν τα ποσοστά στην Δύση και σε ορισμένους τομείς, όπως οι πληρωμές μέσω κινητού τηλεφώνου [14], η Κίνα είναι ο παγκόσμιος ηγέτης.

Η Κίνα χτίζει ήδη τα βασικά στοιχεία ενός ψηφιακού αυταρχικού συστήματος. Το Μεγάλο Τείχος Προστασίας (Great Firewall) είναι εξελιγμένο και καλά εδραιωμένο, και έχει αυστηροποιηθεί στην διάρκεια του περασμένου χρόνου [15]. Το Freedom House, μια δεξαμενή σκέψης, αξιολογεί την Κίνα [16] ως τον παγκοσμίως χειρότερο καταχραστή της ελευθερίας του Διαδικτύου. Η Κίνα εφαρμόζει εκτεταμένη επιτήρηση [17] και στον φυσικό κόσμο. Το 2014, ανακοίνωσε ένα σχήμα κοινωνικής πίστωσης, το οποίο θα υπολογίζει έναν ενιαίο βαθμό που θα αντικατοπτρίζει την ποιότητα της συμπεριφοράς κάθε πολίτη, όπως το κατανοεί η κυβέρνηση. Η ανάπτυξη του κινεζικού κράτους επιτήρησης έχει προχωρήσει περισσότερο στην επαρχία Xinjiang, όπου χρησιμοποιείται για την παρακολούθηση και τον έλεγχο του μουσουλμανικού πληθυσμού των Ουιγούρων. Εκείνοι που το σύστημα θεωρεί μη ασφαλείς αποκλείονται από την καθημερινή ζωή˙ πολλοί στέλνονται ακόμη και σε κέντρα επανεκπαίδευσης. Εάν το Πεκίνο θέλει, θα μπορούσε να απλώσει το σύστημα σε εθνικό επίπεδο.

Σίγουρα, η ικανότητα δεν είναι το ίδιο με την πρόθεση. Αλλά η Κίνα φαίνεται να κινείται προς τον αυταρχισμό και μακριά από κάθε πρόταση φιλελευθεροποίησης. Η κυβέρνηση πιστεύει ξεκάθαρα ότι η τεχνητή νοημοσύνη και τα big data θα κάνουν πολλά για να επιτρέψουν αυτή τη νέα κατεύθυνση. Το Σχέδιο Ανάπτυξης Τεχνητής Νοημοσύνης της Κίνας για το 2017 περιγράφει το πώς η ικανότητα πρόβλεψης και «κατάκτησης της ομαδικής γνώσης» σημαίνει «η τεχνητή νοημοσύνη φέρνει νέες ευκαιρίες για κοινωνική κατασκευή».

Ο ψηφιακός αυταρχισμός δεν περιορίζεται στην Κίνα. Το Πεκίνο εξάγει το μοντέλο του. Η προσέγγιση του Great Firewall στο Διαδίκτυο έχει εξαπλωθεί στην Ταϊλάνδη και το Βιετνάμ [18]. Σύμφωνα με δημοσιεύματα ειδήσεων, Κινέζοι ειδικοί παρείχαν υποστήριξη σε κυβερνητικούς λογοκριτές στην Σρι Λάνκα [19] και προμήθευσαν εξοπλισμό παρακολούθησης ή λογοκρισίας στην Αιθιοπία, το Ιράν, την Ρωσία, την Ζάμπια [20], και την Ζιμπάμπουε [21]. Νωρίτερα φέτος, η κινεζική εταιρεία τεχνητής νοημοσύνης Yitu πούλησε [22] «φορετές κάμερες με τεχνολογία αναγνώρισης προσώπου που τροφοδοτείται από τεχνητή νοημοσύνη» στις Αρχές επιβολής του νόμου της Μαλαισίας.

Γενικότερα, η Κίνα και η Ρωσία αντέκρουσαν την αντίληψη των ΗΠΑ για ένα ελεύθερο, χωρίς σύνορα, και παγκόσμιο Διαδίκτυο. Η Κίνα χρησιμοποιεί την διπλωματική της δύναμη και την ισχύ της στην αγορά για να επηρεάσει τα παγκόσμια τεχνικά πρότυπα και να κανονικοποιήσει την ιδέα ότι οι εγχώριες κυβερνήσεις πρέπει να ελέγχουν το Διαδίκτυο με τρόπους που περιορίζουν δραστικά την ατομική ελευθερία. Μετά από αναφερθέντες έντονους ανταγωνισμούς για επιρροή σε ένα νέο φόρουμ που θα θέσει διεθνή πρότυπα για την τεχνητή νοημοσύνη, οι Ηνωμένες Πολιτείες εξασφάλισαν την γραμματεία η οποία βοηθά στην καθοδήγηση των αποφάσεων του οργανισμού, ενώ το Πεκίνο φιλοξένησε την πρώτη του συνάντηση, τον Απρίλιο, και ο Wael Diab, ανώτερος διευθυντής στην Huawei, εξασφάλισε την προεδρία της επιτροπής. Για τις κυβερνήσεις που τα χρησιμοποιούν, αυτά τα μέτρα μπορεί να φαίνονται αμυντικά -απαραίτητα για την διασφάλιση του εσωτερικού ελέγχου- αλλά άλλες κυβερνήσεις μπορεί να τα εκλάβουν ως ισοδύναμα με επιθέσεις στον τρόπο ζωής τους.

Η ΔΗΜΟΚΡΑΤΙΚΗ ΑΠΑΝΤΗΣΗ

Η άνοδος ενός αυταρχικού τεχνολογικού μοντέλου διακυβέρνησης θα μπορούσε, ίσως αντίθετα από το ένστικτο, να αναζωογονήσει τις φιλελεύθερες δημοκρατίες. Το πώς ανταποκρίνονται οι φιλελεύθερες δημοκρατίες στις προκλήσεις και τις ευκαιρίες της τεχνητής νοημοσύνης εξαρτάται εν μέρει από το πώς τις αντιμετωπίζουν εσωτερικά και εν μέρει από το πώς αντιμετωπίζουν την αυταρχική εναλλακτική στο εξωτερικό. Και στις δύο περιπτώσεις, υπάρχουν λόγοι για συγκρατημένη αισιοδοξία.

Εσωτερικά, αν και οι εδραιωμένες δημοκρατίες θα χρειαστεί να καταβάλουν συντονισμένες προσπάθειες για να διαχειριστούν την άνοδο των νέων τεχνολογιών, οι προκλήσεις δεν είναι προφανώς μεγαλύτερες από εκείνες που οι δημοκρατίες έχουν ξεπεράσει στο παρελθόν. Ένας μεγάλος λόγος για αισιοδοξία είναι η εξάρτηση από την διαδρομή. Οι χώρες με ισχυρές παραδόσεις ατομικής ελευθερίας πιθανότατα θα πάνε προς μια κατεύθυνση με τη νέα τεχνολογία˙ εκείνες που δεν έχουν, πιθανότατα θα πάνε προς άλλη [κατεύθυνση]. Ισχυρές δυνάμεις εντός της κοινωνίας των ΗΠΑ έχουν από καιρό αντιδράσει εναντίον των εγχώριων κυβερνητικών προγραμμάτων μαζικής παρακολούθησης, αν και με ποικίλη επιτυχία. Στα πρώτα χρόνια αυτού του αιώνα, για παράδειγμα, η Defense Advanced Research Projects Agency άρχισε να κατασκευάζει εγχώρια συστήματα επιτήρησης «Total Information Awareness» για να συγκεντρώνει ιατρικά, οικονομικά, φυσικά, και άλλα δεδομένα. Η αντίθεση από τα μέσα ενημέρωσης και τις ομάδες πολιτικών ελευθεριών οδήγησε το Κογκρέσο να αποχρηματοδοτήσει το πρόγραμμα, αν και άφησε ορισμένες εναλλακτικές κρυφές από το κοινό εκείνη την εποχή. Οι περισσότεροι πολίτες στις φιλελεύθερες δημοκρατίες αναγνωρίζουν την ανάγκη για κατασκοπεία στο εξωτερικό και την εγχώρια αντιτρομοκρατική παρακολούθηση, αλλά ισχυροί έλεγχοι και ισορροπίες (checks and balances) περιορίζουν το οικοδόμημα ασφαλείας του κράτους. Αυτοί οι έλεγχοι και οι ισορροπίες δέχονται επίθεση σήμερα και χρειάζονται θωράκιση, αλλά αυτό θα είναι περισσότερο μια επανάληψη των προσπαθειών του παρελθόντος παρά μια ουσιαστικά νέα πρόκληση.

Στην Δύση, οι κυβερνήσεις δεν είναι οι μόνες που απειλούν τις ατομικές ελευθερίες. Οι ολιγοπωλιακές εταιρείες τεχνολογίας συγκεντρώνουν ισχύ καταβροχθίζοντας ανταγωνιστές και ασκώντας πίεση στις κυβερνήσεις για να θεσπίσουν ευνοϊκούς κανονισμούς. Ωστόσο, οι κοινωνίες έχουν ξεπεράσει αυτήν την πρόκληση παλαιότερα, μετά από προηγούμενες τεχνολογικές επαναστάσεις. Σκεφτείτε τον πόλεμο κατά των τραστ από τον πρόεδρο των ΗΠΑ, Theodore Roosevelt, την διάλυση της AT&T την δεκαετία του 1980, και τα όρια που έθεσαν οι ρυθμιστικές Αρχές στην Microsoft κατά την άνοδο του Διαδικτύου την δεκαετία του 1990.

Οι ψηφιακοί γίγαντες βλάπτουν επίσης την ποικιλομορφία των μέσων ενημέρωσης και την υποστήριξη για περιεχόμενο δημόσιου ενδιαφέροντος, καθώς επίσης δημιουργούν και μια Άγρια Δύση στην πολιτική διαφήμιση. Όμως οι προηγούμενες ριζοσπαστικές νέες τεχνολογίες, όπως το ραδιόφωνο και η τηλεόραση, έθεταν παρόμοια προβλήματα και οι κοινωνίες ανταποκρίθηκαν στην πρόκληση. Στο τέλος, η ρύθμιση πιθανότατα θα καλύψει την διαφορά με τους νέους ορισμούς «media» και «εκδότη» που δημιουργήθηκαν από το Διαδίκτυο. Ο Διευθύνων Σύμβουλος του Facebook, Mark Zuckerberg, αντιστάθηκε στην επισήμανση της πολιτικής διαφήμισης με τον ίδιο τρόπο που απαιτείται για την τηλεόραση, έως ότου η πολιτική πίεση τον ανάγκασε [να υποκύψει] πέρυσι.

Οι φιλελεύθερες δημοκρατίες είναι απίθανο να κερδίσουν τον ψηφιακό αυταρχισμό. Πρόσφατες δημοσκοπήσεις υποδηλώνουν ότι ένα μειούμενο ποσοστό στις Δυτικές κοινωνίες θεωρεί την δημοκρατία ως «ουσιώδη», αλλά αυτό απέχει πολύ από μια πραγματική αποδυνάμωση της Δυτικής δημοκρατίας.

Η εξωτερική αμφισβήτηση από έναν νέο αυταρχικό ανταγωνιστή ίσως να ενισχύσει τις φιλελεύθερες δημοκρατίες. Η ανθρώπινη τάση να πλαισιώνει τον ανταγωνισμό με όρους «εμείς έναντι αυτών» μπορεί να οδηγήσει τις Δυτικές χώρες να καθορίσουν την στάση τους απέναντι στην λογοκρισία και την παρακολούθηση τουλάχιστον εν μέρει σε αντίθεση με τον νέο ανταγωνισμό. Οι περισσότεροι άνθρωποι βρίσκουν τις πρακτικές λεπτομέρειες της πολιτικής δεδομένων βαρετές και δίνουν λίγη προσοχή στους κινδύνους της παρακολούθησης. Αλλά όταν αυτά τα ζητήματα θεμελιώνουν ένα δυστοπικό καθεστώς στον πραγματικό κόσμο, δεν θα αποδειχθούν ούτε βαρετά ούτε αφηρημένα. Οι κυβερνήσεις και οι εταιρείες τεχνολογίας στις φιλελεύθερες δημοκρατίες θα πρέπει να εξηγήσουν το πώς διαφέρουν.

ΜΑΘΗΜΑΤΑ ΓΙΑ ΤΗΝ ΔΥΣΗ

Η Δύση μπορεί να κάνει πολύ λίγα για να αλλάξει την πορεία μιας χώρας τόσο ικανής και σίγουρης όσο η Κίνα. Τα ψηφιακά αυταρχικά κράτη πιθανότατα θα υπάρχουν για λίγο. Για να τα ανταγωνιστούν, οι φιλελεύθερες δημοκρατίες θα χρειαστούν σαφείς στρατηγικές. Πρώτον, οι κυβερνήσεις και οι κοινωνίες θα πρέπει να περιορίσουν αυστηρά την εγχώρια παρακολούθηση και χειραγώγηση. Οι τεχνολογικοί γίγαντες πρέπει να διαλυθούν και να ρυθμιστούν. Οι κυβερνήσεις πρέπει να διασφαλίσουν ένα ποικιλόμορφο, υγιές περιβάλλον μέσων ενημέρωσης, για παράδειγμα διασφαλίζοντας ότι οι υπερισχυροί ρυθμιστές της ροής πληροφόρησης όπως το Facebook δεν μειώνουν τον πλουραλισμό των μέσων ενημέρωσης˙ χρηματοδοτώντας την δημόσια ραδιοτηλεόραση˙ και ενημερώνοντας τους κανονισμούς που καλύπτουν την πολιτική διαφήμιση για να ταιριάζουν στον διαδικτυακό κόσμο. Θα πρέπει να θεσπίσουν νόμους που εμποδίζουν τις εταιρείες τεχνολογίας να εκμεταλλεύονται άλλες πηγές προσωπικών δεδομένων, όπως ιατρικά αρχεία, για τους πελάτες τους και θα πρέπει να περιορίσουν ριζικά την συλλογή δεδομένων από όλες τις πλατφόρμες με τις οποίες έρχονται σε επαφή οι άνθρωποι. Ακόμη και στις κυβερνήσεις θα πρέπει να απαγορευθεί η χρήση τέτοιων δεδομένων, εκτός από ορισμένες περιπτώσεις, όπως οι αντιτρομοκρατικές επιχειρήσεις.

Δεύτερον, οι Δυτικές χώρες θα πρέπει να εργαστούν για να επηρεάσουν τον τρόπο με τον οποίο τα κράτη που δεν είναι ούτε σταθερά δημοκρατικά ούτε σταθερά αυταρχικά εφαρμόζουν συστήματα τεχνητής νοημοσύνης και big data. Θα πρέπει να παρέχουν βοήθεια για την ανάπτυξη της φυσικής και ρυθμιστικής υποδομής των κρατών και να χρησιμοποιούν την πρόσβαση που παρέχεται από αυτή την βοήθεια για να εμποδίζουν τις κυβερνήσεις να χρησιμοποιούν συνδυασμένα δεδομένα. Θα πρέπει να προωθούν διεθνείς κανόνες που σέβονται την ιδιωτική ζωή του ατόμου καθώς και την κρατική κυριαρχία. Και θα πρέπει να οριοθετήσουν την χρήση της τεχνητής νοημοσύνης και των μεταδεδομένων (metadata) για νόμιμους σκοπούς εθνικής ασφάλειας από την χρήση της για την καταστολή των ανθρωπίνων δικαιωμάτων.

Τέλος, οι Δυτικές χώρες πρέπει να προετοιμαστούν να απωθήσουν την ψηφιακή αυταρχική καρδιά. Τεράστια συστήματα τεχνητής νοημοσύνης θα αποδειχθούν ευάλωτα σε διαταραχές, αν και καθώς τα καθεστώτα βασίζονται όλο και περισσότερο σε αυτά για την ασφάλεια, οι κυβερνήσεις θα πρέπει να φροντίσουν ώστε οι κύκλοι τιμωρίας «οφθαλμόν αντί οφθαλμού» να μην ξεφύγουν από τον έλεγχο. Συστήματα που λογοκρίνουν επιλεκτικά τις επικοινωνίες θα επιτρέψουν την οικονομική δημιουργικότητα αλλά αναπόφευκτα θα αποκαλύψουν και τον έξω κόσμο. Η νίκη στον ανταγωνισμό με τις ψηφιακές αυταρχικές κυβερνήσεις δεν θα είναι αδύνατη -εφόσον οι φιλελεύθερες δημοκρατίες μπορούν να συγκεντρώσουν την απαραίτητη πολιτική βούληση για να συμμετάσχουν σε αυτόν τον αγώνα.

*Το άρθρο αυτό έχει δημοσιευθεί στο τεύχος αριθ. 77 (Αύγουστος - Σεπτέμβριος 2022) του Foreign Affairs The Hellenic Edition.

Σύνδεσμοι:
[1] https://www.edge.org/response-detail/26157
[2] https://www.foreignaffairs.com/articles/2015-06-16/will-humans-go-way-ho...
[3] https://www.foreignaffairs.com/articles/china/2018-06-20/reeducation-ret...
[4] https://gking.harvard.edu/publications/how-censorship-china-allows-gover...
[5] http://www.spiegel.de/international/germany/east-german-domestic-surveil...
[6] https://www.amazon.co.uk/Psychology-Attitudes-Attitude-Change-Program/dp...
[7] https://www.ft.com/content/766d2a42-419d-11e8-803a-295c97e6fd0b
[8] https://www.ft.com/content/6250e4ec-8e68-11e7-9084-d0c17942ba93
[9] https://www.washingtonpost.com/opinions/china-takes-its-authoritarian-wa...
[10] https://www.wsj.com/articles/china-spends-more-on-domestic-security-as-x...
[11] https://www.cfr.org/blog/chinas-artificial-intelligence-strategy-poses-c...
[12] https://www.foreignaffairs.com/articles/china/2017-12-05/artificial-inte...
[13] http://www.pewglobal.org/2016/02/22/smartphone-ownership-and-internet-us...
[14] https://www.wsj.com/articles/chinas-mobile-payment-boom-changes-how-peop...
[15] https://www.economist.com/china/2018/01/04/chinas-great-firewall-is-rising
[16] https://freedomhouse.org/report/freedom-net/freedom-net-2017
[17] https://www.theatlantic.com/international/archive/2018/02/china-surveill...
[18] https://www.ft.com/content/c87c4364-3c43-11e7-821a-6027b8a20f23
[19] https://citizenlab.ca/cybernorms2012/governance.pdf
[20] https://freedomhouse.org/china-media/china-media-bulletin-issue-no-82#5
[21] https://rsf.org/en/news/all-communications-can-now-be-intercepted-under-...
[22] https://asia.nikkei.com/Business/Companies/Chinas-startup-supplies-AI-ba...

Copyright © 2022 by the Council on Foreign Relations, Inc.
All rights reserved.

Στα αγγλικά: https://www.foreignaffairs.com/articles/world/2018-07-10/how-artificial-...

Μπορείτε να ακολουθείτε το «Foreign Affairs, The Hellenic Edition» στο TWITTER στην διεύθυνση www.twitter.com/foreigngr αλλά και στο FACEBOOK, στην διεύθυνση www.facebook.com/ForeignAffairs.gr και στο linkedin στην διεύθυνση https://www.linkedin.com/company/foreign-affairs-the-hellenic-edition