Η ψηφιοποίηση των εκλογών | Foreign Affairs - Hellenic Edition
Secure Connection

Η ψηφιοποίηση των εκλογών

Προώθηση ή απειλή της δημοκρατίας;*

Οι εκλογικές διαδικασίες είναι μια σημαντική πτυχή της δημοκρατίας και η ποιότητα της τελευταίας εξαρτάται από το αν διεξάγονται με κανονικό, δίκαιο, και ανταγωνιστικό τρόπο. Οι εκλογές, όπως και η υπόλοιπη κοινωνία, ψηφιοποιούνται όλο και περισσότερο. Παρά τα πλεονεκτήματα που απορρέουν από την διαδικασία της ψηφιοποίησης, παράλληλα δημιουργούνται και κρίσιμα ζητήματα ασφαλείας. Ένα από αυτά είναι η αμφισβήτηση της ακεραιότητας και νομιμότητας των εκλογικών διαδικασιών, με αποτέλεσμα η δημοκρατία να μετατρέπεται σε ένα εύθραυστο και αμφισβητούμενο σύστημα διακυβέρνησης. Κατά την διάρκεια των εκλογών γίνονται προσπάθειες χειραγώγησης της κοινής γνώμης.

21092023-1.jpg

Μια Αμερικανίδα ψηφίζει κατά την διάρκεια της πρόωρης ψηφοφορίας για τις ενδιάμεσες εκλογές των ΗΠΑ, στο Las Cruces, στο New Mexico, στις 24 Οκτωβρίου 2022. REUTERS/Paul Ratje/File Photo
--------------------------------------------------------------

Ειδικότερα, χρησιμοποιούνται πολιτικές εκστρατείες με κατευθυνόμενο περιεχόμενο, όπου οι υποψήφιοι και οι υποστηρικτές τους επιχειρούν με την χρήση των τεχνολογιών και πληροφοριών επικοινωνίας (ΤΠΕ) να χειραγωγήσουν το εκλογικό σώμα. Οι εκλογές πλέον χαρακτηρίζονται από την διάδοση ψευδών ειδήσεων και την διαδικτυακή παραπληροφόρηση, τα οποία χρησιμοποιούνται εργαλειακά στο πλαίσιο της χειραγώγησης.

Οι περιπτώσεις ψηφιακής εκλογικής παρέμβασης στοχεύουν στο να σπείρουν την κοινωνική διχόνοια, να προκαλέσουν εσωτερική πόλωση, και να δοκιμάσουν την ανθεκτικότητα των δημοκρατικών διαδικασιών. Δεδομένου ότι η ψηφιακή τεχνολογία εξελίσσεται με ραγδαίους ρυθμούς, έτσι και τα ζητήματα ασφαλείας που απορρέουν από αυτήν παρουσιάζουν αυξητική τάση. Κατά συνέπεια, η ψηφιακή εκλογική παρέμβαση συνιστά έναν ορατό κίνδυνο για την σύγχρονη δημοκρατία.

Σε πολλές κοινωνίες, τα πολιτικά κόμματα και κινήματα αμφισβητούν τους θεσμούς και τις διαδικασίες που απορρέουν από την δημοκρατία. Από τη μια πλευρά, παρατηρείται κρίση στην έννοια της δημοκρατίας, και σημειώνονται υψηλά ποσοστά αποχής των ψηφοφόρων από τις εκλογικές διαδικασίες. Από την άλλη πλευρά, οι κυβερνήσεις καθίστανται λιγότερο αποτελεσματικές και ανθεκτικές, και συχνά παραλύουν από ψηφιακές επιθέσεις και παρεμβολές από κακόβουλους κρατικούς και μη κρατικούς δρώντες. Οι κυβερνήσεις έχουν ανάγει την ασφάλεια των εκλογών σε θέμα υψηλής πολιτικής και έχουν προωθήσει την ασφαλειοποίησή τους, μέσω της υιοθέτησης έκτακτων μέτρων αντιμετώπισης. Τα βασικά ερωτήματα που γεννιούνται είναι αν η ψηφιοποίηση των εκλογών προωθεί ή απειλεί την δημοκρατία, και πώς τα κράτη αντιμετωπίζουν την ψηφιακή εκλογική παρέμβαση.

Ο ΨΗΦΙΑΚΟΣ ΧΑΡΑΚΤΗΡΑΣ ΤΩΝ ΕΚΛΟΓΩΝ

Η ψηφιοποίηση είναι ένα σύνηθες φαινόμενο που υπάρχει σε πολλούς κλάδους τα τελευταία χρόνια και οι εκλογές δεν αποτελούν εξαίρεση. Ο στόχος είναι να γίνουν οι εκλογές πιο ασφαλείς, προσβάσιμες, και ακριβείς, ενώ παράλληλα να μειωθεί η πιθανότητα ανθρώπινου λάθους ή παραποίησης των εκλογικών αποτελεσμάτων. Η ψηφιοποίηση των εκλογών δεν αφορά μόνο την ηλεκτρονική ψηφοφορία, η οποία αποτελεί ένα μέρος αυτής της περίπλοκης διαδικασίας. Η χρήση της ψηφιακής τεχνολογίας είναι υπαρκτή σε όλες τις εκλογικές διαδικασίες. Παραδείγματα ψηφιοποίησης των εκλογών είναι οι πολιτικές διαφημίσεις και εκστρατείες στα μέσα κοινωνικής δικτύωσης, οι συσκευές για την διεξαγωγή ψηφοφοριών, η εγγραφή και επικαιροποίηση των εκλογικών καταλόγων, η καταμέτρηση των ψήφων, η ψηφιακή χρηματοδότηση, οι εφαρμογές ζωντανής ροής των εκλογών αλλά και η δημοσιοποίηση εκλογικών πληροφοριών σε διαδικτυακά μέσα. Η ψηφιοποίηση των εκλογών προσφέρει την δυνατότητα στους πολίτες να αποτελούν ζωτικό μέρος της πολιτικής. Τα οφέλη που προκύπτουν από τις παραπάνω διαδικασίες αφορούν κυρίως την εξοικονόμηση χρόνου, τη μείωση της περαιτέρω γραφειοκρατίας, και την αντιμετώπιση της πολυπλοκότητας στο εκλογικό σύστημα. Άλλα πλεονεκτήματα είναι η διευκόλυνση των πολιτικών εκστρατειών και η διαφάνεια στις δημοκρατικές διαδικασίες. Σημαντικό αποτέλεσμα των παραπάνω είναι το υψηλότερο ποσοστό προσέλευσης των ψηφοφόρων, που αποτελεί κρίσιμο δείκτη για την διακυβέρνηση μιας χώρας.

Οι ψηφιακές πολιτικές εκστρατείες αποτελούν ένα από τα βασικά μέσα πολιτικής προώθησης, οι οποίες γίνονται κυρίως στα μέσα κοινωνικής δικτύωσης. Οι πολιτικοί πλέον μιμούνται τακτικές των «influencers» σε κοινωνικά δίκτυα όπως το TikTok και το Instagram για την προώθηση των ιδεών τους και για την προσέγγιση των νεότερων ηλικιακά ψηφοφόρων. Οι ψηφιακές πολιτικές εκστρατείες είναι ένας εναλλακτικός τρόπος προσέλκυσης δυνητικών ψηφοφόρων με χαμηλό κόστος και με μεγάλο εύρος απήχησης. Ακόμη και οι λιγότερο επιφανείς πολιτικοί μπορούν αξιοποιώντας το ψηφιακό οικοσύστημα να προβάλλουν την πολιτική τους ατζέντα.

Τα μέσα κοινωνικής δικτύωσης προσφέρουν την δυνατότητα ελευθερίας έκφρασης σε ένα περιβάλλον όπου οι χρήστες τους μπορούν να καταφύγουν σε πρακτικές ρητορικής μίσους, διασποράς ψευδών ειδήσεων, και στοχευμένης πόλωσης του πολιτικού διαλόγου. Συνέπεια των παραπάνω είναι ότι τα μέσα κοινωνικής δικτύωσης εφαρμόζουν πλέον περιορισμούς στην δημοσίευση περιεχομένου. Ενδεικτικά, το 2021, το Facebook εντόπισε 17,4 εκατομμύρια περιπτώσεις που περιείχαν ρητορική μίσους [1]. Οι κυβερνήσεις υιοθετώντας αντίστοιχα νομοθετικά μέτρα, έχουν θέσει περιορισμούς στην χρήση των ψηφιακών τεχνολογιών στις εκλογικές διαδικασίες. Ενδεικτικό των παραπάνω είναι η υιοθέτηση του EU Code of Practice on Disinformation (2018 και 2022) και η θεσμοθέτηση του EUvsDisinfo, τα οποία προσπαθούν να εντοπίσουν και να περιορίσουν εκστρατείες παραπληροφόρησης. Στις παραπάνω προσπάθειες συμμετέχουν εταιρείες ψηφιακής τεχνολογίας και μέσα κοινωνικής δικτύωσης.

Τα τελευταία χρόνια σημειώνεται μειωμένη συμμετοχή των ψηφοφόρων στις εκλογές, με αποτέλεσμα να προσπαθούν οι κυβερνήσεις να βρουν τρόπους αύξησής της. Ένας από αυτούς τους τρόπους είναι η υιοθέτηση της ηλεκτρονικής ψηφοφορίας, η οποία θα μπορούσε να κινητοποιήσει τους ψηφοφόρους. Ειδικότερα, η ηλεκτρονική ψηφοφορία αποσκοπεί στην αύξηση της συμμετοχής της νεολαίας, η οποία είναι άρρηκτα συνδεδεμένη και εξαρτημένη από τις νέες ψηφιακές τεχνολογίες. Η ηλεκτρονική ψηφοφορία μπορεί να είναι αποτελεσματική αν γίνει με κρυπτογραφημένο τρόπο, σε ένα ασφαλές ψηφιακό περιβάλλον, με ξεκάθαρες οδηγίες χρήσης του λογισμικού για τους ψηφοφόρους και με ανεπτυγμένες ικανότητες κυβερνοασφάλειας. Αν και τα παραπάνω συνιστούν επαρκείς προϋποθέσεις για την ομαλή διεξαγωγή της ηλεκτρονικής ψηφοφορίας, η τελευταία δεν έχει υιοθετηθεί από όλα τα κράτη λόγω περιορισμένων δυνατότητων και τεχνογνωσίας σε αυτόν τον τομέα.

Προσπάθειες για υιοθέτηση της ηλεκτρονικής ψηφοφορίας έχουν γίνει στην Γερμανία, τη Νορβηγία, και την Ελβετία, αλλά οι προσπάθειες αυτές δεν απέδωσαν. Η ηλεκτρονική ψηφοφορία υπάρχει σε περισσότερα από 34 κράτη ανά τον κόσμο [2]. Επί του παρόντος στην Ευρωπαϊκή Ένωση μόνο η Γαλλία, η Εσθονία, και το Βέλγιο χρησιμοποιούν ηλεκτρονική ψηφοφορία [3]. Η Γαλλία χρησιμοποιεί ηλεκτρονική ψηφοφορία σχετικά με τις εθνικές εκλογές και το εκλογικό σώμα διαχείρισης, π.χ. εκλογές συνδικάτων και μη δεσμευτικά δημοψηφίσματα. Το Βέλγιο χρησιμοποιεί ηλεκτρονική ψηφοφορία για τις εθνικές εκλογές. Τέλος, η Εσθονία, μια τεχνολογικά προσανατολισμένη χώρα, χρησιμοποιεί ηλεκτρονική ψηφοφορία για τις εθνικές εκλογές, όπου το 36% έως το 64% των ψηφοφόρων ψηφίζουν διαδικτυακά. Αυτά τα τρία κράτη προσπαθούν να προωθήσουν ένα ασφαλές, εκσυγχρονισμένο, και διαφανές ψηφιακό οικοσύστημα για να διευκολύνουν τις ψηφιακές εκλογικές διαδικασίες με αυτοματοποιημένο και λιγότερο δαπανηρό τρόπο.

ΨΗΦΙΑΚΗ ΕΚΛΟΓΙΚΗ ΠΑΡΕΜΒΑΣΗ

Η ευρεία χρήση των ψηφιακών τεχνολογιών επιτρέπει την ανατροπή των δημοκρατικών διαδικασιών ποικιλοτρόπως. Η διασπορά ψευδών ειδήσεων μέσω του Διαδικτύου σε ένα ευρύ ακροατήριο και η διατάραξη του πολιτικού λόγου μέσω εκστρατειών παραπληροφόρησης αποσκοπούν στον πολιτικό διχασμό και την πόλωση, τα οποία συνιστούν απειλές για την δημοκρατία. Η διατάραξη της ομαλής διεξαγωγής των εκλογών μπορεί να προκαλέσει κίνδυνο στην κοινωνική σταθερότητα και ασφάλεια, παραβίαση των ανθρωπίνων και πολιτικών δικαιωμάτων, και περιορισμούς στην ελευθερία της έκφρασης και του Τύπου.

Η ψηφιακή εκλογική παρέμβαση μπορεί να γίνει με έμμεσο και άμεσο τρόπο. Ο έμμεσος τρόπος διεξάγεται με ψηφιακές εκστρατείες παραπληροφόρησης και διάδοση ψευδών ειδήσεων, οι οποίες περιορίζουν την ελευθερία έκφρασης και την συμμετοχή στις δημοκρατικές διαδικασίες. Αυτός ο τρόπος είναι πιο χρονοβόρος και όχι πάντα αποτελεσματικός. Ο άμεσος τρόπος είναι η διεξαγωγή κακόβουλων δραστηριοτήτων μέσω του κυβερνοχώρου (κυβερνοεπιθέσεις, παραβίαση πληροφοριακών συστημάτων και λογισμικών, υποκλοπή προσωπικών δεδομένων), με σκοπό την άμεση επιρροή των εκλογικών βάσεων και την αλλοίωση ή διαγραφή των αποτελεσμάτων μιας ψηφοφορίας.

Οι ψηφιακές εκστρατείες παραπληροφόρησης περιλαμβάνουν την κατασκευή ψευδών ειδήσεων, την παραβίαση προσωπικών λογαριασμών, την λαθροθηρία, την πειρατεία των hashtags, την χρήση ρητορικής μίσους, την χρήση πληρωμένων σχολιαστών και διαφημίσεων, τη μικρο-στόχευση (micro targeting), τον ψηφιακό οστρακισμό, και την δολοφονία χαρακτήρων. Όλα τα παραπάνω αποσκοπούν να υπονομεύσουν έναν υγιή πολιτικό διάλογο και να χειραγωγήσουν την κοινή γνώμη.

Οι ψηφιακές εκστρατείες παραπληροφόρησης λειτουργούν ως δυσφήμηση για τους υποψήφιους και συμβάλλουν στα μειωμένα ποσοστά προσέλευσης των ψηφοφόρων. Η λαθροθηρία είναι η δημιουργία ψεύτικων λογαριασμών στα μέσα κοινωνικής δικτύωσης, σύμφωνα με τα στοιχεία άλλων αληθινών ή ψευδών λογαριασμών για να προωθήσουν πιο άμεσα ψευδείς ειδήσεις σε ένα στοχευμένο ακροατήριο. Η πειρατεία των hashtags, είναι μια σειρά από προτεινόμενες προελεύσεις των πηγών μέσω της χρήσης των hashtags σε δημοσιεύσεις στα μέσα κοινωνικής δικτύωσης. Δηλαδή, οι δρώντες μπορούν να έχουν πρόσβαση σε πληροφορίες άλλων χρηστών από την χρήση των hashtags, όπου επιτυγχάνεται η ψηφιακή ομαδοποίηση και καθοδήγηση του κοινού σε επιθυμητό κακόβουλο περιεχόμενο.

Οι λογαριασμοί των μέσων κοινωνικής δικτύωσης που έχουν παραβιαστεί βοηθούν στην προώθηση επιθετικών μηνυμάτων και εκστρατειών μίσους. Η ρητορική μίσους που χρησιμοποιείται κατά την διάρκεια των ψηφιακών εκστρατειών μπορεί να περιγράφει ως υβριστική μέχρι και απειλητική, γιατί μπορεί να ενεργοποιήσει αρνητικές συμπεριφορές προς τον αποδέκτη των προσβλητικών σχολίων.

Το εκλογικό μάρκετινγκ είναι μια σειρά ενεργειών πολιτικών οργανώσεων, υποψηφίων, ή ομάδων συμφερόντων που επιδιώκουν να μεγιστοποιήσουν την εκλογική τους απόδοση και να αναπτύξουν τεχνικές προώθησης και χρηματοδότησης για να επηρεάσουν την συμπεριφορά του εκλογικού σώματος. Παραδείγματα εκλογικού μάρκετινγκ είναι τα εκλογικά μηνύματα, η προβολή της εικόνας των πολιτικών, και η δημιουργία κοινωνικών δικτύων και λογαριασμών για την εύρεση υποστηρικτών [4]. Στο πλαίσιο του εκλογικού μάρκετινγκ παρουσιάζεται η κακόβουλη χρήση των μέσων κοινωνικής δικτύωσης και διαδικτυακών πλατφορμών από πληρωμένους σχολιαστές και στοχευμένες διαφημίσεις. Επιπροσθέτως, τα πολιτικά κόμματα και οι υποψήφιοί τους χρησιμοποιούν πρόσωπα από το κοινωνικό στερέωμα που έχουν μεγάλη κοινωνική απήχηση αλλά και αρκετούς ακόλουθους στα μέσα κοινωνικής δικτύωσης, για να προωθήσουν την πολιτική τους ατζέντα. Συγκεκριμένα, παρατηρήθηκε κατά την διάρκεια των προεδρικών εκλογών το 2020, ότι τόσο οι Δημοκρατικοί όσο και οι Ρεπουμπλικάνοι συνεργάστηκαν με πρόσωπα από το κοινωνικό στερέωμα επί πληρωμή, οι οποίοι είχαν εκατοντάδες χιλιάδες ακόλουθους [5]. Ο εντοπισμός και η καταστολή αυτών των λογαριασμών είναι μια δύσκολη και πολύ απαιτητική διαδικασία, αλλά και η απόδοση ευθύνης δυσχεραίνει ως διαδικασία.

Άλλη μια τακτική που έχει παρατηρηθεί έντονα είναι η μικρο-στόχευση, που αφορά την χρήση ψηφιακών δεδομένων για την δημιουργία στοχευμένων μηνυμάτων σε συγκεκριμένες ομάδες ατόμων, προκειμένου να επηρεάσει τις ενέργειες και τις απόψεις τους. Με άλλα λόγια, είναι μια τακτική δημιουργίας εξατομικευμένων μηνυμάτων, δηλαδή μια μορφή διαδικτυακής στοχευμένης προπαγάνδας, που βασίζεται στα ενδιαφέροντα του χρήστη στον οποίο απευθύνεται. Με αυτόν τον τρόπο γίνεται ο εντοπισμός και η καταγραφή των προτιμήσεων και των κοινωνικών αλληλεπιδράσεων των χρηστών στο Διαδίκτυο [6]. Η μικρο-στόχευση επηρεάζει όχι μόνο την δημοκρατική διαδικασία, αλλά και το απόρρητο των πολιτών, την ιδιωτικότητά τους, και περιορίζει τα δικαιώματα προστασίας των δεδομένων. Σε πολλές περιπτώσεις, τα δεδομένα του χρήστη εξακολουθούν να συλλέγονται, να υποβάλλονται σε επεξεργασία, και να κοινοποιούνται ακόμη και χωρίς την συναίνεση του χρήστη.

Η μικρο-στόχευση εγκυμονεί σοβαρούς κινδύνους, όπως αποδείχθηκε από το σκάνδαλο με την εταιρεία Cambridge Analytica. Η τελευταία ήταν μια εταιρεία υπεύθυνη για την δημιουργία προφίλ των ψηφοφόρων και είχε συγκεντρώσει ιδιωτικές πληροφορίες από τους προσωπικούς λογαριασμούς περισσότερων από 50 εκατομμυρίων χρηστών στο Facebook χωρίς την συγκατάθεσή τους [7]. Πιο συγκεκριμένα, υπήρξαν καταγγελίες ότι το Facebook επέτρεψε στην εταιρεία Cambridge Analytica να έχει πρόσβαση στα προσωπικά δεδομένα 87 εκατομμυρίων χρηστών του. Η εταιρεία φέρεται να χρησιμοποίησε αυτές τις πληροφορίες για να στοχεύσει ψηφοφόρους με πολιτικές διαφημίσεις στο Facebook, κατά την διάρκεια της εκλογικής περιόδου του 2016 στις ΗΠΑ και στη Μεγάλη Βρετανία.

Η χρήση των μέσων κοινωνικής δικτύωσης προσφέρει και την δυνατότητα του ψηφιακού οστρακισμού των πολιτικών υποψηφίων. Υπάρχουν πολλά παραδείγματα με δημοσιεύσεις ψευδών πληροφοριών από χρήστες του ψηφιακού κόσμου, με σκοπό να δημιουργήσουν αρνητικό αντίκτυπο στους υποψηφίους ή στους υποστηρικτές τους, με απώτερο σκοπό την περιθωριοποίησή τους. Ο κοινωνικός αποκλεισμός ενός ατόμου στο ψηφιακό περιβάλλον, είναι ένα κοινωνικό φαινόμενο που οδηγεί σε αρνητικές και αντικοινωνικές καταστάσεις. Ο ψηφιακός οστρακισμός μπορεί να επιτευχθεί με απλό και άμεσο τρόπο, όπως είναι τα αρνητικά δημόσια σχόλια, οι αρνητικές αναδημοσιεύσεις και η επιλογή του κουμπιού «δεν μου αρέσει». Αυτό το φαινόμενο μπορεί να οδηγήσει στην δολοφονία χαρακτήρων, η οποία είναι η συκοφαντία ενός ατόμου συνήθως με σκοπό να καταστρέψει την εμπιστοσύνη του κοινού στο πρόσωπο αυτό. Η προπαγάνδα στον ψηφιακό κόσμο πραγματοποιείται με την χρήση λεκτικής επίθεσης, με σκοπό να αποδομήσει πολιτικά αφηγήματα, να καταστρέψει τη φήμη πολιτικών προσώπων και να προκαλέσει έντονο πολιτικό ανταγωνισμό [8].

Η ψηφιακή εκλογική παρέμβαση περιλαμβάνει και την παράνομη χρηματοδότηση μέσω του κυβερνοχώρου με τη χρήση των παρακάτω μεθόδων: ξέπλυμα χρήματος, παράνομη οικονομική υποστήριξη, πληρωμένες ψηφιακές πολιτικές διαφημίσεις και εκστρατείες, ηλεκτρονικές πλατφόρμες για δωρεές, οικονομικές ενισχύσεις με τη μορφή κρυπτονομισμάτων κ.α. [9]. Οι παραπάνω μέθοδοι χρηματοδότησης αυξάνουν την πολιτική διαφθορά. Ειδικότερα, η διαδικτυακή συγκέντρωση οικονομικών κεφαλαίων έχει αναδειχθεί σε ένα ισχυρό μέσο για τα πολιτικά κόμματα για να εξασφαλίσουν την απαραίτητη χρηματοδότηση από ένα ευρύ φάσμα υποστηρικτών τους [10].

Η τακτική «hack and leak» (παραβίαση και διαρροή πληροφοριών) είναι ένα σύνηθες εργαλείο και μέρος της παραπληροφόρησης και προκαλεί τοξικό πολιτικό περιβάλλον. Οι κακόβουλοι δρώντες μπορούν να παραβιάσουν προσωπικούς λογαριασμούς, εκλογικές βάσεις, πληροφοριακά συστήματα πολιτικών κομμάτων και πολιτικών, όπου θα αποκτήσουν πληροφορίες, τις οποίες θα δημοσιεύσουν. Η διεξαγωγή κακόβουλων δραστηριοτήτων στον κυβερνοχώρο (πειρατεία διεύθυνσης URL, ηλεκτρονικό ψάρεμα, εγκατάσταση κακόβουλου λογισμικού, κυβερνοεπιθέσεις) αποτελούν ένα άμεσο και αποτελεσματικό μέσο ψηφιακής εκλογικής παρέμβασης. Για παράδειγμα, οι δρώντες μπορούν να αναπτύξουν κακόβουλες διαδικτυακές δραστηριότητες σε ηλεκτρονικές εκλογικές μηχανές και καταλόγους και σε πληροφοριακά συστήματα, με σκοπό να παραποιήσουν τα εκλογικά αποτελέσματα. Όπως, είχε δηλώσει η πρόεδρος της Ευρωπαϊκής Επιτροπής, Ursula von der Leyen, «Μπορείτε να διακόψετε ολόκληρες εκλογές με ένα smartphone και μια σύνδεση στο διαδίκτυο» [11].

ΤΙ ΕΧΕΙ ΣΥΜΒΕΙ ΩΣ ΤΩΡΑ

Τα τελευταία χρόνια, υπήρξαν μια σειρά από σημαντικές περιπτώσεις ψηφιακής εκλογικής παρέμβασης, οι οποίες ανέδειξαν τις τρωτότητες των εκλογικών διαδικασιών. Παραδείγματα ψηφιακής εκλογικής παρέμβασης είναι τα ακόλουθα: οι εκλογές για την κεντρική εκλογική επιτροπή της Βουλγαρίας (2015), το δημοψήφισμα για το Brexit (2016), οι προεδρικές εκλογές των ΗΠΑ (2016 και 2020), το δημοψήφισμα της Καταλονίας (2017), οι προεδρικές εκλογές της Τσεχίας (2017), οι προεδρικές εκλογές της Γαλλίας (2017), οι κοινοβουλευτικές εκλογές της Ολλανδίας (2017), οι κοινοβουλευτικές εκλογές της Πορτογαλίας (2019), και οι Ευρωεκλογές (2019).

Αυτό το φαινόμενο δεν είναι υπαρκτό μόνο στις Δυτικές κοινωνίες αλλά και σε όλες τις κοινωνίες που γίνεται εκτεταμένη χρήση της ψηφιακής τεχνολογίας και υπάρχουν δρώντες που επιθυμούν να χειραγωγήσουν την λαϊκή βούληση. Αυτά τα περιστατικά ψηφιακής εκλογικής παρέμβασης ανέδειξαν την ευπάθεια των εθνικών πληροφοριακών υποδομών και οδήγησαν στην υιοθέτηση ή την αναθεώρηση υφιστάμενων πολιτικών και στρατηγικών, τόσο σε εθνικό όσο και σε διεθνές επίπεδο.

Αυταρχικά κράτη έχουν κατηγορηθεί ότι χρησιμοποιούν τέτοιου είδους ψηφιακές πρακτικές για να επηρεάσουν εγχώριες και ξένες εκλογικές διαδικασίες. Η Ρωσία έχει κατηγορηθεί για απόπειρα πόλωσης του εκλογικού σώματος και χειραγώγησης των αποτελεσμάτων σε εθνικές εκλογές και δημοψηφίσματα σε κράτη όπως οι ΗΠΑ, η Γαλλία, η Μεγάλη Βρετανία, και το Ευρωπαϊκό Κοινοβούλιο [12]. Με παρόμοιο τρόπο, μια από τις μεγαλύτερες εταιρείες κυβερνοασφάλειας, η FireEye έχει κατηγορήσει το Ιράν ότι προσπάθησε να πολώσει τους ψηφοφόρους των ΗΠΑ κατά την διάρκεια των προεδρικών εκλογών το 2016 με την δημιουργία ψεύτικων λογαριασμών στα μέσα κοινωνικής δικτύωσης [13]. Η ίδια εταιρεία είχε εντοπίσει σχετικές δραστηριότητες σε περισσότερα από 15 κράτη τη περίοδο 2016-2019 [14]. Ομοίως, η Κίνα χρησιμοποίησε αντίστοιχες πρακτικές στις εκλογές της Δημοκρατίας της Κίνας (Ταϊβάν) το 2018 [15].

Οι κατηγορίες για ρωσική παρέμβαση στις προεδρικές εκλογές των ΗΠΑ το 2016, είναι παράδειγμα σημαίνουσας αξίας. Ρώσοι χάκερ χρησιμοποίησαν ποικίλες τακτικές για να προκαλέσουν πολιτική πόλωση στους ψηφοφόρους των ΗΠΑ και να προωθήσουν μια πολιτική εκστρατεία υπέρ του Trump [16]. Ειδικότερα, έγιναν προσπάθειες παραβίασης σε εκλογικά πληροφοριακά συστήματα σε περισσότερες από 20 πολιτείες των ΗΠΑ [17]. Οι Ρώσοι χάκερς στόχευαν συστήματα εγγραφής ψηφοφόρων και τις δημόσιες εκλογικές ιστοσελίδες, για να διαγράψουν ή να αλλάξουν τα δεδομένα των ψηφοφόρων [18]. Ο πρώτος στόχος των κακόβουλων δραστηριοτήτων ήταν η βάση δεδομένων της Δημοκρατικής Εθνικής Επιτροπής (Democratic National Committee) και ο πρόεδρος της εκστρατείας της Hilary Clinton, John Podesta.

Η ψηφιακή εκλογική παρέμβαση από τις χάκινγκ ομάδες Fancy Bear και Cozy Bear, πραγματοποιήθηκε με επιθέσεις ηλεκτρονικού ψαρέματος κατά των πληροφοριακών συστημάτων για την υποκλοπή δεδομένων [19]. Μερικές μέρες πριν από τις εκλογές, η Γενική Διεύθυνση Πληροφοριών της Ρωσίας (RU-GRU) διέρρευσε περισσότερα από 19,000 email από την Δημοκρατική Εθνική Επιτροπή μέσω του WikiLeaks, και λίγους μήνες αργότερα διέρρευσαν 20,000 email του Podesta [20]. Η διαρροή των σημαντικών αυτών πληροφοριών ονομάστηκε «DC Leaks». Επιπροσθέτως, ο Alex Stamos, επικεφαλής ασφαλείας του Facebook, ανακάλυψε ότι περίπου 100.000 δολάρια ξοδεύονταν σε διαφημιστικές πολιτικές εκστρατείες από ψεύτικους λογαριασμούς που συνδέονταν με ρωσικές πηγές, από τον Ιούνιο του 2015 έως τον Μάιο του 2017 [21].

Άλλη μια τακτική που χρησιμοποιήθηκε σε εκείνες τις εκλογές ήταν η δημιουργία ψεύτικων λογαριασμών στα μέσα κοινωνικής δικτύωσης (Facebook, YouTube, Twitter, Instagram) από την Υπηρεσία Ερευνών Διαδικτύου της Ρωσίας (RU-IRA) για να προκαλέσουν περαιτέρω εσωτερική πόλωση στους ψηφοφόρους. Οι ψηφιακές εκστρατείες παραπληροφόρησης αποσκοπούσαν στην ενθάρρυνση της συμμετοχής ακροδεξιών ψηφοφόρων, προκειμένου να προκληθεί κοινωνική διχόνοια [22]. Η κύρια εκστρατεία παραπληροφόρησης βασιζόταν σε θέματα που είχαν μεγαλύτερη απήχηση στα μέσα κοινωνικής δικτύωσης, και δεν δημιουργήσαν νέα θέματα. Οι προσπάθειές τους αποσκοπούσαν στην στόχευση της πολιτικής αξιοπιστίας της Clinton. Τα αφηγήματα επικεντρώθηκαν στο γεγονός ότι η Clinton δεν άξιζε την ψήφο των μαύρων, στην προβληματική αντιμετώπισή της σε θέματα που αφορούσαν το Ισλάμ, και στην δημιουργία ισλαμοφοβίας εντός των ΗΠΑ [23]. Ένα χαρακτηριστικό παράδειγμα είναι ότι είχαν δημιουργήσει μια σελίδα με τίτλο «Blacktivist» στο Facebook, για να μοιράζεται ψευδείς ειδήσεις και να εντείνει τα φυλετικά προβλήματα στην Αμερική [24]. Άρα, προσπαθούσαν να πείσουν τους λευκούς ψηφοφόρους να ψηφίσουν τον Trump, και να μειώσουν την συμμετοχή των μαύρων στις εκλογές, οι οποίοι σίγουρα θα ψήφιζαν Clinton, χρησιμοποιώντας το αφήγημα ότι ήταν υπερ της εγκληματικότητας των μαύρων.

21092023-2.jpg

Πολίτες ψηφίζουν σε μηχανήματα ψηφοφορίας μέσα στο Δικαστήριο της Κομητείας του Ελ Πάσο καθώς ξεκινά η πρόωρη ψηφοφορία για τις ενδιάμεσες εκλογές, στο Ελ Πάσο, στο Τέξας των ΗΠΑ, στις 24 Οκτωβρίου 2022. REUTERS/Paul Ratje/File Photo
------------------------------------------------------------------

Οι έρευνες που έχουν πραγματοποιηθεί για τη μελέτη της παραπάνω ψηφιακής εκλογικής παρέμβασης δεν έχουν καταλήξει σε ασφαλή συμπεράσματα για την ενδεχόμενη εμπλοκή της Ρωσικής κυβέρνησης στις εκλογές. Τον Ιανουάριο του 2017, μια κοινή έκθεση που δημοσιεύθηκε από την Κεντρική Υπηρεσία Πληροφοριών των ΗΠΑ (CIA), το Ομοσπονδιακό Γραφείο Ερευνών (FBI), και την Υπηρεσία Εθνικής Ασφάλειας (NSA) ανέφερε ότι η ρωσική εκστρατεία επιρροής που χρησιμοποιήθηκε στις εκλογές το 2016, ήταν ένας συνδυασμός μυστικών πληροφοριακών επιχειρήσεων που αφορούσε έντονη κακόβουλη διαδικτυακή δραστηριότητα, κρατικά χρηματοδοτούμενα μέσα ενημέρωσης, πληρωμένους χρήστες, και διαφημίσεις στα μέσα κοινωνικής δικτύωσης [25]. Η κυβέρνηση των ΗΠΑ προχώρησε στη δημιουργία θεσμών για την προστασία των εκλογών. Τέτοια παραδείγματα είναι η Υπηρεσία Κυβερνοασφάλειας και Ασφάλειας Υποδομής (CISA), το Κέντρο Κοινής Χρήσης και Ανάλυσης Πληροφοριών Υποδομής Εκλογών (EI-ISAC), η Επιτροπή Εκλογικής Βοήθειας των Η.Π.Α. (EAC), και ο νόμος Help America Vote Act (HAVA) [26].

Η ψηφιακή παρέμβαση στις γαλλικές προεδρικές εκλογές του 2017, είναι μια ακόμη σημαντική περιπτωσιολογική μελέτη. Αυτή η περίπτωση ενεργοποίησε την Γαλλία, γιατί οι προσπάθειες ψηφιακής παρέμβασης από χάκερς στόχευαν άμεσα την προεδρική εκστρατεία του Emmanuel Macron, «En Marche!», με την χρήση ηλεκτρονικού ψαρέματος [27]. Το χάκινγκ γκρουπ Fancy Bear / Pawn Storm (APT28) διέρρευσε στο διαδίκτυο δεδομένα από την προεδρική εκστρατεία μερικές ώρες πριν από την έναρξη του δεύτερου γύρου της εκλογικής διαδικασίας από έναν ανώνυμο χρήστη «EMLEAKS» [28]. Μήνες νωρίτερα από τις εκλογές είχε ήδη ξεκινήσει μια ενορχηστρωμένη εκστρατεία παραπληροφόρησης κατά της προεδρικής εκστρατείας του Macron. Οι λεγόμενες διαρροές Macron (Macron Leaks) ήταν ένας συνδυασμός πραγματικών και ψευδών μηνυμάτων ηλεκτρονικού ταχυδρομείου που αφορούσε τις πληροφορίες σχετικά με την πολιτική εκστρατεία του. Στο Twitter, πολλοί ψεύτικοι λογαριασμοί δημοσίευσαν χιλιάδες tweets με τα hashtags #MacronLeaks, #SortonsMacron (Διώξτε τον Μακρόν έξω), #Macrongate, και #Reijoignez-Marine (Συνταχθείτε με τη Marine), για να υπονομεύσουν την διαδικτυακή πολιτική εκστρατεία του Macron [29].

Η γαλλική κυβέρνηση και οι υπηρεσίες ασφαλείας είχαν προετοιμαστεί να αντιμετωπίσουν κάποιο ενδεχόμενο ψηφιακής εκλογικής παρέμβασης. Συγκεκριμένα, πριν τις εκλογές, το 2016, η Εθνική Υπηρεσία Κυβερνοασφάλειας της Γαλλίας (ANSSI) προσφέρθηκε να εκπαιδεύσει όλο το προσωπικό της εκστρατείας σχετικά με τους κινδύνους των κυβερνοεπιθέσεων και της παραπληροφόρησης. Τον Δεκέμβριο του 2016, ο υπουργός Άμυνας της Γαλλίας ανακοίνωσε την δημιουργία μιας υπηρεσίας διοίκησης στον κυβερνοχώρο που αποτελείται από 2.600 ειδικούς στον κυβερνοχώρο. Όλες αυτές οι πρωτοβουλίες δεν ήταν ικανές για να εμποδίσουν τους κακόβουλους δρώντες που αιφνιδίασαν τους υπεύθυνους για την κυβερνοασφάλεια στην Γαλλία, με την χρήση της τακτικής «hack and leak».

Αυτές οι κακόβουλες δραστηριότητες δοκίμασαν την ανθεκτικότητα της γαλλικής κρίσιμης υποδομής. Μετά από αυτό το περιστατικό, το προσωπικό πληροφορικής της προεκλογικής εκστρατείας του Macron προσπάθησε να αντιμετωπίσει τις κυβερνοεπιθέσεις με το να απαντήσουν σε αυτές τις δράσεις με την χρήση πραγματικών και ψεύτικων διαπιστευτηρίων [30]. Ο Macron δήλωσε ότι η προεκλογική του εκστρατεία ήταν θύμα μιας μαζικής και συντονισμένης επιχείρησης hacking [31]. Τα διδάγματα από την παραπάνω περίπτωση είναι ότι το Κρεμλίνο δεν κατάφερε ούτε να παρέμβει άμεσα στις προεδρικές εκλογές ούτε να διχάσει την γαλλική κοινωνία. Υποτίμησαν επίσης την αντίσταση των γαλλικών ΜΜΕ και δεν προέβλεψαν την συντονισμένη και αποτελεσματική αντίδραση του επιτελείου της εκστρατείας του Macron. Αυτό ενδεχομένως να οφείλεται στο ότι οι διαρροές αποκάλυψαν λίγες πληροφορίες για την πολιτική εκστρατεία, οι οποίες δεν ήταν αρκετές για να προκαλέσουν πόλωση. Άλλος ένας σημαντικός παράγοντας ήταν ότι οι ψευδείς λογαριασμοί που κοινοποιούσαν αυτές τις πληροφορίες ήταν στην αγγλική γλώσσα, με αποτέλεσμα να μην έχουν άμεσο αντίκτυπο στην γαλλόφωνη κοινωνία. Το Υπουργείο Εξωτερικών της Γαλλίας, κατόπιν εντολής του επικεφαλής της ANSSI, ανακοίνωσε την διακοπή της ηλεκτρονικής ψηφοφορίας για τους πολίτες του εξωτερικού λόγω του υψηλού κινδύνου κυβερνοεπιθέσεων [32]. Το Facebook είχε ενημερώσει λίγες ημέρες πριν την διεξαγωγή της ψηφοφορίας ότι είχε θέσει σε αναστολή 30.000 ψεύτικους λογαριασμούς στην Γαλλία. Βέβαια, ο πραγματικός αριθμός των λογαριασμών ήταν πάνω από 70.000 [33].

Μετά την ψηφιακή παρέμβαση στις γαλλικές προεδρικές εκλογές, υλοποιήθηκε τον Νοέμβριο του 2018, το Paris Call for Trust and Security in Cyberspace, μια πολυμερής πρωτοβουλία για την ασφάλεια στον κυβερνοχώρο με την υποστήριξη 81 κρατών, 36 δημόσιων Αρχών και τοπικών κυβερνήσεων, 390 οργανισμών, και 706 εταιρειών. Η γαλλική αυτή πρωτοβουλία στόχευε μεταξύ άλλων στον περιορισμό αντίστοιχων περιστατικών εκλογικής παρέμβασης και την προάσπιση της δημοκρατίας από κακόβουλους δρώντες [34].

ΤΕΧΝΟΛΟΓΙΚΕΣ ΛΥΣΕΙΣ ΓΙΑ ΤΙΣ ΕΚΛΟΓΕΣ

Την τελευταία δεκαετία, οι δημοκρατίες έχουν γίνει στόχοι πολυάριθμων κακόβουλων προσπαθειών τόσο από κρατικούς όσο και από μη κρατικούς δρώντες με σκοπό την αποσταθεροποίηση τους. Οι κακόβουλες δραστηριότητες στον κυβερνοχώρο και οι εκστρατείες παραπληροφόρησης αποτελούν σοβαρή απειλή για τον θεσμό των εκλογών. Η ψηφιακή εκλογική παρέμβαση είναι μια χαμηλού κόστους επιλογή, με την οποία κακόβουλοι δρώντες μπορούν να σκορπίσουν φόβο, να προκαλέσουν αποσταθεροποίηση, και να δημιουργήσουν αισθήματα ανασφάλειας και παραπλάνησης. Ως αποτέλεσμα, πολλά κράτη αναγκάζονται να διατηρήσουν ορισμένες από τις παραδοσιακές εκλογικές διαδικασίες, όπως είναι η ψηφοφορία [δια της κάλπης]. Αλλά, σε ορισμένες περιπτώσεις, κάποια κράτη έχουν αναπτύξει νέες τεχνολογικές λύσεις για τις εκλογές, οι οποίες μπορεί να είναι πιο εύκολες και προσβάσιμες ως διαδικασίες, αλλά καθιστούν τα κράτη πιο επιρρεπή σε ξένες παρεμβάσεις στην εκλογική διαδικασία.

Η ψηφιακή εκλογική παρέμβαση αποτελεί σοβαρή απειλή για την ακεραιότητα των εκλογών και μπορεί να υπονομεύσει την εμπιστοσύνη του εκλογικού σώματος. Τα κράτη υιοθέτησαν μια πολύπλευρη απάντηση για την αντιμετώπιση των απειλών που απορρέουν από την ψηφιοποίηση των εκλογικών διαδικασιών, συνδυάζοντας νομικά και τεχνολογικά μέτρα, καθώς και μέτρα που αφορούν την σύμπραξη δημοσίου-ιδιωτικού τομέα. Οι προσπάθειες αντιμετώπισης των ζητημάτων ασφαλείας έναντι της ψηφιοποίησης των εκλογών επικεντρώνονται κατά κύριο λόγο σε ζητήματα κυβερνοασφάλειας. Οι κυβερνήσεις, οι πλατφόρμες μέσων κοινωνικής δικτύωσης και άλλοι ενδιαφερόμενοι λαμβάνουν μέτρα για την πρόληψη και την καταπολέμηση της ψηφιακής εκλογικής παρέμβασης, όπως η βελτίωση της ασφάλειας στον κυβερνοχώρο, η αύξηση της διαφάνειας, η προώθηση της έγκυρης ενημέρωσης, και η ανάπτυξη μιας κουλτούρας ευαισθητοποίησης. Τα μέτρα και οι πολιτικές που εφαρμόζονται επί του παρόντος, τόσο από τον δημόσιο όσο και από τον ιδιωτικό τομέα, στοχεύουν στην αντιμετώπιση εκστρατειών παραπληροφόρησης, των κυβερνοεπιθέσεων και της παράνομης χρηματοδότησης.

Ο εντοπισμός των ζητημάτων ασφαλείας και η αντιμετώπιση των ψηφιακών προκλήσεων για την δημοκρατία είναι σημαίνουσας αξίας, για να διασφαλιστεί ότι οι εκλογές θα παραμείνουν προσβάσιμες, ασφαλείς, δίκαιες, και νόμιμες. Οι εκλογές είναι ζωτικής σημασίας για την προώθηση της δημοκρατίας, την διασφάλιση της χρηστής διακυβέρνησης, και την διατήρηση μιας υγιούς κοινωνίας. Τούτου λεχθέντος, η χρήση της ψηφιακής τεχνολογίας κατά την διάρκεια των εκλογικών διαδικασιών πρέπει να προωθεί την ανάπτυξη της δημοκρατίας και όχι να την περιορίζει. Αν πράξουμε διαφορετικά, υπάρχει κίνδυνος να καταστήσουμε τις εκλογές πιο ευάλωτες και κατ’ επέκταση να θέσουμε την δημοκρατία σε αμφισβήτηση.

ΠΑΡΑΠΟΜΠΕΣ:

*Το άρθρο αυτό δημοσιεύθηκε στο τεύχος αρ. 82 (Ιούνιος - Ιούλιος 2023) του Foreign Affairs The Hellenic Edition.

[1]Meta. (Last access 24 April 2023). Hate Speech.
[2] IDEA. (6 February 2023). Use of E-Voting Around the World.
[3] IDEA (Institute for democratic and electoral assistance). (Last access 25 April 2023) Is e-voting currently used in any elections?
[4] Garrido Martinez, J. and Medina Chicaiza, P. (2019). Electoral advertising based on proximity marketing. International Business Research 12, 9.
[5] Goodwin, Α., Joseff, Κ. and Woolley, S.M. (2020). Social media influencers and the 2020 U.S. election: Paying ‘regular people’ for digital campaign communication. Center for Media Engagement.
[6] ICO. (Last access 28 April 2023). Microtargeting.
[7] Guardian (2019). The Cambridge Analytica Files. Guardian.
[8] Simons, G. (2019). The role of propaganda in the character assassination of world leaders in international affairs, in Samoilenko, S., Icks, M., Keohane, J. & Shiraev, E. (Eds.), Routledge Handbook of Character Assassination and Reputation Management, Routledge.
[9] Kapsokoli, E. (18 April 2023). Hacking democracy: the threat of digital electoral interference for the European Union. Research Institute for European and American Studies.
[10] Rudolph, J. and Morley, J. (2020). Covert foreign money. The Alliance for Securing Democracy.
[11] European Commission. (15 September 2021). 2021 State of the Union Address by President von der Leyen.
[12] Brattberg, E. and Maurer, T. (23 May 2018). Russian Election Interference: Europe’s counter to Fake News and Cyber Attacks. Carnegie.
[13] FireEye Intelligence. (21 August 2018). Suspected Iranian Influence Operation Leverages Network of Inauthentic News Sites & Social Media Targeting Audiences in U.S., UK, Latin America, Middle East.
[14] FireEye. (2019). Cyber threat activity targeting elections. Milpitas.
[15] Martin, D.A, Shapiro, J.N. and Nedashkovskaya, M. (2019). Recent Trends in Online Foreign Influence Efforts. Journal of Information Warfare 18, No. 3, pp. 15-48.
[16] Tucker, J.A, Guess, A., Barberá, P., Vaccari, C., Siegel, A., Sanovich, S., Stukal, D. and Nyhan, B. (19 March 2018). Social Media, Political Polarization, and Political Disinformation: A Review of the Scientific Literature. Hewlett Foundation.
[17] McFadden, C., Arkin, W., Meyer, J. and Dilanian, K. (30 September 2016). Hackers Target Election Systems in 20 States. US news.
[18] National Academies of Sciences, Engineering, and Medicine. (2018). Securing the Vote: Protecting American Democracy. The National Academies Press.
[19] Marmura, S.M.E. (2018). WikiLeaks’ American Moment: The DNC Emails, Russiagate and Beyond in Marmura, S.M.E. (ed.) The WikiLeaks paradigm: paradoxes and revelations, Springer, pp.109-133.
[20] O’Sullivan, D. (22 March 2019). Russian hackers targeting European governments before elections, security firm warns. CNN.
[21] Schaake, M. and Reich, R. (October 2020). Election 2020: Foreign Interference and Domestic Manipulations Aimed at Voters and Electoral Outcomes. Stanford University.
[22] Howard, P.N., Ganesh, B., Liotsiou, D., Kelly, J. and Francois, C. (2018). The IRA and political polarization in the United States. Oxford Internet Institute.
[23] McCombie, S., Uhlmann, A.J. and Morrison, S. (2019). The US 2016 presidential election & Russia’s troll farms. Intelligence and National Security.
[24] DiResta, R., Shaffer, K., Ruppel, B. and Sullivan, D. (17 December 2018). The Disinformation Report on Foreign Interference in the 2016 Election. New Knowledge.
[25] Office of the Director of National Intelligence. (2017). Assessing Russian intentions in recent US elections. Intelligence Community Assessment.
[26] HSOAC. (2022). Securing US elections: a method for prioritizing cybersecurity risk in election infrastructure.
[27] Alouane, R.S. (29 May 2018). Macron’s Fake News Solution Is a Problem. Foreign Policy.
[28] Baines, P. and Jones, N. (2018). Influence and interference in foreign elections. RUSI Journal 163, no1, pp.12-19.
[29] Hansen, I. and Lim, D.L. (2019). Doxing democracy: influencing elections via cyber voter interference. Contemporary Politics 25, no.2, pp.150-171.
[30] Shaffer, K., Carey, C.E., and Starling, B. (6 May 2017). Democracy Hacked. Medium.com.
[31] Almasy, S. (6 May 2017). Emmanuel Macron's French presidential campaign hacked. CNN.
[32] Vilmer, J.B.J. (2018). Successfully countering Russian electoral interference. CSIS Brief.
[33] Levine, D. (8 October 2020). Cyberattacks, Foreign Interference, and Digital Infrastructure: Conducting Secure Elections amid a Pandemic. Alliance for Securing Democracy.
[34] Paris Call for Trust and Security in Cyberspace (Last access 27 April 2023)

Copyright © 2023 by the Council on Foreign Relations, Inc.
All rights reserved.