Παρακολουθώντας το Skynet | Foreign Affairs - Hellenic Edition

Παρακολουθώντας το Skynet

Πώς τα καθεστώτα μπορούν να καταπνίγουν τα κοινωνικά κινήματα πριν καν ξεκινήσουν

Οι δικτάτορες αντιμετωπίζουν διαρκώς ένα δίλημμα: Να συνθλίψουν τις διαφωνίες για να τρομοκρατήσουν (αλλά και να εξοργίσουν) τον πληθυσμό ή να ανέχονται τις διαμαρτυρίες και να προσφέρουν μεταρρυθμίσεις για να κρατήσουν τους πολίτες σε λογαριασμό (αλλά στην διαδικασία ενθαρρύνοντας τους αντιφρονούντες). Αντί να βασίζονται σε ένστικτα, την εμπειρία ή τα ιστορικά προηγούμενα, οι δυνάστες μπορούν τώρα να ευχαριστούν τις προόδους στην ανάλυση δεδομένων και τα πανταχού παρόντα «παθητικά» δεδομένα που τους επιτρέπουν να αναπτύξουν νέες, επιστημονικά επικυρωμένες μεθόδους καταστολής. Με το να αναλύουν την δυναμική της αντίστασης σε βάθος που προηγουμένως ήταν αδύνατο, οι δυνάστες μπορούν να συντρίψουν προληπτικά τις διαφωνίες, πιο αξιόπιστα και πιο προσεκτικά.

Με τις μαθησιακές δυνατότητες των μηχανών και την ανάλυση των κοινωνικών δικτύων (machine learning and social network analysis), οι δικτάτορες μπορούν να προσδιορίσουν τους μελλοντικούς ταραξίες πολύ πιο αποτελεσματικά από όσο μέσω της ανθρώπινης διαίσθησης και μόνο. Οι έξυπνες τεχνολογίες έχουν πολύ καλύτερες επιδόσεις από τους ανθρώπινους αντίστοιχούς τους: Ένα πρόγραμμα από την Telenor Research και το MIT Media Lab χρησιμοποίησε τεχνικές μηχανικής μάθησης για την ανάπτυξη ενός αλγορίθμου για στοχευμένο μάρκετινγκ, αντιπαραβάλλοντας τον αλγόριθμό τους απέναντι σε μια ομάδα κορυφαίων ειδικών του μάρκετινγκ από μια μεγάλη ασιατική εταιρεία τηλεπικοινωνιών. Ο αλγόριθμος χρησιμοποίησε έναν συνδυασμό στοιχείων των κοινωνικών δικτύων και τηλεφωνικών μεταδεδομένων των κοινωνικών ομάδων που είχαν στοχεύσει, ενώ η ανθρώπινη ομάδα στηρίχθηκε σε δοκιμασμένες και αποδεδειγμένες μεθόδους. Όχι μόνο ο αλγόριθμος είχε σχεδόν 13 φορές μεγαλύτερη επιτυχία στην επιλογή αρχικών αγοραστών στον προγραμματισμό των κινητών τηλεφώνων, αλλά και οι αγοραστές τους ήταν 98% πιο πιθανό να διατηρήσουν [ζωντανά] τα σχέδιά τους μετά τον πρώτο μήνα (σε αντίθεση με το 37% των ανθρώπων του μάρκετινγκ).

Συγκρίσιμοι αλγόριθμοι που στοχεύουν ανθρώπους με διαφορετικό τρόπο έχουν εμφανίσει κάπως πιο δυσοίωνες προοπτικές. Για παράδειγμα, προηγμένοι αλγόριθμοι κοινωνικών δικτύων που αναπτύχθηκαν από το Πολεμικό Ναυτικό των ΗΠΑ [1], εφαρμόζονται ήδη για τον εντοπισμό βασικών μελών συμμοριών στο Σικάγο [2] και σε δήμους στην Μασαχουσέτη [3]. Αλγόριθμοι όπως αυτοί, ανιχνεύουν, χαρτογραφούν και αναλύουν τα κοινωνικά δίκτυα των ανθρώπων που συγκεντρώνουν το ενδιαφέρον (είτε τους υποτιθέμενους δράστες είτε τα θύματα εγκλημάτων). Στο Σικάγο [2], έχουν χρησιμοποιηθεί για τον εντοπισμό εκείνων που είναι πιθανότερο να εμπλακούν σε πράξεις βίας, επιτρέποντας στην αστυνομία να προσεγγίσει την οικογένεια και τους φίλους τους, προκειμένου να αξιοποιήσουν την κοινωνική τους μόχλευση ενάντια στην βία. Τα στοιχεία για τα μοντέλα αυτά μπορεί να προέλθουν από διάφορες πηγές, συμπεριλαμβανομένων των μέσων κοινωνικής δικτύωσης, των αρχείων τηλεφώνου, των αρχείων συλλήψεων και οτιδήποτε άλλο στο οποίο έχει πρόσβαση η αστυνομία. Ορισμένα προγράμματα λογισμικού αυτού του τύπου ενσωματώνουν επίσης geo-tags (γεω-ετικέτες) από άλλα στοιχεία, προκειμένου να δημιουργηθεί ένας γεωγραφικός χάρτης γεγονότων. Προγράμματα όπως αυτά έχουν αποδειχθεί αποτελεσματικά στην αξιολόγηση της αποτελεσματικότητας των ομάδων της συριακής αντιπολίτευσης [4], στον εντοπισμό δικτύων κατασκευής και διανομής αυτοσχέδιων εκρηκτικών μηχανισμών στο Ιράκ [5], στο να βοηθήσουν την αστυνομία να στοχεύσει συμμορίες αλλά και να στοχεύσει καλύτερα υπόπτους για εγκληματικές πράξεις [6] ώστε να τους ερευνήσει.

Σχετικές ανακαλύψεις σε αλγόριθμους υπολογιστών έχουν αποδειχθεί αποτελεσματικές για την πρόβλεψη μελλοντικών πολιτικών αναταραχών. Από τον Νοέμβριο του 2012, οι επιστήμονες της πληροφορικής έχουν εργαστεί [7] για το Αρχικό Μοντέλο Βασισμένης Αναγνώρισης Εκδηλώσεων με την χρήση Υποκατάστατων (Early Model Based Event Recognition using Surrogates, EMBERS [8]), έναν αλγόριθμο που αναπτύχθηκε με χρηματοδότηση από το Intelligence Advanced Research Projects Activity που χρησιμοποιεί δημοσίως διαθέσιμα tweets, δημοσιεύσεις σε blog, και άλλους παράγοντες για την πρόβλεψη διαδηλώσεων και ταραχών στην Νότια Αμερική. Μέχρι το 2014, προέβλεψε με εντυπωσιακή ακρίβεια γεγονότα τουλάχιστον μια εβδομάδα νωρίτερα. Ο αλγόριθμος μάθαινε σταθερά από τις επιτυχίες και τις αποτυχίες του, προσαρμόζοντας με κάθε διαδοχική προσπάθεια το πόσο βάραιναν οι μεταβλητές και τα δεδομένα.

03072015-3.jpg

Μια οθόνη του Laplace's Demon, ενός προγράμματος υπολογιστών που ελέγχει την δραστηριότητα των κοινωνικών δικτύων για σημάδια διαδηλώσεων. CENTER FOR RESEARCH IN LEGITIMACY AND POLITICAL PROTES
-------------------------

Στη Ρωσία, η φιλική προς το Κρεμλίνο «δεξαμενή σκέψης» Κέντρο για την Έρευνα στην Νομιμότητα και την Πολιτική Διαμαρτυρία (Center for Research in Legitimacy and Political Protest) υποστηρίζει [9] ότι έχει αναπτύξει ένα παρόμοιο σύστημα λογισμικού, που ονομάζεται Laplace’s Demon, το οποίο παρακολουθεί την κοινωνική δραστηριότητα των μέσων ενημέρωσης για σημάδια διαμαρτυρίας. Σύμφωνα με τον επικεφαλής του κέντρου, Yevgeny Venediktov, κοινωνικοί επιστήμονες, ερευνητές, κυβερνητικοί αξιωματούχοι, και οι Υπηρεσίες επιβολής του νόμου που χρησιμοποιούν το σύστημα «θα είναι σε θέση να μαθαίνουν για την προετοιμασία μη εγκεκριμένων διαδηλώσεων πολύ πριν οι πληροφορίες εμφανιστούν στα μέσα ενημέρωσης». Ο Venediktov θεωρεί το εργαλείο ως ζωτικής σημασίας μέτρο ασφάλειας για τον περιορισμό των διαδηλώσεων, δηλώνοντας ότι [10]: «Είμαστε τώρα αντιμέτωποι με μια σοβαρή κυβερνο-απειλή, την κινητοποίηση ακτιβιστών διαμαρτυρίας στην Ρωσία από δυνάμεις που βρίσκονται στο εξωτερικό», κάτι που κάνει αναγκαία τα «ενεργά και επείγοντα μέτρα για να δημιουργηθεί ένα ρωσικό σύστημα παρακολούθησης των κοινωνικών δικτύων και [ανάπτυξης του] λογισμικού που θα προειδοποιεί την ρωσική κοινωνία εκ των προτέρων σχετικά με απειλές που έρχονται».

Οι αυταρχικές κυβερνήσεις, φυσικά, έχουν πρόσβαση σε πολύ περισσότερα δεδομένα για τους πολίτες τους από όσα μια εταιρεία τηλεπικοινωνιών, ένα τοπικό αστυνομικό τμήμα, ή το Laplace’s Demon θα μπορούσαν ποτέ να ελπίζουν, γεγονός που καθιστά ευκολότερο για αυτούς να εξασφαλίσουν ότι οι άνθρωποι ποτέ δεν θα ξεφύγουν από την ήσυχη διαδικτυακή επιτήρηση των αλγορίθμων που εντοπίζουν φασαρίες. Οι κλασικές οργουελιανές δυνατότητες όπως οι τηλεφωνικές υποκλοπές, η συλλογή μεταδεδομένων επικοινωνίας, η επίβλεψη κοινόχρηστων χώρων μέσω καμερών (με την συνεχώς βελτιούμενη αναγνώριση προσώπου), η παρακολούθηση της διαδικτυακής δραστηριότητας (ισχύει ιδιαίτερα στην Κίνα [11], η οποία έχει άμεσο έλεγχο επί των παρόχων ίντερνετ και εργαλεία επιτήρησης χτισμένα απευθείας μέσα στις υπηρεσίες social media), η παρακολούθηση παραστατικών αγορών, ο έλεγχος επίσημων αρχείων της κυβέρνησης, και η κακόβουλη εισβολή σε οποιαδήποτε αρχεία υπολογιστή δεν επιτρέπουν άμεση πρόσβαση, θα γίνουν μόνο πιο αποτελεσματικές με την χρήση των νέων τεχνολογιών και αλγορίθμων.

03072015-4.jpg

Κάμερες ασφαλείας σε κτήριο στο Bund μπροστά από το οικονομικό κέντρο Pudong στην Σανγκάη, στις 6 Μαρτίου 2015. ALY SONG / REUTERS
---------------------

Υπάρχουν πολλές νέες μέθοδοι επιτήρησης που είναι διαθέσιμες με το πάτημα ενός κουμπιού. Για παράδειγμα, ο πρώην πρόεδρος της Ουκρανίας, Βίκτορ Γιανουκόβιτς, έστειλε ένα κείμενο μαζικής παθητικής καταπίεσης [12] προς εκείνους που ήταν κοντά σε μια διαδήλωση, προειδοποιώντας τους ότι είχαν καταχωρηθεί ως συμμετέχοντες σε μαζικές ταραχές. Οι κυβερνήσεις μπορούν να παρακολουθούν τις θέσεις των πολιτών τους μέσω των κινητών, και έρχεται και το μέλλον του εντοπισμού ανθρώπων μέσω φορετών υπολογιστών και έξυπνων συσκευών. Με μια σταθερή ροή δεδομένων που διατίθενται από σχεδόν κάθε πολίτη, αυτοματοποιημένα φίλτρα όπως το EMBERS μπορούν σταθερά να μαθαίνουν ποια στοιχεία είναι πολύτιμα και να τα ιεραρχούν καταλλήλως. Τα μηχανήματα έχουν ήδη δείξει ότι είναι ικανά να αποκομίζουν μια ποικιλία ιδιωτικών γνωρισμάτων μέσω των like στο Facebook [13], να χρησιμοποιούν τα προφίλ κοινωνικής δικτύωσης για να προβλέπουν το αν κάποιες ομάδες θα κολλήσουν μεταξύ τους [14], να προσδιορίζουν τα χαρακτηριστικά της προσωπικότητας μέσα από τα δεδομένα του τηλεφώνου και την δραστηριότητα στο Twitter [15] [ 16], να καθορίσουν το στάδιο της εγκυμοσύνης κάποιας μέσω της αγοραστικής της συμπεριφοράς [17], ή να εξακριβώσουν πόσο πιθανό είναι κάποιος να λάβει ένα συγκεκριμένο φάρμακο με βάση μια ποικιλία φαινομενικά άσχετων παραγόντων [18].

Την ίδια στιγμή που η μαζική παρακολούθηση γίνεται όλο και λιγότερο ενοχλητική [στμ: εννοείται αντιληπτή], η ολοκληρωτική μαζική λογοκρισία, άλλοτε ένα εφεδρικό εργαλείο των καταπιεστικών καθεστώτων σε όλο τον κόσμο, μπορεί να έχει μια πιο αποτελεσματική εναλλακτική λύση χάρη στην αναλυτική (analytics). Μια κραυγαλέα λογοκρισία μπορεί όχι μόνο να προκαλέσει αντίδραση, αλλά περιπλέκει επίσης την ικανότητα των κρατών να ελέγχουν τους ανθρώπους τους με το να τους ενθαρρύνει είτε να χρησιμοποιήσουν τα κανάλια επικοινωνίας που είναι πιο δύσκολο να παρακολουθηθούν είτε να σκεφτούν πώς να αποφύγουν έξυπνα το να στοχοποιηθούν [19] χρησιμοποιώντας κωδικοποιημένη γλώσσα ή σύμβολα. Το Grass-Mud Horse, για παράδειγμα, είναι ένα εντελώς φανταστικό πλάσμα που διαδόθηκε στο κινεζικό Διαδίκτυο, επειδή η προφορά του ακούγεται σαν μια απίστευτα χυδαία βλαστήμια που η αυτόματη λογοκρισία του Κομμουνιστικού Κόμματος κανονικά θα συνελάμβανε. Ωστόσο, το ίδιο το κείμενο φαίνεται ακίνδυνο, οπότε οι λογοκριτές δεν θα μπορούσαν εύκολα να το πατάξουν. Πράγματι, οι Κινέζοι χρήστες του Διαδικτύου έχουν αναπτύξει πολύ εκτεταμένα συστήματα κωδικών [20] φράσεων για να αποφύγουν την αυτόματη ανίχνευση ορισμένων αισθημάτων.

03072015-5.jpg

Μια γυναίκα βάφει πάνω από την ρωσική λέξη «ελευθερία» στην διάρκεια μιας διαμαρτυρίας κατά της λογοκρισίας στην Μόσχα, στις 5 Απριλίου 2006. ALEXANDER NATRUSKIN
--------------------------

Τα αυταρχικά καθεστώτα έχουν γίνει όλο και πιο έξυπνα στο πώς να επηρεάζουν τον δημόσιο διάλογο. Η Ρωσία μπορεί να υπερηφανεύεται για έναν καλά οργανωμένο στρατό [21] πληρωμένων ανώνυμων σχολιαστών στο διαδίκτυο. Αυτοί οι πράκτορες προσπαθούν συγκεκαλυμμένα να επηρεάσουν τις απόψεις τόσο σε εσωτερικό όσο και σε διεθνές επίπεδο, αναρτώντας σε (ρωσικής και αγγλικής γλώσσας) φόρουμ και μέσα κοινωνικής δικτύωσης που διαθέτουν ειδήσεις για το έθνος, στοιχεία σχετικά με την Ουκρανία, ή επικρίσεις για τον Ρώσο πρόεδρο Βλαντιμίρ Πούτιν. Αναφορές συνδέουν επίσης την ομάδα με προσπάθειες χειραγώγησης της παγκόσμιας γνώμης για τον πρόεδρο των ΗΠΑ Μπαράκ Ομπάμα, καθώς και την διαιώνιση πολλών σοβαρών online φαρσών, συμπεριλαμβανομένων ψευδών αναφορών στις Ηνωμένες Πολιτείες για κάποια έκρηξη σε χημικό εργοστάσιο, ξέσπασμα του ιού Έμπολα, και θανατηφόρο πυροβολισμό [εναντίον] άοπλης μαύρης γυναίκας από την αστυνομία στον απόηχο του πυροβολισμού στο Ferguson.

Η Κίνα πρωτοπόρησε στην χρήση πληρωμένων από την κυβέρνηση σχολιαστών με το δικό τους 50 Cent Party, τους αμέτρητους [22] σχολιαστές που κατευθύνουν τις διαδικτυακές συζητήσεις σε κατευθύνσεις που εγκρίνει το κόμμα. Σύμφωνα με μια συνέντευξη στο New Statesman [23] από ένα ανώνυμο μέλος του 50 Cent Party, ο στόχος είναι «να καθοδηγήσει τις σκέψεις των χρηστών του Διαδικτύου, να θολώσει την εστίασή τους, ή να αναζωπυρώσει τον ενθουσιασμό τους για κάποιες ιδέες». Αυτό ευθυγραμμίζεται με την ομιλία του πρώην πρόεδρου της Κίνας, Χου Ζιντάο, στο Politburo το 2007, με την οποία ζήτησε από την οργάνωση «να επιβεβαιώσει την υπεροχή πάνω στην online κοινή γνώμη» και «να μελετήσει την τέχνη της online καθοδήγησης». [24] Όπως ο Veneditkov και άλλοι στην Ρωσία, τα μέλη της κινεζικής κυβέρνησης βλέπουν αυτήν την καθοδήγηση ως αναγκαία για την προστασία της ηγεσίας τους απέναντι στις απόπειρες των ξένων να ξεσηκώσουν αναταραχή. Τον περασμένο Μάιο, ο Λαϊκός Απελευθερωτικός Στρατός ισχυρίστηκε δημοσίως [25] ότι «Δυτικές εχθρικές δυνάμεις, μαζί με ένα μικρό αριθμό Κινέζων ‘ιδεολογικών προδοτών’ επιτέθηκαν κακόβουλα στο Κομμουνιστικό Κόμμα της Κίνας, και αμαύρωσαν τους ιδρυτικούς ηγέτες και ήρωές μας, με την βοήθεια του Διαδικτύου. ... Ο βασικός στόχος τους είναι να μας μπερδέψουν με ‘οικουμενικές αξίες’, να μας διαταράξουν με την ‘συνταγματική δημοκρατία’, και τελικά να ανατρέψουν την χώρα μας μέσω ‘χρωματιστών επαναστάσεων’».

Η ικανότητα των δυναστών να οχυρωθούν έναντι της αλλαγής καθεστώτος μπορεί να βελτιωθεί περαιτέρω μέσω της προσεκτικής ανάλυσης του τρόπου που εξαπλώνονται οι ειδήσεις και οι ιδέες. Οι ακαδημαϊκοί έχουν την δυνατότητα να παρακολουθούν την διάδοση των ιδεών (αυτόματα, συγκεντρώνοντας διακριτές λέξεις και φράσεις σε ενοποιημένες ομάδες) σε εκατομμύρια δικτυακούς τόπους ειδήσεων ήδη από το 2009 [26] και έκτοτε έχουν δημιουργήσει ποσοτικά μοντέλα διάχυσης. Από το 2012 [27], οι μελετητές έχουν αναπτύξει μαθηματικά μοντέλα για να συμπεράνουν το πώς ρέουν οι πληροφορίες από την μια ομάδα στην άλλη διαμέσω εκατομμυρίων blogs και ειδησεογραφικών ιστότοπων, χωρίς καν να έχουν άμεσες πληροφορίες σχετικά με το πώς μεταδόθηκαν.

Αυτές οι καινοτομίες μπορούν να χρησιμοποιηθούν για να μετατρέψουν τα τηλεφωνικά μεταδεδομένα και την διαδικτυακή δραστηριότητα σε σύνθετα μοντέλα που απεικονίζουν το πώς εξαπλώνονται οι ιδέες. Όταν συνδυαστούν με ψυχολογικά προφίλ συγκεκριμένων ανθρώπων που έχουν γίνει με αλγόριθμους, οι κυβερνήσεις μπορούν να προβλέψουν το πώς οι ιδέες θα εξαπλωθούν και επίσης να τις κατευθύνουν κατά το δοκούν. Ακόμη και μια διαφορά τόσο λεπτεπίλεπτη όσο η σειρά με την οποία μια μηχανή αναζήτησης δίνει αποτελέσματα έχει βρεθεί [28] ότι επηρεάζει δραματικά τον σχηματισμό των πολιτικών απόψεων: Οι περισσότεροι χρήστες του διαδικτύου θα επισκεφθούν τα πρώτα αποτελέσματα αναζήτησης και θα αγνοήσουν τα επόμενα αποτελέσματα, γεγονός που υποδηλώνει ότι ένα μεγάλο εύρος κόσμου μπορεί να έχει επηρεασμένες πεποιθήσεις μέσω ανεπαίσθητων, υπολογισμένων κινήσεων. Ομοίως, ακόμη και το χρώμα του κειμένου μπορεί να επηρεάσει την συμπεριφορά και την στάση των ανθρώπων, όπως αποδεικνύεται σε μια πρόσφατη μελέτη των χαρακτηριστικά των online τυχερών παιχνιδιών [29].

Με αυτές τις εξελίξεις είτε στην διάθεσή τους είτε στο εγγύς μέλλον, φαίνεται ότι τα καθεστώτα θα είναι σε θέση να ωθήσουν σταθερά τις κοινωνίες τους προς κάποιο πρότυπο ενός υποταγμένου αστυνομικού κράτους, απομονώνοντας τους πολίτες τους από τυχόν παράγοντες που μπορεί να επηρεάσουν τις σκέψεις τους προς κάποια εξέγερση. Με τον εντοπισμό και την εξάλειψη των «δυσλειτουργιών» που προκαλούν διαφωνίες, τα καθεστώτα αυτά θα μπορούσαν αργά αλλά σταθερά να ανασχεδιάσουν την ανθρωπότητα σε τέλειες μηχανές-υπηρέτες. Χάρη στις προόδους στην επιστήμη των υπολογιστών, τα αυταρχικά καθεστώτα μπορούν να γίνουν πιο ασφαλή από ποτέ.

Copyright © 2015 by the Council on Foreign Relations, Inc.
All rights reserved.

Στα αγγλικά: https://www.foreignaffairs.com/articles/china/2015-07-01/eye-skynet

Σύνδεσμοι:
[1] http://dl.acm.org/citation.cfm?id=2623331
[2] http://www.governing.com/topics/public-justice-safety/gov-social-media-t...
[3] http://www.nytimes.com/2012/05/01/us/springfield-mass-fights-crime-using...
[4] http://my.nps.edu/documents/104382430/104582385/April+2013/2225f7c2-49d7...
[5] http://my.nps.edu/documents/104382430/104582412/IEDNA+Presentation/28894...
[6] http://www.nytimes.com/2012/05/01/us/springfield-mass-fights-crime-using...
[7] http://www.newsweek.com/2015/03/20/embers-project-can-predict-future-twi...
[8] http://arxiv.org/abs/1402.7035
[9] http://arstechnica.com/tech-policy/2015/05/pre-thoughtcrime-russian-thin...
[10] http://www.themoscowtimes.com/news/article/computer-program-to-trawl-soc...
[11] http://surveillance.rsf.org/en/china/
[12] http://www.theguardian.com/world/2014/jan/21/ukraine-unrest-text-message...
[13] http://www.pnas.org/content/110/15/5802.full
[14] http://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=2&cad=rja&u...
[15] http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=6113107&url=http%3...
[16] http://www.cl.cam.ac.uk/~dq209/publications/quercia11twitter.pdf
[17] http://www.nytimes.com/2012/02/19/magazine/shopping-habits.html?_r=0
[18] http://www.fico.com/en/wp-content/secure_upload/FICO_Medication_Adherenc...
[19] http://www.nytimes.com/2009/03/12/world/asia/12beast.html?em
[20] http://www.wsj.com/articles/SB10001424127887323874204578219832868014140
[21] http://www.nytimes.com/2015/06/07/magazine/the-agency.html?_r=0
[22] http://gking.harvard.edu/files/censored.pdf
[23] http://www.newstatesman.com/politics/politics/2012/10/china%D5s-paid-tro...
[24] http://www.economist.com/news/special-report/21574629-how-china-makes-su...
[25] http://news.xinhuanet.com/english/2015-05/20/c_134254845.htm
[26] http://www.cs.cornell.edu/home/kleinber/kdd09-quotes.pdf
[27] http://cs.stanford.edu/people/jure/pubs/netinf-tkdd12.pdf
[28] http://www.fraw.org.uk/files/politics/epstein_robertson_2013.pdf
[29] http://gdcvault.com/play/1017940/The-Science-Behind-ShapingPlayer

Μπορείτε να ακολουθείτε το «Foreign Affairs, The Hellenic Edition» στο TWITTER στην διεύθυνσηwww.twitter.com/foreigngr αλλά και στο FACEBOOK, στην διεύθυνση www.facebook.com/ForeignAffairs.grκαι στο linkedin στην διεύθυνση https://www.linkedin.com/company/foreign-affairs-the-hellenic-edition