Τα deepfakes και ο νέος πόλεμος παραπληροφόρησης

Τα deepfakes έχουν πολλές αξιόλογες εφαρμογές. Ο τροποποιημένος ήχος ή το βίντεο μιας ιστορικής προσωπικότητας, για παράδειγμα, θα μπορούσε να δημιουργηθεί με σκοπό την εκπαίδευση των παιδιών. Μια εταιρεία μέχρι που ισχυρίζεται ότι μπορεί να χρησιμοποιήσει την τεχνολογία για να αποκαταστήσει την ομιλία σε άτομα που έχουν χάσει την φωνή τους λόγω ασθενειών. Αλλά τα deepfakes μπορούν και πρόκειται να χρησιμοποιηθούν για σκοτεινότερους σκοπούς, επίσης. Οι χρήστες έχουν ήδη χρησιμοποιήσει τεχνολογία deepfake για να εισάγουν πρόσωπα ανθρώπων στην πορνογραφία χωρίς την συγκατάθεση ή την γνώση τους, και η αυξανόμενη ευκολία δημιουργίας ψεύτικου περιεχομένου ήχου και βίντεο θα δημιουργήσει άφθονες ευκαιρίες για εκβιασμούς, εκφοβισμούς και σαμποτάζ. Οι πιο τρομακτικές εφαρμογές της τεχνολογίας deepfake, ωστόσο, μπορεί να είναι στον τομέα της πολιτικής και των διεθνών υποθέσεων. Εκεί, τα deepfakes μπορούν να χρησιμοποιηθούν για να δημιουργήσουν ασυνήθιστα αποτελεσματικά ψέματα ικανά να ενθαρρύνουν την βία, να απαξιώνουν ηγέτες και θεσμούς, ή ακόμα και να επηρεάζουν εκλογές.

Τα deepfakes έχουν την δυνατότητα να είναι ιδιαίτερα καταστροφικά επειδή φτάνουν σε μια εποχή που είναι ήδη πιο δύσκολο να διαχωριστεί το γεγονός από τη μυθοπλασία [4]. Για μεγάλο μέρος του εικοστού αιώνα, τα περιοδικά, οι εφημερίδες και οι τηλεοπτικοί σταθμοί διαχειρίστηκαν την ροή των πληροφοριών προς το κοινό. Οι δημοσιογράφοι καθιέρωσαν αυστηρά επαγγελματικά πρότυπα για τον έλεγχο της ποιότητας των ειδήσεων και ο σχετικά μικρός αριθμός μέσων μαζικής ενημέρωσης σήμαινε ότι μόνο ένας περιορισμένος αριθμός ατόμων και οργανισμών θα μπορούσε να διανείμει ευρέως τις πληροφορίες. Ωστόσο, την τελευταία δεκαετία, όλο και περισσότεροι άνθρωποι έχουν αρχίσει να λαμβάνουν τις πληροφορίες τους από πλατφόρμες κοινωνικής δικτύωσης όπως το Facebook και το Twitter, οι οποίες εξαρτώνται από μια μεγάλη γκάμα χρηστών για την δημιουργία σχετικά αφιλτράριστου περιεχομένου. Οι χρήστες τείνουν να χειρίζονται τις εμπειρίες τους έτσι ώστε να έρχονται σε επαφή με απόψεις με τις οποίες συμφωνούν ήδη (μια τάση που ενισχύεται από τους αλγόριθμους των πλατφορμών), μετατρέποντας την τροφοδότηση των κοινωνικών μέσων τους σε αίθουσες αντήχησης [των δικών τους απόψεων]. Αυτές οι πλατφόρμες είναι επίσης επιρρεπείς στους αποκαλούμενους καταρράκτες πληροφοριών (information cascades), όπου οι άνθρωποι μοιράζουν πληροφορίες που έχουν μοιραστεί από άλλους χωρίς να κάνουν τον κόπο να ελέγξουν αν είναι αληθινές, κάνοντάς τις να φαίνονται πιο αξιόπιστες στην διαδικασία. Το τελικό αποτέλεσμα είναι ότι τα ψεύδη μπορούν να εξαπλωθούν γρηγορότερα από ποτέ.

Αυτή η δυναμική θα καταστήσει τα κοινωνικά μέσα γόνιμο έδαφος για την κυκλοφορία των deepfakes, με δυνητικά εκρηκτικές συνέπειες για την πολιτική. Η προσπάθεια της Ρωσίας να επηρεάσει τις προεδρικές εκλογές των ΗΠΑ το 2016 –διαδίδοντας διχαστικά και πολιτικά εμπρηστικά μηνύματα στο Facebook και τοTwitter- έδειξε ήδη πόσο εύκολα μπορεί να εισέλθει η παραπληροφόρηση στην ροή των μέσων κοινωνικής δικτύωσης. Τα deepfakes του αύριο θα είναι πιο ζωντανά και ρεαλιστικά και, ως εκ τούτου, πιο εύκολο να μοιραστούν από όσο οι ψεύτικες ειδήσεις του 2016. Και επειδή οι άνθρωποι είναι ιδιαίτερα επιρρεπείς στο να μοιράζονται αρνητικές και καινούργιες πληροφορίες, όσο πιο αισχρά θα είναι τα deepfakes, τόσο το καλύτερο.

ΕΚΔΗΜΟΚΡΑΤΙΖΟΝΤΑΣ ΤΗΝ ΑΠΑΤΗ

Η χρήση της απάτης, της πλαστογραφίας και άλλων μορφών παραπλάνησης για να επηρεαστεί η πολιτική δεν είναι κάτι νέο, φυσικά. Όταν το USS Maine εξερράγη στο λιμάνι της Αβάνας το 1898, οι αμερικανικές εφημερίδες ταμπλόιντ χρησιμοποίησαν παραπλανητικές εκθέσεις του περιστατικού για να υποκινήσουν το κοινό προς τον πόλεμο με την Ισπανία. Το αντισημιτικό φυλλάδιο «Τα Πρωτόκολλα των Πρεσβυτέρων της Σιών», τα οποία περιγράφουν μια φανταστική εβραϊκή συνωμοσία, κυκλοφόρησαν ευρέως κατά το πρώτο μισό του εικοστού αιώνα. Πιο πρόσφατα, οι τεχνολογίες όπως το Photoshop έχουν κάνει την παραποίηση των εικόνων τόσο εύκολη όσο και η χάλκευση κειμένου. Αυτό που κάνει τα deepfakes πρωτοφανή είναι ο συνδυασμός της ποιότητας, της εφαρμοσιμότητας σε πειστικές μορφές όπως ο ήχος και το βίντεο, και αντίστασή τους στο να ανιχνευθούν. Και καθώς η τεχνολογία των deepfakes εξαπλώνεται, ένας συνεχώς αυξανόμενος αριθμός δρώντων θα είναι σε θέση να χειριστεί πειστικά το περιεχόμενο του ήχου και του βίντεο με τέτοιο τρόπο που κάποτε περιοριζόταν στα στούντιο του Χόλιγουντ ή στις πιο καλά χρηματοδοτούμενες υπηρεσίες πληροφοριών.

Τα deepfakes θα είναι ιδιαίτερα χρήσιμα σε μη κρατικούς δρώντες, όπως οι αντάρτικες ομάδες και οι τρομοκρατικές οργανώσεις [5], οι οποίες ιστορικά δεν είχαν επαρκείς πόρους για να φτιάξουν και να διαδώσουν ψευδές αλλά αξιόπιστο περιεχόμενο ήχου ή βίντεο. Αυτές οι ομάδες θα είναι σε θέση να απεικονίσουν τους αντιπάλους τους -συμπεριλαμβανομένων κυβερνητικών αξιωματούχων- να ξεστομίζουν εμπρηστικές λέξεις ή να εμπλέκονται σε προκλητικές ενέργειες, με το συγκεκριμένο περιεχόμενο προσεκτικά επιλεγμένο για να μεγιστοποιήσει τις σοκαριστικές επιπτώσεις στο στοχευμένο κοινό τους. Μια θυγατρική του Ισλαμικού Κράτους (ή ISIS), για παράδειγμα, θα μπορούσε να δημιουργήσει ένα βίντεο που να απεικονίζει έναν στρατιώτη των ΗΠΑ να σκοτώνει αμάχους ή να συζητά ένα σχέδιο να βομβαρδίσει ένα τζαμί, βοηθώντας έτσι την στρατολόγηση σε τρομοκρατικές ομάδες. Τέτοιου είδους βίντεο θα είναι ιδιαίτερα δύσκολο να ξεσκεπαστούν σε περιπτώσεις όπου το κοινό-στόχος ήδη δυσπιστεί στο πρόσωπο που εμφανίζεται στο deepfake. Τα κράτη μπορούν και, χωρίς αμφιβολία, θα κάνουν παράλληλη χρήση των deepfakes για να υπονομεύσουν τους μη κρατικούς αντιπάλους τους.