Τα deepfakes και ο νέος πόλεμος παραπληροφόρησης | Foreign Affairs - Hellenic Edition

Τα deepfakes και ο νέος πόλεμος παραπληροφόρησης

Η επερχόμενη εποχή της μετα-αληθινής γεωπολιτικής
Περίληψη: 

Οι πρόοδοι στην ψηφιακή τεχνολογία θα μπορούσαν σύντομα να καταστήσουν αυτόν τον εφιάλτη πραγματικότητα. Χάρη στην άνοδο των «deepfakes» (των πολύ ρεαλιστικών και δύσκολα να ανιχνευθούν ψηφιακών χειραγωγήσεων ήχου ή βίντεο) καθίσταται ευκολότερο από ποτέ να απεικονίζεται κάποιος να λέει ή να κάνει κάτι που ποτέ δεν είπε ή ποτέ δεν έκανε.

Ο ROBERT CHESNEY κατέχει την έδρα James A. Baker III και είναι διευθυντής του Κέντρου Διεθνούς Ασφάλειας και Δικαίου Robert Strauss στο Πανεπιστήμιο του Τέξας στο Όστιν.
Η DANIELLE CITRON είναι καθηγήτρια Νομικής στην έδρα Morton και Sophia Macht στο Πανεπιστήμιο του Maryland και συνεργάτις στο Information Society Project του Πανεπιστημίου Yale.

Μια εικόνα μπορεί να αξίζει χίλιες λέξεις, αλλά δεν υπάρχει τίποτα που να πείθει τόσο όσο μια ηχητική ή οπτική εγγραφή ενός γεγονότος. Σε μια εποχή που οι οπαδοί των κομμάτων δύσκολα μπορούν να συμφωνήσουν στα γεγονότα, μια τέτοια πειστικότητα μπορεί να φανεί σαν να μπορούσε να φέρει μια ευπρόσδεκτη σαφήνεια. Οι βιντεογραφήσεις και οι ηχογραφήσεις επιτρέπουν στους ανθρώπους να γίνουν μάρτυρες ενός γεγονότος, γλιτώνοντάς τους από την ανάγκη να αποφασίσουν αν θα εμπιστεύονται την αναφορά κάποιου άλλου. Και χάρη στα smartphones, τα οποία καθιστούν εύκολη την αποτύπωση περιεχομένου ήχου και βίντεο, και στις πλατφόρμες κοινωνικών μέσων που επιτρέπουν την ανταλλαγή και κατανάλωση αυτού του περιεχομένου, οι άνθρωποι σήμερα μπορούν να βασίζονται στα ίδια τους τα μάτια και τα αυτιά σε πρωτοφανή βαθμό.

08082019-1.jpg

Αληθινά ψέματα: Στιγμιότυπα ενός deepfake βίντεο του Μπαράκ Ομπάμα που δημιουργήθηκε από ερευνητές το 2017. UNIVERSITY OF WASHINGTON
-------------------------------------------------------------------

Εκεί υπάρχει ένας μεγάλος κίνδυνος. Φανταστείτε ένα βίντεο που απεικονίζει τον Ισραηλινό πρωθυπουργό σε ιδιωτική συνομιλία με έναν συνάδελφό του, φαινομενικά αποκαλύπτοντας ένα σχέδιο για την διεξαγωγή μιας σειράς πολιτικών δολοφονιών στην Τεχεράνη. Ή ένα ηχητικό κλιπ Ιρανών αξιωματούχων που σχεδιάζουν μια μυστική επιχείρηση για να σκοτώσουν ηγέτες των Σουνιτών σε μια συγκεκριμένη επαρχία του Ιράκ. Ή ένα βίντεο που δείχνει έναν Αμερικανό στρατηγό στο Αφγανιστάν να καίει ένα Κοράνι. Σε έναν κόσμο που έχει ήδη προετοιμαστεί για βία, τέτοιες καταγραφές θα έχουν ισχυρό δυναμικό για υποκίνηση [της βίας]. Τώρα φανταστείτε ότι αυτές οι ηχογραφήσεις θα μπορούσαν να είναι ψεύτικες μέσω της χρήσης εργαλείων που είναι διαθέσιμα σε οποιονδήποτε διαθέτει φορητό υπολογιστή και πρόσβαση στο Internet -και ότι τα προκύπτοντα ψεύδη είναι τόσο πειστικά ώστε είναι αδύνατο να ξεχωρίσουν από την πραγματικότητα.

Οι πρόοδοι στην ψηφιακή τεχνολογία [1] θα μπορούσαν σύντομα να καταστήσουν αυτόν τον εφιάλτη πραγματικότητα. Χάρη στην άνοδο των «deepfakes» -των πολύ ρεαλιστικών και δύσκολα να ανιχνευθούν ψηφιακών χειραγωγήσεων ήχου ή βίντεο- καθίσταται ευκολότερο από ποτέ να απεικονίζεται κάποιος να λέει ή να κάνει κάτι που ποτέ δεν είπε ή δεν έκανε. Ακόμα χειρότερα, τα μέσα για την δημιουργία των deepfakes είναι πιθανό να πολλαπλασιαστούν γρήγορα, παράγοντας έναν συνεχώς διευρυνόμενο κύκλο δρώντων ικανών να τα αναπτύσσουν για πολιτικούς σκοπούς [2]. Η παραπληροφόρηση είναι μια αρχαία τέχνη, φυσικά, και μια τέχνη με μια ανανεωμένη συνάφεια σήμερα. Όμως, καθώς αναπτύσσεται και εξαπλώνεται η τεχνολογία των deepfakes, οι τρέχοντες πόλεμοι παραπληροφόρησης μπορεί σύντομα να μοιάζουν με το ισοδύναμο προπαγάνδας της εποχής των σπαθιών και των ασπίδων.

Η ΑΥΓΗ ΤΩΝ DEEPFAKES

Τα deepfakes είναι το προϊόν των πρόσφατων προόδων σε μια μορφή τεχνητής νοημοσύνης, γνωστή ως «βαθιά μάθηση» (deep learning), στην οποία ομάδες αλγορίθμων που ονομάζονται «νευρωνικά δίκτυα» (neural networks) μαθαίνουν να συνάγουν κανόνες και να αναπαράγουν πρότυπα κοσκινίζοντας μέσα από μεγάλα σύνολα δεδομένων. (Για παράδειγμα, η Google χρησιμοποίησε αυτή την τεχνική για να αναπτύξει ισχυρούς αλγόριθμους ταξινόμησης εικόνων για τη μηχανή αναζήτησης που διαθέτει). Τα deepfakes προκύπτουν από ένα συγκεκριμένο είδος «βαθιάς μάθησης» στο οποίο ζεύγη αλγορίθμων τίθενται ο ένας εναντίον του άλλου σε «γενετικά αντιφατικά δίκτυα» (generative adversarial network ή GAN). Σε ένα GAN, ένας αλγόριθμος, η «γεννήτρια», δημιουργεί περιεχόμενο που βασίζεται σε πηγαία δεδομένα (source data: για παράδειγμα, φτιάχνοντας τεχνητές εικόνες γατών από μια βάση δεδομένων πραγματικών εικόνων γατών), ενώ ένας δεύτερος αλγόριθμος, ο «διακριτής» (discriminator), προσπαθεί να εντοπίσει το τεχνητό περιεχόμενο (τα διαλέξει τις ψεύτικες εικόνες γάτας). Δεδομένου ότι κάθε αλγόριθμος συνεχώς εκπαιδεύεται εναντίον του άλλου, τέτοιοι συνδυασμοί μπορούν να οδηγήσουν σε ταχεία βελτίωση, επιτρέποντας στα GAN να παράγουν εξαιρετικά ρεαλιστικό αλλά ψεύτικο περιεχόμενο ήχου και βίντεο.

Αυτή η τεχνολογία έχει την δυνατότητα να διαδίδεται ευρέως. Εμπορικές και ακόμη και δωρεάν υπηρεσίες deepfake έχουν ήδη παρουσιαστεί στην ανοικτή αγορά [3], και εκδοχές με ανησυχητικά λίγες διασφαλίσεις είναι πιθανό να εμφανιστούν στη μαύρη αγορά. Η εξάπλωση αυτών των υπηρεσιών θα μειώσει τα εμπόδια εισόδου, γεγονός που σημαίνει ότι σύντομα, ο μόνος πρακτικός περιορισμός της ικανότητας κάποιου να παράγει deepfakes θα είναι η πρόσβαση στο εκπαιδευτικό υλικό -δηλαδή, τα ηχητικά και τα βίντεο του προσώπου που θα μοντελοποιηθεί- που θα τροφοδοτήσει το GAN. Η ικανότητα δημιουργίας επαγγελματικού επιπέδου πλαστογραφιών θα είναι προσεγγίσιμη από σχεδόν όλους όσους έχουν επαρκές ενδιαφέρον και την γνώση του πού να πάνε για βοήθεια.