Πώς οι Big Tech εταιρείες θα καταπολεμήσουν την λευκή ρατσιστική τρομοκρατία

Το πρώτο βήμα θα πρέπει να είναι να αντιμετωπιστούν όλες οι ιδεολογίες του μίσους με τον ίδιο τρόπο. Μέχρι πολύ πρόσφατα [6], το Facebook και άλλες εταιρείες μέσων κοινωνικής δικτύωσης έχουν επικεντρωθεί πολύ περισσότερο στο τζιχαντιστικό περιεχόμενο από όσο στο λευκό εθνικιστικό και σε άλλες μορφές ακροδεξιού περιεχομένου. Αυτό είναι σε μεγάλο βαθμό μια κληρονομιά του αγώνα κατά του Ισλαμικού Κράτους (ISIS). Όταν η ομάδα εμφανίστηκε το 2014, το Facebook και άλλες εταιρείες προσπάθησαν να εμποδίσουν προληπτικά το περιεχόμενο του ISIS [7] και να απομακρύνουν τους χρήστες που συνδέονταν με αυτό και άλλες διεθνείς τρομοκρατικές ομάδες. Ταυτόχρονα, ήθελαν να καθησυχάσουν εκλογικά σώματα που είναι αφιερωμένα στην ελευθερία του λόγου. Ήταν σε θέση να επιτύχουν αυτή την ισορροπία, επειδή η κυβέρνηση των ΗΠΑ είχε χαρακτηρίσει επισήμως το ISIS ως τρομοκρατική ομάδα, δίνοντας στις εταιρείες μια νομική λογική για τον περιορισμό του περιεχομένου που σχετίζεται με το ISIS. Η κυβέρνηση των ΗΠΑ δεν ορίζει με παρόμοιο τρόπο τις εσωτερικές τρομοκρατικές ομάδες.

Από τεχνική και ηθική άποψη, ωστόσο, το λευκό ρατσιστικό περιεχόμενο δεν διαφέρει από το τζιχαντιστικό περιεχόμενο -αν οι εταιρείες μέσων κοινωνικής δικτύωσης μπορούν να μπλοκάρουν το ένα [είδος περιεχομένου], μπορούν να μπλοκάρουν και το άλλο [8]. Μέχρι στιγμής, απέφυγαν να το κάνουν επειδή φοβούνται ότι ως αντίδραση θα χτυπηθούν από τους συντηρητικούς. Όπως εξηγεί ο ειδικός επί του εξτρεμισμού JM Berger [9], «η πάταξη των λευκών εθνικιστών θα ... περιλαμβάνει την αφαίρεση [από τις διαδικτυακές πλατφόρμες] πολλών ανθρώπων που αναγνωρίζονται σε μεγαλύτερο ή μικρότερο βαθμό ως υποστηρικτές του Trump, και μερικοί άνθρωποι στους κύκλους του Trump και στα μήντια υπέρ του Trump θα το εκμεταλλευθούν σίγουρα για να διαμαρτυρηθούν ότι διώκονται».

Πάντως, τέτοιου είδους καταστολές λειτουργούν. Με το να κλείνουν μεμονωμένους τζιχαντιστικούς λογαριασμούς, να αναγνωρίζουν και να μπλοκάρουν κοινούς τύπους τζιχαντιστικής προπαγάνδας και με το να συνεργάζονται με την επιβολή του νόμου, εταιρείες όπως το Facebook, το Twitter και το YouTube μείωσαν την online παρουσία των τζιχαντιστικών ομάδων. Μπορούν να κάνουν το ίδιο και με τους λευκούς εθνικιστές. Αυτές οι προσπάθειες δεν απαιτούνται από το νόμο, και ειδικά στις Ηνωμένες Πολιτείες, οι πολιτικά φιλελεύθεροι μπορούν να συμπαραταχθούν με τους ρατσιστές σε αντίθεσή τους ως προς αυτές. Αλλά οι τεχνολογικές εταιρείες είναι ιδιωτικές εταιρείες και μπορούν νομίμως να αφαιρέσουν το μίσος περιεχόμενο από τις πλατφόρμες τους, χωρίς να παραβιάζουν την Πρώτη Τροποποίηση [του συντάγματος των ΗΠΑ].

Δεύτερον, οι εταιρείες τεχνολογίας θα πρέπει να αρχίσουν να προσλαμβάνουν περισσότερους -και περισσότερο εκπαιδευμένους- διαχειριστές περιεχομένου (moderators). Παρόλο που εταιρείες όπως το Facebook και η Google βασίζονται όλο και περισσότερο στην τεχνητή νοημοσύνη για να επισημάνουν το προβληματικό περιεχόμενο, απασχολούν επίσης χιλιάδες συμβασιούχους για να επανεξετάζουν αυτές τις αποφάσεις. Μόνο το Facebook απασχολεί [10] εντός της εταιρείας περισσότερους από 200 αναλυτές της τρομοκρατίας και συμβασιούχους [11] με περισσότερους από 15.000 συντονιστές περιεχομένου παγκοσμίως. Αυτός ο αριθμός, ωστόσο, δεν είναι ανάλογος με την κλίμακα του προβλήματος -υπάρχουν πάνω από δύο δισεκατομμύρια χρήστες του Facebook. Στη Μυανμάρ, για παράδειγμα, το Facebook πάλεψε για να μετριάσει το βίαιο περιεχόμενο, εν μέρει επειδή έχει πολύ λίγους συντονιστές που μιλάνε Βιρμανικά [12].

Η ποιότητα των συντονιστών περιεχομένου είναι ακόμη πιο σημαντική από το πλήθος τους. Ο αποτελεσματικός συντονισμός (moderation) απαιτεί την δυνατότητα να γίνεται διάκριση μεταξύ του τρομοκρατικού περιεχομένου και των νόμιμων μορφών πολιτικού λόγου. Αυτό, με την σειρά του, απαιτεί μια μεγάλη ομάδα αναλυτών με βαθιά γνώση της τρομοκρατίας όσο και μια μεγάλη ποικιλία ειδικών σε τοπικό και περιφερειακό επίπεδο, οι οποίοι να μπορούν να εφαρμόσουν τις παγκοσμίως κανονιστικές πολιτικές [13]. Και αυτοί οι συντονιστές πρέπει να έχουν τις γλωσσικές, πολιτιστικές και αναλυτικές δεξιότητες που είναι απαραίτητες για να εφαρμόσουν αυτές τις πολιτικές γρήγορα και με ακρίβεια σε όλο τον κόσμο. Η προσέλκυση των συντονιστών με τα κατάλληλα προσόντα σημαίνει ότι οι εταιρείες θα πρέπει όχι μόνο να τους πληρώνουν καλύτερα αλλά και να τους παρέχουν μεγαλύτερο κύρος και σεβασμό [14] από ό, τι λαμβάνουν σήμερα.

Οι τεχνολογικές εταιρείες πρέπει επίσης να βελτιώσουν την ανταλλαγή πληροφοριών μεταξύ των πλατφορμών. Οι περισσότερες μικρές και πρώιμου σταδίου εταιρείες δεν διαθέτουν τους πόρους για να επενδύσουν στην τεχνογνωσία για την καταπολέμηση της τρομοκρατίας και επομένως αγωνίζονται για να εντοπίσουν εξτρεμιστικές ομάδες και περιεχόμενο στις πλατφόρμες τους. Το 2017, η Google, το Facebook και άλλες μεγάλες εταιρείες δημιούργησαν το Παγκόσμιο Φόρουμ Διαδικτύου για την Καταπολέμηση της Τρομοκρατίας (Global Internet Forum to Counter Terrorism). Εν μέρει, το σκεπτικό πίσω από το φόρουμ ήταν η ανταλλαγή πληροφοριών επί υποψιών περί τρομοκρατικών ενεργειών και η αποτροπή της μετακίνησης επικίνδυνων περιεχομένων από τις πλατφόρμες. Μετά τις επιθέσεις της Νέας Ζηλανδίας, για παράδειγμα, το Facebook «στιγμάτισε» το αρχικό βίντεο, παρέχοντάς του ουσιαστικά ένα ψηφιακό αποτύπωμα που επέτρεψε στο Facebook και σε άλλες εταιρείες να το εντοπίσουν πιο εύκολα. Νωρίτερα αυτόν τον μήνα, η εταιρεία δημοσιοποίησε επίσης τον κώδικα από έναν αλγόριθμο που μπορούν να χρησιμοποιήσουν οι μικρότερες εταιρείες και οργανώσεις για τον εντοπισμό τρομοκρατικών εικόνων [15].