Φονικές εφαρμογές | Foreign Affairs - Hellenic Edition

Φονικές εφαρμογές

Οι πραγματικοί κίνδυνοι μιας κούρσας εξοπλισμών τεχνητής νοημοσύνης*
Περίληψη: 

Η τεχνητή νοημοσύνη θα ενισχύσει την οικονομική ανάπτυξη, θα βοηθήσει στην διάγνωση και θεραπεία ασθενειών, θα μειώσει τα τροχαία ατυχήματα και θα βελτιώσει την καθημερινή ζωή των ανθρώπων με χιλιάδες τρόπους. Όπως και κάθε νέα τεχνολογία, ωστόσο, η τεχνητή νοημοσύνη έχει επίσης μια σκοτεινότερη πλευρά.

Ο PAUL SCHARRE είναι ανώτερος συνεργάτης και διευθυντής του Προγράμματος Τεχνολογίας και Εθνικής Ασφάλειας στο Center for a New American Security. Είναι ο συγγραφέας του βιβλίου με τίτλο Army of None: Autonomous Weapons and the Future of War [1].

Το έθνος που θα ηγηθεί στην ανάπτυξη της τεχνητής νοημοσύνης, διακήρυξε ο Ρώσος πρόεδρος Βλαντιμίρ Πούτιν [2] το 2017 θα «γίνει ο ηγεμόνας του κόσμου». Αυτή η άποψη έχει γίνει συνηθισμένη στις πρωτεύουσες του κόσμου. Ήδη, περισσότερες από δώδεκα κυβερνήσεις έχουν ανακοινώσει εθνικές πρωτοβουλίες τεχνητής νοημοσύνης (Artificial Intelligence, AI). Το 2017, η Κίνα έθεσε ως στόχο να γίνει ο παγκόσμιος ηγέτης της AI μέχρι το 2030. Νωρίτερα φέτος, ο Λευκός Οίκος δημοσιοποίησε την Αμερικανική Πρωτοβουλία AI και το Υπουργείο Άμυνας των ΗΠΑ ανέπτυξε μια στρατηγική για την AI.

04032021-2.jpg

Βλέποντας όπως τα κράτη: Μια δοκιμή λογισμικού παρακολούθησης της SenseTime στο Πεκίνο, τον Οκτώβριο του 2017. Thomas Peter / REUTERS
----------------------------------------------------

Αλλά η αναδυόμενη αφήγηση περί μιας «κούρσας εξοπλισμών ΑΙ» αντικατοπτρίζει μια εσφαλμένη αντίληψη των κινδύνων από την ΑΙ -και ως εκ τούτου εισάγει σημαντικούς νέους κινδύνους. Για κάθε χώρα, ο πραγματικός κίνδυνος δεν είναι ότι θα μείνει πίσω από τους ανταγωνιστές της στην AI, αλλά ότι η αντίληψη μιας κούρσας θα ωθήσει τους πάντες να σπεύσουν να αναπτύξουν ανασφαλή συστήματα AI. Στην επιθυμία τους να κερδίσουν, οι χώρες κινδυνεύουν να βλάψουν τον εαυτό τους εξίσου με τους αντιπάλους τους.

Η AI υπόσχεται να φέρει και τεράστια οφέλη, από την υγειονομική περίθαλψη έως τις μεταφορές, και τεράστιους κινδύνους. Αλλά αυτοί οι κίνδυνοι δεν είναι κάτι που βγαίνει από την επιστημονική φαντασία˙ δεν υπάρχει λόγος να φοβόμαστε μια εξέγερση των ρομπότ. Η πραγματική απειλή θα προέλθει από τον άνθρωπο.

Αυτή την στιγμή, τα συστήματα AI είναι ισχυρά αλλά αναξιόπιστα. Πολλά από αυτά είναι ευάλωτα σε εξελιγμένες επιθέσεις ή αποτυγχάνουν όταν χρησιμοποιούνται εκτός του περιβάλλοντος στο οποίο εκπαιδεύτηκαν. Οι κυβερνήσεις θέλουν τα συστήματά τους να λειτουργούν σωστά, αλλά ο ανταγωνισμός ασκεί πιέσεις για την συντόμευση της [εξελικτικής] διαδρομής. Ακόμα κι αν άλλες χώρες δεν βρίσκονται στα πρόθυρα σημαντικών ανακαλύψεων της AI, η αντίληψη ότι ορμούν προς τα εμπρός θα μπορούσε να ωθήσει τους άλλους να κάνουν το ίδιο. Και αν μια κυβέρνηση ανέπτυσσε ένα μη δοκιμασμένο οπλικό σύστημα AI ή βασιζόταν σε ένα ελαττωματικό σύστημα AI για την εξαπόλυση κυβερνοεπιθέσεων, το αποτέλεσμα θα μπορούσε να είναι καταστροφικό για όλους τους εμπλεκόμενους.

Οι υπεύθυνοι χάραξης πολιτικής θα πρέπει να μάθουν από την ιστορία των δικτύων υπολογιστών και να κάνουν την ασφάλεια έναν από τους κορυφαίους παράγοντες στον σχεδιασμό της AI από την αρχή. Θα πρέπει επίσης να χαμηλώσουν την ρητορική σχετικά με μια κούρσα εξοπλισμών AI και να αναζητήσουν ευκαιρίες συνεργασίας με άλλες χώρες για να μειώσουν τους κινδύνους από την AI. Μια κούρσα στο χαμηλότερο επίπεδο ασφάλειας της AI, είναι μια κούρσα που κανείς δεν θα κερδίσει.

Η Α.Ι. ΤΟ ΕΧΕΙ

Το πιο απλό είδος συστήματος AI εκτελεί καθήκοντα ακολουθώντας μια σειρά κανόνων που έχουν καθοριστεί εκ των προτέρων από τον άνθρωπο. Αυτά τα «ειδικά συστήματα» (“expert systems”), όπως είναι γνωστά, υπάρχουν εδώ και δεκαετίες. Είναι πλέον τόσο πανταχού παρόντα που δύσκολα σταματάμε για να σκεφτούμε την τεχνολογία πίσω από τους αυτόματους πιλότους των αεροπλάνων ή το λογισμικό φορολογικής προετοιμασίας ως AI. Αλλά τα τελευταία χρόνια, η πρόοδος στην συλλογή δεδομένων, η υπολογιστική ισχύς των κομπιούτερ και ο σχεδιασμός των αλγορίθμων επέτρεψαν στους ερευνητές να κάνουν μεγάλη πρόοδο με μια πιο ευέλικτη μέθοδο AI: Την μηχανική μάθηση (machine learning).

Στη μηχανική μάθηση, ένας προγραμματιστής δεν γράφει τους κανόνες˙ το μηχάνημα τους διαλέγει με το να αναλύει τα δεδομένα που του δίδονται. Τροφοδοτήστε έναν αλγόριθμο με χιλιάδες χαρακτηρισμένες (labeled) φωτογραφίες αντικειμένων και θα μάθει να συσχετίζει τα μοτίβα στις εικόνες με τα ονόματα των αντικειμένων. Η τρέχουσα έκρηξη του ΑΙ άρχισε [3] το 2012, όταν οι ερευνητές πραγματοποίησαν μια ανακάλυψη χρησιμοποιώντας μια τεχνική εκμάθησης των μηχανών που ονομάζεται «βαθιά μάθηση» (“deep learning”), η οποία βασίζεται σε βαθιά νευρωνικά δίκτυα. Τα νευρωνικά δίκτυα είναι μια τεχνική ΑΙ που είναι χαλαρά εμπνευσμένη από τους βιολογικούς νευρώνες, τα κύτταρα που επικοινωνούν με άλλα κύτταρα με την αποστολή και λήψη ηλεκτρικών παλμών. Ένα τεχνητό νευρωνικό δίκτυο ξεκινά ως κενό μητρώο˙ δεν ξέρει τίποτα. Το σύστημα μαθαίνει με το να προσαρμόζει την ισχύ των συνδέσεων μεταξύ των νευρώνων, ενισχύοντας ορισμένες οδούς για τις σωστές απαντήσεις και εξασθενίζοντας τις συνδέσεις για τις λάθος απαντήσεις. Ένα βαθύ νευρωνικό δίκτυο -ο τύπος που είναι υπεύθυνος για την βαθιά μάθηση- είναι ένα νευρωνικό δίκτυο με πολλά στρώματα τεχνητών νευρώνων ανάμεσα στα στρώματα εισόδου και εξόδου. Τα επιπλέον στρώματα επιτρέπουν μεγαλύτερη μεταβλητότητα στις δυνάμεις των διαφόρων οδών και έτσι βοηθούν την ΑΙ να αντιμετωπίσει μια ευρύτερη ποικιλία περιστάσεων.

Το πώς ακριβώς μαθαίνει το σύστημα εξαρτάται από τον αλγόριθμο μηχανικής μάθησης και το είδος των δεδομένων που χρησιμοποιούν οι προγραμματιστές. Πολλές προσεγγίσεις χρησιμοποιούν δεδομένα που έχουν ήδη χαρακτηριστεί (γνωστές ως «μάθηση υπό επίβλεψη», “supervised learning”), αλλά οι μηχανές μπορούν επίσης να μάθουν από δεδομένα που δεν φέρουν χαρακτηρισμό (label) («μάθηση χωρίς επίβλεψη», “unsupervised learning”) ή απευθείας από το περιβάλλον («ενισχυμένη μάθηση», “reinforcement learning”). Οι μηχανές μπορούν επίσης να εκπαιδεύονται με συνθετικά δεδομένα που παράγονται από υπολογιστή. Η εταιρεία αυτόνομων αυτοκινήτων Waymo οδήγησε [4] τα αυτοκίνητά της για πάνω από δέκα εκατομμύρια μίλια σε δημόσιους δρόμους, αλλά η εταιρεία πραγματοποιεί δέκα εκατομμύρια μίλια σε προσομοιώσεις υπολογιστών κάθε μέρα, κάτι που της επιτρέπει να δοκιμάσει τους αλγορίθμους της σε δισεκατομμύρια μίλια συνθετικών δεδομένων.