Οι κίνδυνοι του υπερενθουσιασμού για την τεχνητή νοημοσύνη | Foreign Affairs - Hellenic Edition

Οι κίνδυνοι του υπερενθουσιασμού για την τεχνητή νοημοσύνη

Για να πετύχει η A.I. πρέπει πρώτα να είναι σε θέση να αποτύχει
Περίληψη: 

Τόσο η Κίνα όσο και η Ρωσία επενδύουν σε μεγάλο βαθμό στην τεχνητή νοημοσύνη, εν μέρει επειδή ελπίζουν να αμφισβητήσουν την συμβατική στρατιωτική υπεροχή των Ηνωμένων Πολιτειών. Θα ήταν κολοσσιαίο λάθος για την Ουάσινγκτον να αφήσει το δυναμικό αυτής της νέας τεχνολογίας να γλιστρήσει από τα χέρια της.

Η JULIA CIOCCA είναι ερευνητική συνεργάτις στο Perry World House στο Πανεπιστήμιο της Pennsylvania.
Ο MICHAEL C. HOROWITZ είναι καθηγητής στην έδρα Richard Perry και διευθυντής του Perry World House στο Πανεπιστήμιο της Pennsylvania.
Η LAUREN KAHN είναι ερευνητική συνεργάτις στο Perry World House στο Πανεπιστήμιο της Pennsylvania.

Το 1983, ο βραχίονας έρευνας και ανάπτυξης του αμερικανικού στρατού ξεκίνησε ένα δεκαετές πρόγραμμα μηχανικής νοημοσύνης ύψους 1 δισεκατομμυρίου δολαρίων [1] με στόχο να κρατήσει τις Ηνωμένες Πολιτείες μπροστά από τους τεχνολογικούς τους αντιπάλους. Από την αρχή, οι επιστήμονες των υπολογιστών επέκριναν το έργο ως μη ρεαλιστικό. Υποσχέθηκε πολλά και τελικά απέτυχε σκληρά στα μάτια του Πενταγώνου, εγκαινιάζοντας έναν μακρύ «χειμώνα» τεχνητής νοημοσύνης (A.I.) κατά την διάρκεια του οποίου οι πιθανοί χρηματοδότες, συμπεριλαμβανομένου του στρατού των ΗΠΑ, απέφυγαν μεγάλες επενδύσεις στον τομέα και εγκατέλειψαν πολλά υποσχόμενα πεδία έρευνας.

08042021-1.jpg

Άνθρωποι επισκέπτονται μια έκθεση τέχνης που δημιουργήθηκε από A.I. στην Κωνσταντινούπολη, τον Απρίλιο του 2021. Osman Orsal Xinhua / eyevine / Redux
------------------------------------------------------

Σήμερα, η τεχνητή νοημοσύνη είναι και πάλι η αγαπημένη των εθνικών υπηρεσιών ασφαλείας. Και για άλλη μια φορά, κινδυνεύει να γλιστρήσει προς τα πίσω ως αποτέλεσμα ενός καταστροφικού «κύκλου ενθουσιασμού», στον οποίο οι υπερβολικές υποσχέσεις [2] συνωμοτούν με αναπόφευκτες οπισθοδρομήσεις για να υπονομεύσουν τη μακροπρόθεσμη επιτυχία μιας νέας μετασχηματιστικής τεχνολογίας. Στρατιωτικές δυνάμεις σε όλο τον κόσμο επενδύουν σε μεγάλο βαθμό στην τεχνητή νοημοσύνη, αναζητώντας εφαρμογές στο πεδίο μάχης και σε άλλους τομείς ασφαλείας που θα μπορούσαν να προσφέρουν πλεονέκτημα έναντι πιθανών αντιπάλων. Στις Ηνωμένες Πολιτείες, υπάρχει μια αυξανόμενη [3] αίσθηση επείγοντος [4] γύρω από την A.I., και δικαίως. Όπως το έθεσε ο πρώην υπουργός Άμυνας, Mark Esper [5], «Εκείνοι που εκμεταλλεύονται πρώτοι τις τεχνολογίες [που είναι χαρακτηριστικές] μιας γενιάς, έχουν συχνά ένα αποφασιστικό πλεονέκτημα στο πεδίο της μάχης για τα επόμενα χρόνια». Ωστόσο, υπάρχει ένας πολύ πραγματικός κίνδυνος ότι οι προσδοκίες είναι πολύ υψηλές και ότι μια απροθυμία να γίνουν ανεκτές οι αποτυχίες θα σημαίνει ότι οι Ηνωμένες Πολιτείες σπαταλούν την δυναμική της A.I. και μένουν πίσω από τους αντιπάλους τους.

ΑΤΥΧΗΜΑΤΑ ΣΥΜΒΑΙΝΟΥΝ

Η πορεία προς τις αποτελεσματικές χρήσεις της στρατιωτικής τεχνητής νοημοσύνης θα είναι αναπόφευκτα δύσκολη, με τα ατυχήματα και τα λανθασμένα βήματα να ενισχύονται από τον υπερενθουσιασμό του είδους που έχει παρουσιαστεί, για παράδειγμα, στην υπέρμετρη έξαψη για τα φουτουριστικά, πλήρως αυτόνομα αυτοκίνητα τα οποία υποχώρησαν στην τετριμμένη πραγματικότητα των οχημάτων που μπορούν απλά να παρκάρουν παράλληλα. Η αναντιστοιχία μεταξύ προσδοκιών και πραγματικότητας μπορεί να σημάνει το τέλος νέων τεχνολογιών και είναι ιδιαίτερα πιθανό να το κάνει όταν οι κυβερνήσεις δίνουν προτεραιότητα στις γρήγορες νίκες έναντι των μακροπρόθεσμων δυνατοτήτων. Η επιτυχής υιοθέτηση της τεχνητής νοημοσύνης θα απαιτήσει υπομονή και προσεκτική επικοινωνία, έτσι ώστε οι ευκαιριακοί αρνητές να μην μπορούν να χρησιμοποιήσουν τα ατυχήματα ως απόδειξη ότι η αποτυχία είναι αναπόφευκτη.

Η τεχνητή νοημοσύνη μπορεί να είναι ιδιαίτερα ευάλωτη σε αυτόν τον τύπο οπισθοδρόμησης που προκαλείται από τον υπερενθουσιασμό. Έχει υποφέρει δύο προηγούμενους «χειμώνες» [6] στην σχετικά σύντομη ιστορία της, κατά την διάρκεια της οποίας η αποτυχία της A.I. να ανταποκριθεί στις προσδοκίες οδήγησε σε μείωση της χρηματοδότησης και του ενδιαφέροντος. Η A.I. είναι επίσης δύσκολο να κατανοηθεί και να οριστεί, και οι αλγόριθμοι στους οποίους βασίζεται είναι επιρρεπείς σε αποτυχία όταν χρησιμοποιούνται εκτός του πλαισίου της αρχικής τους ανάπτυξης.

Η ενσωμάτωση της τεχνητής νοημοσύνης στον αμερικανικό στρατό, επιπλέον, θα απαιτήσει ενοχλητικές αλλαγές [7] σε όλα, από την δομή [των μαχητικών] δυνάμεων και τα πρότυπα προαγωγής [των αξιωματικών] έως το δόγμα και την ευθύνη. Αυτό θα πυροδοτήσει αναπόφευκτα αντίσταση. Και επειδή οι Αμερικανοί αξιωματούχοι της άμυνας γενικά δεν έχουν την εμπειρία για να εκτιμήσουν τις εξελίξεις της τεχνητής νοημοσύνης που καθοδηγείται σήμερα από τον ιδιωτικό τομέα, οι αντίπαλοι της νέας τεχνολογίας θα βρουν ευκολότερο να αξιοποιήσουν τις αναπόφευκτες αποτυχίες, υποστηρίζοντας ότι μια δυνητικά αποτελεσματική εφαρμογή της A.I. δεν είναι απλώς πολύ πρόωρη, αλλά δεν θα υλοποιηθεί ποτέ.

Ωστόσο, δεν πρέπει να επιτραπεί στους αρνητές να θριαμβεύσουν. Επανειλημμένα καθ' όλη την διάρκεια της ιστορίας, η αντίσταση στις τεχνολογικές αλλαγές επανέρχεται για να στοιχειώνει τους στρατούς. Στα τέλη του 19ου αιώνα, για παράδειγμα, το γαλλικό ναυτικό προσπάθησε να αντιμετωπίσει την βρετανική ναυτική υπεροχή επενδύοντας σε μεγάλα υποβρύχια και τορπίλες. Ωστόσο, η τεχνολογία της εποχής δεν ήταν αντίστοιχη του στόχου, και η Γαλλία επέστρεψε στην κατασκευή θωρηκτών, μια κίνηση που άφησε το Ηνωμένο Βασίλειο να κυριαρχεί στα κύματα μέχρι το ξέσπασμα του Β' Παγκοσμίου Πολέμου.

Περίπου 25 χρόνια αργότερα, η Ρωσία εγκατέλειψε τα πρώιμης σχεδίασης τεθωρακισμένα οχήματα, επειδή κολλούσαν στην λάσπη. Καλύτερα πέλματα και περισσότερη ισχύς ήταν οι απλές επιδιορθώσεις. Αντίθετα, η Ρωσία σταμάτησε την προμήθεια των οχημάτων και έμεινε πίσω καθώς άλλοι προχώρησαν. Με λίγα λόγια, το τεθωρακισμένο όχημα εξελίχθηκε σε τανκ, μια κρίσιμη καινοτομία στις εχθροπραξίες στην ξηρά. Οι Ρώσοι, όπως και οι Γάλλοι, έπρεπε να έχουν δείξει περισσότερη υπομονή και επιμονή.

ΠΡΟΣΚΟΜΜΑΤΑ

Υπάρχουν τρία βασικά κομβικά σημεία στα οποία νέες τεχνολογίες όπως η A.I. συχνά υπολείπονται των διογκωμένων προσδοκιών και ως εκ τούτου γλιστρούν στην άβυσσο της πρόωρης εγκατάλειψης. Το πρώτο είναι η «κοιλάδα του θανάτου» [8], το κατάλληλα ονομαζόμενο χάσμα μεταξύ της ανάπτυξης μιας τεχνολογίας στον ιδιωτικό τομέα και της απόκτησής της από κυβερνήσεις ή στρατούς, που συχνά απαιτούν μεγαλύτερη βεβαιότητα από όση μπορούν να προσφέρουν οι προγραμματιστές. Είναι το νεκροταφείο για πολλές υπέροχες ιδέες.