Αυτόνομες πολεμικές μηχανές καθοδηγούμενες από AI, παραταγμένες και στις δύο πλευρές των συνόρων, παρατηρούν άγρυπνα τον αντίπαλο και ξαφνικά αποφασίζουν μόνες τους πως πρέπει να επιτεθούν, αρχίζοντας έναν πόλεμο «στον αυτόματο πιλότο».
Λίγα χρόνια πριν, κάτι τέτοιο θα θύμιζε περισσότερο βιντεοπαιχνίδι στρατηγικής και επιστημονικής φαντασίας, ωστόσο πλέον δεν φαίνεται απίθανο λόγω της ανόδου των drones και του AI. Μάλιστα έχει και όνομα: «Flash wars». Θα αποδιδόταν ως «αστραπιαίοι πόλεμοι».
Ήδη με τα drones η «διαχωριστική γραμμή» ανάμεσα στην ειρήνη και τον πόλεμο έχει «γκριζάρει» πολύ, καθώς το κόστος της στρατιωτικής δράσης (και οι επιπτώσεις της) έχουν μειωθεί χάρη σε αυτά.
Αναφορές για μη επανδρωμένα σε αυτόνομη λειτουργία έχουν υπάρξει ήδη σε διάφορα θέατρα στρατιωτικών επιχειρήσεων ανά τον κόσμο, όπως της Ουκρανίας, ενώ η ίδια η έννοια των περιφερόμενων πυρομαχικών (loitering munitions) σε μεγάλο βαθμό περιλαμβάνει αυτονομία ή ημιαυτονομία. Τα αποκαλούμενα «killer robots» απασχολούν ως έννοια εδώ και χρόνια, ακόμα και σε επίπεδο Ηνωμένων Εθνών. Η έννοια των «Flash wars», ωστόσο, πάει σε άλλο επίπεδο, καθώς μιλά για «στρατούς» ρομπότ που θα λειτουργούν αυτόνομα, αποφασίζοντας πότε πρέπει να πολεμήσουν.
Όπως εξηγεί στο WIRED Greece o Ανδρέας Λιαρόπουλος, αναπληρωτής καθηγητής Διεθνών Σχέσεων και Στρατηγικής στο Τμήμα Διεθνών και Ευρωπαϊκών Σπουδών του Πανεπιστημίου Πειραιώς, διευθυντής στο Εργαστήριο Πληροφόρησης και Κυβερνοασφάλειας και μέλος του Επιστημονικού Συμβουλίου του Παρατηρητηρίου Ανάλυσης Υβριδικών Απειλών, ο όρος αναφέρεται σε ένα σενάριο ένοπλης σύγκρουσης, στο οποίο η χρήση της τεχνητής νοημοσύνης, των αυτόνομων οπλικών συστημάτων και των αυτοματοποιημένων διαδικασιών λήψης αποφάσεων μπορεί να προκαλέσει εξαιρετικά ταχεία στρατιωτική κλιμάκωση, ενδεχομένως χωρίς ουσιαστική ανθρώπινη παρέμβαση.
«Σε αυτό το είδος συγκρούσεων, η αυτοματοποίηση των διαδικασιών λήψης απόφασης επιταχύνει ραγδαία τον κύκλο λήψης αποφάσεων (Observe – Orient – Decide – Act / OODA loop), με αποτέλεσμα οι πολιτικές / στρατιωτικές ηγεσίες να δυσκολεύονται στον έλεγχο της κλιμάκωσης», σημειώνει ο κ. Λιαρόπουλος.
Όπως υπογραμμίζει, το κρίσιμο σε έναν πόλεμο-αστραπή δεν είναι μόνο ότι οι μηχανές αντιδρούν ταχύτερα από τους ανθρώπους, αλλά ότι περιορίζεται δραστικά ο χρόνος που διαθέτει ο λήπτης αποφάσεων για να αξιολογήσει τις προθέσεις του αντιπάλου, να επικοινωνήσει τις δικές του προθέσεις ή κόκκινες γραμμές και να αποτρέψει μια ανεπιθύμητη κλιμάκωση. «Άρα, σε αυτή τη δυνητική μορφή σύγκρουσης, η ταχύτητα της στρατιωτικής δράσης μπορεί να ξεπεράσει την ικανότητα πολιτικού ελέγχου».
Ιδιαίτερο ενδιαφέρον παρουσιάζει η προέλευση του όρου: Σύμφωνα με τον Jesse Hamilton, λέκτορα Φιλοσοφίας και Δημόσιας Πολιτικής στο Blavatnik School of Government του Πανεπιστημίου της Οξφόρδης και πρώην στέλεχος του αμερικανικού στρατού, πηγάζει από το «flash crash» στα χρηματιστήρια του 2010, όταν αλγόριθμοι υψηλής συχνότητας (χρηματοοικονομικά προγράμματα) άρχισαν να αντιδρούν βλέποντας το ένα τις αγοραπωλησίες του άλλου, «βουλιάζοντας» το χρηματιστήριο μέσα σε λίγα λεπτά.
«Ένας flash war είναι η στρατιωτική έκδοση, ένα υποθετικό σενάριο όπου αυτοματοποιημένα συστήματα που αντιδρούν το ένα στο άλλο μετατρέπουν μια μικρή αψιμαχία σε μια μεγάλης κλίμακας σύγκρουση ταχύτερα από ό,τι μπορούν να παρέμβουν οι άνθρωποι» εξηγεί σχετικά.
Η επιδίωξη για αύξηση της αυτονομίας σε οπλικά συστήματα είναι σε μεγάλο βαθμό λογική για τις ένοπλες δυνάμεις, καθώς συνεπάγεται τα ήδη υπάρχοντα πλεονεκτήματα των μη επανδρωμένων όπως μικρό κόστος και μη έκθεση προσωπικού σε κίνδυνο, συν αυξημένη ταχύτητα αντίδρασης, δυνατότητα συνεχούς λειτουργίας κ.α.
Ειδικά σε τομείς όπως η άμυνα απέναντι σε πυραυλικές επιθέσεις ή επιθέσεις με drones, τα συστήματα με υψηλό βαθμό αυτονομίας εξοικονομούν πολύτιμο χρόνο. Χαρακτηριστικό παράδειγμα είναι το σύστημα εγγύς προστασίας Phalanx, που είναι σε χρήση εδώ και δεκαετίες: Εφόσον ενεργοποιείται, μπορεί να εντοπίζει και να ανοίγει πυρ μόνο του εναντίον εισερχομένων πυραύλων.
Χάρη σε αυτά τα χαρακτηριστικά τους, τα αυτόνομα όπλα μπορούν να λειτουργούν ως πολλαπλασιαστές ισχύος, επιτρέποντας σε μια μικρή δύναμη να κάνει τη δουλειά πολύ μεγαλύτερης. «Σε πολλές περιπτώσεις πιθανότατα αξίζουν, από στρατιωτική άποψη, ειδικά όταν οι παρεμβολές αποκόπτουν ένα τηλεχειριζόμενο drone από τον χειριστή του. Μα αυτή η δύναμη είναι επίσης και ρίσκο, επειδή ένα σύστημα που επιχειρεί εκτός επαφής ίσως να μην ανακαλείται, και οι διοικητές να μην ξέρουν ακριβώς τι κάνει. Αυτό δυσκολεύει τη διατήρηση λογοδοσίας και την αποφυγή της κλιμάκωσης μιας σύγκρουσης» σημειώνει ο κ. Hamilton.
To κρίσιμο ερώτημα, σύμφωνα με τον κ. Λιαρόπουλο, είναι «τι ακριβώς αυτοματοποιούμε. Για παράδειγμα, η αυτόματη αναχαίτιση ενός εισερχόμενου πυραύλου δεν είναι στρατηγικά ισοδύναμη με την αυτόνομη επιλογή και προσβολή ενός ανθρώπινου στόχου». Όσο περισσότερο ένα σύστημα αναλαμβάνει πρωτοβουλία και όσο δυσκολότερα μπορεί να ανακληθεί η απόφασή του, εξηγεί, «τόσο μεγαλύτερος είναι ο κίνδυνος λανθασμένης αναγνώρισης, ανεπιθύμητης κλιμάκωσης και απώλειας ελέγχου».
«Η λεγόμενη “ομίχλη του πολέμου” γίνεται ακόμα πιο πυκνή με την “προκατάληψη αυτοματισμού” (automation bias). H υπερβολική εμπιστοσύνη στον αλγόριθμο μπορεί να μειώσει την εμπιστοσύνη στην ικανότητα του ανθρώπου να λύνει προβλήματα και να παίρνει δύσκολες αποφάσεις», συνεχίζει ο κ. Λιαρόπουλος.
«Από καθαρά στρατιωτική σκοπιά, λοιπόν, τα πλεονεκτήματα δεν δικαιολογούν αυτομάτως κάθε μορφή αυτονομίας. Η επιχειρησιακή αποτελεσματικότητα πρέπει να αξιολογείται μαζί με τον κίνδυνο αποτυχίας, τις συνέπειες μιας λανθασμένης εμπλοκής και το ενδεχόμενο ο αντίπαλος να αντιδράσει με τρόπο που θα επιδεινώσει την κατάσταση. Ένα σύστημα που αντιδρά ταχύτερα δεν είναι κατ’ ανάγκην και ένα σύστημα που υπηρετεί καλύτερα την πολιτική φύση και τη στρατηγική λογική του πολέμου».
Ο κ. Λιαρόπουλος στέκεται ιδιαιτέρως στη μεταφορά μέρους της διαδικασίας λήψης αποφάσεων στη μηχανή: «Αυτό συνεπάγεται επιχειρησιακά πλεονεκτήματα, αλλά εγείρει και δυο μεγάλα ερωτήματα, ένα στρατηγικής φύσεως και ένα ηθικό», λέει.
Το πρώτο, όπως αναφέρει, αφορά «το πώς διασφαλίζεται ότι η ταχύτητα, η πολυπλοκότητα και η αλληλεπίδραση των συστημάτων δεν θα υπονομεύσουν τον ανθρώπινο έλεγχο». Και το δεύτερο, προσθέτει, «αν επιθυμούμε την λεγόμενη απανθρωποποίηση (dehumanization) των στρατιωτικών συγκρούσεων, τη μείωση δηλαδή του ανθρώπινου στοιχείου από την εξίσωση του πολέμου».
Δεδομένης της ασυμμετρίας που έφερε στον πόλεμο η άνοδος των μη επανδρωμένων, παρέχοντας σε χώρες ή οργανώσεις με περιορισμένες «συμβατικές» ικανότητες τη δυνατότητα να προκαλέσουν δυσανάλογα μεγάλη ζημιά σε χώρες με υπέρτερη στρατιωτική ισχύ, η καθιέρωση της χρήσης αυτόνομων όπλων πιθανότατα θα επηρέαζε ακόμα περισσότερο την ισορροπία ισχύος σε πολιτικό και στρατιωτικό επίπεδο.
Ήδη με τα drones η «διαχωριστική γραμμή» ανάμεσα στην ειρήνη και τον πόλεμο έχει «γκριζάρει» πολύ, καθώς το κόστος της στρατιωτικής δράσης (και οι επιπτώσεις της) έχουν μειωθεί χάρη σε αυτά.
«Εάν ένα κράτος μπορεί να αναλάβει στρατιωτική δράση με μικρότερο κίνδυνο απωλειών για το προσωπικό του, η πολιτική ηγεσία ίσως θεωρήσει ευκολότερη την προσφυγή στη βία. Αυτό δεν σημαίνει ότι ο πόλεμος θα γίνει αναπόφευκτος, αλλά ότι μπορεί να μεταβληθεί ο τρόπος με τον οποίο οι ηγεσίες υπολογίζουν το κόστος και τον κίνδυνο μιας σύγκρουσης», σημειώνει ο κ. Λιαρόπουλος.
«Αυτό θα μπορούσε να κάνει τους πολέμους ευκολότερο να αρχίσουν, μα είναι δίκοπο μαχαίρι, επειδή χαμηλώνει τον πήχυ για ριψοκίνδυνους κατακτητικούς πολέμους, μα επίσης και για παρεμβάσεις ανθρωπιστικού χαρακτήρα», εκτιμά ο κ. Hamilton.
Στην άλλη πλευρά, υπάρχει η θεωρία πως η ευρεία εξάπλωση των drones τώρα και των αυτόνομων όπλων στο εγγύς μέλλον θα παρείχε μεγάλες δυνατότητες σε όλους, οπότε θα μπορούσε δυνητικά να προκύψει ένα νέο δόγμα «αμοιβαίας διασφαλισμένης καταστροφής» (Mutually Assured Destruction), όπως στα πυρηνικά όπλα, πρακτικά αποτρέποντας τις συγκρούσεις. Ωστόσο οι δύο ειδικοί στους οποίους απευθύνθηκε το WIRED Greece δεν βλέπουν και πολύ πιθανό αυτό το ενδεχόμενο.
«Το παράδοξο της MAD είναι ότι η δυνατότητα αμοιβαίας καταστροφής μπορούσε να λειτουργήσει ως κίνητρο αποφυγής του πολέμου. Τα αυτόνομα συμβατικά όπλα δεν δημιουργούν κατ’ ανάγκην μια αντίστοιχη ισορροπία τρόμου. Πρώτον, δεν έχουν όλα την ίδια καταστροφική ισχύ. Τα αυτόνομα συστήματα περιλαμβάνουν από μικρά μη επανδρωμένα αεροσκάφη και περιφερόμενα πυρομαχικά έως συστήματα αεράμυνας και θαλάσσιας επιτήρησης. Δεν συγκροτούν ένα ενιαίο οπλοστάσιο με κοινά χαρακτηριστικά καταστροφής, όπως συμβαίνει με τα πυρηνικά όπλα» εκτιμά ο κ. Λιαρόπουλος.
«Δεύτερον, δεν εγγυώνται αμοιβαία δυνατότητα ανταπόδοσης. Ένα κράτος μπορεί να διαθέτει περισσότερα αυτόνομα συστήματα, καλύτερες δυνατότητες εντοπισμού ή αποτελεσματικότερες άμυνες από ένα άλλο. Επομένως, μπορεί να πιστέψει ότι έχει τη δυνατότητα να επιτύχει στρατιωτικό πλεονέκτημα με περιορισμένο κόστος», συνεχίζει. Και εξηγεί πως η ουσιαστική διαφορά είναι «ότι με τα πυρηνικά όπλα, το πρόβλημα είναι κυρίως πώς αποφεύγεται ένας πόλεμος που κανείς δεν μπορεί να κερδίσει χωρίς να υποστεί καταστροφικές συνέπειες, ενώ με τα αυτόνομα όπλα ένα από τα προβλήματα είναι ότι οι πλευρές μπορεί να πιστεύουν πως μπορούν να κερδίσουν, ενώ η ταχύτητα της αλληλεπίδρασής τους τις εμποδίζει να αντιληφθούν εγκαίρως ότι η κατάσταση έχει ξεφύγει από τον έλεγχό τους».
«Η αποτροπή (του MAD) λειτούργησε επειδή τα πυρηνικά όπλα δεν γίνεται να μην ρημάξουν ολόκληρες κοινωνίες, ενώ τα αυτόνομα όπλα μπορούν να στοχεύονται σε στρατιωτικούς στόχους και κυρίως να μειώσουν τον κίνδυνο για τους δικούς σου στρατιώτες» εκτιμά, από πλευράς του, ο κ. Hamilton.
Με όλα αυτά, πόσο πιθανό είναι τελικά να δούμε όντως «αστραπιαίους πολέμους» τέτοιου τύπου; Μπορούμε πραγματικά να δούμε ρομπότ να οπλίζονται και να αφήνονται στην τύχη τους;
Κατά τον κ. Λιαρόπουλο, μάλλον όχι- τουλάχιστον, όχι «ξεκάθαρα»: «Η πρόβλεψή μου είναι ότι η στρατιωτική αυτονομία θα επεκταθεί, αλλά όχι με ομοιόμορφο τρόπο σε όλα τα οπλικά συστήματα και σε όλες τις μορφές πολέμου. Η μεγαλύτερη εξάπλωση είναι πιθανό να αφορά την επιτήρηση, την αναγνώριση, την υποστήριξη αποφάσεων, την αντιμετώπιση επιθέσεων και ορισμένες κατηγορίες αυτόνομης εμπλοκής. Εκτιμώ ότι η πλήρης μεταβίβαση της εξουσίας επιλογής και προσβολής στόχων σε μηχανές θα παραμείνει περιορισμένη, ιδιαίτερα όταν πρόκειται για ανθρώπινους στόχους ή για ενέργειες με πιθανές στρατηγικές συνέπειες».
Ωστόσο, προσθέτει, οι «Flash wars» δεν είναι μακρινό σενάριο επιστημονικής φαντασίας, καθώς η διεξαγωγή σχετικών στρατηγικών παιγνίων και προσομοιώσεων έχει αποδείξει ότι μια λανθασμένη εκτίμηση, ή μια αμφιλεγόμενη ένδειξη θα μπορούσε να πυροδοτήσει κλιμάκωση χωρίς να την έχει επιλέξει συνειδητά κάποιος από τους εμπλεκόμενους δρώντες. «Το πιο εφιαλτικό και ίσως πιο ρεαλιστικό σενάριο, δεν είναι ότι οι μηχανές θα αποκτήσουν απαραίτητα τη βούληση να πολεμήσουν, αλλά ότι οι άνθρωποι μπορεί να χάσουν τον αναγκαίο χρόνο για να αποφασίσουν αν πρέπει να το κάνουν ή όχι» σημειώνει σχετικά.
Σε παρόμοιο πλαίσιο κινείται και η εκτίμηση του κ. Hamilton: «Τα λάθη στον πόλεμο δεν είναι νέα, καθώς και οι άνθρωποι εκτιμούν καταστάσεις με λάθος τρόπο, και το λάθος από έναν στρατιώτη σε περίπολο μπορεί να κλιμακωθεί σε κρίση».
«Ο πιο “λεπτός” κίνδυνος είναι από συστήματα με ΑΙ που “φιλτράρουν” τις πληροφορίες οι οποίες φτάνουν σε διοικητές και πολιτικούς ηγέτες σε μια κρίση και διαμορφώνουν τις επιλογές που εξετάζονται», εξηγεί και συνεχίζει: «Αν η μία πλευρά προβεί σε διασπορά των δυνάμεών της προληπτικά και το σύστημα της άλλης πλευράς το υποδείξει αυτό ως προετοιμασία για επίθεση, η απάντηση με τη σειρά της θα μπορούσε να εκληφθεί ως επικείμενη επίθεση από το σύστημα της πρώτης πλευράς». «H επιφυλακή της μίας πλευράς επιβεβαιώνει τους φόβους της άλλης, ακόμα και αν οι άνθρωποι παραμένουν “στο κύκλωμα” και κάνουν την τελική επιλογή», καταλήγει.
Ακολουθήστε μας στο κανάλι μας στο You Tube για να μη χάνετε κανένα vidcast.
What’s Next: Kλείστε την early bird θέση σου στο επόμενο μεγάλο event του WIRED Greece.
Κάντε ετήσια συνδρομή στο WIRED Greece ώστε να μη χάνετε κανένα τεύχος.
Διαβάστε το βιωματικό άρθρο του David Patrikarakos από τα χαρακώματα της Ουκρανίας σχετικά με τα drones.
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
